You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference6_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// -0.145686
0xED5A
// 0.056369
0x0737
// 0.119059
0x0F3D
// 0.019439
0x027D
// 0.147426
0x12DF
// -0.053823
0xF91C
// 0.384554
0x3139
// 0.042038
0x0561
// 0.164890
0x151B
// 0.160292
0x1484
// 0.109525
0x0E05
// 0.095289
0x0C32
// 0.082950
0x0A9E
// 0.140546
0x11FD
// -0.510062
0xBEB6
// 0.337528
0x2B34
// -0.141565
0xEDE1
// 0.386580
0x317B
// -0.361163
0xD1C5
// -0.161110
0xEB61
// -0.174487
0xE9AA
// 0.297611
0x2618
// -0.034827
0xFB8B
// 0.068200
0x08BB
// 0.183894
0x178A
// -0.137550
0xEE65
// 0.326462
0x29C9
// -0.086218
0xF4F7
// 0.057115
0x0750
// 0.101728
0x0D05
// 0.059163
0x0793
// 0.149737
0x132B
// -0.048141
0xF9D7
// 0.426853
0x36A3
// -0.508742
0xBEE2
// 0.065069
0x0854
// 0.122764
0x0FB7
// 0.074393
0x0986
// 0.272431
0x22DF
// 0.056467
0x073A
// 0.473086
0x3C8E
// -0.066496
0xF77D
// 0.032703
0x0430
// -0.093321
0xF40E
// -0.378407
0xCF90
// 0.052930
0x06C6
// -0.218702
0xE402
// -0.040814
0xFAC7
// -0.003169
0xFF98
// 0.134163
0x112C
// -0.046111
0xFA19
// 0.053197
0x06CF
// 0.040871
0x053B
// -0.017447
0xFDC4
// -0.386015
0xCE97
// 0.097857
0x0C87
// 0.056505
0x073C
// 0.160430
0x1489
// -0.020431
0xFD63
// 0.113560
0x0E89
// 0.158337
0x1444
// 0.048966
0x0645
// 0.099599
0x0CC0
// -0.039629
0xFAED
// -0.313013
0xD7EF
// -0.377627
0xCFAA
// -0.180039
0xE8F4
// -0.267420
0xDDC5
// -0.063044
0xF7EE
// 0.082666
0x0A95
// -0.078911
0xF5E6
// 0.213308
0x1B4E
// -0.028922
0xFC4C
// 0.120133
0x0F61
// -0.219080
0xE3F5
// -0.186792
0xE817
// -0.201062
0xE644
// 0.180090
0x170D
// 0.252579
0x2055
// -0.047915
0xF9DE
// -0.023470
0xFCFF
// -0.373097
0xD03E
// 0.021216
0x02B7
// -0.384041
0xCED8
// -0.109175
0xF207
// -0.135974
0xEE98
// 0.344789
0x2C22
// -0.162105
0xEB40
// -0.469274
0xC3EF
// 0.208941
0x1ABF
// -0.089841
0xF480
// -0.037698
0xFB2D
// 0.205757
0x1A56
// 0.039567
0x0511
// -0.074622
0xF673
// 0.205580
0x1A50
// 0.065695
0x0869
// -0.018730
0xFD9A
// -0.034490
0xFB96
// -0.108941
0xF20E
// 0.180843
0x1726
// -0.198402
0xE69B
// 0.500000
0x4000
// 0.430935
0x3729
// -0.246186
0xE07D
// 0.237529
0x1E67
// 0.163373
0x14E9
// -0.011211
0xFE91
// -0.361839
0xD1AF
// 0.099098
0x0CAF
// -0.107680
0xF238
// -0.189559
0xE7BD
// 0.059213
0x0794
// 0.108019
0x0DD4
// -0.108392
0xF220
// -0.329061
0xD5E1
// -0.461275
0xC4F5
// -0.085540
0xF50D
// 0.485669
0x3E2A
// -0.002295
0xFFB5
// -0.062198
0xF80A
// -0.021631
0xFD3B
// -0.071735
0xF6D1
// -0.164625
0xEAEE
// -0.343359
0xD40D
// -0.014214
0xFE2E
// -0.340547
0xD469
// 0.244915
0x1F59
// 0.129538
0x1095
// -0.176147
0xE974
// 0.064762
0x084A
// -0.098563
0xF362
// 0.134791
0x1141
// -0.271542
0xDD3E
// -0.101758
0xF2FA
// 0.146098
0x12B3
// -0.181611
0xE8C1
// -0.123741
0xF029
// -0.168902
0xEA61
// 0.326842
0x29D6
// 0.156739
0x1410
// -0.112616
0xF196
// -0.027960
0xFC6C
// -0.142499
0xEDC3
// -0.008276
0xFEF1
// 0.175951
0x1686
// -0.244790
0xE0AB
// -0.037420
0xFB36
// -0.223634
0xE360
// -0.012636
0xFE62
// -0.208824
0xE545
// 0.127837
0x105D
// -0.128123
0xEF9A
// -0.195100
0xE707
// -0.159915
0xEB88
// 0.013849
0x01C6
// 0.116844
0x0EF5
// 0.446661
0x392C
// -0.148015
0xED0E
// 0.093016
0x0BE8
// -0.145812
0xED56
// -0.236264
0xE1C2
// -0.190196
0xE7A8
// 0.149672
0x1328
// -0.021533
0xFD3E
// -0.107327
0xF243
// 0.242267
0x1F03
// -0.359362
0xD200
// 0.035773
0x0494
// -0.033955
0xFBA7
// 0.201670
0x19D0
// -0.214268
0xE493
// 0.153877
0x13B2
// -0.143641
0xED9D
// -0.091023
0xF459
// -0.280256
0xDC21
// 0.073518
0x0969
// 0.271839
0x22CC
// 0.363131
0x2E7B
// -0.061877
0xF814
// -0.118282
0xF0DC
// 0.355725
0x2D88
// 0.043393
0x058E
// -0.222485
0xE386
// -0.112066
0xF1A8
// -0.010858
0xFE9C
// 0.221829
0x1C65
// -0.125042
0xEFFF
// -0.182211
0xE8AD
// 0.102219
0x0D16
// 0.244484
0x1F4B
// -0.311363
0xD825
// -0.298454
0xD9CC
// -0.414603
0xCAEE
// 0.142250
0x1235
// -0.025759
0xFCB4
// -0.148015
0xED0E
// -0.138491
0xEE46
// -0.267767
0xDDBA
// -0.199247
0xE67F
// 0.023402
0x02FF
// -0.041665
0xFAAB
// -0.020950
0xFD51
// 0.035998
0x049C
// -0.060537
0xF840
// 0.349694
0x2CC3
// -0.242174
0xE100
// 0.013752
0x01C3
// -0.244442
0xE0B6
// 0.169281
0x15AB
// 0.158609
0x144D
// 0.266587
0x2220
// -0.080589
0xF5AF
// 0.055325
0x0715
// -0.288089
0xDB20
// -0.213325
0xE4B2
// -0.075228
0xF65F
// -0.166883
0xEAA4
// 0.181154
0x1730
// 0.295311
0x25CD
// -0.347092
0xD393
// 0.122592
0x0FB1
// 0.007080
0x00E8
// 0.079962
0x0A3C
// 0.153838
0x13B1
// -0.180648
0xE8E1
// -0.213876
0xE4A0
// 0.149542
0x1324
// 0.159729
0x1472
// -0.024742
0xFCD5
// 0.299150
0x264B
// -0.232223
0xE247
// -0.089814
0xF481
// 0.102005
0x0D0F
// 0.257648
0x20FB
// -0.035484
0xFB75
// 0.081746
0x0A77
// 0.070694
0x090C
// 0.021435
0x02BE
// -0.250669
0xDFEA
// 0.248760
0x1FD7
// 0.201887
0x19D7
// -0.260070
0xDEB6
// -0.035233
0xFB7D
// -0.179067
0xE914
// 0.142131
0x1231
// -0.498609
0xC02E
// -0.418390
0xCA72
// 0.004418
0x0091
// -0.105931
0xF271
// 0.045063
0x05C5
// 0.026444
0x0363
// 0.078910
0x0A1A
// 0.036827
0x04B7
// 0.008298
0x0110
// 0.120087
0x0F5F