You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference2_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.193490
0xE7
// -0.235609
0xE2
// 0.002157
0x00
// 0.178016
0x17
// -0.334217
0xD5
// -0.481259
0xC2
// -0.573992
0xB7
// -0.266600
0xDE
// 0.458197
0x3B
// 0.281022
0x24
// -0.127172
0xF0
// 0.108406
0x0E
// -0.170620
0xEA
// 0.358841
0x2E
// 0.243928
0x1F
// 0.045475
0x06
// -0.303167
0xD9
// 0.130009
0x11
// -0.810745
0x98
// 1.091184
0x7F
// -0.951797
0x86
// 0.755205
0x61
// -0.340444
0xD4
// -0.244792
0xE1
// -0.524363
0xBD
// 0.175840
0x17
// 0.051838
0x07
// -0.106217
0xF2
// -1.349646
0x80
// 0.574210
0x49
// -0.829780
0x96
// 0.591290
0x4C
// 0.459284
0x3B
// 0.093186
0x0C
// -0.473933
0xC3
// 1.384363
0x7F
// -0.906236
0x8C
// -0.086691
0xF5
// -1.259774
0x80
// -0.251403
0xE0
// -0.272586
0xDD
// 0.015171
0x02
// -0.275677
0xDD
// -0.532822
0xBC
// -0.054125
0xF9
// -0.313587
0xD8
// 0.967063
0x7C
// -0.255707
0xDF
// -0.465451
0xC4
// 0.376168
0x30
// -0.368453
0xD1
// -0.148415
0xED
// 0.629424
0x51
// -0.134102
0xEF
// 0.332149
0x2B
// 0.139393
0x12
// -0.758676
0x9F
// 0.383279
0x31
// -0.693752
0xA7
// 0.525480
0x43
// 0.451739
0x3A
// -0.614808
0xB1
// -0.246781
0xE0
// -0.095208
0xF4
// 0.316508
0x29
// 0.068008
0x09
// 0.059976
0x08
// 0.092383
0x0C
// -0.641496
0xAE
// -0.340266
0xD4
// -0.528979
0xBC
// 0.095668
0x0C
// 0.028937
0x04
// -0.182419
0xE9
// 0.600757
0x4D
// -0.337437
0xD5
// -0.289863
0xDB
// 0.418289
0x36
// 0.660762
0x55
// 0.030205
0x04
// -0.360237
0xD2
// -0.499457
0xC0
// -0.566831
0xB7
// -0.327909
0xD6
// 0.483633
0x3E
// -0.962029
0x85
// -0.562387
0xB8
// -0.451435
0xC6
// -0.271961
0xDD
// 0.573423
0x49
// 0.139917
0x12
// -0.342712
0xD4
// 0.463286
0x3B
// -0.643323
0xAE
// -0.300347
0xDA
// 0.192114
0x19
// 0.125421
0x10
// 0.694946
0x59
// -0.599282
0xB3
// -0.082282
0xF5
// -0.243730
0xE1
// 0.658805
0x54
// -0.339326
0xD5
// -0.613007
0xB2
// 0.289397
0x25
// 0.470084
0x3C
// 0.221422
0x1C
// -0.922564
0x8A
// -0.449111
0xC7
// -0.205666
0xE6
// -0.259412
0xDF
// -0.660510
0xAB
// 0.285332
0x25
// 0.229729
0x1D
// 0.367082
0x2F
// 0.274192
0x23
// 0.477889
0x3D
// -0.516603
0xBE
// -0.473283
0xC3
// -0.234110
0xE2
// -0.136986
0xEE
// -0.118551
0xF1
// -0.025711
0xFD
// -0.009905
0xFF
// 0.171731
0x16
// 0.388089
0x32
// -0.039385
0xFB
// -0.130334
0xEF
// 0.621792
0x50
// -0.152002
0xED
// 0.398047
0x33
// 0.007992
0x01
// 0.546415
0x46
// -1.003151
0x80
// 0.932337
0x77
// -0.207315
0xE5
// 0.161236
0x15
// 0.032443
0x04
// 0.049834
0x06
// 0.194749
0x19
// 0.058923
0x08
// -0.399285
0xCD
// 0.793958
0x66
// 0.415394
0x35
// -0.202682
0xE6
// -0.303176
0xD9
// -0.101608
0xF3
// 0.086176
0x0B
// -0.109610
0xF2
// -0.326184
0xD6
// 0.283481
0x24
// -0.567895
0xB7
// -0.422748
0xCA
// 0.503439
0x40
// 0.732354
0x5E
// 0.126948
0x10
// -1.846078
0x80
// 0.564201
0x48
// 0.460927
0x3B
// 0.540411
0x45
// -0.197137
0xE7
// -0.761876
0x9E
// 0.107424
0x0E
// 0.496469
0x40
// 1.037299
0x7F
// -0.278279
0xDC
// -0.130998
0xEF
// 0.201286
0x1A
// -0.274900
0xDD
// -0.699918
0xA6
// 0.362257
0x2E
// -0.384300
0xCF
// -0.301886
0xD9
// -0.366658
0xD1
// -0.604011
0xB3
// -0.243359
0xE1
// -0.320057
0xD7
// -0.370354
0xD1
// 0.531927
0x44
// -0.763489
0x9E
// 0.206393
0x1A
// 0.083668
0x0B
// -0.255930
0xDF
// -0.176942
0xE9
// -0.238523
0xE1
// -0.220117
0xE4
// -0.477778
0xC3
// 0.150499
0x13
// -0.509820
0xBF
// 0.384485
0x31
// -0.210210
0xE5
// -1.095867
0x80
// 0.239547
0x1F
// -0.614034
0xB1
// -0.311519
0xD8
// 0.557743
0x47
// 0.040841
0x05
// 0.037648
0x05
// 0.316726
0x29
// -0.253373
0xE0
// -0.265641
0xDE
// 0.678728
0x57
// -0.314481
0xD8
// -0.162548
0xEB
// -0.056986
0xF9
// 0.319212
0x29
// -0.079716
0xF6
// -0.090859
0xF4
// 0.306746
0x27
// 0.232725
0x1E
// -0.302863
0xD9
// -0.089980
0xF4
// 0.457300
0x3B
// -0.368666
0xD1
// 0.347464
0x2C
// -0.159679
0xEC
// 0.007675
0x01
// -0.089547
0xF5
// -0.006429
0xFF
// 0.065994
0x08
// -0.347680
0xD3
// -0.509650
0xBF
// -0.481161
0xC2
// 0.710050
0x5B
// 0.062803
0x08
// -0.033138
0xFC
// -0.043323
0xFA
// 0.086779
0x0B
// -0.401669
0xCD
// -0.104005
0xF3
// 0.032235
0x04
// 0.646957
0x53
// -0.424651
0xCA
// 0.156151
0x14
// 0.160167
0x15
// -0.023828
0xFD
// -0.376806
0xD0
// -0.134574
0xEF
// -0.325805
0xD6
// -0.056344
0xF9
// 0.651325
0x53
// 0.046134
0x06
// 0.294541
0x26
// 0.264510
0x22
// -0.731071
0xA2
// 0.302645
0x27
// 0.315115
0x28
// 0.457721
0x3B
// 0.574821
0x4A
// -0.020341
0xFD
// -0.165961
0xEB
// -0.103114
0xF3
// 0.061010
0x08
// 0.388770
0x32
// -0.682574
0xA9
// -0.240700
0xE1