You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference4_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.636825
0xAE
// -0.004657
0xFF
// -0.553197
0xB9
// -0.249754
0xE0
// 0.711957
0x5B
// 0.021470
0x03
// 0.033359
0x04
// -0.533272
0xBC
// 0.086300
0x0B
// 0.416506
0x35
// -0.327332
0xD6
// 0.196897
0x19
// -0.238045
0xE2
// -0.308735
0xD8
// 0.008171
0x01
// 0.135554
0x11
// -0.480549
0xC2
// -0.345736
0xD4
// -0.035158
0xFB
// -0.393296
0xCE
// 0.641124
0x52
// -0.071169
0xF7
// 0.514388
0x42
// 0.088704
0x0B
// -0.283409
0xDC
// 0.043266
0x06
// 0.263584
0x22
// 0.327551
0x2A
// 0.092109
0x0C
// 0.197349
0x19
// -0.105366
0xF3
// 0.323517
0x29
// -0.127344
0xF0
// -0.194356
0xE7
// -0.093948
0xF4
// 0.434972
0x38
// 0.539999
0x45
// -0.232746
0xE2
// -0.035510
0xFB
// 0.671863
0x56
// -0.528622
0xBC
// -0.746874
0xA0
// -0.352158
0xD3
// -0.257167
0xDF
// -0.220427
0xE4
// 0.124926
0x10
// -0.358991
0xD2
// -0.287092
0xDB
// 0.090284
0x0C
// 0.114571
0x0F
// 0.445322
0x39
// -0.197283
0xE7
// -0.298042
0xDA
// 0.541648
0x45
// 0.375692
0x30
// -0.063793
0xF8
// -0.543143
0xBA
// 0.054247
0x07
// 0.131181
0x11
// -0.980847
0x82
// -0.194666
0xE7
// -0.233469
0xE2
// -0.214708
0xE5
// -0.076314
0xF6
// -0.242512
0xE1
// -0.265889
0xDE
// -0.137046
0xEE
// -0.126632
0xF0
// -0.148391
0xED
// -0.041788
0xFB
// -0.509708
0xBF
// -0.119746
0xF1
// -0.458104
0xC5
// 0.075634
0x0A
// 0.056336
0x07
// -0.539364
0xBB
// 0.207240
0x1B
// 0.219753
0x1C
// -0.156680
0xEC
// 0.395679
0x33
// 0.214156
0x1B
// 0.149636
0x13
// 0.105038
0x0D
// -0.158140
0xEC
// 0.003813
0x00
// 0.135498
0x11
// 0.140009
0x12
// 0.300506
0x26
// -0.194917
0xE7
// -0.141341
0xEE
// 0.590113
0x4C
// -0.083204
0xF5
// 0.663438
0x55
// -0.155004
0xEC
// -0.076650
0xF6
// 0.068183
0x09
// -0.166023
0xEB
// -0.413039
0xCB
// -0.439172
0xC8
// -0.093450
0xF4
// 0.421448
0x36
// -0.391809
0xCE
// -0.018629
0xFE
// 0.303356
0x27
// -0.242239
0xE1
// 0.003191
0x00
// 0.553427
0x47
// -0.720694
0xA4
// 0.218109
0x1C
// -0.442209
0xC7
// 0.253588
0x20
// 0.206894
0x1A
// -0.073522
0xF7
// 0.649432
0x53
// -0.107605
0xF2
// -0.373865
0xD0
// -0.277467
0xDC
// 0.637342
0x52
// 0.089627
0x0B
// -0.017335
0xFE
// -0.236007
0xE2
// 0.209453
0x1B
// -0.229762
0xE3
// 0.248548
0x20
// 0.498813
0x40
// -0.169834
0xEA
// 0.163534
0x15
// -0.414053
0xCB
// 0.673520
0x56
// -0.378736
0xD0
// 0.095019
0x0C
// 0.839672
0x6B
// 0.035799
0x05
// 0.042050
0x05
// 0.341397
0x2C
// -0.177794
0xE9
// -0.423697
0xCA
// 0.085817
0x0B
// -0.299843
0xDA
// 0.002204
0x00
// -0.697897
0xA7
// 0.274167
0x23
// -0.557229
0xB9
// 0.460916
0x3B
// 0.252515
0x20
// 0.956139
0x7A
// 0.418407
0x36
// -0.298450
0xDA
// -0.464166
0xC5
// 0.440453
0x38
// -0.418816
0xCA
// -0.384892
0xCF
// 0.372239
0x30
// 0.651395
0x53
// -0.035804
0xFB
// -0.196316
0xE7
// -0.054497
0xF9
// 0.090274
0x0C
// 0.511802
0x42
// 0.147724
0x13
// 0.428838
0x37
// 0.348730
0x2D
// -0.180973
0xE9
// 0.499845
0x40
// -0.105397
0xF3
// 0.262286
0x22
// 0.385859
0x31
// 0.296453
0x26
// -0.795624
0x9A
// 0.834699
0x6B
// 0.230902
0x1E
// 0.221696
0x1C
// -0.000177
0x00
// -0.128044
0xF0
// 0.154472
0x14
// 0.559411
0x48
// 0.335226
0x2B
// -0.307016
0xD9
// -0.087791
0xF5
// 0.275226
0x23
// -0.150765
0xED
// 0.964205
0x7B
// 0.349264
0x2D
// 0.261585
0x21
// 0.398042
0x33
// 0.373101
0x30
// -0.422865
0xCA
// -0.456131
0xC6
// 0.030605
0x04
// 0.292683
0x25
// -0.335947
0xD5
// 0.251256
0x20
// -0.257193
0xDF
// 0.290428
0x25
// 0.249111
0x20
// -0.245568
0xE1
// -0.778931
0x9C
// 0.126308
0x10
// 0.886404
0x71
// -0.106907
0xF2
// -0.535866
0xBB
// 0.245924
0x1F
// -0.448130
0xC7
// 1.000000
0x7F
// 0.537302
0x45
// 0.076564
0x0A
// 0.439496
0x38
// -0.519528
0xBE
// -0.013081
0xFE
// -0.437981
0xC8
// -0.170323
0xEA
// -0.768535
0x9E
// 0.234060
0x1E
// -0.463784
0xC5
// 0.020328
0x03
// 0.220122
0x1C
// 0.075443
0x0A
// 0.866429
0x6F
// -0.165782
0xEB
// 0.127951
0x10
// 0.666655
0x55
// -0.830530
0x96
// -0.174658
0xEA
// -0.107966
0xF2
// 0.104614
0x0D
// 0.468005
0x3C
// 0.193459
0x19
// -0.106277
0xF2
// 0.669885
0x56
// -0.403220
0xCC
// -0.224877
0xE3
// -0.147636
0xED
// -0.533734
0xBC
// 0.190918
0x18
// 0.107731
0x0E
// 0.131274
0x11
// -0.356312
0xD2
// -0.266808
0xDE
// -0.530004
0xBC
// -0.509502
0xBF
// -0.344085
0xD4
// -0.356264
0xD2
// -0.909033
0x8C
// -0.012933
0xFE
// -0.172036
0xEA
// -0.046318
0xFA
// 0.168400
0x16
// -0.537440
0xBB
// 0.413088
0x35
// 0.263713
0x22
// 0.207379
0x1B
// 0.104192
0x0D
// -0.119744
0xF1
// 0.264112
0x22
// -0.416603
0xCB
// -0.073356
0xF7