You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference2_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.455857
0xC6
// 0.039846
0x05
// 0.017160
0x02
// -0.012638
0xFE
// -0.568459
0xB7
// 0.045402
0x06
// 0.089586
0x0B
// -0.044584
0xFA
// 0.018369
0x02
// -0.023228
0xFD
// 0.116649
0x0F
// -0.106090
0xF2
// 0.015388
0x02
// -0.015323
0xFE
// 0.013987
0x02
// -0.211280
0xE5
// 0.107606
0x0E
// -0.085071
0xF5
// -0.148964
0xED
// -0.203717
0xE6
// -0.105896
0xF2
// 0.019133
0x02
// -0.009967
0xFF
// 0.054224
0x07
// -0.290935
0xDB
// -0.042617
0xFB
// 0.589917
0x4C
// -0.084892
0xF5
// -0.037040
0xFB
// 0.269468
0x22
// 0.203161
0x1A
// -0.237531
0xE2
// -0.134923
0xEF
// 0.243432
0x1F
// -0.041135
0xFB
// 0.091296
0x0C
// 0.186266
0x18
// 0.054387
0x07
// -0.212935
0xE5
// -0.129864
0xEF
// -0.077639
0xF6
// -0.029166
0xFC
// 0.419631
0x36
// -0.049063
0xFA
// 0.373057
0x30
// -0.060654
0xF8
// -0.053612
0xF9
// 0.298698
0x26
// 0.364422
0x2F
// -0.044114
0xFA
// -0.205011
0xE6
// -0.029545
0xFC
// -0.033975
0xFC
// -0.341262
0xD4
// 0.152514
0x14
// -0.102142
0xF3
// -0.090373
0xF4
// -0.027469
0xFC
// -0.096962
0xF4
// -0.288564
0xDB
// 0.441624
0x39
// -0.041045
0xFB
// -0.186477
0xE8
// 0.188903
0x18
// 0.512771
0x42
// 0.080853
0x0A
// 0.197078
0x19
// 0.045841
0x06
// -0.132589
0xEF
// -0.281876
0xDC
// 0.054912
0x07
// -0.303634
0xD9
// 0.066994
0x09
// -0.378640
0xD0
// 0.215555
0x1C
// -0.001985
0x00
// -0.232158
0xE2
// -0.117498
0xF1
// 0.148853
0x13
// 0.323286
0x29
// 0.492030
0x3F
// 0.511063
0x41
// -0.134828
0xEF
// -0.115955
0xF1
// 0.304496
0x27
// 0.047581
0x06
// 0.197656
0x19
// -0.007768
0xFF
// 0.282713
0x24
// 0.240268
0x1F
// -0.153688
0xEC
// 0.084909
0x0B
// 0.089674
0x0B
// -0.255135
0xDF
// 0.195520
0x19
// -0.173455
0xEA
// 0.112091
0x0E
// -0.231210
0xE2
// 0.102084
0x0D
// -0.300781
0xD9
// -0.151658
0xED
// 0.245853
0x1F
// -0.166879
0xEB
// -0.014289
0xFE
// 0.108547
0x0E
// 0.057373
0x07
// -0.082930
0xF5
// 0.086027
0x0B
// 0.119965
0x0F
// 0.068512
0x09
// 0.355794
0x2E
// -0.008626
0xFF
// 0.072660
0x09
// -0.078650
0xF6
// -0.089029
0xF5
// 0.083322
0x0B
// -0.400189
0xCD
// 0.134040
0x11
// 0.014576
0x02
// 0.014437
0x02
// 0.057231
0x07
// -0.162685
0xEB
// -0.197345
0xE7
// 0.061618
0x08
// -0.054542
0xF9
// -0.150863
0xED
// -0.078575
0xF6
// -0.160251
0xEB
// -0.196898
0xE7
// 0.155327
0x14
// 0.012158
0x02
// -0.144256
0xEE
// -0.015670
0xFE
// -0.003800
0x00
// -0.014189
0xFE
// 0.337910
0x2B
// 0.094103
0x0C
// 0.452601
0x3A
// 0.310460
0x28
// -0.131178
0xEF
// 0.125328
0x10
// 0.088605
0x0B
// -0.002018
0x00
// 0.321832
0x29
// -0.010564
0xFF
// 0.120149
0x0F
// 0.113026
0x0E
// 0.025265
0x03
// -0.359852
0xD2
// 0.344151
0x2C
// -0.283869
0xDC
// 0.277927
0x24
// -0.202334
0xE6
// 0.252038
0x20
// -0.136996
0xEE
// 0.005194
0x01
// -0.027469
0xFC
// -0.012674
0xFE
// 0.064477
0x08
// 0.245376
0x1F
// -0.060834
0xF8
// -0.332191
0xD5
// 0.136599
0x11
// -0.149918
0xED
// 0.005386
0x01
// 0.051334
0x07
// -0.078489
0xF6
// 0.425108
0x36
// 0.293384
0x26
// 0.094671
0x0C
// 0.031202
0x04
// -0.188592
0xE8
// -0.095000
0xF4
// -0.157939
0xEC
// 0.321557
0x29
// 0.210291
0x1B
// -0.005515
0xFF
// 0.311395
0x28
// 0.051537
0x07
// 0.307426
0x27
// 0.043135
0x06
// 0.297212
0x26
// -0.073568
0xF7
// 0.076380
0x0A
// -0.211276
0xE5
// -0.022213
0xFD
// -0.184791
0xE8
// 0.006899
0x01
// -0.004943
0xFF
// 0.166633
0x15
// 0.097308
0x0C
// 0.042096
0x05
// -0.085995
0xF5
// -0.089202
0xF5
// 0.304090
0x27
// -0.129930
0xEF
// 0.089899
0x0C
// 0.169490
0x16
// 0.105173
0x0D
// -0.027494
0xFC
// 0.051542
0x07
// -0.276312
0xDD
// 0.018584
0x02
// -0.149547
0xED
// -0.138671
0xEE
// -0.000835
0x00
// -0.135942
0xEF
// 0.297146
0x26
// -0.156516
0xEC
// 0.016962
0x02
// 0.257857
0x21
// -0.185574
0xE8
// -0.212844
0xE5
// 0.376969
0x30
// -0.026486
0xFD
// 0.205306
0x1A
// -0.022752
0xFD
// 0.025323
0x03
// -0.167210
0xEB
// -0.144768
0xED
// -0.229752
0xE3
// -0.060327
0xF8
// -0.265110
0xDE
// 0.005525
0x01
// -0.082472
0xF5
// -0.172809
0xEA
// -0.186658
0xE8
// -0.085470
0xF5
// -0.216678
0xE4
// 0.178655
0x17
// 0.227285
0x1D
// 0.268640
0x22
// -0.487657
0xC2
// -0.079192
0xF6
// -0.180171
0xE9
// -0.030297
0xFC
// 0.172863
0x16
// 0.038231
0x05
// -0.221452
0xE4
// 0.113271
0x0E
// -0.144224
0xEE
// -0.034631
0xFC
// -0.168441
0xEA
// 0.167193
0x15
// 0.310569
0x28
// -0.096527
0xF4
// 0.210718
0x1B
// -0.040309
0xFB
// 0.116574
0x0F
// -0.222458
0xE4
// -0.013615
0xFE
// -0.136661
0xEF
// 0.528291
0x44
// 0.134849
0x11
// -0.399800
0xCD
// 0.129701
0x11