You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference3_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// -0.028189
0xFC64
// 0.171435
0x15F2
// 0.085604
0x0AF5
// 0.180651
0x1720
// -0.119324
0xF0BA
// -0.153897
0xEC4D
// 0.001411
0x002E
// 0.028189
0x039C
// -0.022648
0xFD1A
// 0.254385
0x2090
// -0.026654
0xFC97
// 0.060094
0x07B1
// -0.048742
0xF9C3
// -0.057659
0xF89F
// -0.032693
0xFBD1
// -0.032272
0xFBDF
// -0.236305
0xE1C1
// -0.450841
0xC64B
// 0.013529
0x01BB
// -0.006510
0xFF2B
// -0.075657
0xF651
// 0.024732
0x032A
// 0.029387
0x03C3
// -0.011298
0xFE8E
// 0.027820
0x0390
// 0.109512
0x0E05
// -0.066756
0xF775
// 0.148694
0x1308
// 0.124814
0x0FFA
// -0.023998
0xFCEE
// -0.179305
0xE90D
// -0.139821
0xEE1A
// 0.035636
0x0490
// -0.062347
0xF805
// -0.097076
0xF393
// -0.090740
0xF463
// 0.006590
0x00D8
// -0.072902
0xF6AB
// 0.024589
0x0326
// -0.033601
0xFBB3
// -0.193965
0xE72C
// -0.341340
0xD44F
// 0.002988
0x0062
// -0.306995
0xD8B4
// -0.235524
0xE1DA
// -0.000757
0xFFE7
// 0.230082
0x1D73
// -0.167628
0xEA8B
// 0.095040
0x0C2A
// 0.134287
0x1130
// 0.061125
0x07D3
// -0.071199
0xF6E3
// 0.016437
0x021B
// -0.041979
0xFAA0
// 0.016367
0x0218
// -0.130138
0xEF58
// -0.038953
0xFB04
// -0.050902
0xF97C
// -0.028706
0xFC53
// 0.001855
0x003D
// 0.093635
0x0BFC
// -0.014506
0xFE25
// -0.036955
0xFB45
// 0.014074
0x01CD
// 0.043638
0x0596
// -0.022205
0xFD28
// 0.001765
0x003A
// -0.242721
0xE0EF
// -0.126237
0xEFD7
// 0.021522
0x02C1
// -0.184780
0xE859
// 0.017905
0x024B
// -0.007262
0xFF12
// -0.038897
0xFB05
// 0.044316
0x05AC
// 0.008688
0x011D
// 0.006475
0x00D4
// -0.020303
0xFD67
// 0.253419
0x2070
// -0.014867
0xFE19
// 0.073106
0x095C
// 0.067968
0x08B3
// -0.049602
0xF9A7
// -0.136201
0xEE91
// 0.005463
0x00B3
// 0.230917
0x1D8F
// 0.004312
0x008D
// 0.013361
0x01B6
// -0.027041
0xFC8A
// -0.027567
0xFC79
// -0.141100
0xEDF0
// -0.054750
0xF8FE
// -0.005090
0xFF59
// 0.000266
0x0009
// -0.013570
0xFE43
// -0.046845
0xFA01
// 0.048489
0x0635
// -0.109777
0xF1F3
// -0.024510
0xFCDD
// 0.278005
0x2396
// -0.074367
0xF67B
// -0.015214
0xFE0D
// -0.226731
0xE2FA
// -0.337063
0xD4DB
// 0.281330
0x2403
// 0.081274
0x0A67
// -0.231298
0xE265
// -0.137778
0xEE5D
// -0.034891
0xFB89
// -0.089789
0xF482
// 0.218737
0x1C00
// -0.077219
0xF61E
// 0.038708
0x04F4
// -0.001526
0xFFCE
// 0.066475
0x0882
// 0.046422
0x05F1
// 0.103023
0x0D30
// -0.008609
0xFEE6
// 0.014402
0x01D8
// 0.045520
0x05D4
// 0.039223
0x0505
// -0.088629
0xF4A8
// -0.063945
0xF7D1
// 0.035629
0x048F
// -0.127775
0xEFA5
// 0.001893
0x003E
// 0.029293
0x03C0
// -0.050922
0xF97B
// 0.005952
0x00C3
// 0.063336
0x081B
// -0.141459
0xEDE5
// 0.050345
0x0672
// -0.133393
0xEEED
// -0.038058
0xFB21
// -0.243780
0xE0CC
// 0.008323
0x0111
// 0.397056
0x32D3
// 0.026308
0x035E
// 0.122140
0x0FA2
// -0.022873
0xFD13
// 0.075601
0x09AD
// -0.021629
0xFD3B
// 0.034714
0x0472
// 0.053633
0x06DD
// -0.001452
0xFFD0
// 0.069225
0x08DC
// -0.125983
0xEFE0
// 0.011555
0x017B
// 0.030917
0x03F5
// 0.124470
0x0FEF
// 0.171186
0x15E9
// 0.010614
0x015C
// 0.107988
0x0DD3
// -0.310154
0xD84D
// 0.015597
0x01FF
// -0.008263
0xFEF1
// -0.017225
0xFDCC
// 0.006223
0x00CC
// -0.115720
0xF130
// -0.024307
0xFCE3
// -0.508824
0xBEDF
// 0.131104
0x10C8
// 0.023613
0x0306
// 0.022010
0x02D1
// 0.047617
0x0618
// -0.019243
0xFD89
// 0.000842
0x001C
// 0.411585
0x34AF
// -0.042401
0xFA93
// -0.002559
0xFFAC
// -0.054539
0xF905
// 0.018534
0x025F
// -0.059426
0xF865
// 0.074911
0x0997
// -0.070636
0xF6F5
// -0.003992
0xFF7D
// 0.014893
0x01E8
// 0.099994
0x0CCD
// 0.002275
0x004B
// 0.002638
0x0056
// -0.051849
0xF95D
// -0.000661
0xFFEA
// 0.000095
0x0003
// -0.107715
0xF236
// -0.023695
0xFCF8
// 0.078803
0x0A16
// 0.067859
0x08B0
// -0.151675
0xEC96
// 0.092827
0x0BE2
// -0.039592
0xFAEF
// -0.163233
0xEB1B
// -0.008146
0xFEF5
// 0.125654
0x1015
// 0.030402
0x03E4
// 0.022226
0x02D8
// 0.007503
0x00F6
// 0.054567
0x06FC
// -0.061918
0xF813
// -0.001343
0xFFD4
// 0.031586
0x040B
// 0.029262
0x03BF
// -0.003172
0xFF98
// 0.055784
0x0724
// 0.034685
0x0471
// 0.114510
0x0EA8
// -0.025240
0xFCC5
// 0.012109
0x018D
// 0.000613
0x0014
// -0.032675
0xFBD1
// -0.062204
0xF80A
// 0.001992
0x0041
// 0.226271
0x1CF6
// -0.019729
0xFD7A
// -0.023615
0xFCFA
// 0.022975
0x02F1
// -0.035244
0xFB7D
// -0.024887
0xFCD1
// -0.002314
0xFFB4
// -0.331378
0xD595
// 0.121799
0x0F97
// -0.074362
0xF67B
// 0.023239
0x02FA
// -0.094770
0xF3DF
// -0.218714
0xE401
// -0.012038
0xFE76
// 0.013967
0x01CA
// 0.114861
0x0EB4
// 0.127462
0x1051
// 0.052844
0x06C4
// -0.002535
0xFFAD
// 0.001441
0x002F
// -0.153210
0xEC64
// 0.017810
0x0248
// -0.044960
0xFA3F
// -0.021157
0xFD4B
// 0.089441
0x0B73
// 0.027243
0x037D
// -0.010614
0xFEA4
// 0.056511
0x073C
// 0.056715
0x0742
// 0.292511
0x2571
// 0.088262
0x0B4C
// -0.205939
0xE5A4
// -0.115788
0xF12E
// -0.013285
0xFE4D
// 0.062721
0x0807
// 0.011726
0x0180
// 0.002080
0x0044
// -0.020079
0xFD6E
// -0.053396
0xF92A
// -0.006308
0xFF31
// -0.000332
0xFFF5
// -0.064960
0xF7AF
// 0.004985
0x00A3
// -0.006643
0xFF26
// -0.022215
0xFD28