You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference1_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// -0.495319
0xC099
// 0.830044
0x6A3F
// 0.607750
0x4DCB
// -1.109789
0x8000
// 0.097273
0x0C73
// -0.253438
0xDF8F
// 0.080959
0x0A5D
// 0.336855
0x2B1E
// -0.003481
0xFF8E
// 1.029178
0x7FFF
// 0.082063
0x0A81
// 0.594693
0x4C1F
// 0.160890
0x1498
// 0.533629
0x444E
// 0.172471
0x1614
// -0.113716
0xF172
// -0.171956
0xE9FD
// -0.060447
0xF843
// 0.275172
0x2339
// 0.056044
0x072C
// 0.219362
0x1C14
// 0.436531
0x37E0
// -0.630196
0xAF56
// -0.019772
0xFD78
// 0.354764
0x2D69
// 0.719077
0x5C0B
// 0.312634
0x2804
// 0.850844
0x6CE8
// -0.776487
0x9C9C
// -0.400287
0xCCC3
// -0.195628
0xE6F6
// 0.384713
0x313E
// 0.626648
0x5036
// 0.024946
0x0331
// 0.107393
0x0DBF
// -0.700150
0xA661
// 0.214835
0x1B80
// 0.224357
0x1CB8
// 0.427458
0x36B7
// 0.329784
0x2A36
// -0.007347
0xFF0F
// -0.257583
0xDF08
// 0.113329
0x0E82
// 0.056822
0x0746
// 0.149469
0x1322
// 0.022586
0x02E4
// -0.996549
0x8071
// -0.157736
0xEBCF
// 0.834527
0x6AD2
// 0.778799
0x63B0
// -0.501226
0xBFD8
// 0.078271
0x0A05
// 0.361831
0x2E50
// -0.178599
0xE924
// 0.416725
0x3557
// 0.230654
0x1D86
// -0.280143
0xDC24
// -0.017644
0xFDBE
// 0.056880
0x0748
// -0.121370
0xF077
// -0.615296
0xB13E
// 0.359812
0x2E0E
// 0.088600
0x0B57
// -0.238434
0xE17B
// 0.425365
0x3672
// 0.305447
0x2719
// 0.174792
0x1660
// 0.194847
0x18F1
// -0.265847
0xDDF9
// -0.678844
0xA91C
// 0.131390
0x10D1
// -0.299499
0xD9AA
// 0.166412
0x154D
// -0.303664
0xD922
// 0.422095
0x3607
// 0.186756
0x17E8
// -0.214010
0xE49B
// -0.057304
0xF8AA
// 1.047938
0x7FFF
// -0.148274
0xED05
// 0.542822
0x457B
// -0.622222
0xB05B
// 0.187734
0x1808
// 0.122506
0x0FAE
// -0.154763
0xEC31
// 0.980826
0x7D8C
// 0.142673
0x1243
// -0.234972
0xE1EC
// 0.198191
0x195E
// -0.403352
0xCC5F
// 0.738935
0x5E95
// 0.023812
0x030C
// 0.109777
0x0E0D
// -0.040938
0xFAC3
// -0.170123
0xEA39
// -0.489630
0xC154
// -0.465793
0xC461
// 0.290801
0x2539
// 0.428577
0x36DC
// 1.087264
0x7FFF
// 0.240212
0x1EBF
// 0.318850
0x28D0
// -0.331419
0xD594
// 0.277662
0x238A
// 1.085368
0x7FFF
// 0.599322
0x4CB7
// -0.047781
0xF9E2
// 0.110349
0x0E20
// -0.043847
0xFA63
// 0.779950
0x63D5
// -0.938384
0x87E3
// 0.096624
0x0C5E
// 0.418763
0x359A
// -0.051811
0xF95E
// -0.562039
0xB80F
// -0.537270
0xBB3B
// 0.648385
0x52FE
// -0.111419
0xF1BD
// -0.247097
0xE05F
// 0.427971
0x36C8
// 0.400652
0x3349
// -0.140814
0xEDFA
// 0.285990
0x249B
// -0.396605
0xCD3C
// -0.001087
0xFFDC
// -0.219394
0xE3EB
// -0.431487
0xC8C5
// -0.483375
0xC221
// -0.175682
0xE983
// 0.503726
0x407A
// 0.003402
0x006F
// -0.450868
0xC64A
// 0.098663
0x0CA1
// 0.125318
0x100A
// -0.179725
0xE8FF
// 0.249884
0x1FFC
// -1.337066
0x8000
// 0.676429
0x5695
// 0.928915
0x76E7
// 0.012225
0x0191
// -0.568825
0xB731
// -0.337998
0xD4BC
// 0.425583
0x367A
// -0.497782
0xC049
// 0.204283
0x1A26
// 0.536550
0x44AE
// 0.874017
0x6FE0
// -0.226550
0xE300
// 0.362692
0x2E6D
// -0.767021
0x9DD2
// -0.828593
0x95F1
// -0.296651
0xDA07
// 0.722572
0x5C7D
// -0.094363
0xF3EC
// 0.375465
0x300F
// -0.130162
0xEF57
// 0.251769
0x203A
// 0.269684
0x2285
// -0.032068
0xFBE5
// -0.077541
0xF613
// -0.063028
0xF7EF
// 0.747993
0x5FBE
// -0.343397
0xD40C
// 0.328398
0x2A09
// 0.715312
0x5B8F
// 0.015844
0x0207
// -0.211085
0xE4FB
// 1.368947
0x7FFF
// 0.016595
0x0220
// -0.160435
0xEB77
// -0.511147
0xBE93
// 0.439882
0x384E
// -0.220042
0xE3D6
// -0.604137
0xB2AC
// 0.075718
0x09B1
// 0.399877
0x332F
// -0.453815
0xC5E9
// -0.707479
0xA571
// 0.133285
0x110F
// -0.115819
0xF12D
// 0.225667
0x1CE3
// -0.050345
0xF98E
// 0.051860
0x06A3
// -0.456315
0xC597
// 0.353201
0x2D36
// 0.686812
0x57E9
// -0.524525
0xBCDC
// -0.336177
0xD4F8
// -0.642655
0xADBD
// -0.231280
0xE265
// -0.088214
0xF4B5
// 0.299294
0x264F
// 0.775177
0x6339
// -0.450644
0xC651
// -0.303159
0xD932
// 0.426121
0x368B
// 0.491740
0x3EF1
// -0.258213
0xDEF3
// 0.245728
0x1F74
// -0.406678
0xCBF2
// 0.481636
0x3DA6
// -0.203070
0xE602
// 0.648911
0x5310
// -0.699762
0xA66E
// -0.758161
0x9EF5
// -0.052052
0xF956
// 0.255940
0x20C3
// -0.295951
0xDA1E
// -0.342058
0xD437
// 0.202509
0x19EC
// 0.096612
0x0C5E
// 0.969359
0x7C14
// 0.519882
0x428B
// -0.335525
0xD50E
// 0.341262
0x2BAE
// -0.111014
0xF1CA
// 0.383199
0x310D
// 0.185921
0x17CC
// -0.668622
0xAA6B
// -0.744057
0xA0C3
// 0.460034
0x3AE2
// -0.419649
0xCA49
// 0.342860
0x2BE3
// 0.585008
0x4AE2
// -0.080717
0xF5AB
// -0.778243
0x9C63
// -0.753721
0x9F86
// -0.771855
0x9D34
// -0.460836
0xC503
// 0.002656
0x0057
// 0.141420
0x121A
// -0.466438
0xC44C
// 0.326230
0x29C2
// -0.044590
0xFA4B
// -0.692282
0xA763
// -0.686443
0xA823
// 0.400108
0x3337
// -0.104281
0xF2A7
// 0.476999
0x3D0E
// -0.605356
0xB284
// -1.107797
0x8000
// -0.639803
0xAE1B
// -0.202414
0xE617
// -0.006283
0xFF32
// 0.080163
0x0A43
// -0.542102
0xBA9C
// -0.260045
0xDEB7
// -0.115631
0xF133
// 0.306016
0x272C
// -0.458556
0xC54E
// -0.055118
0xF8F2
// -0.024090
0xFCEB
// -0.024509
0xFCDD
// 0.155903
0x13F5
// -0.022955
0xFD10
// -0.103408
0xF2C4