You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.300100
0x26
// -0.360265
0xD2
// 0.133259
0x11
// 0.032249
0x04
// -0.026875
0xFD
// 0.025706
0x03
// 0.220571
0x1C
// -0.265626
0xDE
// 0.192911
0x19
// -0.182383
0xE9
// 0.096081
0x0C
// -0.170143
0xEA
// 0.256721
0x21
// -0.815487
0x98
// -0.428881
0xC9
// 0.005213
0x01
// -0.130043
0xEF
// -0.463362
0xC5
// -0.625343
0xB0
// -0.476099
0xC3
// -0.442076
0xC7
// -0.332907
0xD5
// -0.260206
0xDF
// -0.273996
0xDD
// 0.333717
0x2B
// 0.469655
0x3C
// 0.009882
0x01
// -0.038113
0xFB
// 0.026560
0x03
// -0.670764
0xAA
// -0.585902
0xB5
// -0.247615
0xE0
// 0.475611
0x3D
// 0.098898
0x0D
// 0.310396
0x28
// 0.499683
0x40
// -0.235237
0xE2
// 0.067130
0x09
// 0.937300
0x78
// 0.026345
0x03
// 0.923090
0x76
// 0.031320
0x04
// 0.254271
0x21
// 0.084179
0x0B
// -0.050524
0xFA
// 0.298640
0x26
// 0.915638
0x75
// -0.267949
0xDE
// 0.089737
0x0B
// 0.466046
0x3C
// -0.292239
0xDB
// 0.055268
0x07
// 0.445831
0x39
// -0.929026
0x89
// 0.084292
0x0B
// -0.016589
0xFE
// -0.250862
0xE0
// -0.077340
0xF6
// -0.126866
0xF0
// 0.546861
0x46
// -0.055501
0xF9
// -0.754060
0x9F
// 0.259828
0x21
// -0.466951
0xC4
// 0.371073
0x2F
// 0.097759
0x0D
// 0.418885
0x36
// -0.366184
0xD1
// 0.468155
0x3C
// 0.404783
0x34
// -0.739498
0xA1
// 0.977286
0x7D
// 0.077183
0x0A
// 0.033036
0x04
// -0.697474
0xA7
// 0.048314
0x06
// 0.446121
0x39
// 0.041722
0x05
// -0.679659
0xA9
// -0.736874
0xA2
// -0.528865
0xBC
// 0.865119
0x6F
// 0.024201
0x03
// 0.090150
0x0C
// -0.063814
0xF8
// -0.283659
0xDC
// 0.057808
0x07
// 0.263135
0x22
// -0.210045
0xE5
// -0.123280
0xF0
// 0.635229
0x51
// -1.053565
0x80
// 0.122255
0x10
// 0.300351
0x26
// -0.194779
0xE7
// -0.051552
0xF9
// -0.702438
0xA6
// -0.121862
0xF0
// 0.221576
0x1C
// 0.778379
0x64
// 0.180435
0x17
// -0.344576
0xD4
// -0.038835
0xFB
// -0.945273
0x87
// 0.216764
0x1C
// 0.584789
0x4B
// -0.200036
0xE6
// -1.012421
0x80
// -0.420781
0xCA
// -0.510468
0xBF
// 0.651565
0x53
// 0.161424
0x15
// -0.094893
0xF4
// -0.091553
0xF4
// 0.360870
0x2E
// -0.228821
0xE3
// 0.277658
0x24
// -0.370699
0xD1
// -0.576529
0xB6
// 0.099098
0x0D
// 0.755310
0x61
// -0.091329
0xF4
// 0.219620
0x1C
// 0.129728
0x11
// 0.081015
0x0A
// -0.041872
0xFB
// 0.212873
0x1B
// 0.159032
0x14
// 0.089328
0x0B
// -0.577979
0xB6
// 0.534475
0x44
// 0.476201
0x3D
// -0.468039
0xC4
// 0.729156
0x5D
// 1.167518
0x7F
// 0.247805
0x20
// 0.550550
0x46
// -0.390445
0xCE
// -0.178933
0xE9
// -0.104306
0xF3
// -0.237545
0xE2
// -0.434460
0xC8
// -0.428151
0xC9
// -0.379882
0xCF
// -0.354757
0xD3
// 0.466932
0x3C
// -0.317796
0xD7
// -0.080382
0xF6
// 0.081411
0x0A
// -0.047497
0xFA
// 0.145267
0x13
// -0.598851
0xB3
// -0.129657
0xEF
// -0.122643
0xF0
// 0.109369
0x0E
// 0.292353
0x25
// -0.544000
0xBA
// 0.196924
0x19
// 0.066483
0x09
// -0.220561
0xE4
// -0.470209
0xC4
// -0.239262
0xE1
// -0.401597
0xCD
// -0.527953
0xBC
// 0.638418
0x52
// -0.595905
0xB4
// -0.008389
0xFF
// 0.399015
0x33
// -0.220911
0xE4
// 0.168069
0x16
// -0.075816
0xF6
// 0.066725
0x09
// 0.255068
0x21
// 0.000280
0x00
// -0.603704
0xB3
// -0.753283
0xA0
// 0.764809
0x62
// 0.615246
0x4F
// -0.486847
0xC2
// -0.092979
0xF4
// -0.320902
0xD7
// -0.147799
0xED
// 0.408891
0x34
// -0.130662
0xEF
// -0.034904
0xFC
// -0.242147
0xE1
// 0.679164
0x57
// 0.339119
0x2B
// -0.225551
0xE3
// 0.396516
0x33
// -0.761194
0x9F
// -1.004295
0x80
// -0.480832
0xC2
// 1.816942
0x7F
// 0.267895
0x22
// 1.094807
0x7F
// 0.425322
0x36
// -0.807966
0x99
// 0.075646
0x0A
// -0.800237
0x9A
// -0.495735
0xC1
// 0.565097
0x48
// 0.275857
0x23
// 0.001173
0x00
// 0.263264
0x22
// 0.516413
0x42
// 0.567998
0x49
// -0.168748
0xEA
// -0.153467
0xEC
// 0.180326
0x17
// 0.237241
0x1E
// 0.180688
0x17
// 0.208310
0x1B
// -0.757817
0x9F
// 0.012189
0x02
// -0.718044
0xA4
// 0.424073
0x36
// -0.018240
0xFE
// 0.281799
0x24
// 0.679619
0x57
// 0.191569
0x19
// -0.379690
0xCF
// -0.563743
0xB8
// -0.837874
0x95
// -0.573801
0xB7
// 0.676536
0x57
// 0.405737
0x34
// 0.413364
0x35
// -0.085202
0xF5
// 0.450018
0x3A
// 0.433648
0x38
// 0.563248
0x48
// -0.422374
0xCA
// -0.751355
0xA0
// 0.023817
0x03
// -0.048039
0xFA
// 0.347317
0x2C
// -0.723716
0xA3
// -0.268610
0xDE
// 0.168631
0x16
// 0.442594
0x39
// -0.622623
0xB0
// 0.340727
0x2C
// 0.447244
0x39
// 0.083134
0x0B
// -0.086472
0xF5
// -0.303963
0xD9
// 0.119636
0x0F
// -0.295781
0xDA
// -1.168983
0x80
// -0.486394
0xC2
// -0.430967
0xC9
// 0.481060
0x3E
// 0.437050
0x38
// 0.105674
0x0E
// -0.049774
0xFA