You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference6_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.203252
0x1A
// -0.155281
0xEC
// 0.086007
0x0B
// -0.113701
0xF1
// -0.214558
0xE5
// 0.283163
0x24
// 0.067622
0x09
// -0.113623
0xF1
// -0.139197
0xEE
// -0.032428
0xFC
// 0.191185
0x18
// 0.192009
0x19
// -0.071213
0xF7
// 0.063956
0x08
// 0.468674
0x3C
// 0.122168
0x10
// -0.000225
0x00
// 0.063845
0x08
// 0.273063
0x23
// -0.339444
0xD5
// 0.066068
0x08
// 0.238821
0x1F
// 0.105113
0x0D
// 0.172478
0x16
// 0.284057
0x24
// -0.436681
0xC8
// 0.223224
0x1D
// 0.266975
0x22
// 0.239136
0x1F
// 0.430191
0x37
// -0.082151
0xF5
// 0.288898
0x25
// 0.179257
0x17
// -0.230748
0xE2
// -0.049223
0xFA
// 0.090478
0x0C
// 0.012261
0x02
// 0.281711
0x24
// 0.155936
0x14
// 0.017601
0x02
// -0.186862
0xE8
// -0.280069
0xDC
// -0.001968
0x00
// 0.127782
0x10
// 0.060260
0x08
// -0.272643
0xDD
// -0.029220
0xFC
// 0.095868
0x0C
// -0.143991
0xEE
// -0.214245
0xE5
// -0.118155
0xF1
// 0.071291
0x09
// 0.490752
0x3F
// -0.185076
0xE8
// 0.070747
0x09
// -0.010327
0xFF
// 0.002442
0x00
// 0.264427
0x22
// -0.036894
0xFB
// 0.278914
0x24
// 0.367321
0x2F
// -0.067687
0xF7
// -0.057050
0xF9
// 0.248296
0x20
// -0.149725
0xED
// -0.211465
0xE5
// -0.015760
0xFE
// -0.148910
0xED
// 0.146438
0x13
// -0.100696
0xF3
// -0.159057
0xEC
// -0.020341
0xFD
// 0.019410
0x02
// 0.119126
0x0F
// 0.254679
0x21
// 0.093065
0x0C
// 0.053194
0x07
// 0.135012
0x11
// 0.026523
0x03
// -0.030463
0xFC
// 0.115329
0x0F
// 0.116953
0x0F
// -0.299878
0xDA
// -0.000613
0x00
// 0.028274
0x04
// 0.184859
0x18
// -0.069844
0xF7
// 0.015477
0x02
// -0.053037
0xF9
// 0.058396
0x07
// 0.093149
0x0C
// -0.027041
0xFD
// -0.332203
0xD5
// 0.360084
0x2E
// -0.012143
0xFE
// -0.226708
0xE3
// -0.289828
0xDB
// 0.203432
0x1A
// -0.163568
0xEB
// 0.025357
0x03
// -0.083261
0xF5
// 0.231779
0x1E
// 0.283148
0x24
// 0.021695
0x03
// -0.197583
0xE7
// -0.265315
0xDE
// -0.161071
0xEB
// -0.077649
0xF6
// 0.225190
0x1D
// -0.011007
0xFF
// -0.094471
0xF4
// 0.068341
0x09
// -0.199862
0xE6
// 0.500000
0x40
// -0.182910
0xE9
// -0.186422
0xE8
// -0.034120
0xFC
// 0.048539
0x06
// -0.116215
0xF1
// -0.057791
0xF9
// 0.121234
0x10
// 0.334061
0x2B
// -0.249312
0xE0
// -0.011574
0xFF
// 0.259239
0x21
// 0.091529
0x0C
// -0.134924
0xEF
// 0.028067
0x04
// -0.108018
0xF2
// -0.028652
0xFC
// -0.203874
0xE6
// 0.010360
0x01
// -0.252719
0xE0
// -0.124557
0xF0
// 0.245981
0x1F
// -0.131178
0xEF
// -0.010452
0xFF
// -0.087491
0xF5
// -0.072461
0xF7
// -0.035131
0xFC
// -0.179427
0xE9
// 0.044188
0x06
// 0.253947
0x21
// 0.150163
0x13
// 0.250456
0x20
// -0.094590
0xF4
// 0.221279
0x1C
// 0.163664
0x15
// 0.056842
0x07
// 0.218997
0x1C
// -0.172828
0xEA
// 0.004396
0x01
// 0.207715
0x1B
// 0.183541
0x17
// 0.012745
0x02
// -0.092928
0xF4
// -0.313204
0xD8
// 0.086105
0x0B
// -0.206552
0xE6
// -0.320820
0xD7
// 0.246231
0x20
// 0.327041
0x2A
// 0.159173
0x14
// 0.146416
0x13
// -0.199323
0xE6
// 0.092477
0x0C
// -0.079441
0xF6
// -0.358292
0xD2
// 0.191096
0x18
// 0.389436
0x32
// 0.096865
0x0C
// 0.013993
0x02
// 0.353812
0x2D
// -0.357699
0xD2
// -0.147890
0xED
// -0.190756
0xE8
// -0.112609
0xF2
// 0.230713
0x1E
// -0.123295
0xF0
// 0.166995
0x15
// 0.049907
0x06
// -0.061158
0xF8
// 0.014971
0x02
// -0.078453
0xF6
// -0.086437
0xF5
// 0.225318
0x1D
// 0.226420
0x1D
// 0.150948
0x13
// -0.023650
0xFD
// 0.271306
0x23
// 0.259773
0x21
// -0.198131
0xE7
// 0.184041
0x18
// -0.065494
0xF8
// 0.190103
0x18
// 0.103454
0x0D
// 0.041157
0x05
// -0.025509
0xFD
// -0.344646
0xD4
// 0.079424
0x0A
// -0.082805
0xF5
// -0.033128
0xFC
// -0.023321
0xFD
// -0.280326
0xDC
// -0.213691
0xE5
// -0.109106
0xF2
// -0.024157
0xFD
// -0.102331
0xF3
// 0.199904
0x1A
// -0.176720
0xE9
// 0.068242
0x09
// 0.120368
0x0F
// 0.123592
0x10
// 0.107379
0x0E
// 0.019300
0x02
// -0.247248
0xE0
// 0.192415
0x19
// 0.032701
0x04
// -0.087989
0xF5
// 0.095138
0x0C
// 0.010125
0x01
// 0.032085
0x04
// 0.062555
0x08
// -0.295848
0xDA
// -0.124162
0xF0
// -0.307573
0xD9
// 0.101875
0x0D
// 0.072695
0x09
// -0.154337
0xEC
// -0.413039
0xCB
// 0.030195
0x04
// -0.420274
0xCA
// 0.214264
0x1B
// -0.128387
0xF0
// -0.286207
0xDB
// 0.038625
0x05
// -0.195857
0xE7
// 0.295139
0x26
// 0.123962
0x10
// -0.021890
0xFD
// 0.144540
0x13
// -0.214578
0xE5
// -0.220020
0xE4
// -0.038602
0xFB
// 0.118748
0x0F
// 0.048819
0x06
// 0.104093
0x0D
// -0.081194
0xF6
// -0.144895
0xED
// 0.100566
0x0D
// -0.144012
0xEE
// 0.058382
0x07
// 0.250583
0x20
// 0.098251
0x0D
// 0.321804
0x29
// -0.193806
0xE7