You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference2_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.261062
0x21
// -0.199447
0xE6
// 0.110469
0x0E
// -0.146040
0xED
// -0.275583
0xDD
// 0.363700
0x2F
// 0.086855
0x0B
// -0.145940
0xED
// -0.178788
0xE9
// -0.041651
0xFB
// 0.245562
0x1F
// 0.246621
0x20
// -0.091468
0xF4
// 0.082146
0x0B
// 0.601975
0x4D
// 0.156915
0x14
// -0.000289
0x00
// 0.082005
0x0A
// 0.350728
0x2D
// -0.435989
0xC8
// 0.084859
0x0B
// 0.306748
0x27
// 0.135009
0x11
// 0.221535
0x1C
// 0.364849
0x2F
// -0.560883
0xB8
// 0.286713
0x25
// 0.342909
0x2C
// 0.307152
0x27
// 0.552547
0x47
// -0.105517
0xF2
// 0.371067
0x2F
// 0.230242
0x1D
// -0.296378
0xDA
// -0.063223
0xF8
// 0.116212
0x0F
// 0.015748
0x02
// 0.361835
0x2E
// 0.200288
0x1A
// 0.022607
0x03
// -0.240010
0xE1
// -0.359728
0xD2
// -0.002527
0x00
// 0.164126
0x15
// 0.077399
0x0A
// -0.350189
0xD3
// -0.037531
0xFB
// 0.123135
0x10
// -0.184945
0xE8
// -0.275182
0xDD
// -0.151761
0xED
// 0.091567
0x0C
// 0.630333
0x51
// -0.237716
0xE2
// 0.090868
0x0C
// -0.013264
0xFE
// 0.003137
0x00
// 0.339636
0x2B
// -0.047387
0xFA
// 0.358243
0x2E
// 0.471795
0x3C
// -0.086939
0xF5
// -0.073277
0xF7
// 0.318917
0x29
// -0.192311
0xE7
// -0.271611
0xDD
// -0.020243
0xFD
// -0.191263
0xE8
// 0.188088
0x18
// -0.129336
0xEF
// -0.204297
0xE6
// -0.026126
0xFD
// 0.024930
0x03
// 0.153008
0x14
// 0.327115
0x2A
// 0.119535
0x0F
// 0.068323
0x09
// 0.173413
0x16
// 0.034067
0x04
// -0.039127
0xFB
// 0.148132
0x13
// 0.150218
0x13
// -0.385170
0xCF
// -0.000788
0x00
// 0.036316
0x05
// 0.237437
0x1E
// -0.089710
0xF5
// 0.019879
0x03
// -0.068122
0xF7
// 0.075005
0x0A
// 0.119643
0x0F
// -0.034733
0xFC
// -0.426689
0xC9
// 0.462500
0x3B
// -0.015596
0xFE
// -0.291189
0xDB
// -0.372261
0xD0
// 0.261293
0x21
// -0.210090
0xE5
// 0.032569
0x04
// -0.106943
0xF2
// 0.297702
0x26
// 0.363682
0x2F
// 0.027865
0x04
// -0.253780
0xE0
// -0.340776
0xD4
// -0.206883
0xE6
// -0.099734
0xF3
// 0.289239
0x25
// -0.014138
0xFE
// -0.121340
0xF0
// 0.087778
0x0B
// -0.256707
0xDF
// 0.642211
0x52
// -0.234934
0xE2
// -0.239444
0xE1
// -0.043824
0xFA
// 0.062345
0x08
// -0.149269
0xED
// -0.074228
0xF6
// 0.155715
0x14
// 0.429075
0x37
// -0.320222
0xD7
// -0.014866
0xFE
// 0.332973
0x2B
// 0.117562
0x0F
// -0.173299
0xEA
// 0.036050
0x05
// -0.138741
0xEE
// -0.036801
0xFB
// -0.261860
0xDE
// 0.013307
0x02
// -0.324597
0xD6
// -0.159984
0xEC
// 0.315943
0x28
// -0.168487
0xEA
// -0.013425
0xFE
// -0.112375
0xF2
// -0.093070
0xF4
// -0.045124
0xFA
// -0.230460
0xE3
// 0.056756
0x07
// 0.326176
0x2A
// 0.192873
0x19
// 0.321692
0x29
// -0.121493
0xF0
// 0.284216
0x24
// 0.210213
0x1B
// 0.073009
0x09
// 0.281285
0x24
// -0.221984
0xE4
// 0.005647
0x01
// 0.266793
0x22
// 0.235745
0x1E
// 0.016370
0x02
// -0.119359
0xF1
// -0.402286
0xCD
// 0.110595
0x0E
// -0.265300
0xDE
// -0.412068
0xCB
// 0.316264
0x28
// 0.420058
0x36
// 0.204445
0x1A
// 0.188060
0x18
// -0.256014
0xDF
// 0.118780
0x0F
// -0.102036
0xF3
// -0.460198
0xC5
// 0.245448
0x1F
// 0.500200
0x40
// 0.124415
0x10
// 0.017973
0x02
// 0.454444
0x3A
// -0.459437
0xC5
// -0.189953
0xE8
// -0.245011
0xE1
// -0.144637
0xED
// 0.296332
0x26
// -0.158363
0xEC
// 0.214493
0x1B
// 0.064102
0x08
// -0.078552
0xF6
// 0.019230
0x02
// -0.100766
0xF3
// -0.111022
0xF2
// 0.289404
0x25
// 0.290820
0x25
// 0.193881
0x19
// -0.030376
0xFC
// 0.348471
0x2D
// 0.333659
0x2B
// -0.254484
0xDF
// 0.236387
0x1E
// -0.084122
0xF5
// 0.244173
0x1F
// 0.132878
0x11
// 0.052863
0x07
// -0.032765
0xFC
// -0.442672
0xC7
// 0.102013
0x0D
// -0.106356
0xF2
// -0.042550
0xFB
// -0.029954
0xFC
// -0.360057
0xD2
// -0.274470
0xDD
// -0.140138
0xEE
// -0.031028
0xFC
// -0.131437
0xEF
// 0.256761
0x21
// -0.226983
0xE3
// 0.087652
0x0B
// 0.154603
0x14
// 0.158745
0x14
// 0.137920
0x12
// 0.024790
0x03
// -0.317571
0xD7
// 0.247142
0x20
// 0.042002
0x05
// -0.113015
0xF2
// 0.122197
0x10
// 0.013004
0x02
// 0.041210
0x05
// 0.080347
0x0A
// -0.379994
0xCF
// -0.159477
0xEC
// -0.395053
0xCD
// 0.130850
0x11
// 0.093371
0x0C
// -0.198233
0xE7
// -0.530516
0xBC
// 0.038783
0x05
// -0.539810
0xBB
// 0.275205
0x23
// -0.164903
0xEB
// -0.367610
0xD1
// 0.049611
0x06
// -0.251563
0xE0
// 0.379083
0x31
// 0.159220
0x14
// -0.028116
0xFC
// 0.185650
0x18
// -0.275609
0xDD
// -0.282598
0xDC
// -0.049582
0xFA
// 0.152523
0x14
// 0.062704
0x08
// 0.133699
0x11
// -0.104287
0xF3
// -0.186106
0xE8
// 0.129169
0x11
// -0.184972
0xE8
// 0.074987
0x0A
// 0.321855
0x29
// 0.126196
0x10
// 0.413332
0x35
// -0.248929
0xE0