You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.873737
0x70
// -0.260467
0xDF
// 0.676135
0x57
// 0.139296
0x12
// -1.582575
0x80
// -0.299639
0xDA
// 0.397838
0x33
// 0.551240
0x47
// -0.348101
0xD3
// -0.350158
0xD3
// 0.641963
0x52
// -0.675186
0xAA
// 0.236577
0x1E
// 0.281753
0x24
// 0.151221
0x13
// 0.020401
0x03
// 0.451601
0x3A
// 0.579222
0x4A
// 0.325953
0x2A
// 0.287317
0x25
// -0.796311
0x9A
// -0.248163
0xE0
// 0.198347
0x19
// 0.710080
0x5B
// 0.173879
0x16
// -0.892735
0x8E
// -0.372806
0xD0
// -0.195813
0xE7
// 0.318588
0x29
// 0.133963
0x11
// -0.032943
0xFC
// -0.337075
0xD5
// -0.065315
0xF8
// -0.039372
0xFB
// 0.398444
0x33
// -0.579523
0xB6
// -0.800307
0x9A
// 0.248791
0x20
// 0.546229
0x46
// -1.167022
0x80
// 0.381986
0x31
// 0.963013
0x7B
// 0.037381
0x05
// 0.359555
0x2E
// 0.573289
0x49
// -0.320845
0xD7
// 0.183324
0x17
// -0.038931
0xFB
// -0.439265
0xC8
// 0.419879
0x36
// -1.028955
0x80
// 0.973354
0x7D
// 0.438424
0x38
// -0.189059
0xE8
// -0.492520
0xC1
// 0.281101
0x24
// 0.264287
0x22
// -0.364530
0xD1
// -0.445121
0xC7
// 0.636410
0x51
// 0.232993
0x1E
// 0.070081
0x09
// 0.247754
0x20
// 0.642201
0x52
// -0.213792
0xE5
// 0.022676
0x03
// 0.148527
0x13
// 0.505007
0x41
// 0.372229
0x30
// 0.045881
0x06
// 0.340205
0x2C
// 0.295982
0x26
// 0.211190
0x1B
// -0.665838
0xAB
// 0.168587
0x16
// 0.515362
0x42
// -0.746784
0xA0
// -0.324614
0xD6
// -0.336045
0xD5
// -0.050505
0xFA
// 0.122141
0x10
// -0.401861
0xCD
// -0.938169
0x88
// -0.185410
0xE8
// 0.075885
0x0A
// -0.303646
0xD9
// -0.083679
0xF5
// -0.310993
0xD8
// 0.561334
0x48
// 0.171541
0x16
// -0.413567
0xCB
// 0.011295
0x01
// -0.651706
0xAD
// 0.223816
0x1D
// 0.338734
0x2B
// -0.267841
0xDE
// 0.247383
0x20
// 0.019818
0x03
// 0.859922
0x6E
// 0.510172
0x41
// -0.536949
0xBB
// 0.790371
0x65
// 0.025962
0x03
// 0.003272
0x00
// -0.586803
0xB5
// -0.405704
0xCC
// -0.719942
0xA4
// 0.190743
0x18
// 0.000648
0x00
// 0.817983
0x69
// -1.040023
0x80
// -0.640650
0xAE
// 0.145383
0x13
// -0.995210
0x81
// 0.159849
0x14
// 0.662131
0x55
// 0.276241
0x23
// -0.272311
0xDD
// 0.366372
0x2F
// -0.087062
0xF5
// 0.350990
0x2D
// 0.119607
0x0F
// 0.151884
0x13
// 0.090767
0x0C
// -0.639666
0xAE
// -0.010815
0xFF
// -0.408909
0xCC
// 0.186420
0x18
// -0.669099
0xAA
// 0.478550
0x3D
// 0.129092
0x11
// -0.725092
0xA3
// 0.463101
0x3B
// 0.032239
0x04
// -0.336748
0xD5
// 0.316855
0x29
// 0.870238
0x6F
// 0.279647
0x24
// 0.668105
0x56
// 0.094978
0x0C
// 0.504225
0x41
// -0.208494
0xE5
// 0.631409
0x51
// -0.642674
0xAE
// -0.813889
0x98
// -1.107626
0x80
// -1.268026
0x80
// 0.273479
0x23
// 0.722872
0x5D
// -0.586928
0xB5
// 0.208340
0x1B
// 0.000122
0x00
// 0.414736
0x35
// -0.877745
0x90
// 0.204341
0x1A
// 0.041132
0x05
// -0.497404
0xC0
// -0.077259
0xF6
// -0.559571
0xB8
// 0.301829
0x27
// -0.281686
0xDC
// -0.192956
0xE7
// 0.486986
0x3E
// -0.172776
0xEA
// -0.115510
0xF1
// 0.131025
0x11
// -0.628380
0xB0
// -0.421105
0xCA
// 0.660759
0x55
// -0.205135
0xE6
// -0.125019
0xF0
// 0.361597
0x2E
// 0.184495
0x18
// 0.015113
0x02
// -0.731670
0xA2
// -0.369881
0xD1
// -0.164624
0xEB
// 0.197589
0x19
// 0.043165
0x06
// -0.196348
0xE7
// 0.136347
0x11
// -0.804392
0x99
// -1.319534
0x80
// -0.046754
0xFA
// -0.376727
0xD0
// -0.336785
0xD5
// 0.144469
0x12
// 0.150153
0x13
// 0.591014
0x4C
// -0.398694
0xCD
// 0.576180
0x4A
// -0.365334
0xD1
// 0.662322
0x55
// 0.673906
0x56
// -0.153666
0xEC
// 0.259136
0x21
// 0.373434
0x30
// 0.224152
0x1D
// -0.914191
0x8B
// -0.412374
0xCB
// 0.836936
0x6B
// -0.135161
0xEF
// 0.651278
0x53
// -1.047738
0x80
// -0.851900
0x93
// -0.123294
0xF0
// -0.279829
0xDC
// 1.090187
0x7F
// -0.487033
0xC2
// 0.715953
0x5C
// 0.209742
0x1B
// 0.953737
0x7A
// -0.440155
0xC8
// -0.069480
0xF7
// 0.979672
0x7D
// -0.470021
0xC4
// 0.204574
0x1A
// -1.009273
0x80
// 0.625502
0x50
// -0.833613
0x95
// -1.147605
0x80
// 0.775673
0x63
// 0.175410
0x16
// -0.304614
0xD9
// -0.358500
0xD2
// -0.591811
0xB4
// -0.261983
0xDE
// -0.248427
0xE0
// -0.599279
0xB3
// 0.183924
0x18
// 0.339038
0x2B
// 0.048516
0x06
// -0.151322
0xED
// -0.502508
0xC0
// -0.482639
0xC2
// 0.135013
0x11
// -0.473076
0xC3
// 0.476162
0x3D
// 0.643803
0x52
// 1.037441
0x7F
// -0.406803
0xCC
// 0.898500
0x73
// 1.002038
0x7F
// -0.083027
0xF5
// 0.172620
0x16
// -0.437983
0xC8
// -0.338489
0xD5
// 0.307802
0x27
// -0.085294
0xF5
// -0.154777
0xEC
// -0.546565
0xBA
// -0.340887
0xD4
// 0.231939
0x1E
// -0.543253
0xBA
// 0.486398
0x3E
// -0.417367
0xCB