You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference4_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.772747
0x63
// -0.067546
0xF7
// -0.029090
0xFC
// 0.021423
0x03
// 0.963625
0x7B
// -0.076963
0xF6
// -0.151862
0xED
// 0.075577
0x0A
// -0.031138
0xFC
// 0.039374
0x05
// -0.197738
0xE7
// 0.179840
0x17
// -0.026085
0xFD
// 0.025975
0x03
// -0.023710
0xFD
// 0.358152
0x2E
// -0.182408
0xE9
// 0.144208
0x12
// 0.252516
0x20
// 0.345332
0x2C
// 0.179511
0x17
// -0.032433
0xFC
// 0.016895
0x02
// -0.091918
0xF4
// 0.493180
0x3F
// 0.072243
0x09
// -1.000000
0x80
// 0.143905
0x12
// 0.062788
0x08
// -0.456790
0xC6
// -0.344389
0xD4
// 0.402651
0x34
// 0.228716
0x1D
// -0.412654
0xCB
// 0.069730
0x09
// -0.154760
0xEC
// -0.315750
0xD8
// -0.092195
0xF4
// 0.360958
0x2E
// 0.220140
0x1C
// 0.131611
0x11
// 0.049441
0x06
// -0.711339
0xA5
// 0.083170
0x0B
// -0.632389
0xAF
// 0.102817
0x0D
// 0.090880
0x0C
// -0.506340
0xBF
// -0.617751
0xB1
// 0.074779
0x0A
// 0.347525
0x2C
// 0.050084
0x06
// 0.057592
0x07
// 0.578492
0x4A
// -0.258534
0xDF
// 0.173147
0x16
// 0.153196
0x14
// 0.046563
0x06
// 0.164365
0x15
// 0.489161
0x3F
// -0.748620
0xA0
// 0.069577
0x09
// 0.316107
0x28
// -0.320219
0xD7
// -0.869226
0x91
// -0.137058
0xEE
// -0.334078
0xD5
// -0.077707
0xF6
// 0.224759
0x1D
// 0.477823
0x3D
// -0.093085
0xF4
// 0.514706
0x42
// -0.113565
0xF1
// 0.641853
0x52
// -0.365398
0xD1
// 0.003365
0x00
// 0.393543
0x32
// 0.199177
0x19
// -0.252329
0xE0
// -0.548020
0xBA
// -0.834066
0x95
// -0.866331
0x91
// 0.228554
0x1D
// 0.196562
0x19
// -0.516168
0xBE
// -0.080657
0xF6
// -0.335057
0xD5
// 0.013168
0x02
// -0.479241
0xC3
// -0.407291
0xCC
// 0.260524
0x21
// -0.143934
0xEE
// -0.152011
0xED
// 0.432494
0x37
// -0.331437
0xD6
// 0.294033
0x26
// -0.190011
0xE8
// 0.391936
0x32
// -0.173049
0xEA
// 0.509871
0x41
// 0.257084
0x21
// -0.416758
0xCB
// 0.282885
0x24
// 0.024222
0x03
// -0.184004
0xE8
// -0.097257
0xF4
// 0.140579
0x12
// -0.145829
0xED
// -0.203360
0xE6
// -0.116138
0xF1
// -0.603126
0xB3
// 0.014622
0x02
// -0.123170
0xF0
// 0.133324
0x11
// 0.150918
0x13
// -0.141244
0xEE
// 0.678382
0x57
// -0.227218
0xE3
// -0.024709
0xFD
// -0.024473
0xFD
// -0.097016
0xF4
// 0.275777
0x23
// 0.334531
0x2B
// -0.104453
0xF3
// 0.092458
0x0C
// 0.255736
0x21
// 0.133197
0x11
// 0.271651
0x23
// 0.333773
0x2B
// -0.263304
0xDE
// -0.020609
0xFD
// 0.244537
0x1F
// 0.026564
0x03
// 0.006441
0x01
// 0.024053
0x03
// -0.572809
0xB7
// -0.159520
0xEC
// -0.767228
0x9E
// -0.526278
0xBD
// 0.222367
0x1C
// -0.212450
0xE5
// -0.150199
0xED
// 0.003421
0x00
// -0.545556
0xBA
// 0.017908
0x02
// -0.203672
0xE6
// -0.191596
0xE7
// -0.042828
0xFB
// 0.610005
0x4E
// -0.583389
0xB5
// 0.481202
0x3E
// -0.471129
0xC4
// 0.342987
0x2C
// -0.427244
0xC9
// 0.232229
0x1E
// -0.008805
0xFF
// 0.046565
0x06
// 0.021485
0x03
// -0.109299
0xF2
// -0.415950
0xCB
// 0.103123
0x0D
// 0.563116
0x48
// -0.231557
0xE2
// 0.254133
0x21
// -0.009130
0xFF
// -0.087019
0xF5
// 0.133051
0x11
// -0.720624
0xA4
// -0.497331
0xC0
// -0.160483
0xEB
// -0.052893
0xF9
// 0.319693
0x29
// 0.161039
0x15
// 0.267731
0x22
// -0.545088
0xBA
// -0.356477
0xD2
// 0.009348
0x01
// -0.527862
0xBC
// -0.087363
0xF5
// -0.521134
0xBD
// -0.073121
0xF7
// -0.503820
0xC0
// 0.124709
0x10
// -0.129476
0xEF
// 0.358145
0x2E
// 0.037654
0x05
// 0.313249
0x28
// -0.011695
0xFF
// 0.008380
0x01
// -0.282468
0xDC
// -0.164952
0xEB
// -0.071359
0xF7
// 0.145775
0x13
// 0.151212
0x13
// -0.515480
0xBE
// 0.220252
0x1C
// -0.152392
0xEC
// -0.287311
0xDB
// -0.178285
0xE9
// 0.046606
0x06
// -0.087371
0xF5
// 0.468392
0x3C
// -0.031503
0xFC
// 0.253505
0x20
// 0.235069
0x1E
// 0.001415
0x00
// 0.230442
0x1D
// -0.503709
0xC0
// 0.265319
0x22
// -0.028753
0xFC
// -0.437107
0xC8
// 0.314576
0x28
// 0.360804
0x2E
// -0.639020
0xAE
// 0.044897
0x06
// -0.348026
0xD3
// 0.038568
0x05
// -0.042927
0xFB
// 0.283447
0x24
// 0.245405
0x1F
// 0.389465
0x32
// 0.102263
0x0D
// 0.449403
0x3A
// -0.009365
0xFF
// 0.139803
0x12
// 0.292938
0x25
// 0.316415
0x29
// 0.144884
0x13
// 0.367303
0x2F
// -0.302847
0xD9
// -0.385283
0xCF
// -0.455387
0xC6
// 0.826654
0x6A
// 0.134242
0x11
// 0.305418
0x27
// 0.051358
0x07
// -0.293030
0xDA
// -0.064808
0xF8
// 0.375395
0x30
// -0.192012
0xE7
// 0.244481
0x1F
// 0.058705
0x08
// 0.285534
0x25
// -0.283418
0xDC
// -0.526462
0xBD
// 0.163629
0x15
// -0.357199
0xD2
// 0.068330
0x09
// -0.197610
0xE7
// 0.377100
0x30
// 0.023080
0x03
// 0.231662
0x1E
// -0.895535
0x8D
// -0.228589
0xE3
// 0.677723
0x57
// -0.219863
0xE4