You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference10_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.772747
0x63
// 0.067546
0x09
// 0.029090
0x04
// 0.021423
0x03
// 0.963625
0x7B
// 0.076963
0x0A
// 0.151862
0x13
// 0.075577
0x0A
// 0.031138
0x04
// 0.039374
0x05
// 0.197738
0x19
// 0.179840
0x17
// 0.026085
0x03
// 0.025975
0x03
// 0.023710
0x03
// 0.358152
0x2E
// 0.182408
0x17
// 0.144208
0x12
// 0.252516
0x20
// 0.345332
0x2C
// 0.179511
0x17
// 0.032433
0x04
// 0.016895
0x02
// 0.091918
0x0C
// 0.493180
0x3F
// 0.072243
0x09
// 1.000000
0x7F
// 0.143905
0x12
// 0.062788
0x08
// 0.456790
0x3A
// 0.344389
0x2C
// 0.402651
0x34
// 0.228716
0x1D
// 0.412654
0x35
// 0.069730
0x09
// 0.154760
0x14
// 0.315750
0x28
// 0.092195
0x0C
// 0.360958
0x2E
// 0.220140
0x1C
// 0.131611
0x11
// 0.049441
0x06
// 0.711339
0x5B
// 0.083170
0x0B
// 0.632389
0x51
// 0.102817
0x0D
// 0.090880
0x0C
// 0.506340
0x41
// 0.617751
0x4F
// 0.074779
0x0A
// 0.347525
0x2C
// 0.050084
0x06
// 0.057592
0x07
// 0.578492
0x4A
// 0.258534
0x21
// 0.173147
0x16
// 0.153196
0x14
// 0.046563
0x06
// 0.164365
0x15
// 0.489161
0x3F
// 0.748620
0x60
// 0.069577
0x09
// 0.316107
0x28
// 0.320219
0x29
// 0.869226
0x6F
// 0.137058
0x12
// 0.334078
0x2B
// 0.077707
0x0A
// 0.224759
0x1D
// 0.477823
0x3D
// 0.093085
0x0C
// 0.514706
0x42
// 0.113565
0x0F
// 0.641853
0x52
// 0.365398
0x2F
// 0.003365
0x00
// 0.393543
0x32
// 0.199177
0x19
// 0.252329
0x20
// 0.548020
0x46
// 0.834066
0x6B
// 0.866331
0x6F
// 0.228554
0x1D
// 0.196562
0x19
// 0.516168
0x42
// 0.080657
0x0A
// 0.335057
0x2B
// 0.013168
0x02
// 0.479241
0x3D
// 0.407291
0x34
// 0.260524
0x21
// 0.143934
0x12
// 0.152011
0x13
// 0.432494
0x37
// 0.331437
0x2A
// 0.294033
0x26
// 0.190011
0x18
// 0.391936
0x32
// 0.173049
0x16
// 0.509871
0x41
// 0.257084
0x21
// 0.416758
0x35
// 0.282885
0x24
// 0.024222
0x03
// 0.184004
0x18
// 0.097257
0x0C
// 0.140579
0x12
// 0.145829
0x13
// 0.203360
0x1A
// 0.116138
0x0F
// 0.603126
0x4D
// 0.014622
0x02
// 0.123170
0x10
// 0.133324
0x11
// 0.150918
0x13
// 0.141244
0x12
// 0.678382
0x57
// 0.227218
0x1D
// 0.024709
0x03
// 0.024473
0x03
// 0.097016
0x0C
// 0.275777
0x23
// 0.334531
0x2B
// 0.104453
0x0D
// 0.092458
0x0C
// 0.255736
0x21
// 0.133197
0x11
// 0.271651
0x23
// 0.333773
0x2B
// 0.263304
0x22
// 0.020609
0x03
// 0.244537
0x1F
// 0.026564
0x03
// 0.006441
0x01
// 0.024053
0x03
// 0.572809
0x49
// 0.159520
0x14
// 0.767228
0x62
// 0.526278
0x43
// 0.222367
0x1C
// 0.212450
0x1B
// 0.150199
0x13
// 0.003421
0x00
// 0.545556
0x46
// 0.017908
0x02
// 0.203672
0x1A
// 0.191596
0x19
// 0.042828
0x05
// 0.610005
0x4E
// 0.583389
0x4B
// 0.481202
0x3E
// 0.471129
0x3C
// 0.342987
0x2C
// 0.427244
0x37
// 0.232229
0x1E
// 0.008805
0x01
// 0.046565
0x06
// 0.021485
0x03
// 0.109299
0x0E
// 0.415950
0x35
// 0.103123
0x0D
// 0.563116
0x48
// 0.231557
0x1E
// 0.254133
0x21
// 0.009130
0x01
// 0.087019
0x0B
// 0.133051
0x11
// 0.720624
0x5C
// 0.497331
0x40
// 0.160483
0x15
// 0.052893
0x07
// 0.319693
0x29
// 0.161039
0x15
// 0.267731
0x22
// 0.545088
0x46
// 0.356477
0x2E
// 0.009348
0x01
// 0.527862
0x44
// 0.087363
0x0B
// 0.521134
0x43
// 0.073121
0x09
// 0.503820
0x40
// 0.124709
0x10
// 0.129476
0x11
// 0.358145
0x2E
// 0.037654
0x05
// 0.313249
0x28
// 0.011695
0x01
// 0.008380
0x01
// 0.282468
0x24
// 0.164952
0x15
// 0.071359
0x09
// 0.145775
0x13
// 0.151212
0x13
// 0.515480
0x42
// 0.220252
0x1C
// 0.152392
0x14
// 0.287311
0x25
// 0.178285
0x17
// 0.046606
0x06
// 0.087371
0x0B
// 0.468392
0x3C
// 0.031503
0x04
// 0.253505
0x20
// 0.235069
0x1E
// 0.001415
0x00
// 0.230442
0x1D
// 0.503709
0x40
// 0.265319
0x22
// 0.028753
0x04
// 0.437107
0x38
// 0.314576
0x28
// 0.360804
0x2E
// 0.639020
0x52
// 0.044897
0x06
// 0.348026
0x2D
// 0.038568
0x05
// 0.042927
0x05
// 0.283447
0x24
// 0.245405
0x1F
// 0.389465
0x32
// 0.102263
0x0D
// 0.449403
0x3A
// 0.009365
0x01
// 0.139803
0x12
// 0.292938
0x25
// 0.316415
0x29
// 0.144884
0x13
// 0.367303
0x2F
// 0.302847
0x27
// 0.385283
0x31
// 0.455387
0x3A
// 0.826654
0x6A
// 0.134242
0x11
// 0.305418
0x27
// 0.051358
0x07
// 0.293030
0x26
// 0.064808
0x08
// 0.375395
0x30
// 0.192012
0x19
// 0.244481
0x1F
// 0.058705
0x08
// 0.285534
0x25
// 0.283418
0x24
// 0.526462
0x43
// 0.163629
0x15
// 0.357199
0x2E
// 0.068330
0x09
// 0.197610
0x19
// 0.377100
0x30
// 0.023080
0x03
// 0.231662
0x1E
// 0.895535
0x73
// 0.228589
0x1D
// 0.677723
0x57
// 0.219863
0x1C