You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference10_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.114766
0x0EB1
// 0.313671
0x2826
// 0.251882
0x203E
// 0.358210
0x2DDA
// 0.635009
0x5148
// 0.207405
0x1A8C
// 0.412593
0x34D0
// 0.427475
0x36B7
// 0.203103
0x19FF
// 0.210806
0x1AFC
// 0.324282
0x2982
// 0.298627
0x2639
// 0.166201
0x1546
// 0.100190
0x0CD3
// 0.332101
0x2A82
// 0.565498
0x4862
// 0.149138
0x1317
// 0.164492
0x150E
// 0.407428
0x3427
// 0.466180
0x3BAC
// 0.523342
0x42FD
// 0.534869
0x4477
// 0.786655
0x64B1
// 0.387808
0x31A4
// 0.075223
0x09A1
// 0.251902
0x203E
// 0.316410
0x2880
// 0.337277
0x2B2C
// 0.123869
0x0FDB
// 0.448377
0x3964
// 0.731297
0x5D9B
// 0.527298
0x437E
// 0.309203
0x2794
// 0.480251
0x3D79
// 0.165375
0x152B
// 0.293676
0x2597
// 0.342817
0x2BE1
// 0.173993
0x1645
// 0.328683
0x2A12
// 0.439320
0x383C
// 0.524586
0x4326
// 0.436287
0x37D8
// 0.200719
0x19B1
// 0.744166
0x5F41
// 0.634960
0x5146
// 0.007317
0x00F0
// 0.258103
0x210A
// 0.330205
0x2A44
// 0.398129
0x32F6
// 0.178963
0x16E8
// 0.087399
0x0B30
// 0.309471
0x279D
// 0.282191
0x241F
// 0.248521
0x1FD0
// 0.304279
0x26F3
// 0.209316
0x1ACB
// 0.284049
0x245C
// 0.035022
0x047C
// 0.842180
0x6BCD
// 0.343401
0x2BF5
// 0.367652
0x2F0F
// 0.506992
0x40E5
// 0.499602
0x3FF3
// 0.963975
0x7B64
// 0.260660
0x215D
// 0.264805
0x21E5
// 0.299147
0x264A
// 0.383708
0x311D
// 0.097906
0x0C88
// 0.126226
0x1028
// 0.355939
0x2D8F
// 0.390189
0x31F2
// 0.212972
0x1B43
// 0.665309
0x5529
// 0.320934
0x2914
// 0.233736
0x1DEB
// 0.098312
0x0C95
// 0.069129
0x08D9
// 0.256814
0x20DF
// 0.365792
0x2ED2
// 0.504258
0x408C
// 0.502291
0x404B
// 0.463384
0x3B50
// 0.392737
0x3245
// 0.220210
0x1C30
// 0.039269
0x0507
// 0.292754
0x2579
// 0.172203
0x160B
// 0.249599
0x1FF3
// 0.220963
0x1C49
// 0.374162
0x2FE5
// 0.190364
0x185E
// 0.193964
0x18D4
// 0.594312
0x4C12
// 0.167409
0x156E
// 0.028592
0x03A9
// 0.192164
0x1899
// 0.161896
0x14B9
// 0.881163
0x70CA
// 0.662690
0x54D3
// 0.056194
0x0731
// 0.453559
0x3A0E
// 0.219656
0x1C1E
// 0.491543
0x3EEB
// 0.041320
0x054A
// 0.785208
0x6482
// 0.009654
0x013C
// 0.004492
0x0093
// 0.059060
0x078F
// 0.734081
0x5DF6
// 0.129797
0x109D
// 0.408844
0x3455
// 0.483325
0x3DDE
// 0.676547
0x5699
// 0.495448
0x3F6B
// 0.039126
0x0502
// 0.160883
0x1498
// 0.048246
0x062D
// 0.478433
0x3D3D
// 0.397100
0x32D4
// 0.212619
0x1B37
// 0.672597
0x5618
// 0.057489
0x075C
// 0.346486
0x2C5A
// 0.357674
0x2DC8
// 0.671275
0x55EC
// 0.062677
0x0806
// 0.003799
0x007C
// 0.486365
0x3E41
// 0.172835
0x161F
// 1.000000
0x7FFF
// 0.306560
0x273D
// 0.134565
0x1139
// 0.016790
0x0226
// 0.342898
0x2BE4
// 0.638796
0x51C4
// 0.176473
0x1697
// 0.473394
0x3C98
// 0.362369
0x2E62
// 0.434670
0x37A3
// 0.015606
0x01FF
// 0.473930
0x3CAA
// 0.525251
0x433B
// 0.072266
0x0940
// 0.476715
0x3D05
// 0.224610
0x1CC0
// 0.443659
0x38CA
// 0.145638
0x12A4
// 0.212775
0x1B3C
// 0.383912
0x3124
// 0.277813
0x238F
// 0.323467
0x2967
// 0.926933
0x76A6
// 0.091375
0x0BB2
// 0.010397
0x0155
// 0.590343
0x4B90
// 0.238601
0x1E8A
// 0.429035
0x36EB
// 0.278718
0x23AD
// 0.282273
0x2422
// 0.292770
0x2579
// 0.623789
0x4FD8
// 0.104901
0x0D6D
// 0.110762
0x0E2D
// 0.343035
0x2BE9
// 0.499019
0x3FE0
// 0.634864
0x5143
// 0.908547
0x744B
// 0.299526
0x2657
// 0.476442
0x3CFC
// 0.717893
0x5BE4
// 0.521688
0x42C7
// 0.107108
0x0DB6
// 0.444310
0x38DF
// 0.247922
0x1FBC
// 0.203753
0x1A15
// 0.375641
0x3015
// 0.272789
0x22EB
// 0.123187
0x0FC5
// 0.067203
0x089A
// 0.414679
0x3514
// 0.417416
0x356E
// 0.117022
0x0EFB
// 0.219040
0x1C0A
// 0.448386
0x3965
// 0.434809
0x37A8
// 0.241798
0x1EF3
// 0.354687
0x2D66
// 0.108394
0x0DE0
// 0.167340
0x156B
// 0.048004
0x0625
// 0.361519
0x2E46
// 0.109168
0x0DF9
// 0.832027
0x6A80
// 0.148763
0x130B
// 0.533082
0x443C
// 0.182040
0x174D
// 0.232324
0x1DBD
// 0.311930
0x27ED
// 0.529951
0x43D5
// 0.444332
0x38E0
// 0.072313
0x0942
// 0.107032
0x0DB3
// 0.844126
0x6C0C
// 0.076162
0x09C0
// 0.530536
0x43E9
// 0.035505
0x048B
// 0.582870
0x4A9B
// 0.453046
0x39FD
// 0.027292
0x037E
// 0.650348
0x533F
// 0.449243
0x3981
// 0.373117
0x2FC2
// 0.708575
0x5AB3
// 0.356825
0x2DAC
// 0.501794
0x403B
// 0.361931
0x2E54
// 0.278057
0x2397
// 0.052818
0x06C3
// 0.271292
0x22BA
// 0.755504
0x60B4
// 0.069644
0x08EA
// 0.336374
0x2B0E
// 0.008485
0x0116
// 0.389476
0x31DA
// 0.111067
0x0E37
// 0.433042
0x376E
// 0.354857
0x2D6C
// 0.231476
0x1DA1
// 0.209928
0x1ADF
// 0.357198
0x2DB9
// 0.234425
0x1E02
// 0.045420
0x05D0
// 0.048426
0x0633
// 0.526061
0x4356
// 0.054224
0x06F1
// 0.057150
0x0751
// 0.316441
0x2881
// 0.228732
0x1D47
// 0.355833
0x2D8C
// 0.717296
0x5BD0
// 0.577693
0x49F2
// 0.775483
0x6343
// 0.053557
0x06DB
// 0.054334
0x06F4
// 0.276178
0x235A
// 0.291629
0x2554
// 0.462254
0x3B2B
// 0.134097
0x112A
// 0.882540
0x70F7
// 0.005642
0x00B9
// 0.607784
0x4DCC
// 0.722467
0x5C7A
// 0.327353
0x29E7
// 0.255178
0x20AA
// 0.628022
0x5063