You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference10_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.636825
0x52
// 0.004657
0x01
// 0.553197
0x47
// 0.249754
0x20
// 0.711957
0x5B
// 0.021470
0x03
// 0.033359
0x04
// 0.533272
0x44
// 0.086300
0x0B
// 0.416506
0x35
// 0.327332
0x2A
// 0.196897
0x19
// 0.238045
0x1E
// 0.308735
0x28
// 0.008171
0x01
// 0.135554
0x11
// 0.480549
0x3E
// 0.345736
0x2C
// 0.035158
0x05
// 0.393296
0x32
// 0.641124
0x52
// 0.071169
0x09
// 0.514388
0x42
// 0.088704
0x0B
// 0.283409
0x24
// 0.043266
0x06
// 0.263584
0x22
// 0.327551
0x2A
// 0.092109
0x0C
// 0.197349
0x19
// 0.105366
0x0D
// 0.323517
0x29
// 0.127344
0x10
// 0.194356
0x19
// 0.093948
0x0C
// 0.434972
0x38
// 0.539999
0x45
// 0.232746
0x1E
// 0.035510
0x05
// 0.671863
0x56
// 0.528622
0x44
// 0.746874
0x60
// 0.352158
0x2D
// 0.257167
0x21
// 0.220427
0x1C
// 0.124926
0x10
// 0.358991
0x2E
// 0.287092
0x25
// 0.090284
0x0C
// 0.114571
0x0F
// 0.445322
0x39
// 0.197283
0x19
// 0.298042
0x26
// 0.541648
0x45
// 0.375692
0x30
// 0.063793
0x08
// 0.543143
0x46
// 0.054247
0x07
// 0.131181
0x11
// 0.980847
0x7E
// 0.194666
0x19
// 0.233469
0x1E
// 0.214708
0x1B
// 0.076314
0x0A
// 0.242512
0x1F
// 0.265889
0x22
// 0.137046
0x12
// 0.126632
0x10
// 0.148391
0x13
// 0.041788
0x05
// 0.509708
0x41
// 0.119746
0x0F
// 0.458104
0x3B
// 0.075634
0x0A
// 0.056336
0x07
// 0.539364
0x45
// 0.207240
0x1B
// 0.219753
0x1C
// 0.156680
0x14
// 0.395679
0x33
// 0.214156
0x1B
// 0.149636
0x13
// 0.105038
0x0D
// 0.158140
0x14
// 0.003813
0x00
// 0.135498
0x11
// 0.140009
0x12
// 0.300506
0x26
// 0.194917
0x19
// 0.141341
0x12
// 0.590113
0x4C
// 0.083204
0x0B
// 0.663438
0x55
// 0.155004
0x14
// 0.076650
0x0A
// 0.068183
0x09
// 0.166023
0x15
// 0.413039
0x35
// 0.439172
0x38
// 0.093450
0x0C
// 0.421448
0x36
// 0.391809
0x32
// 0.018629
0x02
// 0.303356
0x27
// 0.242239
0x1F
// 0.003191
0x00
// 0.553427
0x47
// 0.720694
0x5C
// 0.218109
0x1C
// 0.442209
0x39
// 0.253588
0x20
// 0.206894
0x1A
// 0.073522
0x09
// 0.649432
0x53
// 0.107605
0x0E
// 0.373865
0x30
// 0.277467
0x24
// 0.637342
0x52
// 0.089627
0x0B
// 0.017335
0x02
// 0.236007
0x1E
// 0.209453
0x1B
// 0.229762
0x1D
// 0.248548
0x20
// 0.498813
0x40
// 0.169834
0x16
// 0.163534
0x15
// 0.414053
0x35
// 0.673520
0x56
// 0.378736
0x30
// 0.095019
0x0C
// 0.839672
0x6B
// 0.035799
0x05
// 0.042050
0x05
// 0.341397
0x2C
// 0.177794
0x17
// 0.423697
0x36
// 0.085817
0x0B
// 0.299843
0x26
// 0.002204
0x00
// 0.697897
0x59
// 0.274167
0x23
// 0.557229
0x47
// 0.460916
0x3B
// 0.252515
0x20
// 0.956139
0x7A
// 0.418407
0x36
// 0.298450
0x26
// 0.464166
0x3B
// 0.440453
0x38
// 0.418816
0x36
// 0.384892
0x31
// 0.372239
0x30
// 0.651395
0x53
// 0.035804
0x05
// 0.196316
0x19
// 0.054497
0x07
// 0.090274
0x0C
// 0.511802
0x42
// 0.147724
0x13
// 0.428838
0x37
// 0.348730
0x2D
// 0.180973
0x17
// 0.499845
0x40
// 0.105397
0x0D
// 0.262286
0x22
// 0.385859
0x31
// 0.296453
0x26
// 0.795624
0x66
// 0.834699
0x6B
// 0.230902
0x1E
// 0.221696
0x1C
// 0.000177
0x00
// 0.128044
0x10
// 0.154472
0x14
// 0.559411
0x48
// 0.335226
0x2B
// 0.307016
0x27
// 0.087791
0x0B
// 0.275226
0x23
// 0.150765
0x13
// 0.964205
0x7B
// 0.349264
0x2D
// 0.261585
0x21
// 0.398042
0x33
// 0.373101
0x30
// 0.422865
0x36
// 0.456131
0x3A
// 0.030605
0x04
// 0.292683
0x25
// 0.335947
0x2B
// 0.251256
0x20
// 0.257193
0x21
// 0.290428
0x25
// 0.249111
0x20
// 0.245568
0x1F
// 0.778931
0x64
// 0.126308
0x10
// 0.886404
0x71
// 0.106907
0x0E
// 0.535866
0x45
// 0.245924
0x1F
// 0.448130
0x39
// 1.000000
0x7F
// 0.537302
0x45
// 0.076564
0x0A
// 0.439496
0x38
// 0.519528
0x42
// 0.013081
0x02
// 0.437981
0x38
// 0.170323
0x16
// 0.768535
0x62
// 0.234060
0x1E
// 0.463784
0x3B
// 0.020328
0x03
// 0.220122
0x1C
// 0.075443
0x0A
// 0.866429
0x6F
// 0.165782
0x15
// 0.127951
0x10
// 0.666655
0x55
// 0.830530
0x6A
// 0.174658
0x16
// 0.107966
0x0E
// 0.104614
0x0D
// 0.468005
0x3C
// 0.193459
0x19
// 0.106277
0x0E
// 0.669885
0x56
// 0.403220
0x34
// 0.224877
0x1D
// 0.147636
0x13
// 0.533734
0x44
// 0.190918
0x18
// 0.107731
0x0E
// 0.131274
0x11
// 0.356312
0x2E
// 0.266808
0x22
// 0.530004
0x44
// 0.509502
0x41
// 0.344085
0x2C
// 0.356264
0x2E
// 0.909033
0x74
// 0.012933
0x02
// 0.172036
0x16
// 0.046318
0x06
// 0.168400
0x16
// 0.537440
0x45
// 0.413088
0x35
// 0.263713
0x22
// 0.207379
0x1B
// 0.104192
0x0D
// 0.119744
0x0F
// 0.264112
0x22
// 0.416603
0x35
// 0.073356
0x09