You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference10_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.064504
0x08
// 0.038618
0x05
// 0.134938
0x11
// 0.412120
0x35
// 0.107334
0x0E
// 0.429152
0x37
// 0.216174
0x1C
// 0.393623
0x32
// 0.200205
0x1A
// 0.725092
0x5D
// 0.122122
0x10
// 0.011724
0x02
// 0.108062
0x0E
// 0.226710
0x1D
// 0.310394
0x28
// 0.093970
0x0C
// 0.146297
0x13
// 0.647514
0x53
// 0.321058
0x29
// 0.006182
0x01
// 0.543564
0x46
// 0.227122
0x1D
// 0.488105
0x3E
// 0.040977
0x05
// 0.460714
0x3B
// 0.526423
0x43
// 0.052460
0x07
// 0.023040
0x03
// 0.033904
0x04
// 0.461909
0x3B
// 0.065347
0x08
// 0.081416
0x0A
// 0.438266
0x38
// 0.595147
0x4C
// 0.435188
0x38
// 0.442872
0x39
// 0.042600
0x05
// 0.077096
0x0A
// 0.432735
0x37
// 0.303713
0x27
// 0.250513
0x20
// 0.235866
0x1E
// 0.466069
0x3C
// 0.521251
0x43
// 0.376633
0x30
// 0.693767
0x59
// 0.851114
0x6D
// 0.435568
0x38
// 0.067128
0x09
// 0.219973
0x1C
// 0.473585
0x3D
// 0.370331
0x2F
// 0.427695
0x37
// 0.941047
0x78
// 0.316314
0x28
// 0.044823
0x06
// 0.384565
0x31
// 0.347998
0x2D
// 1.197130
0x7F
// 0.111254
0x0E
// 0.279326
0x24
// 0.069406
0x09
// 0.208642
0x1B
// 0.208107
0x1B
// 0.151352
0x13
// 0.751035
0x60
// 0.335269
0x2B
// 0.246557
0x20
// 0.250553
0x20
// 0.376258
0x30
// 0.605301
0x4D
// 0.149927
0x13
// 0.612689
0x4E
// 0.371932
0x30
// 0.424456
0x36
// 0.765073
0x62
// 0.826120
0x6A
// 0.133613
0x11
// 0.206522
0x1A
// 0.347441
0x2C
// 0.172705
0x16
// 0.158355
0x14
// 0.065367
0x08
// 0.047219
0x06
// 0.473322
0x3D
// 0.271835
0x23
// 0.586379
0x4B
// 0.348519
0x2D
// 0.345412
0x2C
// 0.424447
0x36
// 0.742072
0x5F
// 0.260261
0x21
// 0.182812
0x17
// 0.501146
0x40
// 0.280502
0x24
// 0.388547
0x32
// 0.270734
0x23
// 0.427262
0x37
// 0.452370
0x3A
// 0.114904
0x0F
// 0.087935
0x0B
// 0.727075
0x5D
// 0.144296
0x12
// 0.418374
0x36
// 0.071969
0x09
// 0.356838
0x2E
// 0.598902
0x4D
// 0.597668
0x4D
// 0.595917
0x4C
// 0.633023
0x51
// 0.198493
0x19
// 0.192610
0x19
// 0.137411
0x12
// 0.045657
0x06
// 0.621840
0x50
// 0.062126
0x08
// 0.358506
0x2E
// 0.187394
0x18
// 0.564762
0x48
// 0.000383
0x00
// 0.177814
0x17
// 0.195669
0x19
// 0.035452
0x05
// 0.143186
0x12
// 0.475629
0x3D
// 0.005958
0x01
// 0.653965
0x54
// 0.168804
0x16
// 0.205534
0x1A
// 0.324412
0x2A
// 0.187840
0x18
// 0.357831
0x2E
// 0.629256
0x51
// 0.255969
0x21
// 0.200147
0x1A
// 0.236371
0x1E
// 0.021661
0x03
// 0.505940
0x41
// 0.305937
0x27
// 0.487343
0x3E
// 0.486194
0x3E
// 0.424948
0x36
// 0.193087
0x19
// 0.245591
0x1F
// 0.233789
0x1E
// 0.455008
0x3A
// 0.192975
0x19
// 0.219672
0x1C
// 0.130071
0x11
// 0.519996
0x43
// 0.081376
0x0A
// 0.772292
0x63
// 0.462080
0x3B
// 0.522259
0x43
// 0.105987
0x0E
// 0.220321
0x1C
// 0.247525
0x20
// 0.379245
0x31
// 0.428323
0x37
// 0.009855
0x01
// 0.680678
0x57
// 0.008104
0x01
// 0.025094
0x03
// 0.338450
0x2B
// 0.244032
0x1F
// 0.144599
0x13
// 0.131374
0x11
// 0.257092
0x21
// 0.273798
0x23
// 0.145712
0x13
// 0.110356
0x0E
// 0.327745
0x2A
// 0.253353
0x20
// 0.111199
0x0E
// 0.240744
0x1F
// 0.144093
0x12
// 0.354764
0x2D
// 0.189924
0x18
// 0.342458
0x2C
// 0.160628
0x15
// 0.338155
0x2B
// 0.097147
0x0C
// 0.400439
0x33
// 0.171362
0x16
// 0.050234
0x06
// 0.586291
0x4B
// 0.034696
0x04
// 0.555113
0x47
// 0.690007
0x58
// 0.208595
0x1B
// 0.496546
0x40
// 0.199400
0x1A
// 0.372547
0x30
// 0.824400
0x6A
// 0.785463
0x65
// 0.188496
0x18
// 0.155146
0x14
// 0.269279
0x22
// 0.489043
0x3F
// 0.179157
0x17
// 0.279587
0x24
// 0.022267
0x03
// 0.287715
0x25
// 0.205079
0x1A
// 0.183432
0x17
// 0.179550
0x17
// 0.612290
0x4E
// 0.251050
0x20
// 0.169390
0x16
// 0.222262
0x1C
// 0.515698
0x42
// 0.152385
0x14
// 0.367243
0x2F
// 0.363002
0x2E
// 0.315727
0x28
// 1.000000
0x7F
// 0.143107
0x12
// 0.260282
0x21
// 0.844910
0x6C
// 0.029188
0x04
// 0.424648
0x36
// 0.539110
0x45
// 0.090689
0x0C
// 0.083859
0x0B
// 0.097590
0x0C
// 0.393123
0x32
// 0.290042
0x25
// 0.284734
0x24
// 0.131279
0x11
// 0.214582
0x1B
// 0.149166
0x13
// 0.236073
0x1E
// 0.369931
0x2F
// 0.261667
0x21
// 0.154880
0x14
// 0.028917
0x04
// 0.238166
0x1E
// 0.337141
0x2B
// 0.314773
0x28
// 0.391832
0x32
// 0.245761
0x1F
// 0.349732
0x2D
// 0.265659
0x22
// 0.770000
0x63
// 0.496721
0x40
// 0.163168
0x15
// 0.361557
0x2E
// 0.195600
0x19
// 0.027101
0x03
// 0.470655
0x3C
// 0.160672
0x15
// 0.148270
0x13
// 0.500722
0x40
// 0.078598
0x0A
// 0.097275
0x0C
// 0.838979
0x6B