You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference10_q7.txt

515 lines
4.2 KiB
Plaintext

B
256
// 0.961699
0x7b
// 0.494232
0x3f
// 0.302531
0x27
// 0.272209
0x23
// 0.177523
0x17
// 0.527359
0x44
// 0.380243
0x31
// 0.524309
0x43
// 0.455291
0x3a
// 0.053627
0x7
// 0.102640
0xd
// 0.036724
0x5
// 0.032748
0x4
// 0.616675
0x4f
// 0.652389
0x54
// 0.038413
0x5
// 0.240609
0x1f
// 0.323942
0x29
// 0.409005
0x34
// 0.513823
0x42
// 0.203039
0x1a
// 0.547714
0x46
// 0.184587
0x18
// 0.774425
0x63
// 0.456081
0x3a
// 0.677663
0x57
// 0.404068
0x34
// 0.588400
0x4b
// 0.067917
0x9
// 0.205010
0x1a
// 0.132869
0x11
// 0.179398
0x17
// 0.117318
0xf
// 0.168945
0x16
// 0.048819
0x6
// 0.212961
0x1b
// 0.449898
0x3a
// 0.444909
0x39
// 0.110639
0xe
// 0.406630
0x34
// 0.544917
0x46
// 0.094393
0xc
// 0.494758
0x3f
// 0.246667
0x20
// 0.256129
0x21
// 0.572109
0x49
// 0.722233
0x5c
// 0.579574
0x4a
// 0.418908
0x36
// 0.081306
0xa
// 0.436070
0x38
// 0.285771
0x25
// 0.059462
0x8
// 0.128085
0x10
// 0.495905
0x3f
// 0.022717
0x3
// 0.273855
0x23
// 0.492878
0x3f
// 0.406182
0x34
// 0.123781
0x10
// 0.514053
0x42
// 0.111131
0xe
// 0.779729
0x64
// 0.147250
0x13
// 0.555848
0x47
// 0.422051
0x36
// 0.255001
0x21
// 0.625345
0x50
// 0.305747
0x27
// 0.072751
0x9
// 0.837122
0x6b
// 0.121613
0x10
// 0.623400
0x50
// 0.849883
0x6d
// 0.352876
0x2d
// 0.186617
0x18
// 0.261612
0x21
// 0.490669
0x3f
// 0.054906
0x7
// 0.824393
0x6a
// 0.427220
0x37
// 0.480818
0x3e
// 0.926055
0x77
// 0.115167
0xf
// 0.611721
0x4e
// 0.376814
0x30
// 0.685199
0x58
// 0.251623
0x20
// 0.079914
0xa
// 0.186515
0x18
// 0.286876
0x25
// 0.171382
0x16
// 0.368392
0x2f
// 1.030129
0x7f
// 0.095151
0xc
// 0.360974
0x2e
// 0.590151
0x4c
// 0.194777
0x19
// 0.120058
0xf
// 0.736154
0x5e
// 0.601716
0x4d
// 0.216590
0x1c
// 0.042021
0x5
// 0.023300
0x3
// 0.543915
0x46
// 0.256394
0x21
// 0.742804
0x5f
// 0.127436
0x10
// 0.211292
0x1b
// 0.229072
0x1d
// 0.177624
0x17
// 0.136239
0x11
// 0.100661
0xd
// 0.402520
0x34
// 0.555614
0x47
// 0.232713
0x1e
// 0.536663
0x45
// 0.713682
0x5b
// 1.019851
0x7f
// 0.309166
0x28
// 0.320051
0x29
// 0.293778
0x26
// 0.114111
0xf
// 0.718378
0x5c
// 0.707115
0x5b
// 0.787982
0x65
// 0.968425
0x7c
// 0.446781
0x39
// 0.087494
0xb
// 0.240326
0x1f
// 0.135808
0x11
// 0.045964
0x6
// 0.163520
0x15
// 0.167623
0x15
// 0.202561
0x1a
// 0.498268
0x40
// 0.394554
0x33
// 0.960556
0x7b
// 0.345021
0x2c
// 0.203279
0x1a
// 0.188332
0x18
// 0.120720
0xf
// 0.443905
0x39
// 0.071825
0x9
// 0.133639
0x11
// 0.290447
0x25
// 0.448530
0x39
// 0.022137
0x3
// 0.012559
0x2
// 0.971870
0x7c
// 0.509792
0x41
// 0.405037
0x34
// 0.149223
0x13
// 0.020054
0x3
// 0.281311
0x24
// 0.258409
0x21
// 0.693230
0x59
// 0.229410
0x1d
// 0.938781
0x78
// 0.076843
0xa
// 0.624033
0x50
// 0.218088
0x1c
// 0.335481
0x2b
// 0.107877
0xe
// 0.633110
0x51
// 0.010939
0x1
// 0.485775
0x3e
// 0.186455
0x18
// 0.102892
0xd
// 0.266691
0x22
// 0.282406
0x24
// 0.590826
0x4c
// 0.156682
0x14
// 0.453815
0x3a
// 0.676240
0x57
// 0.110348
0xe
// 0.866935
0x6f
// 0.003255
0x0
// 0.326490
0x2a
// 0.211472
0x1b
// 0.248533
0x20
// 0.324268
0x2a
// 0.765034
0x62
// 0.144296
0x12
// 0.059933
0x8
// 0.578251
0x4a
// 0.465851
0x3c
// 0.179015
0x17
// 0.524369
0x43
// 0.348702
0x2d
// 0.278665
0x24
// 0.381901
0x31
// 0.531716
0x44
// 0.196335
0x19
// 0.180153
0x17
// 0.561431
0x48
// 0.233879
0x1e
// 0.163053
0x15
// 0.007816
0x1
// 0.145667
0x13
// 0.151049
0x13
// 0.294988
0x26
// 0.270504
0x23
// 0.915169
0x75
// 0.414278
0x35
// 0.260942
0x21
// 0.628525
0x50
// 0.272937
0x23
// 0.179202
0x17
// 0.351474
0x2d
// 0.039123
0x5
// 0.398276
0x33
// 0.466159
0x3c
// 0.140880
0x12
// 1.000000
0x7f
// 0.420527
0x36
// 0.995406
0x7f
// 0.093137
0xc
// 0.444716
0x39
// 0.456172
0x3a
// 0.146709
0x13
// 0.439091
0x38
// 0.143718
0x12
// 0.018954
0x2
// 0.317012
0x29
// 0.184861
0x18
// 0.459883
0x3b
// 0.493859
0x3f
// 0.962717
0x7b
// 0.231500
0x1e
// 0.009801
0x1
// 0.296984
0x26
// 0.439494
0x38
// 0.394427
0x32
// 0.405081
0x34
// 0.383634
0x31
// 0.377644
0x30
// 0.915626
0x75
// 0.596787
0x4c
// 0.148876
0x13
// 0.934069
0x78
// 0.315758
0x28
// 0.550597
0x46
// 0.342042
0x2c
// 0.291308
0x25
// 0.901065
0x73
// 0.286970
0x25
// 0.091896
0xc
// 0.380823
0x31
// 0.845868
0x6c
// 0.124636
0x10
// 0.327943
0x2a
// 0.083522
0xb
// 0.179570
0x17
// 0.374909
0x30
// 0.517543
0x42