You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference4_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.961699
0x7b
// -0.494232
0xc1
// -0.302531
0xd9
// 0.272209
0x23
// -0.177523
0xe9
// -0.527359
0xbc
// 0.380243
0x31
// -0.524309
0xbd
// -0.455291
0xc6
// 0.053627
0x7
// 0.102640
0xd
// -0.036724
0xfb
// -0.032748
0xfc
// 0.616675
0x4f
// -0.652389
0xac
// 0.038413
0x5
// -0.240609
0xe1
// 0.323942
0x29
// -0.409005
0xcc
// -0.513823
0xbe
// -0.203039
0xe6
// -0.547714
0xba
// 0.184587
0x18
// -0.774425
0x9d
// 0.456081
0x3a
// 0.677663
0x57
// 0.404068
0x34
// 0.588400
0x4b
// -0.067917
0xf7
// -0.205010
0xe6
// -0.132869
0xef
// -0.179398
0xe9
// -0.117318
0xf1
// 0.168945
0x16
// -0.048819
0xfa
// 0.212961
0x1b
// -0.449898
0xc6
// -0.444909
0xc7
// -0.110639
0xf2
// -0.406630
0xcc
// -0.544917
0xba
// -0.094393
0xf4
// 0.494758
0x3f
// 0.246667
0x20
// -0.256129
0xdf
// 0.572109
0x49
// 0.722233
0x5c
// -0.579574
0xb6
// -0.418908
0xca
// 0.081306
0xa
// 0.436070
0x38
// 0.285771
0x25
// -0.059462
0xf8
// -0.128085
0xf0
// -0.495905
0xc1
// 0.022717
0x3
// 0.273855
0x23
// -0.492878
0xc1
// 0.406182
0x34
// 0.123781
0x10
// 0.514053
0x42
// 0.111131
0xe
// -0.779729
0x9c
// -0.147250
0xed
// 0.555848
0x47
// 0.422051
0x36
// -0.255001
0xdf
// -0.625345
0xb0
// -0.305747
0xd9
// -0.072751
0xf7
// -0.837122
0x95
// 0.121613
0x10
// -0.623400
0xb0
// -0.849883
0x93
// 0.352876
0x2d
// 0.186617
0x18
// -0.261612
0xdf
// 0.490669
0x3f
// 0.054906
0x7
// 0.824393
0x6a
// -0.427220
0xc9
// 0.480818
0x3e
// 0.926055
0x77
// -0.115167
0xf1
// 0.611721
0x4e
// -0.376814
0xd0
// 0.685199
0x58
// 0.251623
0x20
// -0.079914
0xf6
// 0.186515
0x18
// 0.286876
0x25
// 0.171382
0x16
// 0.368392
0x2f
// 1.030129
0x7f
// -0.095151
0xf4
// -0.360974
0xd2
// -0.590151
0xb4
// 0.194777
0x19
// -0.120058
0xf1
// 0.736154
0x5e
// 0.601716
0x4d
// 0.216590
0x1c
// 0.042021
0x5
// -0.023300
0xfd
// 0.543915
0x46
// -0.256394
0xdf
// 0.742804
0x5f
// -0.127436
0xf0
// -0.211292
0xe5
// -0.229072
0xe3
// -0.177624
0xe9
// 0.136239
0x11
// -0.100661
0xf3
// 0.402520
0x34
// 0.555614
0x47
// -0.232713
0xe2
// -0.536663
0xbb
// -0.713682
0xa5
// 1.019851
0x7f
// -0.309166
0xd8
// 0.320051
0x29
// -0.293778
0xda
// 0.114111
0xf
// 0.718378
0x5c
// -0.707115
0xa5
// -0.787982
0x9b
// -0.968425
0x84
// 0.446781
0x39
// -0.087494
0xf5
// -0.240326
0xe1
// -0.135808
0xef
// -0.045964
0xfa
// 0.163520
0x15
// -0.167623
0xeb
// -0.202561
0xe6
// -0.498268
0xc0
// 0.394554
0x33
// -0.960556
0x85
// 0.345021
0x2c
// 0.203279
0x1a
// 0.188332
0x18
// 0.120720
0xf
// 0.443905
0x39
// 0.071825
0x9
// 0.133639
0x11
// 0.290447
0x25
// 0.448530
0x39
// 0.022137
0x3
// 0.012559
0x2
// -0.971870
0x84
// -0.509792
0xbf
// -0.405037
0xcc
// 0.149223
0x13
// -0.020054
0xfd
// -0.281311
0xdc
// 0.258409
0x21
// 0.693230
0x59
// 0.229410
0x1d
// 0.938781
0x78
// 0.076843
0xa
// 0.624033
0x50
// 0.218088
0x1c
// -0.335481
0xd5
// -0.107877
0xf2
// 0.633110
0x51
// -0.010939
0xff
// -0.485775
0xc2
// 0.186455
0x18
// -0.102892
0xf3
// -0.266691
0xde
// -0.282406
0xdc
// 0.590826
0x4c
// 0.156682
0x14
// 0.453815
0x3a
// 0.676240
0x57
// -0.110348
0xf2
// 0.866935
0x6f
// -0.003255
0x0
// -0.326490
0xd6
// -0.211472
0xe5
// -0.248533
0xe0
// -0.324268
0xd6
// 0.765034
0x62
// -0.144296
0xee
// 0.059933
0x8
// 0.578251
0x4a
// 0.465851
0x3c
// -0.179015
0xe9
// -0.524369
0xbd
// 0.348702
0x2d
// 0.278665
0x24
// -0.381901
0xcf
// 0.531716
0x44
// -0.196335
0xe7
// 0.180153
0x17
// -0.561431
0xb8
// 0.233879
0x1e
// 0.163053
0x15
// -0.007816
0xff
// 0.145667
0x13
// 0.151049
0x13
// -0.294988
0xda
// -0.270504
0xdd
// -0.915169
0x8b
// -0.414278
0xcb
// -0.260942
0xdf
// 0.628525
0x50
// 0.272937
0x23
// 0.179202
0x17
// 0.351474
0x2d
// -0.039123
0xfb
// 0.398276
0x33
// -0.466159
0xc4
// -0.140880
0xee
// -1.000000
0x80
// 0.420527
0x36
// 0.995406
0x7f
// 0.093137
0xc
// -0.444716
0xc7
// 0.456172
0x3a
// -0.146709
0xed
// -0.439091
0xc8
// -0.143718
0xee
// 0.018954
0x2
// 0.317012
0x29
// -0.184861
0xe8
// -0.459883
0xc5
// 0.493859
0x3f
// 0.962717
0x7b
// 0.231500
0x1e
// -0.009801
0xff
// 0.296984
0x26
// -0.439494
0xc8
// -0.394427
0xce
// 0.405081
0x34
// 0.383634
0x31
// -0.377644
0xd0
// 0.915626
0x75
// -0.596787
0xb4
// 0.148876
0x13
// -0.934069
0x88
// -0.315758
0xd8
// -0.550597
0xba
// -0.342042
0xd4
// 0.291308
0x25
// 0.901065
0x73
// -0.286970
0xdb
// 0.091896
0xc
// 0.380823
0x31
// -0.845868
0x94
// 0.124636
0x10
// -0.327943
0xd6
// -0.083522
0xf5
// -0.179570
0xe9
// 0.374909
0x30
// -0.517543
0xbe