You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -1.248369
0x80
// 0.641556
0x52
// 0.392711
0x32
// -0.353351
0xd3
// 0.230441
0x1d
// 0.684557
0x58
// -0.493589
0xc1
// 0.680599
0x57
// 0.591008
0x4c
// -0.069613
0xf7
// -0.133235
0xef
// 0.047671
0x6
// 0.042510
0x5
// -0.800498
0x9a
// 0.846857
0x6c
// -0.049864
0xfa
// 0.312332
0x28
// -0.420505
0xca
// 0.530924
0x44
// 0.666987
0x55
// 0.263562
0x22
// 0.710981
0x5b
// -0.239611
0xe1
// 1.005271
0x7f
// -0.592032
0xb4
// -0.879665
0x8f
// -0.524516
0xbd
// -0.763794
0x9e
// 0.088162
0xb
// 0.266121
0x22
// 0.172475
0x16
// 0.232874
0x1e
// 0.152290
0x13
// -0.219305
0xe4
// 0.063371
0x8
// -0.276442
0xdd
// 0.584007
0x4b
// 0.577530
0x4a
// 0.143619
0x12
// 0.527841
0x44
// 0.707350
0x5b
// 0.122531
0x10
// -0.642238
0xae
// -0.320195
0xd7
// 0.332477
0x2b
// -0.742647
0xa1
// -0.937521
0x88
// 0.752338
0x60
// 0.543780
0x46
// -0.105542
0xf2
// -0.566057
0xb8
// -0.370955
0xd1
// 0.077187
0xa
// 0.166266
0x15
// 0.643728
0x52
// -0.029489
0xfc
// -0.355488
0xd2
// 0.639798
0x52
// -0.527259
0xbd
// -0.160679
0xeb
// -0.667286
0xab
// -0.144258
0xee
// 1.012156
0x7f
// 0.191144
0x18
// -0.721539
0xa4
// -0.547859
0xba
// 0.331014
0x2a
// 0.811752
0x68
// 0.396886
0x33
// 0.094437
0xc
// 1.086658
0x7f
// -0.157865
0xec
// 0.809227
0x68
// 1.103222
0x7f
// -0.458064
0xc5
// -0.242246
0xe1
// 0.339595
0x2b
// -0.636931
0xae
// -0.071273
0xf7
// -1.070133
0x80
// 0.554569
0x47
// -0.624143
0xb0
// -1.202100
0x80
// 0.149496
0x13
// -0.794067
0x9a
// 0.489138
0x3f
// -0.889448
0x8e
// -0.326629
0xd6
// 0.103736
0xd
// -0.242113
0xe1
// -0.372391
0xd0
// -0.222468
0xe4
// -0.478205
0xc3
// -1.337198
0x80
// 0.123514
0x10
// 0.468575
0x3c
// 0.766068
0x62
// -0.252837
0xe0
// 0.155846
0x14
// -0.955592
0x86
// -0.781079
0x9c
// -0.281152
0xdc
// -0.054547
0xf9
// 0.030245
0x4
// -0.706049
0xa6
// 0.332821
0x2b
// -0.964225
0x85
// 0.165423
0x15
// 0.274275
0x23
// 0.297356
0x26
// 0.230572
0x1e
// -0.176850
0xe9
// 0.130667
0x11
// -0.522506
0xbd
// -0.721235
0xa4
// 0.302082
0x27
// 0.696636
0x59
// 0.926422
0x77
// -1.323855
0x80
// 0.401324
0x33
// -0.415454
0xcb
// 0.381349
0x31
// -0.148126
0xed
// -0.932517
0x89
// 0.917897
0x75
// 1.022869
0x7f
// 1.257100
0x7f
// -0.579961
0xb6
// 0.113575
0xf
// 0.311965
0x28
// 0.176291
0x17
// 0.059665
0x8
// -0.212263
0xe5
// 0.217589
0x1c
// 0.262942
0x22
// 0.646795
0x53
// -0.512166
0xbe
// 1.246885
0x7f
// -0.447867
0xc7
// -0.263874
0xde
// -0.244472
0xe1
// -0.156705
0xec
// -0.576228
0xb6
// -0.093235
0xf4
// -0.173475
0xea
// -0.377025
0xd0
// -0.582231
0xb5
// -0.028736
0xfc
// -0.016303
0xfe
// 1.261572
0x7f
// 0.661755
0x55
// 0.525773
0x43
// -0.193704
0xe7
// 0.026032
0x3
// 0.365167
0x2f
// -0.335438
0xd5
// -0.899873
0x8d
// -0.297794
0xda
// -1.218619
0x80
// -0.099749
0xf3
// -0.810049
0x98
// -0.283097
0xdc
// 0.435484
0x38
// 0.140033
0x12
// -0.821832
0x97
// 0.014200
0x2
// 0.630578
0x51
// -0.242035
0xe1
// 0.133563
0x11
// 0.346188
0x2c
// 0.366588
0x2f
// -0.766944
0x9e
// -0.203386
0xe6
// -0.589091
0xb5
// -0.877819
0x90
// 0.143241
0x12
// -1.125357
0x80
// 0.004226
0x1
// 0.423812
0x36
// 0.274508
0x23
// 0.322618
0x29
// 0.420927
0x36
// -0.993081
0x81
// 0.187308
0x18
// -0.077798
0xf6
// -0.750620
0xa0
// -0.604715
0xb3
// 0.232377
0x1e
// 0.680676
0x57
// -0.452646
0xc6
// -0.361731
0xd2
// 0.495741
0x3f
// -0.690213
0xa8
// 0.254860
0x21
// -0.233854
0xe2
// 0.728787
0x5d
// -0.303595
0xd9
// -0.211657
0xe5
// 0.010145
0x1
// -0.189088
0xe8
// -0.196074
0xe7
// 0.382920
0x31
// 0.351137
0x2d
// 1.187969
0x7f
// 0.537769
0x45
// 0.338725
0x2b
// -0.815880
0x98
// -0.354295
0xd3
// -0.232620
0xe2
// -0.456243
0xc6
// 0.050785
0x7
// -0.516997
0xbe
// 0.605115
0x4d
// 0.182875
0x17
// 1.298087
0x7f
// -0.545881
0xba
// -1.292124
0x80
// -0.120899
0xf1
// 0.577280
0x4a
// -0.592152
0xb4
// 0.190441
0x18
// 0.569979
0x49
// 0.186559
0x18
// -0.024604
0xfd
// -0.411510
0xcb
// 0.239966
0x1f
// 0.596968
0x4c
// -0.641072
0xae
// -1.249690
0x80
// -0.300507
0xda
// 0.012722
0x2
// -0.385511
0xcf
// 0.570502
0x49
// 0.512001
0x42
// -0.525830
0xbd
// -0.497991
0xc0
// 0.490214
0x3f
// -1.188562
0x80
// 0.774682
0x63
// -0.193254
0xe7
// 1.212503
0x7f
// 0.409881
0x34
// 0.714723
0x5b
// 0.444000
0x39
// -0.378144
0xd0
// -1.169661
0x80
// 0.372513
0x30
// -0.119289
0xf1
// -0.494341
0xc1
// 1.098010
0x7f
// -0.161788
0xeb
// 0.425699
0x36
// 0.108419
0xe
// 0.233098
0x1e
// -0.486665
0xc2
// 0.671816
0x56