You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference5_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// -0.461699
0xc5
// 0.994232
0x7f
// 0.802531
0x67
// 0.227791
0x1d
// 0.677523
0x57
// 1.027359
0x7f
// 0.119757
0xf
// 1.024309
0x7f
// 0.955291
0x7a
// 0.446373
0x39
// 0.397360
0x33
// 0.536724
0x45
// 0.532748
0x44
// -0.116675
0xf1
// 1.152389
0x7f
// 0.461587
0x3b
// 0.740609
0x5f
// 0.176058
0x17
// 0.909005
0x74
// 1.013823
0x7f
// 0.703039
0x5a
// 1.047714
0x7f
// 0.315413
0x28
// 1.274425
0x7f
// 0.043919
0x6
// -0.177663
0xe9
// 0.095932
0xc
// -0.088400
0xf5
// 0.567917
0x49
// 0.705010
0x5a
// 0.632869
0x51
// 0.679398
0x57
// 0.617318
0x4f
// 0.331055
0x2a
// 0.548819
0x46
// 0.287039
0x25
// 0.949898
0x7a
// 0.944909
0x79
// 0.610639
0x4e
// 0.906630
0x74
// 1.044917
0x7f
// 0.594393
0x4c
// 0.005242
0x1
// 0.253333
0x20
// 0.756129
0x61
// -0.072109
0xf7
// -0.222233
0xe4
// 1.079574
0x7f
// 0.918908
0x76
// 0.418694
0x36
// 0.063930
0x8
// 0.214229
0x1b
// 0.559462
0x48
// 0.628085
0x50
// 0.995905
0x7f
// 0.477283
0x3d
// 0.226145
0x1d
// 0.992878
0x7f
// 0.093818
0xc
// 0.376219
0x30
// -0.014053
0xfe
// 0.388869
0x32
// 1.279729
0x7f
// 0.647250
0x53
// -0.055848
0xf9
// 0.077949
0xa
// 0.755001
0x61
// 1.125345
0x7f
// 0.805747
0x67
// 0.572751
0x49
// 1.337122
0x7f
// 0.378387
0x30
// 1.123400
0x7f
// 1.349883
0x7f
// 0.147124
0x13
// 0.313383
0x28
// 0.761612
0x61
// 0.009331
0x1
// 0.445094
0x39
// -0.324393
0xd6
// 0.927220
0x77
// 0.019182
0x2
// -0.426055
0xc9
// 0.615167
0x4f
// -0.111721
0xf2
// 0.876814
0x70
// -0.185199
0xe8
// 0.248377
0x20
// 0.579914
0x4a
// 0.313485
0x28
// 0.213124
0x1b
// 0.328618
0x2a
// 0.131608
0x11
// -0.530129
0xbc
// 0.595151
0x4c
// 0.860974
0x6e
// 1.090151
0x7f
// 0.305223
0x27
// 0.620058
0x4f
// -0.236154
0xe2
// -0.101716
0xf3
// 0.283410
0x24
// 0.457979
0x3b
// 0.523300
0x43
// -0.043915
0xfa
// 0.756394
0x61
// -0.242804
0xe1
// 0.627436
0x50
// 0.711292
0x5b
// 0.729072
0x5d
// 0.677624
0x57
// 0.363761
0x2f
// 0.600661
0x4d
// 0.097480
0xc
// -0.055614
0xf9
// 0.732713
0x5e
// 1.036663
0x7f
// 1.213682
0x7f
// -0.519851
0xbd
// 0.809166
0x68
// 0.179949
0x17
// 0.793778
0x66
// 0.385889
0x31
// -0.218378
0xe4
// 1.207115
0x7f
// 1.287982
0x7f
// 1.468425
0x7f
// 0.053219
0x7
// 0.587494
0x4b
// 0.740326
0x5f
// 0.635808
0x51
// 0.545964
0x46
// 0.336480
0x2b
// 0.667623
0x55
// 0.702561
0x5a
// 0.998268
0x7f
// 0.105446
0xd
// 1.460556
0x7f
// 0.154979
0x14
// 0.296721
0x26
// 0.311668
0x28
// 0.379280
0x31
// 0.056095
0x7
// 0.428175
0x37
// 0.366361
0x2f
// 0.209553
0x1b
// 0.051470
0x7
// 0.477863
0x3d
// 0.487441
0x3e
// 1.471870
0x7f
// 1.009792
0x7f
// 0.905037
0x74
// 0.350777
0x2d
// 0.520054
0x43
// 0.781311
0x64
// 0.241591
0x1f
// -0.193230
0xe7
// 0.270590
0x23
// -0.438781
0xc8
// 0.423157
0x36
// -0.124033
0xf0
// 0.281912
0x24
// 0.835481
0x6b
// 0.607877
0x4e
// -0.133110
0xef
// 0.510939
0x41
// 0.985775
0x7e
// 0.313545
0x28
// 0.602892
0x4d
// 0.766691
0x62
// 0.782406
0x64
// -0.090826
0xf4
// 0.343318
0x2c
// 0.046185
0x6
// -0.176240
0xe9
// 0.610348
0x4e
// -0.366935
0xd1
// 0.503255
0x40
// 0.826490
0x6a
// 0.711472
0x5b
// 0.748533
0x60
// 0.824268
0x6a
// -0.265034
0xde
// 0.644296
0x52
// 0.440067
0x38
// -0.078251
0xf6
// 0.034149
0x4
// 0.679015
0x57
// 1.024369
0x7f
// 0.151298
0x13
// 0.221335
0x1c
// 0.881901
0x71
// -0.031716
0xfc
// 0.696335
0x59
// 0.319847
0x29
// 1.061431
0x7f
// 0.266121
0x22
// 0.336947
0x2b
// 0.507816
0x41
// 0.354333
0x2d
// 0.348951
0x2d
// 0.794988
0x66
// 0.770504
0x63
// 1.415169
0x7f
// 0.914278
0x75
// 0.760942
0x61
// -0.128525
0xf0
// 0.227063
0x1d
// 0.320798
0x29
// 0.148526
0x13
// 0.539123
0x45
// 0.101724
0xd
// 0.966159
0x7c
// 0.640880
0x52
// 1.500000
0x7f
// 0.079473
0xa
// -0.495406
0xc1
// 0.406863
0x34
// 0.944716
0x79
// 0.043828
0x6
// 0.646709
0x53
// 0.939091
0x78
// 0.643718
0x52
// 0.481046
0x3e
// 0.182988
0x17
// 0.684861
0x58
// 0.959883
0x7b
// 0.006141
0x1
// -0.462717
0xc5
// 0.268500
0x22
// 0.509801
0x41
// 0.203016
0x1a
// 0.939494
0x78
// 0.894427
0x72
// 0.094919
0xc
// 0.116366
0xf
// 0.877644
0x70
// -0.415626
0xcb
// 1.096787
0x7f
// 0.351124
0x2d
// 1.434069
0x7f
// 0.815758
0x68
// 1.050597
0x7f
// 0.842042
0x6c
// 0.208692
0x1b
// -0.401065
0xcd
// 0.786970
0x65
// 0.408104
0x34
// 0.119177
0xf
// 1.345868
0x7f
// 0.375364
0x30
// 0.827943
0x6a
// 0.583522
0x4b
// 0.679570
0x57
// 0.125091
0x10
// 1.017543
0x7f