You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference2_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// -0.675029
0xaa
// 0.346908
0x2c
// 0.212350
0x1b
// -0.191067
0xe8
// 0.124606
0x10
// 0.370160
0x2f
// -0.266898
0xde
// 0.368019
0x2f
// 0.319575
0x29
// -0.037642
0xfb
// -0.072044
0xf7
// 0.025777
0x3
// 0.022986
0x3
// -0.432852
0xc9
// 0.457920
0x3b
// -0.026963
0xfd
// 0.168887
0x16
// -0.227379
0xe3
// 0.287086
0x25
// 0.360659
0x2e
// 0.142516
0x12
// 0.384448
0x31
// -0.129564
0xef
// 0.543579
0x46
// -0.320129
0xd7
// -0.475660
0xc3
// -0.283621
0xdc
// -0.413006
0xcb
// 0.047672
0x6
// 0.143899
0x12
// 0.093262
0xc
// 0.125922
0x10
// 0.082347
0xb
// -0.118584
0xf1
// 0.034267
0x4
// -0.149480
0xed
// 0.315789
0x28
// 0.312287
0x28
// 0.077659
0xa
// 0.285419
0x25
// 0.382484
0x31
// 0.066256
0x8
// -0.347277
0xd4
// -0.173139
0xea
// 0.179780
0x17
// -0.401570
0xcd
// -0.506944
0xbf
// 0.406810
0x34
// 0.294037
0x26
// -0.057070
0xf9
// -0.306083
0xd9
// -0.200586
0xe6
// 0.041737
0x5
// 0.089905
0xc
// 0.348082
0x2d
// -0.015946
0xfe
// -0.192223
0xe7
// 0.345957
0x2c
// -0.285104
0xdc
// -0.086884
0xf5
// -0.360820
0xd2
// -0.078004
0xf6
// 0.547302
0x46
// 0.103357
0xd
// -0.390157
0xce
// -0.296243
0xda
// 0.178989
0x17
// 0.438937
0x38
// 0.214608
0x1b
// 0.051065
0x7
// 0.587587
0x4b
// -0.085362
0xf5
// 0.437572
0x38
// 0.596544
0x4c
// -0.247688
0xe0
// -0.130989
0xef
// 0.183628
0x18
// -0.344407
0xd4
// -0.038539
0xfb
// -0.578652
0xb6
// 0.299871
0x26
// -0.337492
0xd5
// -0.650010
0xad
// 0.080837
0xa
// -0.429375
0xc9
// 0.264491
0x22
// -0.480950
0xc2
// -0.176617
0xe9
// 0.056093
0x7
// -0.130917
0xef
// -0.201362
0xe6
// -0.120295
0xf1
// -0.258579
0xdf
// -0.723061
0xa3
// 0.066788
0x9
// 0.253372
0x20
// 0.414235
0x35
// -0.136716
0xef
// 0.084270
0xb
// -0.516716
0xbe
// -0.422352
0xca
// -0.152027
0xed
// -0.029495
0xfc
// 0.016354
0x2
// -0.381781
0xcf
// 0.179966
0x17
// -0.521384
0xbd
// 0.089449
0xb
// 0.148308
0x13
// 0.160789
0x15
// 0.124677
0x10
// -0.095628
0xf4
// 0.070655
0x9
// -0.282534
0xdc
// -0.389992
0xce
// 0.163344
0x15
// 0.376691
0x30
// 0.500943
0x40
// -0.715846
0xa4
// 0.217007
0x1c
// -0.224648
0xe3
// 0.206206
0x1a
// -0.080096
0xf6
// -0.504238
0xbf
// 0.496333
0x40
// 0.553095
0x47
// 0.679750
0x57
// -0.313601
0xd8
// 0.061413
0x8
// 0.168688
0x16
// 0.095326
0xc
// 0.032262
0x4
// -0.114777
0xf1
// 0.117657
0xf
// 0.142180
0x12
// 0.349740
0x2d
// -0.276943
0xdd
// 0.674227
0x56
// -0.242175
0xe1
// -0.142684
0xee
// -0.132193
0xef
// -0.084735
0xf5
// -0.311583
0xd8
// -0.050415
0xfa
// -0.093803
0xf4
// -0.203868
0xe6
// -0.314829
0xd8
// -0.015539
0xfe
// -0.008815
0xff
// 0.682168
0x57
// 0.357830
0x2e
// 0.284300
0x24
// -0.104741
0xf3
// 0.014076
0x2
// 0.197456
0x19
// -0.181381
0xe9
// -0.486587
0xc2
// -0.161026
0xeb
// -0.658942
0xac
// -0.053937
0xf9
// -0.438017
0xc8
// -0.153078
0xec
// 0.235478
0x1e
// 0.075720
0xa
// -0.444388
0xc7
// 0.007679
0x1
// 0.340972
0x2c
// -0.130875
0xef
// 0.072221
0x9
// 0.187194
0x18
// 0.198225
0x19
// -0.414708
0xcb
// -0.109977
0xf2
// -0.318538
0xd7
// -0.474662
0xc3
// 0.077455
0xa
// -0.608513
0xb2
// 0.002285
0x0
// 0.229167
0x1d
// 0.148435
0x13
// 0.174449
0x16
// 0.227608
0x1d
// -0.536987
0xbb
// 0.101283
0xd
// -0.042067
0xfb
// -0.405882
0xcc
// -0.326987
0xd6
// 0.125653
0x10
// 0.368061
0x2f
// -0.244759
0xe1
// -0.195598
0xe7
// 0.268061
0x22
// -0.373218
0xd0
// 0.137810
0x12
// -0.126452
0xf0
// 0.394076
0x32
// -0.164163
0xeb
// -0.114449
0xf1
// 0.005486
0x1
// -0.102246
0xf3
// -0.106023
0xf2
// 0.207056
0x1b
// 0.189870
0x18
// 0.642369
0x52
// 0.290787
0x25
// 0.183158
0x17
// -0.441170
0xc8
// -0.191578
0xe7
// -0.125784
0xf0
// -0.246704
0xe0
// 0.027461
0x4
// -0.279555
0xdc
// 0.327203
0x2a
// 0.098886
0xd
// 0.701913
0x5a
// -0.295174
0xda
// -0.698688
0xa7
// -0.065374
0xf8
// 0.312152
0x28
// -0.320193
0xd7
// 0.102977
0xd
// 0.308204
0x27
// 0.100878
0xd
// -0.013304
0xfe
// -0.222515
0xe4
// 0.129756
0x11
// 0.322798
0x29
// -0.346646
0xd4
// -0.675743
0xaa
// -0.162493
0xeb
// 0.006879
0x1
// -0.208457
0xe5
// 0.308487
0x27
// 0.276854
0x23
// -0.284331
0xdc
// -0.269278
0xde
// 0.265073
0x22
// -0.642689
0xae
// 0.418893
0x36
// -0.104498
0xf3
// 0.655635
0x54
// 0.221635
0x1c
// 0.386471
0x31
// 0.240084
0x1f
// -0.204473
0xe6
// -0.632469
0xaf
// 0.201428
0x1a
// -0.064503
0xf8
// -0.267304
0xde
// 0.593726
0x4c
// -0.087484
0xf5
// 0.230187
0x1d
// 0.058625
0x8
// 0.126043
0x10
// -0.263154
0xde
// 0.363270
0x2e