You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference2_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.399913
0x33
// 0.269781
0x23
// 0.430258
0x37
// 0.360212
0x2E
// 0.158660
0x14
// 0.256700
0x21
// -0.464555
0xC5
// 0.515305
0x42
// 0.175501
0x16
// -0.482854
0xC2
// 0.012701
0x02
// 0.281393
0x24
// 0.239513
0x1F
// 0.335717
0x2B
// -0.167564
0xEB
// -0.291510
0xDB
// 0.509496
0x41
// 0.112250
0x0E
// -0.255636
0xDF
// 0.499275
0x40
// -0.485936
0xC2
// 0.390502
0x32
// -1.227123
0x80
// -0.887488
0x8E
// 0.392940
0x32
// 0.806202
0x67
// -0.154363
0xEC
// -0.459289
0xC5
// -0.502806
0xC0
// -0.528661
0xBC
// 0.243676
0x1F
// -0.309959
0xD8
// 0.320003
0x29
// 0.428084
0x37
// -0.210547
0xE5
// -0.290420
0xDB
// -0.279690
0xDC
// 0.216701
0x1C
// -0.475210
0xC3
// -0.176705
0xE9
// 0.675258
0x56
// 0.530735
0x44
// 0.666936
0x55
// 0.154779
0x14
// -0.132435
0xEF
// 0.070992
0x09
// 0.534658
0x44
// 0.613115
0x4E
// 0.258697
0x21
// -0.649021
0xAD
// 0.138311
0x12
// -0.578788
0xB6
// 0.157660
0x14
// -0.894236
0x8E
// -0.258865
0xDF
// -0.153514
0xEC
// 0.821999
0x69
// 0.256037
0x21
// 0.182760
0x17
// 1.325283
0x7F
// 0.156339
0x14
// 0.396857
0x33
// 0.181662
0x17
// -0.489573
0xC1
// 0.698815
0x59
// 0.509101
0x41
// 0.125565
0x10
// -0.251744
0xE0
// -0.075447
0xF6
// 0.037695
0x05
// 0.679211
0x57
// -0.056490
0xF9
// 0.705019
0x5A
// 0.514571
0x42
// -0.281259
0xDC
// 0.563366
0x48
// 0.332303
0x2B
// -0.114892
0xF1
// 0.649406
0x53
// -0.740853
0xA1
// -0.550453
0xBA
// 0.102589
0x0D
// 0.728093
0x5D
// 0.501690
0x40
// -0.083511
0xF5
// 0.032649
0x04
// -0.196340
0xE7
// -0.290019
0xDB
// -0.171500
0xEA
// 0.111141
0x0E
// -0.766660
0x9E
// 0.155114
0x14
// -0.675171
0xAA
// 0.086193
0x0B
// -0.185433
0xE8
// 0.131474
0x11
// 0.084664
0x0B
// 0.806259
0x67
// 0.018422
0x02
// -0.323271
0xD7
// -0.305946
0xD9
// -0.006752
0xFF
// 0.011296
0x01
// -0.609985
0xB2
// 1.071281
0x7F
// 0.399321
0x33
// -0.386913
0xCE
// 1.250644
0x7F
// -0.436865
0xC8
// 0.066435
0x09
// 0.532847
0x44
// 0.226863
0x1D
// 0.001661
0x00
// -0.303653
0xD9
// 0.055360
0x07
// 0.085600
0x0B
// 0.278693
0x24
// -1.002373
0x80
// -0.545625
0xBA
// 0.121733
0x10
// 0.121025
0x0F
// -0.538514
0xBB
// 0.307640
0x27
// -0.587864
0xB5
// -0.357960
0xD2
// 0.350483
0x2D
// 0.081841
0x0A
// 0.641685
0x52
// -0.677942
0xA9
// 0.278921
0x24
// -0.319130
0xD7
// -0.954252
0x86
// -0.534699
0xBC
// -0.116339
0xF1
// -0.346045
0xD4
// 0.038733
0x05
// -0.022845
0xFD
// -0.451281
0xC6
// -0.068420
0xF7
// -0.099386
0xF3
// 0.891568
0x72
// -0.339841
0xD5
// 0.483050
0x3E
// -0.279159
0xDC
// 0.308860
0x28
// -0.804651
0x99
// 0.431213
0x37
// 0.323421
0x29
// 0.205460
0x1A
// -0.293978
0xDA
// 0.629292
0x51
// 0.769663
0x63
// -1.159215
0x80
// -0.425046
0xCA
// -0.132733
0xEF
// 0.351500
0x2D
// 0.606399
0x4E
// -0.103289
0xF3
// -0.464033
0xC5
// -0.597277
0xB4
// -0.575990
0xB6
// -0.504503
0xBF
// -0.125041
0xF0
// -0.826914
0x96
// 0.326304
0x2A
// -0.655596
0xAC
// -0.143337
0xEE
// -0.171801
0xEA
// 0.930489
0x77
// -1.464263
0x80
// -0.336785
0xD5
// -0.804990
0x99
// -0.184142
0xE8
// 0.240975
0x1F
// 0.422725
0x36
// -0.748941
0xA0
// -0.505828
0xBF
// 0.416443
0x35
// 0.132417
0x11
// -0.354104
0xD3
// 0.165182
0x15
// -1.124017
0x80
// 0.621006
0x4F
// -0.476415
0xC3
// -0.419357
0xCA
// -0.409418
0xCC
// 0.701261
0x5A
// 0.762108
0x62
// -0.652225
0xAD
// -0.186672
0xE8
// 0.095714
0x0C
// -0.137178
0xEE
// -0.147937
0xED
// -1.254763
0x80
// -0.344556
0xD4
// 0.232000
0x1E
// 1.184428
0x7F
// -0.476768
0xC3
// -0.858617
0x92
// 0.626188
0x50
// 0.234796
0x1E
// -0.356688
0xD2
// 0.244981
0x1F
// -0.952262
0x86
// -0.222703
0xE3
// -0.029833
0xFC
// -0.599163
0xB3
// -0.051130
0xF9
// 0.513195
0x42
// 0.160009
0x14
// 0.130905
0x11
// 0.583333
0x4B
// -0.027965
0xFC
// 0.997048
0x7F
// -1.020328
0x80
// 0.029776
0x04
// -0.355459
0xD3
// -0.723585
0xA3
// -0.293938
0xDA
// 0.577710
0x4A
// -0.185704
0xE8
// 0.885387
0x71
// 0.173905
0x16
// 0.520547
0x43
// 0.149271
0x13
// -0.344198
0xD4
// -0.124936
0xF0
// 0.460980
0x3B
// -0.740491
0xA1
// 0.622516
0x50
// 0.110717
0x0E
// 0.246755
0x20
// 1.218789
0x7F
// 0.120673
0x0F
// 0.267177
0x22
// -0.397561
0xCD
// 1.185700
0x7F
// 0.057454
0x07
// 0.416206
0x35
// -0.018437
0xFE
// 1.094972
0x7F
// -0.185971
0xE8
// 0.816027
0x68
// 0.108893
0x0E
// 0.171452
0x16
// 0.530620
0x44
// 0.001688
0x00
// 0.767078
0x62
// -0.740883
0xA1
// -0.372649
0xD0
// 0.131807
0x11
// 0.132503
0x11
// 0.007549
0x01
// 0.015028
0x02
// 0.346808
0x2C
// 0.564079
0x48