You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference2_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.062331
0x08
// -0.446990
0xC7
// 0.668944
0x56
// -0.246586
0xE0
// 0.340454
0x2C
// -0.016566
0xFE
// 0.443083
0x39
// 0.039090
0x05
// -0.500043
0xC0
// 0.715486
0x5C
// -0.086556
0xF5
// 0.035232
0x05
// 0.405343
0x34
// -0.352213
0xD3
// -0.343866
0xD4
// -0.302438
0xD9
// 0.871195
0x70
// 0.081134
0x0A
// -0.206794
0xE6
// 0.096591
0x0C
// 0.218518
0x1C
// 0.452315
0x3A
// -0.646089
0xAD
// 0.050487
0x06
// 0.480377
0x3D
// 0.271101
0x23
// -0.497374
0xC0
// -0.229071
0xE3
// -0.394315
0xCE
// 0.441436
0x39
// -0.400131
0xCD
// -0.023743
0xFD
// 0.449002
0x39
// 0.455464
0x3A
// -0.201925
0xE6
// -0.483298
0xC2
// 0.204800
0x1A
// 0.043387
0x06
// -0.887723
0x8E
// -0.171571
0xEA
// 0.151843
0x13
// -0.197357
0xE7
// -0.613152
0xB2
// -0.263062
0xDE
// 0.287660
0x25
// -0.007179
0xFF
// -1.084362
0x80
// 0.044861
0x06
// -0.002016
0x00
// -0.035844
0xFB
// 0.098739
0x0D
// -0.126784
0xF0
// -0.168786
0xEA
// -0.335036
0xD5
// 0.053784
0x07
// 0.198123
0x19
// -0.123137
0xF0
// 0.116553
0x0F
// -0.094124
0xF4
// -0.302990
0xD9
// 0.759290
0x61
// 0.053982
0x07
// 0.082482
0x0B
// 0.301064
0x27
// 0.415185
0x35
// 0.082667
0x0B
// 0.964436
0x7B
// -0.230939
0xE2
// -0.279287
0xDC
// 0.035626
0x05
// -0.436117
0xC8
// 0.170855
0x16
// 0.469482
0x3C
// 0.047908
0x06
// -0.781533
0x9C
// 0.468382
0x3C
// -0.019220
0xFE
// 0.427117
0x37
// -0.104989
0xF3
// -0.252494
0xE0
// 0.031976
0x04
// 0.508742
0x41
// 0.513580
0x42
// -0.081391
0xF6
// -0.515939
0xBE
// 0.365675
0x2F
// 0.037027
0x05
// 0.480477
0x3E
// -0.562823
0xB8
// -0.683301
0xA9
// -0.437180
0xC8
// -0.423838
0xCA
// 0.747761
0x60
// 0.525964
0x43
// 0.163417
0x15
// 0.437757
0x38
// 0.030338
0x04
// 0.138108
0x12
// 0.106138
0x0E
// 0.079832
0x0A
// 0.067209
0x09
// -0.218219
0xE4
// -0.144996
0xED
// 0.188476
0x18
// -0.080051
0xF6
// -0.347692
0xD3
// 0.638731
0x52
// -0.438191
0xC8
// -0.419765
0xCA
// 0.369725
0x2F
// -0.014615
0xFE
// 0.224712
0x1D
// 0.340526
0x2C
// -0.073729
0xF7
// -0.437029
0xC8
// -0.401970
0xCD
// -0.124868
0xF0
// -1.065286
0x80
// -0.119337
0xF1
// 0.026595
0x03
// 0.305749
0x27
// -0.427912
0xC9
// 0.521840
0x43
// 1.340457
0x7F
// -0.172801
0xEA
// -0.019048
0xFE
// 0.905144
0x74
// 0.014101
0x02
// -0.176170
0xE9
// -0.525086
0xBD
// 0.519928
0x43
// -0.678771
0xA9
// -0.343987
0xD4
// 0.923069
0x76
// 0.094228
0x0C
// -0.083166
0xF5
// -0.676971
0xA9
// -0.515914
0xBE
// -0.534965
0xBC
// -0.403413
0xCC
// -0.414608
0xCB
// 0.340881
0x2C
// -0.073968
0xF7
// 0.809492
0x68
// -0.463064
0xC5
// 0.295560
0x26
// 0.357507
0x2E
// -0.408839
0xCC
// 0.285947
0x25
// 0.311582
0x28
// -0.077983
0xF6
// -0.206739
0xE6
// 0.040994
0x05
// -0.027944
0xFC
// -0.147915
0xED
// 0.278648
0x24
// 0.757809
0x61
// 0.613398
0x4F
// 0.263518
0x22
// -0.162996
0xEB
// -0.068879
0xF7
// -0.207217
0xE5
// 0.374882
0x30
// 0.003011
0x00
// -0.362474
0xD2
// -0.200790
0xE6
// -0.490958
0xC1
// -0.561120
0xB8
// -0.439103
0xC8
// -0.335001
0xD5
// -0.460896
0xC5
// 0.128617
0x10
// 0.369593
0x2F
// 0.145112
0x13
// 0.381695
0x31
// -0.218371
0xE4
// -0.364760
0xD1
// 0.692899
0x59
// -0.595753
0xB4
// -0.231665
0xE2
// -0.814912
0x98
// -0.437285
0xC8
// -0.133294
0xEF
// 0.211929
0x1B
// 0.263514
0x22
// -0.045911
0xFA
// 0.449832
0x3A
// -0.344013
0xD4
// 0.262730
0x22
// -0.127365
0xF0
// -0.082493
0xF5
// -0.349705
0xD3
// 0.662526
0x55
// 0.183058
0x17
// 0.191513
0x19
// -0.282945
0xDC
// -0.123178
0xF0
// -0.068459
0xF7
// 0.252330
0x20
// 0.706911
0x5A
// -0.037275
0xFB
// 0.322783
0x29
// -0.313827
0xD8
// 0.026290
0x03
// -0.119792
0xF1
// -0.413234
0xCB
// 0.119858
0x0F
// -0.015524
0xFE
// -0.126966
0xF0
// -0.542243
0xBB
// 0.035715
0x05
// 0.352415
0x2D
// -0.673887
0xAA
// -0.575596
0xB6
// 0.844673
0x6C
// -0.270704
0xDD
// -0.775613
0x9D
// 0.019941
0x03
// 0.689275
0x58
// -0.985407
0x82
// 0.361650
0x2E
// 0.427640
0x37
// 0.281059
0x24
// -0.245729
0xE1
// 0.102924
0x0D
// 1.023270
0x7F
// -0.049465
0xFA
// -0.418407
0xCA
// -0.176363
0xE9
// 0.283629
0x24
// -0.040127
0xFB
// 0.206150
0x1A
// 0.498531
0x40
// -0.069015
0xF7
// -0.043013
0xFA
// 0.207213
0x1B
// 0.294354
0x26
// -0.689656
0xA8
// -0.336063
0xD5
// 0.870289
0x6F
// -0.031505
0xFC
// 0.094337
0x0C
// 0.170614
0x16
// 0.318488
0x29
// 0.880173
0x71
// 0.897204
0x73
// 0.218349
0x1C
// 0.149673
0x13
// -0.162751
0xEB
// -0.590597
0xB4
// 0.258769
0x21
// -0.472626
0xC4
// -0.752619
0xA0
// 0.828429
0x6A
// -0.091064
0xF4
// -0.454173
0xC6