You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.551948
0x47
// -0.421679
0xCA
// 0.233559
0x1E
// -0.308764
0xD8
// -0.582648
0xB5
// 0.768950
0x62
// 0.183633
0x18
// -0.308552
0xD9
// -0.378001
0xD0
// -0.088060
0xF5
// 0.519178
0x42
// 0.521416
0x43
// -0.193385
0xE7
// 0.173676
0x16
// 1.272720
0x7F
// 0.331757
0x2A
// -0.000610
0x00
// 0.173377
0x16
// 0.741524
0x5F
// -0.921786
0x8A
// 0.179413
0x17
// 0.648538
0x53
// 0.285441
0x25
// 0.468378
0x3C
// 0.771378
0x63
// -1.185841
0x80
// 0.606181
0x4E
// 0.724991
0x5D
// 0.649392
0x53
// 1.168218
0x7F
// -0.223087
0xE3
// 0.784524
0x64
// 0.486787
0x3E
// -0.626615
0xB0
// -0.133669
0xEF
// 0.245700
0x1F
// 0.033296
0x04
// 0.765007
0x62
// 0.423456
0x36
// 0.047797
0x06
// -0.507438
0xBF
// -0.760550
0x9F
// -0.005343
0xFF
// 0.347003
0x2C
// 0.163641
0x15
// -0.740384
0xA1
// -0.079349
0xF6
// 0.260336
0x21
// -0.391019
0xCE
// -0.581800
0xB6
// -0.320860
0xD7
// 0.193595
0x19
// 1.332676
0x7F
// -0.502589
0xC0
// 0.192118
0x19
// -0.028043
0xFC
// 0.006633
0x01
// 0.718072
0x5C
// -0.100187
0xF3
// 0.757413
0x61
// 0.997487
0x7F
// -0.183809
0xE8
// -0.154925
0xEC
// 0.674268
0x56
// -0.406591
0xCC
// -0.574250
0xB6
// -0.042799
0xFB
// -0.404377
0xCC
// 0.397663
0x33
// -0.273447
0xDD
// -0.431933
0xC9
// -0.055237
0xF9
// 0.052708
0x07
// 0.323495
0x29
// 0.691599
0x59
// 0.252726
0x20
// 0.144452
0x12
// 0.366636
0x2F
// 0.072026
0x09
// -0.082724
0xF5
// 0.313186
0x28
// 0.317596
0x29
// -0.814342
0x98
// -0.001665
0x00
// 0.076782
0x0A
// 0.501998
0x40
// -0.189668
0xE8
// 0.042029
0x05
// -0.144026
0xEE
// 0.158578
0x14
// 0.252954
0x20
// -0.073433
0xF7
// -0.902123
0x8D
// 0.977837
0x7D
// -0.032974
0xFC
// -0.615644
0xB1
// -0.787050
0x9B
// 0.552437
0x47
// -0.444181
0xC7
// 0.068860
0x09
// -0.226102
0xE3
// 0.629414
0x51
// 0.768911
0x62
// 0.058913
0x08
// -0.536551
0xBB
// -0.720483
0xA4
// -0.437400
0xC8
// -0.210861
0xE5
// 0.611521
0x4E
// -0.029891
0xFC
// -0.256542
0xDF
// 0.185585
0x18
// -0.542741
0xBB
// 1.357789
0x7F
// -0.496707
0xC0
// -0.506242
0xBF
// -0.092654
0xF4
// 0.131811
0x11
// -0.315590
0xD8
// -0.156936
0xEC
// 0.329220
0x2A
// 0.907168
0x74
// -0.677027
0xA9
// -0.031431
0xFC
// 0.703984
0x5A
// 0.248555
0x20
// -0.366395
0xD1
// 0.076219
0x0A
// -0.293333
0xDA
// -0.077806
0xF6
// -0.553635
0xB9
// 0.028135
0x04
// -0.686277
0xA8
// -0.338244
0xD5
// 0.667980
0x56
// -0.356223
0xD2
// -0.028384
0xFC
// -0.237588
0xE2
// -0.196773
0xE7
// -0.095402
0xF4
// -0.487247
0xC2
// 0.119995
0x0F
// 0.689613
0x58
// 0.407779
0x34
// 0.680134
0x57
// -0.256866
0xDF
// 0.600900
0x4D
// 0.444441
0x39
// 0.154358
0x14
// 0.594704
0x4C
// -0.469328
0xC4
// 0.011938
0x02
// 0.564065
0x48
// 0.498420
0x40
// 0.034610
0x04
// -0.252354
0xE0
// -0.850530
0x93
// 0.233824
0x1E
// -0.560908
0xB8
// -0.871210
0x90
// 0.668659
0x56
// 0.888104
0x72
// 0.432246
0x37
// 0.397604
0x33
// -0.541276
0xBB
// 0.251130
0x20
// -0.215728
0xE4
// -0.972970
0x83
// 0.518935
0x42
// 1.057542
0x7F
// 0.263043
0x22
// 0.037998
0x05
// 0.960804
0x7B
// -0.971359
0x84
// -0.401606
0xCD
// -0.518013
0xBE
// -0.305798
0xD9
// 0.626518
0x50
// -0.334818
0xD5
// 0.453489
0x3A
// 0.135526
0x11
// -0.166078
0xEB
// 0.040656
0x05
// -0.213044
0xE5
// -0.234727
0xE2
// 0.611870
0x4E
// 0.614862
0x4F
// 0.409910
0x34
// -0.064222
0xF8
// 0.736752
0x5E
// 0.705435
0x5A
// -0.538040
0xBB
// 0.499778
0x40
// -0.177853
0xE9
// 0.516240
0x42
// 0.280937
0x24
// 0.111765
0x0E
// -0.069272
0xF7
// -0.935914
0x88
// 0.215681
0x1C
// -0.224862
0xE3
// -0.089961
0xF4
// -0.063330
0xF8
// -0.761247
0x9F
// -0.580294
0xB6
// -0.296286
0xDA
// -0.065600
0xF8
// -0.277888
0xDC
// 0.542854
0x45
// -0.479898
0xC3
// 0.185317
0x18
// 0.326867
0x2A
// 0.335625
0x2B
// 0.291595
0x25
// 0.052412
0x07
// -0.671421
0xAA
// 0.522517
0x43
// 0.088803
0x0B
// -0.238942
0xE1
// 0.258354
0x21
// 0.027494
0x04
// 0.087128
0x0B
// 0.169873
0x16
// -0.803398
0x99
// -0.337172
0xD5
// -0.835237
0x95
// 0.276648
0x23
// 0.197410
0x19
// -0.419113
0xCA
// -1.121639
0x80
// 0.081997
0x0A
// -1.141288
0x80
// 0.581850
0x4A
// -0.348645
0xD3
// -0.777217
0x9D
// 0.104890
0x0D
// -0.531865
0xBC
// 0.801472
0x67
// 0.336630
0x2B
// -0.059444
0xF8
// 0.392509
0x32
// -0.582703
0xB5
// -0.597481
0xB4
// -0.104827
0xF3
// 0.322471
0x29
// 0.132572
0x11
// 0.282673
0x24
// -0.220488
0xE4
// -0.393473
0xCE
// 0.273095
0x23
// -0.391075
0xCE
// 0.158541
0x14
// 0.680479
0x57
// 0.266808
0x22
// 0.873883
0x70
// -0.526295
0xBD