You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference4_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.279847
0x24
// -0.470025
0xC4
// -0.182396
0xE9
// -0.164641
0xEB
// 0.004495
0x01
// -0.336127
0xD5
// -0.054284
0xF9
// -0.094869
0xF4
// 0.028101
0x04
// 0.490701
0x3F
// -0.042479
0xFB
// 0.228450
0x1D
// 0.142325
0x12
// -0.686180
0xA8
// -0.310970
0xD8
// -0.251104
0xE0
// 0.343926
0x2C
// -0.151218
0xED
// -0.390422
0xCE
// -0.117675
0xF1
// -0.107165
0xF2
// -0.005180
0xFF
// 0.336066
0x2B
// 0.853503
0x6D
// -0.146077
0xED
// 0.068282
0x09
// 0.013805
0x02
// -0.285267
0xDB
// -0.049851
0xFA
// -0.192280
0xE7
// 0.392022
0x32
// -0.104998
0xF3
// 0.404806
0x34
// -0.693721
0xA7
// -0.361156
0xD2
// 0.561138
0x48
// -0.048998
0xFA
// 0.024312
0x03
// -0.311159
0xD8
// 0.106896
0x0E
// -0.384460
0xCF
// 0.337992
0x2B
// -0.315409
0xD8
// -0.400139
0xCD
// 0.062837
0x08
// -0.388946
0xCE
// -0.436512
0xC8
// 0.339006
0x2B
// 0.616655
0x4F
// -0.016597
0xFE
// -0.970790
0x84
// 0.015002
0x02
// -0.245556
0xE1
// -0.748727
0xA0
// 0.386868
0x32
// -0.618176
0xB1
// 0.087154
0x0B
// 0.751983
0x60
// -0.403393
0xCC
// 0.074089
0x09
// 0.405215
0x34
// -0.055811
0xF9
// -0.206837
0xE6
// -0.092245
0xF4
// 0.391467
0x32
// -0.745720
0xA1
// 0.434694
0x38
// 0.318127
0x29
// -0.020314
0xFD
// -0.091010
0xF4
// -0.263788
0xDE
// -0.030951
0xFC
// 0.730645
0x5E
// 0.488871
0x3F
// -0.184575
0xE8
// 0.056514
0x07
// 0.208399
0x1B
// -0.176481
0xE9
// 0.263081
0x22
// -0.015023
0xFE
// 0.229253
0x1D
// -0.047091
0xFA
// 0.211057
0x1B
// 0.364386
0x2F
// 0.188744
0x18
// 0.009277
0x01
// -0.205807
0xE6
// 0.002820
0x00
// -0.241120
0xE1
// -0.101022
0xF3
// -0.158884
0xEC
// 0.201150
0x1A
// 0.264332
0x22
// -0.444716
0xC7
// 0.195416
0x19
// -0.041782
0xFB
// 0.201181
0x1A
// 0.197322
0x19
// -0.424415
0xCA
// 0.356522
0x2E
// 0.098963
0x0D
// -0.191119
0xE8
// -0.038971
0xFB
// 0.054449
0x07
// -0.361883
0xD2
// 0.121336
0x10
// 0.332567
0x2B
// -0.250240
0xE0
// 0.267883
0x22
// -0.019482
0xFE
// -0.292647
0xDB
// 0.664704
0x55
// -0.090462
0xF4
// 0.477510
0x3D
// 0.326612
0x2A
// -0.070255
0xF7
// 0.179330
0x17
// 0.125154
0x10
// -0.293302
0xDA
// -0.262936
0xDE
// 0.237685
0x1E
// 0.334499
0x2B
// 0.070628
0x09
// -0.346033
0xD4
// -0.439263
0xC8
// 0.234435
0x1E
// 0.561361
0x48
// -0.120161
0xF1
// 0.327002
0x2A
// 0.351374
0x2D
// -0.062259
0xF8
// 0.098606
0x0D
// 0.187949
0x18
// 0.174795
0x16
// -0.129874
0xEF
// -0.466887
0xC4
// -0.285060
0xDC
// 0.046438
0x06
// 0.349524
0x2D
// -0.233034
0xE2
// -0.125850
0xF0
// -0.077591
0xF6
// -0.440796
0xC8
// 0.005863
0x01
// 0.562891
0x48
// 0.238089
0x1E
// 0.191867
0x19
// -0.260556
0xDF
// 0.080199
0x0A
// -1.000000
0x80
// -0.080387
0xF6
// 0.236232
0x1E
// 0.399472
0x33
// -0.050602
0xFA
// 0.265857
0x22
// -0.054492
0xF9
// 0.115911
0x0F
// -0.640649
0xAE
// -0.436657
0xC8
// -0.618428
0xB1
// -0.152766
0xEC
// 0.719829
0x5C
// -0.374814
0xD0
// 0.230723
0x1E
// 0.169463
0x16
// -0.661162
0xAB
// 0.516920
0x42
// -0.349962
0xD3
// 0.320990
0x29
// -0.246213
0xE0
// 0.669477
0x56
// -0.081694
0xF6
// 0.096520
0x0C
// 0.348590
0x2D
// -0.135019
0xEF
// -0.735016
0xA2
// 0.328119
0x2A
// -0.077779
0xF6
// -0.265572
0xDE
// 0.360156
0x2E
// -0.330242
0xD6
// -0.402456
0xCC
// 0.558280
0x47
// -0.197901
0xE7
// 0.131966
0x11
// 0.064219
0x08
// 0.020554
0x03
// -0.003601
0x00
// -0.275027
0xDD
// 0.038124
0x05
// 0.175603
0x16
// 0.633211
0x51
// -0.390203
0xCE
// 0.326797
0x2A
// 0.243154
0x1F
// -0.209685
0xE5
// -0.306212
0xD9
// 0.227230
0x1D
// -0.179313
0xE9
// -0.057960
0xF9
// 0.314029
0x28
// 0.178187
0x17
// -0.249371
0xE0
// 0.543138
0x46
// 0.517437
0x42
// 0.289240
0x25
// 0.015420
0x02
// -0.054808
0xF9
// 0.754447
0x61
// 0.332884
0x2B
// -0.582988
0xB5
// -0.498618
0xC0
// 0.065112
0x08
// 0.100141
0x0D
// 0.303018
0x27
// -0.068192
0xF7
// -0.335597
0xD5
// 0.327422
0x2A
// -0.392784
0xCE
// 0.195944
0x19
// 0.445787
0x39
// 0.187588
0x18
// 0.481309
0x3E
// 0.062036
0x08
// -0.914555
0x8B
// 0.747543
0x60
// 0.188981
0x18
// -0.700864
0xA6
// -0.168453
0xEA
// 0.313540
0x28
// -0.043469
0xFA
// 0.443737
0x39
// -0.101468
0xF3
// 0.004170
0x01
// 0.389873
0x32
// 0.195437
0x19
// -0.217777
0xE4
// 0.351033
0x2D
// 0.014303
0x02
// 0.001848
0x00
// 0.104415
0x0D
// 0.015302
0x02
// 0.043215
0x06
// -0.429236
0xC9
// 0.076603
0x0A
// -0.605548
0xB2
// 0.023009
0x03
// -0.090912
0xF4
// -0.362295
0xD2
// 0.110522
0x0E
// -0.552547
0xB9
// 0.133254
0x11
// 0.227064
0x1D
// 0.114641
0x0F
// -0.172292
0xEA
// 0.694676
0x59