You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Input1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.279847
0xDC
// 0.470025
0x3C
// 0.182396
0x17
// 0.164641
0x15
// -0.004495
0xFF
// 0.336127
0x2B
// 0.054284
0x07
// 0.094869
0x0C
// -0.028101
0xFC
// -0.490701
0xC1
// 0.042479
0x05
// -0.228450
0xE3
// -0.142325
0xEE
// 0.686180
0x58
// 0.310970
0x28
// 0.251104
0x20
// -0.343926
0xD4
// 0.151218
0x13
// 0.390422
0x32
// 0.117675
0x0F
// 0.107165
0x0E
// 0.005180
0x01
// -0.336066
0xD5
// -0.853503
0x93
// 0.146077
0x13
// -0.068282
0xF7
// -0.013805
0xFE
// 0.285267
0x25
// 0.049851
0x06
// 0.192280
0x19
// -0.392022
0xCE
// 0.104998
0x0D
// -0.404806
0xCC
// 0.693721
0x59
// 0.361156
0x2E
// -0.561138
0xB8
// 0.048998
0x06
// -0.024312
0xFD
// 0.311159
0x28
// -0.106896
0xF2
// 0.384460
0x31
// -0.337992
0xD5
// 0.315409
0x28
// 0.400139
0x33
// -0.062837
0xF8
// 0.388946
0x32
// 0.436512
0x38
// -0.339006
0xD5
// -0.616655
0xB1
// 0.016597
0x02
// 0.970790
0x7C
// -0.015002
0xFE
// 0.245556
0x1F
// 0.748727
0x60
// -0.386868
0xCE
// 0.618176
0x4F
// -0.087154
0xF5
// -0.751983
0xA0
// 0.403393
0x34
// -0.074089
0xF7
// -0.405215
0xCC
// 0.055811
0x07
// 0.206837
0x1A
// 0.092245
0x0C
// -0.391467
0xCE
// 0.745720
0x5F
// -0.434694
0xC8
// -0.318127
0xD7
// 0.020314
0x03
// 0.091010
0x0C
// 0.263788
0x22
// 0.030951
0x04
// -0.730645
0xA2
// -0.488871
0xC1
// 0.184575
0x18
// -0.056514
0xF9
// -0.208399
0xE5
// 0.176481
0x17
// -0.263081
0xDE
// 0.015023
0x02
// -0.229253
0xE3
// 0.047091
0x06
// -0.211057
0xE5
// -0.364386
0xD1
// -0.188744
0xE8
// -0.009277
0xFF
// 0.205807
0x1A
// -0.002820
0x00
// 0.241120
0x1F
// 0.101022
0x0D
// 0.158884
0x14
// -0.201150
0xE6
// -0.264332
0xDE
// 0.444716
0x39
// -0.195416
0xE7
// 0.041782
0x05
// -0.201181
0xE6
// -0.197322
0xE7
// 0.424415
0x36
// -0.356522
0xD2
// -0.098963
0xF3
// 0.191119
0x18
// 0.038971
0x05
// -0.054449
0xF9
// 0.361883
0x2E
// -0.121336
0xF0
// -0.332567
0xD5
// 0.250240
0x20
// -0.267883
0xDE
// 0.019482
0x02
// 0.292647
0x25
// -0.664704
0xAB
// 0.090462
0x0C
// -0.477510
0xC3
// -0.326612
0xD6
// 0.070255
0x09
// -0.179330
0xE9
// -0.125154
0xF0
// 0.293302
0x26
// 0.262936
0x22
// -0.237685
0xE2
// -0.334499
0xD5
// -0.070628
0xF7
// 0.346033
0x2C
// 0.439263
0x38
// -0.234435
0xE2
// -0.561361
0xB8
// 0.120161
0x0F
// -0.327002
0xD6
// -0.351374
0xD3
// 0.062259
0x08
// -0.098606
0xF3
// -0.187949
0xE8
// -0.174795
0xEA
// 0.129874
0x11
// 0.466887
0x3C
// 0.285060
0x24
// -0.046438
0xFA
// -0.349524
0xD3
// 0.233034
0x1E
// 0.125850
0x10
// 0.077591
0x0A
// 0.440796
0x38
// -0.005863
0xFF
// -0.562891
0xB8
// -0.238089
0xE2
// -0.191867
0xE7
// 0.260556
0x21
// -0.080199
0xF6
// 1.000000
0x7F
// 0.080387
0x0A
// -0.236232
0xE2
// -0.399472
0xCD
// 0.050602
0x06
// -0.265857
0xDE
// 0.054492
0x07
// -0.115911
0xF1
// 0.640649
0x52
// 0.436657
0x38
// 0.618428
0x4F
// 0.152766
0x14
// -0.719829
0xA4
// 0.374814
0x30
// -0.230723
0xE2
// -0.169463
0xEA
// 0.661162
0x55
// -0.516920
0xBE
// 0.349962
0x2D
// -0.320990
0xD7
// 0.246213
0x20
// -0.669477
0xAA
// 0.081694
0x0A
// -0.096520
0xF4
// -0.348590
0xD3
// 0.135019
0x11
// 0.735016
0x5E
// -0.328119
0xD6
// 0.077779
0x0A
// 0.265572
0x22
// -0.360156
0xD2
// 0.330242
0x2A
// 0.402456
0x34
// -0.558280
0xB9
// 0.197901
0x19
// -0.131966
0xEF
// -0.064219
0xF8
// -0.020554
0xFD
// 0.003601
0x00
// 0.275027
0x23
// -0.038124
0xFB
// -0.175603
0xEA
// -0.633211
0xAF
// 0.390203
0x32
// -0.326797
0xD6
// -0.243154
0xE1
// 0.209685
0x1B
// 0.306212
0x27
// -0.227230
0xE3
// 0.179313
0x17
// 0.057960
0x07
// -0.314029
0xD8
// -0.178187
0xE9
// 0.249371
0x20
// -0.543138
0xBA
// -0.517437
0xBE
// -0.289240
0xDB
// -0.015420
0xFE
// 0.054808
0x07
// -0.754447
0x9F
// -0.332884
0xD5
// 0.582988
0x4B
// 0.498618
0x40
// -0.065112
0xF8
// -0.100141
0xF3
// -0.303018
0xD9
// 0.068192
0x09
// 0.335597
0x2B
// -0.327422
0xD6
// 0.392784
0x32
// -0.195944
0xE7
// -0.445787
0xC7
// -0.187588
0xE8
// -0.481309
0xC2
// -0.062036
0xF8
// 0.914555
0x75
// -0.747543
0xA0
// -0.188981
0xE8
// 0.700864
0x5A
// 0.168453
0x16
// -0.313540
0xD8
// 0.043469
0x06
// -0.443737
0xC7
// 0.101468
0x0D
// -0.004170
0xFF
// -0.389873
0xCE
// -0.195437
0xE7
// 0.217777
0x1C
// -0.351033
0xD3
// -0.014303
0xFE
// -0.001848
0x00
// -0.104415
0xF3
// -0.015302
0xFE
// -0.043215
0xFA
// 0.429236
0x37
// -0.076603
0xF6
// 0.605548
0x4E
// -0.023009
0xFD
// 0.090912
0x0C
// 0.362295
0x2E
// -0.110522
0xF2
// 0.552547
0x47
// -0.133254
0xEF
// -0.227064
0xE3
// -0.114641
0xF1
// 0.172292
0x16
// -0.694676
0xA7