You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference10_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.279847
0x24
// 0.470025
0x3C
// 0.182396
0x17
// 0.164641
0x15
// 0.004495
0x01
// 0.336127
0x2B
// 0.054284
0x07
// 0.094869
0x0C
// 0.028101
0x04
// 0.490701
0x3F
// 0.042479
0x05
// 0.228450
0x1D
// 0.142325
0x12
// 0.686180
0x58
// 0.310970
0x28
// 0.251104
0x20
// 0.343926
0x2C
// 0.151218
0x13
// 0.390422
0x32
// 0.117675
0x0F
// 0.107165
0x0E
// 0.005180
0x01
// 0.336066
0x2B
// 0.853503
0x6D
// 0.146077
0x13
// 0.068282
0x09
// 0.013805
0x02
// 0.285267
0x25
// 0.049851
0x06
// 0.192280
0x19
// 0.392022
0x32
// 0.104998
0x0D
// 0.404806
0x34
// 0.693721
0x59
// 0.361156
0x2E
// 0.561138
0x48
// 0.048998
0x06
// 0.024312
0x03
// 0.311159
0x28
// 0.106896
0x0E
// 0.384460
0x31
// 0.337992
0x2B
// 0.315409
0x28
// 0.400139
0x33
// 0.062837
0x08
// 0.388946
0x32
// 0.436512
0x38
// 0.339006
0x2B
// 0.616655
0x4F
// 0.016597
0x02
// 0.970790
0x7C
// 0.015002
0x02
// 0.245556
0x1F
// 0.748727
0x60
// 0.386868
0x32
// 0.618176
0x4F
// 0.087154
0x0B
// 0.751983
0x60
// 0.403393
0x34
// 0.074089
0x09
// 0.405215
0x34
// 0.055811
0x07
// 0.206837
0x1A
// 0.092245
0x0C
// 0.391467
0x32
// 0.745720
0x5F
// 0.434694
0x38
// 0.318127
0x29
// 0.020314
0x03
// 0.091010
0x0C
// 0.263788
0x22
// 0.030951
0x04
// 0.730645
0x5E
// 0.488871
0x3F
// 0.184575
0x18
// 0.056514
0x07
// 0.208399
0x1B
// 0.176481
0x17
// 0.263081
0x22
// 0.015023
0x02
// 0.229253
0x1D
// 0.047091
0x06
// 0.211057
0x1B
// 0.364386
0x2F
// 0.188744
0x18
// 0.009277
0x01
// 0.205807
0x1A
// 0.002820
0x00
// 0.241120
0x1F
// 0.101022
0x0D
// 0.158884
0x14
// 0.201150
0x1A
// 0.264332
0x22
// 0.444716
0x39
// 0.195416
0x19
// 0.041782
0x05
// 0.201181
0x1A
// 0.197322
0x19
// 0.424415
0x36
// 0.356522
0x2E
// 0.098963
0x0D
// 0.191119
0x18
// 0.038971
0x05
// 0.054449
0x07
// 0.361883
0x2E
// 0.121336
0x10
// 0.332567
0x2B
// 0.250240
0x20
// 0.267883
0x22
// 0.019482
0x02
// 0.292647
0x25
// 0.664704
0x55
// 0.090462
0x0C
// 0.477510
0x3D
// 0.326612
0x2A
// 0.070255
0x09
// 0.179330
0x17
// 0.125154
0x10
// 0.293302
0x26
// 0.262936
0x22
// 0.237685
0x1E
// 0.334499
0x2B
// 0.070628
0x09
// 0.346033
0x2C
// 0.439263
0x38
// 0.234435
0x1E
// 0.561361
0x48
// 0.120161
0x0F
// 0.327002
0x2A
// 0.351374
0x2D
// 0.062259
0x08
// 0.098606
0x0D
// 0.187949
0x18
// 0.174795
0x16
// 0.129874
0x11
// 0.466887
0x3C
// 0.285060
0x24
// 0.046438
0x06
// 0.349524
0x2D
// 0.233034
0x1E
// 0.125850
0x10
// 0.077591
0x0A
// 0.440796
0x38
// 0.005863
0x01
// 0.562891
0x48
// 0.238089
0x1E
// 0.191867
0x19
// 0.260556
0x21
// 0.080199
0x0A
// 1.000000
0x7F
// 0.080387
0x0A
// 0.236232
0x1E
// 0.399472
0x33
// 0.050602
0x06
// 0.265857
0x22
// 0.054492
0x07
// 0.115911
0x0F
// 0.640649
0x52
// 0.436657
0x38
// 0.618428
0x4F
// 0.152766
0x14
// 0.719829
0x5C
// 0.374814
0x30
// 0.230723
0x1E
// 0.169463
0x16
// 0.661162
0x55
// 0.516920
0x42
// 0.349962
0x2D
// 0.320990
0x29
// 0.246213
0x20
// 0.669477
0x56
// 0.081694
0x0A
// 0.096520
0x0C
// 0.348590
0x2D
// 0.135019
0x11
// 0.735016
0x5E
// 0.328119
0x2A
// 0.077779
0x0A
// 0.265572
0x22
// 0.360156
0x2E
// 0.330242
0x2A
// 0.402456
0x34
// 0.558280
0x47
// 0.197901
0x19
// 0.131966
0x11
// 0.064219
0x08
// 0.020554
0x03
// 0.003601
0x00
// 0.275027
0x23
// 0.038124
0x05
// 0.175603
0x16
// 0.633211
0x51
// 0.390203
0x32
// 0.326797
0x2A
// 0.243154
0x1F
// 0.209685
0x1B
// 0.306212
0x27
// 0.227230
0x1D
// 0.179313
0x17
// 0.057960
0x07
// 0.314029
0x28
// 0.178187
0x17
// 0.249371
0x20
// 0.543138
0x46
// 0.517437
0x42
// 0.289240
0x25
// 0.015420
0x02
// 0.054808
0x07
// 0.754447
0x61
// 0.332884
0x2B
// 0.582988
0x4B
// 0.498618
0x40
// 0.065112
0x08
// 0.100141
0x0D
// 0.303018
0x27
// 0.068192
0x09
// 0.335597
0x2B
// 0.327422
0x2A
// 0.392784
0x32
// 0.195944
0x19
// 0.445787
0x39
// 0.187588
0x18
// 0.481309
0x3E
// 0.062036
0x08
// 0.914555
0x75
// 0.747543
0x60
// 0.188981
0x18
// 0.700864
0x5A
// 0.168453
0x16
// 0.313540
0x28
// 0.043469
0x06
// 0.443737
0x39
// 0.101468
0x0D
// 0.004170
0x01
// 0.389873
0x32
// 0.195437
0x19
// 0.217777
0x1C
// 0.351033
0x2D
// 0.014303
0x02
// 0.001848
0x00
// 0.104415
0x0D
// 0.015302
0x02
// 0.043215
0x06
// 0.429236
0x37
// 0.076603
0x0A
// 0.605548
0x4E
// 0.023009
0x03
// 0.090912
0x0C
// 0.362295
0x2E
// 0.110522
0x0E
// 0.552547
0x47
// 0.133254
0x11
// 0.227064
0x1D
// 0.114641
0x0F
// 0.172292
0x16
// 0.694676
0x59