You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference5_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 1.136825
0x7F
// 0.504657
0x41
// 1.053197
0x7F
// 0.749754
0x60
// -0.211957
0xE5
// 0.478530
0x3D
// 0.466641
0x3C
// 1.033272
0x7F
// 0.413700
0x35
// 0.083494
0x0B
// 0.827332
0x6A
// 0.303103
0x27
// 0.738045
0x5E
// 0.808735
0x68
// 0.491829
0x3F
// 0.364446
0x2F
// 0.980549
0x7E
// 0.845736
0x6C
// 0.535158
0x45
// 0.893296
0x72
// -0.141124
0xEE
// 0.571169
0x49
// -0.014388
0xFE
// 0.411296
0x35
// 0.783409
0x64
// 0.456734
0x3A
// 0.236416
0x1E
// 0.172449
0x16
// 0.407891
0x34
// 0.302651
0x27
// 0.605366
0x4D
// 0.176483
0x17
// 0.627344
0x50
// 0.694356
0x59
// 0.593948
0x4C
// 0.065028
0x08
// -0.039999
0xFB
// 0.732746
0x5E
// 0.535510
0x45
// -0.171863
0xEA
// 1.028622
0x7F
// 1.246874
0x7F
// 0.852158
0x6D
// 0.757167
0x61
// 0.720427
0x5C
// 0.375074
0x30
// 0.858991
0x6E
// 0.787092
0x65
// 0.409716
0x34
// 0.385429
0x31
// 0.054678
0x07
// 0.697283
0x59
// 0.798042
0x66
// -0.041648
0xFB
// 0.124308
0x10
// 0.563793
0x48
// 1.043143
0x7F
// 0.445753
0x39
// 0.368819
0x2F
// 1.480847
0x7F
// 0.694666
0x59
// 0.733469
0x5E
// 0.714708
0x5B
// 0.576314
0x4A
// 0.742512
0x5F
// 0.765889
0x62
// 0.637046
0x52
// 0.626632
0x50
// 0.648391
0x53
// 0.541788
0x45
// 1.009708
0x7F
// 0.619746
0x4F
// 0.958104
0x7B
// 0.424366
0x36
// 0.443664
0x39
// 1.039364
0x7F
// 0.292760
0x25
// 0.280247
0x24
// 0.656680
0x54
// 0.104321
0x0D
// 0.285844
0x25
// 0.350364
0x2D
// 0.394962
0x33
// 0.658140
0x54
// 0.496187
0x40
// 0.364502
0x2F
// 0.359991
0x2E
// 0.199494
0x1A
// 0.694917
0x59
// 0.641341
0x52
// -0.090113
0xF4
// 0.583204
0x4B
// -0.163438
0xEB
// 0.655004
0x54
// 0.576650
0x4A
// 0.431817
0x37
// 0.666023
0x55
// 0.913039
0x75
// 0.939172
0x78
// 0.593450
0x4C
// 0.078552
0x0A
// 0.891809
0x72
// 0.518629
0x42
// 0.196644
0x19
// 0.742239
0x5F
// 0.496809
0x40
// -0.053427
0xF9
// 1.220694
0x7F
// 0.281891
0x24
// 0.942209
0x79
// 0.246412
0x20
// 0.293106
0x26
// 0.573522
0x49
// -0.149432
0xED
// 0.607605
0x4E
// 0.873865
0x70
// 0.777467
0x64
// -0.137342
0xEE
// 0.410373
0x35
// 0.517335
0x42
// 0.736007
0x5E
// 0.290547
0x25
// 0.729762
0x5D
// 0.251452
0x20
// 0.001187
0x00
// 0.669834
0x56
// 0.336466
0x2B
// 0.914053
0x75
// -0.173520
0xEA
// 0.878736
0x70
// 0.404981
0x34
// -0.339672
0xD5
// 0.464201
0x3B
// 0.457950
0x3B
// 0.158603
0x14
// 0.677794
0x57
// 0.923697
0x76
// 0.414183
0x35
// 0.799843
0x66
// 0.497796
0x40
// 1.197897
0x7F
// 0.225833
0x1D
// 1.057229
0x7F
// 0.039084
0x05
// 0.247485
0x20
// -0.456139
0xC6
// 0.081593
0x0A
// 0.798450
0x66
// 0.964166
0x7B
// 0.059547
0x08
// 0.918816
0x76
// 0.884892
0x71
// 0.127761
0x10
// -0.151395
0xED
// 0.535804
0x45
// 0.696316
0x59
// 0.554497
0x47
// 0.409726
0x34
// -0.011802
0xFE
// 0.352276
0x2D
// 0.071162
0x09
// 0.151270
0x13
// 0.680973
0x57
// 0.000155
0x00
// 0.605397
0x4D
// 0.237714
0x1E
// 0.114141
0x0F
// 0.203547
0x1A
// 1.295624
0x7F
// -0.334699
0xD5
// 0.269098
0x22
// 0.278304
0x24
// 0.500177
0x40
// 0.628044
0x50
// 0.345528
0x2C
// -0.059411
0xF8
// 0.164774
0x15
// 0.807016
0x67
// 0.587791
0x4B
// 0.224774
0x1D
// 0.650765
0x53
// -0.464205
0xC5
// 0.150736
0x13
// 0.238415
0x1F
// 0.101958
0x0D
// 0.126899
0x10
// 0.922865
0x76
// 0.956131
0x7A
// 0.469395
0x3C
// 0.207317
0x1B
// 0.835947
0x6B
// 0.248744
0x20
// 0.757193
0x61
// 0.209572
0x1B
// 0.250889
0x20
// 0.745568
0x5F
// 1.278931
0x7F
// 0.373692
0x30
// -0.386404
0xCF
// 0.606907
0x4E
// 1.035866
0x7F
// 0.254076
0x21
// 0.948130
0x79
// -0.500000
0xC0
// -0.037302
0xFB
// 0.423436
0x36
// 0.060504
0x08
// 1.019528
0x7F
// 0.513081
0x42
// 0.937981
0x78
// 0.670323
0x56
// 1.268535
0x7F
// 0.265940
0x22
// 0.963784
0x7B
// 0.479672
0x3D
// 0.279878
0x24
// 0.424557
0x36
// -0.366429
0xD1
// 0.665782
0x55
// 0.372049
0x30
// -0.166655
0xEB
// 1.330530
0x7F
// 0.674658
0x56
// 0.607966
0x4E
// 0.395386
0x33
// 0.031995
0x04
// 0.306541
0x27
// 0.606277
0x4E
// -0.169885
0xEA
// 0.903220
0x74
// 0.724877
0x5D
// 0.647636
0x53
// 1.033734
0x7F
// 0.309082
0x28
// 0.392269
0x32
// 0.368726
0x2F
// 0.856312
0x6E
// 0.766808
0x62
// 1.030004
0x7F
// 1.009502
0x7F
// 0.844085
0x6C
// 0.856264
0x6E
// 1.409033
0x7F
// 0.512933
0x42
// 0.672036
0x56
// 0.546318
0x46
// 0.331600
0x2A
// 1.037440
0x7F
// 0.086912
0x0B
// 0.236287
0x1E
// 0.292621
0x25
// 0.395808
0x33
// 0.619744
0x4F
// 0.235888
0x1E
// 0.916603
0x75
// 0.573356
0x49