You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/Matrix/Unary/UnaryQ7/RefVecMul1_q7.txt

1459 lines
12 KiB
Plaintext

B
728
// -0.000370
0x00
// -0.000135
0x00
// -0.001721
0x00
// 0.001198
0x00
// 0.006431
0x01
// 0.015139
0x02
// -0.014667
0xFE
// -0.000370
0x00
// 0.000186
0x00
// -0.000135
0x00
// 0.001075
0x00
// -0.001721
0x00
// -0.001127
0x00
// 0.001198
0x00
// 0.004356
0x01
// 0.006431
0x01
// -0.018976
0xFE
// 0.015139
0x02
// -0.027038
0xFD
// -0.014667
0xFE
// 0.048457
0x06
// -0.000370
0x00
// 0.000186
0x00
// 0.000595
0x00
// -0.000135
0x00
// 0.001075
0x00
// -0.000497
0x00
// -0.001721
0x00
// -0.001127
0x00
// 0.001891
0x00
// 0.001198
0x00
// 0.004356
0x01
// -0.001034
0x00
// 0.006431
0x01
// -0.018976
0xFE
// -0.018832
0xFE
// 0.015139
0x02
// -0.027038
0xFD
// -0.025607
0xFD
// -0.014667
0xFE
// 0.048457
0x06
// -0.039290
0xFB
// -0.000370
0x00
// 0.000186
0x00
// 0.000595
0x00
// 0.000380
0x00
// -0.000135
0x00
// 0.001075
0x00
// -0.000497
0x00
// 0.001556
0x00
// -0.001721
0x00
// -0.001127
0x00
// 0.001891
0x00
// 0.000334
0x00
// 0.001198
0x00
// 0.004356
0x01
// -0.001034
0x00
// 0.006758
0x01
// 0.006431
0x01
// -0.018976
0xFE
// -0.018832
0xFE
// -0.000355
0x00
// 0.015139
0x02
// -0.027038
0xFD
// -0.025607
0xFD
// -0.068669
0xF7
// -0.014667
0xFE
// 0.048457
0x06
// -0.039290
0xFB
// -0.053952
0xF9
// -0.000370
0x00
// 0.000186
0x00
// 0.000595
0x00
// 0.000380
0x00
// -0.000757
0x00
// 0.000206
0x00
// 0.000527
0x00
// 0.000815
0x00
// -0.000126
0x00
// -0.000142
0x00
// 0.000659
0x00
// 0.000134
0x00
// -0.000049
0x00
// 0.000741
0x00
// 0.000030
0x00
// -0.000135
0x00
// 0.001075
0x00
// -0.000497
0x00
// 0.001556
0x00
// -0.000305
0x00
// 0.000828
0x00
// 0.000888
0x00
// 0.001009
0x00
// 0.000561
0x00
// 0.000760
0x00
// 0.000336
0x00
// -0.000671
0x00
// -0.000947
0x00
// -0.000131
0x00
// 0.000412
0x00
// -0.001721
0x00
// -0.001127
0x00
// 0.001891
0x00
// 0.000334
0x00
// 0.000809
0x00
// 0.001348
0x00
// 0.001218
0x00
// 0.003592
0x00
// 0.000590
0x00
// -0.001013
0x00
// -0.005032
0xFF
// 0.001413
0x00
// 0.000396
0x00
// -0.003988
0xFF
// -0.003348
0x00
// 0.001198
0x00
// 0.004356
0x01
// -0.001034
0x00
// 0.006758
0x01
// 0.005827
0x01
// -0.008344
0xFF
// 0.003299
0x00
// 0.001019
0x00
// -0.006803
0xFF
// 0.006241
0x01
// 0.007579
0x01
// -0.002473
0x00
// -0.000091
0x00
// -0.007884
0xFF
// -0.007193
0xFF
// 0.006431
0x01
// -0.018976
0xFE
// -0.018832
0xFE
// -0.000355
0x00
// -0.043955
0xFA
// 0.003168
0x00
// -0.001392
0x00
// -0.035346
0xFB
// 0.018496
0x02
// 0.005046
0x01
// 0.034637
0x04
// -0.033985
0xFC
// 0.014269
0x02
// 0.008064
0x01
// -0.030082
0xFC
// 0.015139
0x02
// -0.027038
0xFD
// -0.025607
0xFD
// -0.068669
0xF7
// 0.026879
0x03
// 0.055124
0x07
// 0.043119
0x06
// 0.005465
0x01
// 0.031677
0x04
// 0.004036
0x01
// 0.031078
0x04
// 0.020038
0x03
// -0.022507
0xFD
// 0.029387
0x04
// -0.015410
0xFE
// -0.014667
0xFE
// 0.048457
0x06
// -0.039290
0xFB
// -0.053952
0xF9
// -0.037991
0xFB
// 0.043238
0x06
// -0.005953
0xFF
// -0.024143
0xFD
// 0.034672
0x04
// 0.003494
0x00
// 0.008650
0x01
// -0.025190
0xFD
// 0.039143
0x05
// 0.032504
0x04
// -0.010757
0xFF
// -0.000370
0x00
// 0.000186
0x00
// 0.000595
0x00
// 0.000380
0x00
// -0.000757
0x00
// 0.000206
0x00
// 0.000527
0x00
// 0.000815
0x00
// -0.000126
0x00
// -0.000142
0x00
// 0.000659
0x00
// 0.000134
0x00
// -0.000049
0x00
// 0.000741
0x00
// 0.000030
0x00
// 0.000774
0x00
// 0.000521
0x00
// 0.000032
0x00
// -0.000074
0x00
// 0.000660
0x00
// -0.000172
0x00
// 0.000402
0x00
// 0.000526
0x00
// -0.000947
0x00
// 0.000773
0x00
// -0.001361
0x00
// -0.000577
0x00
// 0.000353
0x00
// -0.000148
0x00
// 0.000442
0x00
// -0.001950
0x00
// -0.000598
0x00
// -0.000135
0x00
// 0.001075
0x00
// -0.000497
0x00
// 0.001556
0x00
// -0.000305
0x00
// 0.000828
0x00
// 0.000888
0x00
// 0.001009
0x00
// 0.000561
0x00
// 0.000760
0x00
// 0.000336
0x00
// -0.000671
0x00
// -0.000947
0x00
// -0.000131
0x00
// 0.000412
0x00
// -0.002706
0x00
// 0.000075
0x00
// -0.002587
0x00
// 0.000073
0x00
// 0.000841
0x00
// 0.001992
0x00
// 0.001264
0x00
// 0.001366
0x00
// -0.000113
0x00
// 0.000438
0x00
// 0.001506
0x00
// -0.000565
0x00
// -0.002796
0x00
// 0.001122
0x00
// -0.000943
0x00
// 0.000730
0x00
// -0.000378
0x00
// -0.001721
0x00
// -0.001127
0x00
// 0.001891
0x00
// 0.000334
0x00
// 0.000809
0x00
// 0.001348
0x00
// 0.001218
0x00
// 0.003592
0x00
// 0.000590
0x00
// -0.001013
0x00
// -0.005032
0xFF
// 0.001413
0x00
// 0.000396
0x00
// -0.003988
0xFF
// -0.003348
0x00
// 0.001167
0x00
// -0.002514
0x00
// 0.001198
0x00
// -0.002908
0x00
// 0.003840
0x00
// 0.000666
0x00
// -0.001463
0x00
// -0.001773
0x00
// -0.001109
0x00
// -0.002030
0x00
// 0.000448
0x00
// 0.002403
0x00
// 0.002451
0x00
// -0.002750
0x00
// 0.003808
0x00
// -0.001744
0x00
// 0.001897
0x00
// 0.001198
0x00
// 0.004356
0x01
// -0.001034
0x00
// 0.006758
0x01
// 0.005827
0x01
// -0.008344
0xFF
// 0.003299
0x00
// 0.001019
0x00
// -0.006803
0xFF
// 0.006241
0x01
// 0.007579
0x01
// -0.002473
0x00
// -0.000091
0x00
// -0.007884
0xFF
// -0.007193
0xFF
// -0.001777
0x00
// 0.000314
0x00
// 0.005717
0x01
// -0.001640
0x00
// -0.005341
0xFF
// -0.009932
0xFF
// 0.003448
0x00
// -0.000257
0x00
// -0.003771
0x00
// -0.000953
0x00
// 0.018532
0x02
// 0.006321
0x01
// -0.007162
0xFF
// -0.009874
0xFF
// 0.000434
0x00
// -0.002610
0x00
// -0.003678
0x00
// 0.006431
0x01
// -0.018976
0xFE
// -0.018832
0xFE
// -0.000355
0x00
// -0.043955
0xFA
// 0.003168
0x00
// -0.001392
0x00
// -0.035346
0xFB
// 0.018496
0x02
// 0.005046
0x01
// 0.034637
0x04
// -0.033985
0xFC
// 0.014269
0x02
// 0.008064
0x01
// -0.030082
0xFC
// -0.033663
0xFC
// 0.019377
0x02
// -0.026971
0xFD
// -0.026041
0xFD
// 0.001120
0x00
// 0.025566
0x03
// -0.052015
0xF9
// 0.015384
0x02
// 0.017029
0x02
// 0.027582
0x04
// 0.011162
0x01
// 0.027388
0x04
// -0.017764
0xFE
// -0.017888
0xFE
// 0.017780
0x02
// 0.029724
0x04
// -0.004624
0xFF
// 0.015139
0x02
// -0.027038
0xFD
// -0.025607
0xFD
// -0.068669
0xF7
// 0.026879
0x03
// 0.055124
0x07
// 0.043119
0x06
// 0.005465
0x01
// 0.031677
0x04
// 0.004036
0x01
// 0.031078
0x04
// 0.020038
0x03
// -0.022507
0xFD
// 0.029387
0x04
// -0.015410
0xFE
// 0.032071
0x04
// 0.004632
0x01
// 0.011579
0x01
// 0.017126
0x02
// -0.009886
0xFF
// 0.044060
0x06
// -0.004180
0xFF
// -0.032270
0xFC
// 0.002919
0x00
// -0.019467
0xFE
// -0.029084
0xFC
// -0.080955
0xF6
// -0.013385
0xFE
// -0.066019
0xF8
// 0.002734
0x00
// 0.028272
0x04
// -0.019405
0xFE
// -0.014667
0xFE
// 0.048457
0x06
// -0.039290
0xFB
// -0.053952
0xF9
// -0.037991
0xFB
// 0.043238
0x06
// -0.005953
0xFF
// -0.024143
0xFD
// 0.034672
0x04
// 0.003494
0x00
// 0.008650
0x01
// -0.025190
0xFD
// 0.039143
0x05
// 0.032504
0x04
// -0.010757
0xFF
// 0.066610
0x09
// 0.053312
0x07
// -0.021788
0xFD
// 0.030649
0x04
// -0.034199
0xFC
// -0.016183
0xFE
// -0.027244
0xFD
// -0.057890
0xF9
// 0.024240
0x03
// -0.052708
0xF9
// 0.002778
0x00
// -0.006447
0xFF
// -0.000614
0x00
// -0.020821
0xFD
// -0.046555
0xFA
// -0.031561
0xFC
// -0.013783
0xFE
// -0.000370
0x00
// 0.000186
0x00
// 0.000595
0x00
// 0.000380
0x00
// -0.000757
0x00
// 0.000206
0x00
// 0.000527
0x00
// 0.000815
0x00
// -0.000126
0x00
// -0.000142
0x00
// 0.000659
0x00
// 0.000134
0x00
// -0.000049
0x00
// 0.000741
0x00
// 0.000030
0x00
// 0.000774
0x00
// 0.000521
0x00
// 0.000032
0x00
// -0.000074
0x00
// 0.000660
0x00
// -0.000172
0x00
// 0.000402
0x00
// 0.000526
0x00
// -0.000947
0x00
// 0.000773
0x00
// -0.001361
0x00
// -0.000577
0x00
// 0.000353
0x00
// -0.000148
0x00
// 0.000442
0x00
// -0.001950
0x00
// -0.000598
0x00
// 0.000873
0x00
// -0.000631
0x00
// -0.001012
0x00
// -0.001246
0x00
// 0.001437
0x00
// -0.001079
0x00
// -0.000121
0x00
// 0.000761
0x00
// -0.000162
0x00
// 0.001705
0x00
// 0.000239
0x00
// 0.000810
0x00
// 0.001730
0x00
// -0.000288
0x00
// 0.000361
0x00
// -0.000135
0x00
// 0.001075
0x00
// -0.000497
0x00
// 0.001556
0x00
// -0.000305
0x00
// 0.000828
0x00
// 0.000888
0x00
// 0.001009
0x00
// 0.000561
0x00
// 0.000760
0x00
// 0.000336
0x00
// -0.000671
0x00
// -0.000947
0x00
// -0.000131
0x00
// 0.000412
0x00
// -0.002706
0x00
// 0.000075
0x00
// -0.002587
0x00
// 0.000073
0x00
// 0.000841
0x00
// 0.001992
0x00
// 0.001264
0x00
// 0.001366
0x00
// -0.000113
0x00
// 0.000438
0x00
// 0.001506
0x00
// -0.000565
0x00
// -0.002796
0x00
// 0.001122
0x00
// -0.000943
0x00
// 0.000730
0x00
// -0.000378
0x00
// 0.000734
0x00
// -0.000287
0x00
// 0.001320
0x00
// -0.000066
0x00
// -0.002378
0x00
// -0.000067
0x00
// -0.000423
0x00
// -0.000168
0x00
// -0.001727
0x00
// -0.000469
0x00
// 0.000259
0x00
// 0.002148
0x00
// -0.002542
0x00
// -0.000426
0x00
// 0.000318
0x00
// -0.001721
0x00
// -0.001127
0x00
// 0.001891
0x00
// 0.000334
0x00
// 0.000809
0x00
// 0.001348
0x00
// 0.001218
0x00
// 0.003592
0x00
// 0.000590
0x00
// -0.001013
0x00
// -0.005032
0xFF
// 0.001413
0x00
// 0.000396
0x00
// -0.003988
0xFF
// -0.003348
0x00
// 0.001167
0x00
// -0.002514
0x00
// 0.001198
0x00
// -0.002908
0x00
// 0.003840
0x00
// 0.000666
0x00
// -0.001463
0x00
// -0.001773
0x00
// -0.001109
0x00
// -0.002030
0x00
// 0.000448
0x00
// 0.002403
0x00
// 0.002451
0x00
// -0.002750
0x00
// 0.003808
0x00
// -0.001744
0x00
// 0.001897
0x00
// 0.000859
0x00
// -0.002794
0x00
// 0.004317
0x01
// -0.003326
0x00
// -0.000589
0x00
// -0.000212
0x00
// -0.001113
0x00
// -0.000653
0x00
// -0.000815
0x00
// 0.000423
0x00
// 0.001882
0x00
// 0.001074
0x00
// 0.001455
0x00
// -0.000489
0x00
// -0.005437
0xFF
// 0.001198
0x00
// 0.004356
0x01
// -0.001034
0x00
// 0.006758
0x01
// 0.005827
0x01
// -0.008344
0xFF
// 0.003299
0x00
// 0.001019
0x00
// -0.006803
0xFF
// 0.006241
0x01
// 0.007579
0x01
// -0.002473
0x00
// -0.000091
0x00
// -0.007884
0xFF
// -0.007193
0xFF
// -0.001777
0x00
// 0.000314
0x00
// 0.005717
0x01
// -0.001640
0x00
// -0.005341
0xFF
// -0.009932
0xFF
// 0.003448
0x00
// -0.000257
0x00
// -0.003771
0x00
// -0.000953
0x00
// 0.018532
0x02
// 0.006321
0x01
// -0.007162
0xFF
// -0.009874
0xFF
// 0.000434
0x00
// -0.002610
0x00
// -0.003678
0x00
// 0.000135
0x00
// 0.000827
0x00
// -0.002563
0x00
// -0.003673
0x00
// 0.004250
0x01
// 0.006961
0x01
// 0.005406
0x01
// -0.002833
0x00
// 0.007770
0x01
// 0.000610
0x00
// -0.006741
0xFF
// 0.002114
0x00
// -0.006617
0xFF
// -0.005536
0xFF
// -0.004048
0xFF
// 0.006431
0x01
// -0.018976
0xFE
// -0.018832
0xFE
// -0.000355
0x00
// -0.043955
0xFA
// 0.003168
0x00
// -0.001392
0x00
// -0.035346
0xFB
// 0.018496
0x02
// 0.005046
0x01
// 0.034637
0x04
// -0.033985
0xFC
// 0.014269
0x02
// 0.008064
0x01
// -0.030082
0xFC
// -0.033663
0xFC
// 0.019377
0x02
// -0.026971
0xFD
// -0.026041
0xFD
// 0.001120
0x00
// 0.025566
0x03
// -0.052015
0xF9
// 0.015384
0x02
// 0.017029
0x02
// 0.027582
0x04
// 0.011162
0x01
// 0.027388
0x04
// -0.017764
0xFE
// -0.017888
0xFE
// 0.017780
0x02
// 0.029724
0x04
// -0.004624
0xFF
// 0.020794
0x03
// -0.019181
0xFE
// 0.021772
0x03
// -0.042566
0xFB
// -0.000036
0x00
// -0.007578
0xFF
// -0.025286
0xFD
// 0.018287
0x02
// 0.026397
0x03
// -0.021450
0xFD
// 0.036476
0x05
// 0.010813
0x01
// -0.026730
0xFD
// 0.005073
0x01
// 0.013365
0x02
// 0.015139
0x02
// -0.027038
0xFD
// -0.025607
0xFD
// -0.068669
0xF7
// 0.026879
0x03
// 0.055124
0x07
// 0.043119
0x06
// 0.005465
0x01
// 0.031677
0x04
// 0.004036
0x01
// 0.031078
0x04
// 0.020038
0x03
// -0.022507
0xFD
// 0.029387
0x04
// -0.015410
0xFE
// 0.032071
0x04
// 0.004632
0x01
// 0.011579
0x01
// 0.017126
0x02
// -0.009886
0xFF
// 0.044060
0x06
// -0.004180
0xFF
// -0.032270
0xFC
// 0.002919
0x00
// -0.019467
0xFE
// -0.029084
0xFC
// -0.080955
0xF6
// -0.013385
0xFE
// -0.066019
0xF8
// 0.002734
0x00
// 0.028272
0x04
// -0.019405
0xFE
// 0.021738
0x03
// -0.017642
0xFE
// -0.039305
0xFB
// 0.027176
0x03
// 0.003419
0x00
// 0.031370
0x04
// -0.037788
0xFB
// -0.068312
0xF7
// -0.003799
0x00
// 0.003448
0x00
// 0.013975
0x02
// 0.010299
0x01
// 0.036696
0x05
// 0.009134
0x01
// 0.016154
0x02
// -0.014667
0xFE
// 0.048457
0x06
// -0.039290
0xFB
// -0.053952
0xF9
// -0.037991
0xFB
// 0.043238
0x06
// -0.005953
0xFF
// -0.024143
0xFD
// 0.034672
0x04
// 0.003494
0x00
// 0.008650
0x01
// -0.025190
0xFD
// 0.039143
0x05
// 0.032504
0x04
// -0.010757
0xFF
// 0.066610
0x09
// 0.053312
0x07
// -0.021788
0xFD
// 0.030649
0x04
// -0.034199
0xFC
// -0.016183
0xFE
// -0.027244
0xFD
// -0.057890
0xF9
// 0.024240
0x03
// -0.052708
0xF9
// 0.002778
0x00
// -0.006447
0xFF
// -0.000614
0x00
// -0.020821
0xFD
// -0.046555
0xFA
// -0.031561
0xFC
// -0.013783
0xFE
// 0.069290
0x09
// 0.030174
0x04
// 0.049748
0x06
// 0.062753
0x08
// 0.072400
0x09
// 0.041084
0x05
// 0.005182
0x01
// -0.027525
0xFC
// 0.002077
0x00
// 0.017400
0x02
// -0.020756
0xFD
// -0.028003
0xFC
// -0.035898
0xFB
// 0.012450
0x02
// 0.011454
0x01