You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/Matrix/Unary/UnaryQ7/RefVecMul1_q7.txt

1459 lines
12 KiB
Plaintext

B
728
// 0.000909
0x00
// 0.018430
0x02
// 0.026873
0x03
// 0.031064
0x04
// -0.001833
0x00
// -0.000260
0x00
// 0.016552
0x02
// 0.000909
0x00
// -0.004354
0xFF
// 0.018430
0x02
// -0.023133
0xFD
// 0.026873
0x03
// -0.018900
0xFE
// 0.031064
0x04
// 0.005202
0x01
// -0.001833
0x00
// 0.032335
0x04
// -0.000260
0x00
// -0.018963
0xFE
// 0.016552
0x02
// -0.038669
0xFB
// 0.000909
0x00
// -0.004354
0xFF
// -0.002070
0x00
// 0.018430
0x02
// -0.023133
0xFD
// 0.004859
0x01
// 0.026873
0x03
// -0.018900
0xFE
// 0.002412
0x00
// 0.031064
0x04
// 0.005202
0x01
// -0.009777
0xFF
// -0.001833
0x00
// 0.032335
0x04
// 0.024248
0x03
// -0.000260
0x00
// -0.018963
0xFE
// 0.033786
0x04
// 0.016552
0x02
// -0.038669
0xFB
// -0.064511
0xF8
// 0.000909
0x00
// -0.004354
0xFF
// -0.002070
0x00
// 0.005234
0x01
// 0.018430
0x02
// -0.023133
0xFD
// 0.004859
0x01
// -0.013563
0xFE
// 0.026873
0x03
// -0.018900
0xFE
// 0.002412
0x00
// -0.023114
0xFD
// 0.031064
0x04
// 0.005202
0x01
// -0.009777
0xFF
// -0.009964
0xFF
// -0.001833
0x00
// 0.032335
0x04
// 0.024248
0x03
// 0.043944
0x06
// -0.000260
0x00
// -0.018963
0xFE
// 0.033786
0x04
// -0.007965
0xFF
// 0.016552
0x02
// -0.038669
0xFB
// -0.064511
0xF8
// -0.059672
0xF8
// 0.000909
0x00
// -0.004354
0xFF
// -0.002070
0x00
// 0.005234
0x01
// 0.005769
0x01
// 0.000226
0x00
// 0.000607
0x00
// 0.003522
0x00
// -0.003916
0xFF
// -0.003931
0xFF
// 0.005226
0x01
// -0.000453
0x00
// 0.001627
0x00
// 0.002311
0x00
// -0.000391
0x00
// 0.018430
0x02
// -0.023133
0xFD
// 0.004859
0x01
// -0.013563
0xFE
// 0.011904
0x02
// 0.007049
0x01
// -0.007671
0xFF
// 0.019152
0x02
// -0.001379
0x00
// -0.006180
0xFF
// 0.011593
0x01
// 0.009778
0x01
// 0.022391
0x03
// 0.017340
0x02
// -0.004074
0xFF
// 0.026873
0x03
// -0.018900
0xFE
// 0.002412
0x00
// -0.023114
0xFD
// -0.006076
0xFF
// -0.005429
0xFF
// 0.015486
0x02
// 0.029524
0x04
// 0.045892
0x06
// -0.033949
0xFC
// 0.007069
0x01
// 0.019678
0x03
// -0.007167
0xFF
// 0.022637
0x03
// 0.030448
0x04
// 0.031064
0x04
// 0.005202
0x01
// -0.009777
0xFF
// -0.009964
0xFF
// 0.033117
0x04
// 0.027988
0x04
// 0.041296
0x05
// 0.005105
0x01
// -0.023644
0xFD
// -0.006038
0xFF
// 0.005207
0x01
// 0.007234
0x01
// -0.007633
0xFF
// -0.024492
0xFD
// -0.008232
0xFF
// -0.001833
0x00
// 0.032335
0x04
// 0.024248
0x03
// 0.043944
0x06
// 0.009062
0x01
// 0.052319
0x07
// -0.023988
0xFD
// -0.042579
0xFB
// -0.054088
0xF9
// 0.017742
0x02
// 0.006811
0x01
// 0.032290
0x04
// 0.001929
0x00
// 0.075331
0x0A
// 0.017293
0x02
// -0.000260
0x00
// -0.018963
0xFE
// 0.033786
0x04
// -0.007965
0xFF
// 0.061071
0x08
// 0.049810
0x06
// 0.019235
0x02
// -0.102991
0xF3
// -0.033045
0xFC
// 0.043704
0x06
// 0.010310
0x01
// -0.006020
0xFF
// -0.057205
0xF9
// 0.017697
0x02
// -0.061243
0xF8
// 0.016552
0x02
// -0.038669
0xFB
// -0.064511
0xF8
// -0.059672
0xF8
// 0.009653
0x01
// 0.018508
0x02
// 0.055693
0x07
// 0.043677
0x06
// 0.109842
0x0E
// -0.017525
0xFE
// 0.047597
0x06
// -0.048444
0xFA
// 0.061359
0x08
// -0.062353
0xF8
// 0.040217
0x05
// 0.000909
0x00
// -0.004354
0xFF
// -0.002070
0x00
// 0.005234
0x01
// 0.005769
0x01
// 0.000226
0x00
// 0.000607
0x00
// 0.003522
0x00
// -0.003916
0xFF
// -0.003931
0xFF
// 0.005226
0x01
// -0.000453
0x00
// 0.001627
0x00
// 0.002311
0x00
// -0.000391
0x00
// -0.004857
0xFF
// -0.000164
0x00
// 0.000302
0x00
// -0.008574
0xFF
// -0.000595
0x00
// -0.005311
0xFF
// -0.004201
0xFF
// -0.004727
0xFF
// -0.003605
0x00
// -0.000552
0x00
// -0.005702
0xFF
// -0.005761
0xFF
// -0.005741
0xFF
// 0.004780
0x01
// 0.002200
0x00
// -0.001967
0x00
// 0.001443
0x00
// 0.018430
0x02
// -0.023133
0xFD
// 0.004859
0x01
// -0.013563
0xFE
// 0.011904
0x02
// 0.007049
0x01
// -0.007671
0xFF
// 0.019152
0x02
// -0.001379
0x00
// -0.006180
0xFF
// 0.011593
0x01
// 0.009778
0x01
// 0.022391
0x03
// 0.017340
0x02
// -0.004074
0xFF
// -0.007774
0xFF
// -0.020677
0xFD
// 0.015170
0x02
// 0.001784
0x00
// -0.003479
0x00
// 0.003933
0x01
// 0.008371
0x01
// -0.012466
0xFE
// -0.004686
0xFF
// 0.003404
0x00
// -0.003437
0x00
// -0.018125
0xFE
// -0.001031
0x00
// -0.019157
0xFE
// -0.008403
0xFF
// 0.004448
0x01
// -0.006781
0xFF
// 0.026873
0x03
// -0.018900
0xFE
// 0.002412
0x00
// -0.023114
0xFD
// -0.006076
0xFF
// -0.005429
0xFF
// 0.015486
0x02
// 0.029524
0x04
// 0.045892
0x06
// -0.033949
0xFC
// 0.007069
0x01
// 0.019678
0x03
// -0.007167
0xFF
// 0.022637
0x03
// 0.030448
0x04
// 0.021369
0x03
// -0.008918
0xFF
// -0.013306
0xFE
// 0.016929
0x02
// 0.007162
0x01
// 0.004249
0x01
// 0.012919
0x02
// 0.008684
0x01
// -0.003796
0x00
// -0.044691
0xFA
// 0.003144
0x00
// 0.030406
0x04
// 0.014003
0x02
// -0.007089
0xFF
// -0.021967
0xFD
// -0.009867
0xFF
// 0.003124
0x00
// 0.031064
0x04
// 0.005202
0x01
// -0.009777
0xFF
// -0.009964
0xFF
// 0.033117
0x04
// 0.027988
0x04
// 0.041296
0x05
// 0.005105
0x01
// -0.023644
0xFD
// -0.006038
0xFF
// 0.005207
0x01
// 0.007234
0x01
// -0.007633
0xFF
// -0.024492
0xFD
// -0.008232
0xFF
// 0.005608
0x01
// 0.017578
0x02
// 0.005601
0x01
// -0.045082
0xFA
// 0.014516
0x02
// -0.005858
0xFF
// -0.005913
0xFF
// -0.015693
0xFE
// -0.010613
0xFF
// -0.004633
0xFF
// -0.030523
0xFC
// -0.011901
0xFE
// -0.004094
0xFF
// 0.000287
0x00
// 0.007890
0x01
// 0.002094
0x00
// 0.027797
0x04
// -0.001833
0x00
// 0.032335
0x04
// 0.024248
0x03
// 0.043944
0x06
// 0.009062
0x01
// 0.052319
0x07
// -0.023988
0xFD
// -0.042579
0xFB
// -0.054088
0xF9
// 0.017742
0x02
// 0.006811
0x01
// 0.032290
0x04
// 0.001929
0x00
// 0.075331
0x0A
// 0.017293
0x02
// -0.038676
0xFB
// -0.026293
0xFD
// -0.034327
0xFC
// -0.010197
0xFF
// 0.072465
0x09
// 0.019121
0x02
// 0.009113
0x01
// 0.026677
0x03
// 0.024923
0x03
// -0.052483
0xF9
// 0.013223
0x02
// 0.053055
0x07
// -0.014542
0xFE
// -0.043124
0xFA
// -0.010343
0xFF
// 0.031039
0x04
// 0.029602
0x04
// -0.000260
0x00
// -0.018963
0xFE
// 0.033786
0x04
// -0.007965
0xFF
// 0.061071
0x08
// 0.049810
0x06
// 0.019235
0x02
// -0.102991
0xF3
// -0.033045
0xFC
// 0.043704
0x06
// 0.010310
0x01
// -0.006020
0xFF
// -0.057205
0xF9
// 0.017697
0x02
// -0.061243
0xF8
// -0.011566
0xFF
// 0.069512
0x09
// -0.052920
0xF9
// 0.044587
0x06
// -0.013480
0xFE
// 0.031845
0x04
// -0.055210
0xF9
// -0.036154
0xFB
// 0.028024
0x04
// -0.012148
0xFE
// 0.024944
0x03
// -0.047311
0xFA
// 0.035869
0x05
// 0.018574
0x02
// 0.046288
0x06
// 0.029655
0x04
// -0.083973
0xF5
// 0.016552
0x02
// -0.038669
0xFB
// -0.064511
0xF8
// -0.059672
0xF8
// 0.009653
0x01
// 0.018508
0x02
// 0.055693
0x07
// 0.043677
0x06
// 0.109842
0x0E
// -0.017525
0xFE
// 0.047597
0x06
// -0.048444
0xFA
// 0.061359
0x08
// -0.062353
0xF8
// 0.040217
0x05
// 0.034494
0x04
// -0.052616
0xF9
// 0.077474
0x0A
// 0.080598
0x0A
// 0.032809
0x04
// -0.018186
0xFE
// -0.003873
0x00
// -0.078234
0xF6
// -0.019034
0xFE
// 0.096536
0x0C
// 0.043046
0x06
// 0.028907
0x04
// 0.056890
0x07
// 0.029479
0x04
// -0.049255
0xFA
// -0.031816
0xFC
// -0.040271
0xFB
// 0.000909
0x00
// -0.004354
0xFF
// -0.002070
0x00
// 0.005234
0x01
// 0.005769
0x01
// 0.000226
0x00
// 0.000607
0x00
// 0.003522
0x00
// -0.003916
0xFF
// -0.003931
0xFF
// 0.005226
0x01
// -0.000453
0x00
// 0.001627
0x00
// 0.002311
0x00
// -0.000391
0x00
// -0.004857
0xFF
// -0.000164
0x00
// 0.000302
0x00
// -0.008574
0xFF
// -0.000595
0x00
// -0.005311
0xFF
// -0.004201
0xFF
// -0.004727
0xFF
// -0.003605
0x00
// -0.000552
0x00
// -0.005702
0xFF
// -0.005761
0xFF
// -0.005741
0xFF
// 0.004780
0x01
// 0.002200
0x00
// -0.001967
0x00
// 0.001443
0x00
// -0.003639
0x00
// 0.004234
0x01
// -0.000013
0x00
// -0.003773
0x00
// 0.002300
0x00
// 0.000128
0x00
// 0.002194
0x00
// 0.001410
0x00
// -0.003422
0x00
// -0.001828
0x00
// -0.000757
0x00
// -0.002268
0x00
// -0.005412
0xFF
// 0.001753
0x00
// -0.004837
0xFF
// 0.018430
0x02
// -0.023133
0xFD
// 0.004859
0x01
// -0.013563
0xFE
// 0.011904
0x02
// 0.007049
0x01
// -0.007671
0xFF
// 0.019152
0x02
// -0.001379
0x00
// -0.006180
0xFF
// 0.011593
0x01
// 0.009778
0x01
// 0.022391
0x03
// 0.017340
0x02
// -0.004074
0xFF
// -0.007774
0xFF
// -0.020677
0xFD
// 0.015170
0x02
// 0.001784
0x00
// -0.003479
0x00
// 0.003933
0x01
// 0.008371
0x01
// -0.012466
0xFE
// -0.004686
0xFF
// 0.003404
0x00
// -0.003437
0x00
// -0.018125
0xFE
// -0.001031
0x00
// -0.019157
0xFE
// -0.008403
0xFF
// 0.004448
0x01
// -0.006781
0xFF
// 0.015252
0x02
// 0.007906
0x01
// -0.012902
0xFE
// -0.024353
0xFD
// -0.034896
0xFC
// 0.004367
0x01
// 0.002916
0x00
// 0.014284
0x02
// -0.012420
0xFE
// 0.002656
0x00
// -0.018752
0xFE
// -0.008769
0xFF
// -0.002740
0x00
// -0.010930
0xFF
// -0.021657
0xFD
// 0.026873
0x03
// -0.018900
0xFE
// 0.002412
0x00
// -0.023114
0xFD
// -0.006076
0xFF
// -0.005429
0xFF
// 0.015486
0x02
// 0.029524
0x04
// 0.045892
0x06
// -0.033949
0xFC
// 0.007069
0x01
// 0.019678
0x03
// -0.007167
0xFF
// 0.022637
0x03
// 0.030448
0x04
// 0.021369
0x03
// -0.008918
0xFF
// -0.013306
0xFE
// 0.016929
0x02
// 0.007162
0x01
// 0.004249
0x01
// 0.012919
0x02
// 0.008684
0x01
// -0.003796
0x00
// -0.044691
0xFA
// 0.003144
0x00
// 0.030406
0x04
// 0.014003
0x02
// -0.007089
0xFF
// -0.021967
0xFD
// -0.009867
0xFF
// 0.003124
0x00
// -0.003028
0x00
// -0.014453
0xFE
// 0.020658
0x03
// -0.027223
0xFD
// -0.004518
0xFF
// 0.043504
0x06
// -0.004285
0xFF
// 0.008162
0x01
// 0.002353
0x00
// -0.011110
0xFF
// 0.017256
0x02
// -0.013690
0xFE
// -0.011850
0xFE
// 0.010243
0x01
// 0.009367
0x01
// 0.031064
0x04
// 0.005202
0x01
// -0.009777
0xFF
// -0.009964
0xFF
// 0.033117
0x04
// 0.027988
0x04
// 0.041296
0x05
// 0.005105
0x01
// -0.023644
0xFD
// -0.006038
0xFF
// 0.005207
0x01
// 0.007234
0x01
// -0.007633
0xFF
// -0.024492
0xFD
// -0.008232
0xFF
// 0.005608
0x01
// 0.017578
0x02
// 0.005601
0x01
// -0.045082
0xFA
// 0.014516
0x02
// -0.005858
0xFF
// -0.005913
0xFF
// -0.015693
0xFE
// -0.010613
0xFF
// -0.004633
0xFF
// -0.030523
0xFC
// -0.011901
0xFE
// -0.004094
0xFF
// 0.000287
0x00
// 0.007890
0x01
// 0.002094
0x00
// 0.027797
0x04
// 0.027713
0x04
// -0.012156
0xFE
// -0.004854
0xFF
// -0.008630
0xFF
// -0.010187
0xFF
// -0.020770
0xFD
// 0.012532
0x02
// -0.023280
0xFD
// 0.024292
0x03
// -0.009259
0xFF
// 0.023291
0x03
// 0.029745
0x04
// -0.007480
0xFF
// -0.001781
0x00
// 0.025301
0x03
// -0.001833
0x00
// 0.032335
0x04
// 0.024248
0x03
// 0.043944
0x06
// 0.009062
0x01
// 0.052319
0x07
// -0.023988
0xFD
// -0.042579
0xFB
// -0.054088
0xF9
// 0.017742
0x02
// 0.006811
0x01
// 0.032290
0x04
// 0.001929
0x00
// 0.075331
0x0A
// 0.017293
0x02
// -0.038676
0xFB
// -0.026293
0xFD
// -0.034327
0xFC
// -0.010197
0xFF
// 0.072465
0x09
// 0.019121
0x02
// 0.009113
0x01
// 0.026677
0x03
// 0.024923
0x03
// -0.052483
0xF9
// 0.013223
0x02
// 0.053055
0x07
// -0.014542
0xFE
// -0.043124
0xFA
// -0.010343
0xFF
// 0.031039
0x04
// 0.029602
0x04
// -0.009956
0xFF
// -0.006168
0xFF
// -0.018851
0xFE
// -0.027870
0xFC
// 0.040259
0x05
// 0.047920
0x06
// -0.019945
0xFD
// 0.047498
0x06
// 0.035015
0x04
// 0.020094
0x03
// -0.004313
0xFF
// 0.046028
0x06
// -0.012862
0xFE
// 0.000006
0x00
// 0.038236
0x05
// -0.000260
0x00
// -0.018963
0xFE
// 0.033786
0x04
// -0.007965
0xFF
// 0.061071
0x08
// 0.049810
0x06
// 0.019235
0x02
// -0.102991
0xF3
// -0.033045
0xFC
// 0.043704
0x06
// 0.010310
0x01
// -0.006020
0xFF
// -0.057205
0xF9
// 0.017697
0x02
// -0.061243
0xF8
// -0.011566
0xFF
// 0.069512
0x09
// -0.052920
0xF9
// 0.044587
0x06
// -0.013480
0xFE
// 0.031845
0x04
// -0.055210
0xF9
// -0.036154
0xFB
// 0.028024
0x04
// -0.012148
0xFE
// 0.024944
0x03
// -0.047311
0xFA
// 0.035869
0x05
// 0.018574
0x02
// 0.046288
0x06
// 0.029655
0x04
// -0.083973
0xF5
// -0.038522
0xFB
// -0.017861
0xFE
// 0.032899
0x04
// -0.062184
0xF8
// 0.015789
0x02
// -0.030456
0xFC
// 0.022242
0x03
// 0.043889
0x06
// 0.000482
0x00
// -0.040513
0xFB
// 0.012374
0x02
// -0.115414
0xF1
// 0.034171
0x04
// 0.036714
0x05
// 0.002999
0x00
// 0.016552
0x02
// -0.038669
0xFB
// -0.064511
0xF8
// -0.059672
0xF8
// 0.009653
0x01
// 0.018508
0x02
// 0.055693
0x07
// 0.043677
0x06
// 0.109842
0x0E
// -0.017525
0xFE
// 0.047597
0x06
// -0.048444
0xFA
// 0.061359
0x08
// -0.062353
0xF8
// 0.040217
0x05
// 0.034494
0x04
// -0.052616
0xF9
// 0.077474
0x0A
// 0.080598
0x0A
// 0.032809
0x04
// -0.018186
0xFE
// -0.003873
0x00
// -0.078234
0xF6
// -0.019034
0xFE
// 0.096536
0x0C
// 0.043046
0x06
// 0.028907
0x04
// 0.056890
0x07
// 0.029479
0x04
// -0.049255
0xFA
// -0.031816
0xFC
// -0.040271
0xFB
// 0.053410
0x07
// 0.047446
0x06
// -0.032031
0xFC
// -0.009276
0xFF
// -0.019782
0xFD
// -0.006665
0xFF
// -0.002243
0x00
// 0.000645
0x00
// 0.039193
0x05
// 0.058760
0x08
// -0.024976
0xFD
// -0.003878
0x00
// -0.051576
0xF9
// 0.072944
0x09
// 0.048594
0x06