You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Input1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.406505
0x34
// -0.310563
0xD8
// 0.172014
0x16
// -0.227402
0xE3
// -0.429115
0xC9
// 0.566325
0x48
// 0.135244
0x11
// -0.227246
0xE3
// -0.278395
0xDC
// -0.064856
0xF8
// 0.382370
0x31
// 0.384018
0x31
// -0.142426
0xEE
// 0.127911
0x10
// 0.937348
0x78
// 0.244336
0x1F
// -0.000449
0x00
// 0.127691
0x10
// 0.546126
0x46
// -0.678888
0xA9
// 0.132136
0x11
// 0.477643
0x3D
// 0.210225
0x1B
// 0.344956
0x2C
// 0.568114
0x49
// -0.873362
0x90
// 0.446447
0x39
// 0.533950
0x44
// 0.478272
0x3D
// 0.860382
0x6E
// -0.164302
0xEB
// 0.577795
0x4A
// 0.358514
0x2E
// -0.461496
0xC5
// -0.098446
0xF3
// 0.180956
0x17
// 0.024522
0x03
// 0.563421
0x48
// 0.311872
0x28
// 0.035202
0x05
// -0.373724
0xD0
// -0.560139
0xB8
// -0.003935
0xFF
// 0.255564
0x21
// 0.120520
0x0F
// -0.545286
0xBA
// -0.058440
0xF9
// 0.191735
0x19
// -0.287982
0xDB
// -0.428491
0xC9
// -0.236311
0xE2
// 0.142581
0x12
// 0.981504
0x7E
// -0.370153
0xD1
// 0.141493
0x12
// -0.020653
0xFD
// 0.004885
0x01
// 0.528854
0x44
// -0.073787
0xF7
// 0.557828
0x47
// 0.734641
0x5E
// -0.135374
0xEF
// -0.114101
0xF1
// 0.496593
0x40
// -0.299451
0xDA
// -0.422930
0xCA
// -0.031521
0xFC
// -0.297820
0xDA
// 0.292876
0x25
// -0.201392
0xE6
// -0.318115
0xD7
// -0.040682
0xFB
// 0.038819
0x05
// 0.238251
0x1E
// 0.509357
0x41
// 0.186130
0x18
// 0.106388
0x0E
// 0.270024
0x23
// 0.053047
0x07
// -0.060925
0xF8
// 0.230659
0x1E
// 0.233907
0x1E
// -0.599756
0xB3
// -0.001226
0x00
// 0.056549
0x07
// 0.369718
0x2F
// -0.139689
0xEE
// 0.030954
0x04
// -0.106074
0xF2
// 0.116792
0x0F
// 0.186298
0x18
// -0.054083
0xF9
// -0.664406
0xAB
// 0.720169
0x5C
// -0.024285
0xFD
// -0.453417
0xC6
// -0.579656
0xB6
// 0.406865
0x34
// -0.327136
0xD6
// 0.050715
0x06
// -0.166522
0xEB
// 0.463558
0x3B
// 0.566297
0x48
// 0.043389
0x06
// -0.395165
0xCD
// -0.530630
0xBC
// -0.322141
0xD7
// -0.155298
0xEC
// 0.450380
0x3A
// -0.022014
0xFD
// -0.188941
0xE8
// 0.136682
0x11
// -0.399724
0xCD
// 1.000000
0x7F
// -0.365820
0xD1
// -0.372843
0xD0
// -0.068239
0xF7
// 0.097078
0x0C
// -0.232430
0xE2
// -0.115582
0xF1
// 0.242468
0x1F
// 0.668121
0x56
// -0.498624
0xC0
// -0.023149
0xFD
// 0.518478
0x42
// 0.183058
0x17
// -0.269847
0xDD
// 0.056135
0x07
// -0.216037
0xE4
// -0.057304
0xF9
// -0.407747
0xCC
// 0.020721
0x03
// -0.505437
0xBF
// -0.249114
0xE0
// 0.491962
0x3F
// -0.262355
0xDE
// -0.020904
0xFD
// -0.174981
0xEA
// -0.144922
0xED
// -0.070263
0xF7
// -0.358853
0xD2
// 0.088375
0x0B
// 0.507894
0x41
// 0.300326
0x26
// 0.500913
0x40
// -0.189180
0xE8
// 0.442558
0x39
// 0.327327
0x2A
// 0.113684
0x0F
// 0.437995
0x38
// -0.345656
0xD4
// 0.008792
0x01
// 0.415429
0x35
// 0.367083
0x2F
// 0.025490
0x03
// -0.185856
0xE8
// -0.626408
0xB0
// 0.172210
0x16
// -0.413104
0xCB
// -0.641639
0xAE
// 0.492462
0x3F
// 0.654081
0x54
// 0.318345
0x29
// 0.292832
0x25
// -0.398645
0xCD
// 0.184955
0x18
// -0.158882
0xEC
// -0.716584
0xA4
// 0.382191
0x31
// 0.778871
0x64
// 0.193729
0x19
// 0.027986
0x04
// 0.707624
0x5B
// -0.715398
0xA4
// -0.295780
0xDA
// -0.381512
0xCF
// -0.225217
0xE3
// 0.461425
0x3B
// -0.246591
0xE0
// 0.333991
0x2B
// 0.099814
0x0D
// -0.122315
0xF0
// 0.029943
0x04
// -0.156905
0xEC
// -0.172874
0xEA
// 0.450637
0x3A
// 0.452841
0x3A
// 0.301896
0x27
// -0.047299
0xFA
// 0.542612
0x45
// 0.519547
0x43
// -0.396262
0xCD
// 0.368082
0x2F
// -0.130987
0xEF
// 0.380206
0x31
// 0.206908
0x1A
// 0.082314
0x0B
// -0.051018
0xF9
// -0.689293
0xA8
// 0.158847
0x14
// -0.165609
0xEB
// -0.066256
0xF8
// -0.046642
0xFA
// -0.560652
0xB8
// -0.427382
0xC9
// -0.218212
0xE4
// -0.048314
0xFA
// -0.204662
0xE6
// 0.399807
0x33
// -0.353441
0xD3
// 0.136485
0x11
// 0.240735
0x1F
// 0.247185
0x20
// 0.214757
0x1B
// 0.038601
0x05
// -0.494496
0xC1
// 0.384830
0x31
// 0.065402
0x08
// -0.175979
0xE9
// 0.190275
0x18
// 0.020249
0x03
// 0.064169
0x08
// 0.125110
0x10
// -0.591696
0xB4
// -0.248324
0xE0
// -0.615145
0xB1
// 0.203749
0x1A
// 0.145391
0x13
// -0.308673
0xD8
// -0.826078
0x96
// 0.060390
0x08
// -0.840549
0x94
// 0.428528
0x37
// -0.256774
0xDF
// -0.572414
0xB7
// 0.077251
0x0A
// -0.391714
0xCE
// 0.590278
0x4C
// 0.247925
0x20
// -0.043780
0xFA
// 0.289079
0x25
// -0.429156
0xC9
// -0.440040
0xC8
// -0.077204
0xF6
// 0.237497
0x1E
// 0.097638
0x0C
// 0.208186
0x1B
// -0.162387
0xEB
// -0.289790
0xDB
// 0.201132
0x1A
// -0.288023
0xDB
// 0.116764
0x0F
// 0.501167
0x40
// 0.196502
0x19
// 0.643608
0x52
// -0.387612
0xCE