You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference4_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.406505
0xCC
// 0.310563
0x28
// -0.172014
0xEA
// 0.227402
0x1D
// 0.429115
0x37
// -0.566325
0xB8
// -0.135244
0xEF
// 0.227246
0x1D
// 0.278395
0x24
// 0.064856
0x08
// -0.382370
0xCF
// -0.384018
0xCF
// 0.142426
0x12
// -0.127911
0xF0
// -0.937348
0x88
// -0.244336
0xE1
// 0.000449
0x00
// -0.127691
0xF0
// -0.546126
0xBA
// 0.678888
0x57
// -0.132136
0xEF
// -0.477643
0xC3
// -0.210225
0xE5
// -0.344956
0xD4
// -0.568114
0xB7
// 0.873362
0x70
// -0.446447
0xC7
// -0.533950
0xBC
// -0.478272
0xC3
// -0.860382
0x92
// 0.164302
0x15
// -0.577795
0xB6
// -0.358514
0xD2
// 0.461496
0x3B
// 0.098446
0x0D
// -0.180956
0xE9
// -0.024522
0xFD
// -0.563421
0xB8
// -0.311872
0xD8
// -0.035202
0xFB
// 0.373724
0x30
// 0.560139
0x48
// 0.003935
0x01
// -0.255564
0xDF
// -0.120520
0xF1
// 0.545286
0x46
// 0.058440
0x07
// -0.191735
0xE7
// 0.287982
0x25
// 0.428491
0x37
// 0.236311
0x1E
// -0.142581
0xEE
// -0.981504
0x82
// 0.370153
0x2F
// -0.141493
0xEE
// 0.020653
0x03
// -0.004885
0xFF
// -0.528854
0xBC
// 0.073787
0x09
// -0.557828
0xB9
// -0.734641
0xA2
// 0.135374
0x11
// 0.114101
0x0F
// -0.496593
0xC0
// 0.299451
0x26
// 0.422930
0x36
// 0.031521
0x04
// 0.297820
0x26
// -0.292876
0xDB
// 0.201392
0x1A
// 0.318115
0x29
// 0.040682
0x05
// -0.038819
0xFB
// -0.238251
0xE2
// -0.509357
0xBF
// -0.186130
0xE8
// -0.106388
0xF2
// -0.270024
0xDD
// -0.053047
0xF9
// 0.060925
0x08
// -0.230659
0xE2
// -0.233907
0xE2
// 0.599756
0x4D
// 0.001226
0x00
// -0.056549
0xF9
// -0.369718
0xD1
// 0.139689
0x12
// -0.030954
0xFC
// 0.106074
0x0E
// -0.116792
0xF1
// -0.186298
0xE8
// 0.054083
0x07
// 0.664406
0x55
// -0.720169
0xA4
// 0.024285
0x03
// 0.453417
0x3A
// 0.579656
0x4A
// -0.406865
0xCC
// 0.327136
0x2A
// -0.050715
0xFA
// 0.166522
0x15
// -0.463558
0xC5
// -0.566297
0xB8
// -0.043389
0xFA
// 0.395165
0x33
// 0.530630
0x44
// 0.322141
0x29
// 0.155298
0x14
// -0.450380
0xC6
// 0.022014
0x03
// 0.188941
0x18
// -0.136682
0xEF
// 0.399724
0x33
// -1.000000
0x80
// 0.365820
0x2F
// 0.372843
0x30
// 0.068239
0x09
// -0.097078
0xF4
// 0.232430
0x1E
// 0.115582
0x0F
// -0.242468
0xE1
// -0.668121
0xAA
// 0.498624
0x40
// 0.023149
0x03
// -0.518478
0xBE
// -0.183058
0xE9
// 0.269847
0x23
// -0.056135
0xF9
// 0.216037
0x1C
// 0.057304
0x07
// 0.407747
0x34
// -0.020721
0xFD
// 0.505437
0x41
// 0.249114
0x20
// -0.491962
0xC1
// 0.262355
0x22
// 0.020904
0x03
// 0.174981
0x16
// 0.144922
0x13
// 0.070263
0x09
// 0.358853
0x2E
// -0.088375
0xF5
// -0.507894
0xBF
// -0.300326
0xDA
// -0.500913
0xC0
// 0.189180
0x18
// -0.442558
0xC7
// -0.327327
0xD6
// -0.113684
0xF1
// -0.437995
0xC8
// 0.345656
0x2C
// -0.008792
0xFF
// -0.415429
0xCB
// -0.367083
0xD1
// -0.025490
0xFD
// 0.185856
0x18
// 0.626408
0x50
// -0.172210
0xEA
// 0.413104
0x35
// 0.641639
0x52
// -0.492462
0xC1
// -0.654081
0xAC
// -0.318345
0xD7
// -0.292832
0xDB
// 0.398645
0x33
// -0.184955
0xE8
// 0.158882
0x14
// 0.716584
0x5C
// -0.382191
0xCF
// -0.778871
0x9C
// -0.193729
0xE7
// -0.027986
0xFC
// -0.707624
0xA5
// 0.715398
0x5C
// 0.295780
0x26
// 0.381512
0x31
// 0.225217
0x1D
// -0.461425
0xC5
// 0.246591
0x20
// -0.333991
0xD5
// -0.099814
0xF3
// 0.122315
0x10
// -0.029943
0xFC
// 0.156905
0x14
// 0.172874
0x16
// -0.450637
0xC6
// -0.452841
0xC6
// -0.301896
0xD9
// 0.047299
0x06
// -0.542612
0xBB
// -0.519547
0xBD
// 0.396262
0x33
// -0.368082
0xD1
// 0.130987
0x11
// -0.380206
0xCF
// -0.206908
0xE6
// -0.082314
0xF5
// 0.051018
0x07
// 0.689293
0x58
// -0.158847
0xEC
// 0.165609
0x15
// 0.066256
0x08
// 0.046642
0x06
// 0.560652
0x48
// 0.427382
0x37
// 0.218212
0x1C
// 0.048314
0x06
// 0.204662
0x1A
// -0.399807
0xCD
// 0.353441
0x2D
// -0.136485
0xEF
// -0.240735
0xE1
// -0.247185
0xE0
// -0.214757
0xE5
// -0.038601
0xFB
// 0.494496
0x3F
// -0.384830
0xCF
// -0.065402
0xF8
// 0.175979
0x17
// -0.190275
0xE8
// -0.020249
0xFD
// -0.064169
0xF8
// -0.125110
0xF0
// 0.591696
0x4C
// 0.248324
0x20
// 0.615145
0x4F
// -0.203749
0xE6
// -0.145391
0xED
// 0.308673
0x28
// 0.826078
0x6A
// -0.060390
0xF8
// 0.840549
0x6C
// -0.428528
0xC9
// 0.256774
0x21
// 0.572414
0x49
// -0.077251
0xF6
// 0.391714
0x32
// -0.590278
0xB4
// -0.247925
0xE0
// 0.043780
0x06
// -0.289079
0xDB
// 0.429156
0x37
// 0.440040
0x38
// 0.077204
0x0A
// -0.237497
0xE2
// -0.097638
0xF4
// -0.208186
0xE5
// 0.162387
0x15
// 0.289790
0x25
// -0.201132
0xE6
// 0.288023
0x25
// -0.116764
0xF1
// -0.501167
0xC0
// -0.196502
0xE7
// -0.643608
0xAE
// 0.387612
0x32