You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference10_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.406505
0x34
// 0.310563
0x28
// 0.172014
0x16
// 0.227402
0x1D
// 0.429115
0x37
// 0.566325
0x48
// 0.135244
0x11
// 0.227246
0x1D
// 0.278395
0x24
// 0.064856
0x08
// 0.382370
0x31
// 0.384018
0x31
// 0.142426
0x12
// 0.127911
0x10
// 0.937348
0x78
// 0.244336
0x1F
// 0.000449
0x00
// 0.127691
0x10
// 0.546126
0x46
// 0.678888
0x57
// 0.132136
0x11
// 0.477643
0x3D
// 0.210225
0x1B
// 0.344956
0x2C
// 0.568114
0x49
// 0.873362
0x70
// 0.446447
0x39
// 0.533950
0x44
// 0.478272
0x3D
// 0.860382
0x6E
// 0.164302
0x15
// 0.577795
0x4A
// 0.358514
0x2E
// 0.461496
0x3B
// 0.098446
0x0D
// 0.180956
0x17
// 0.024522
0x03
// 0.563421
0x48
// 0.311872
0x28
// 0.035202
0x05
// 0.373724
0x30
// 0.560139
0x48
// 0.003935
0x01
// 0.255564
0x21
// 0.120520
0x0F
// 0.545286
0x46
// 0.058440
0x07
// 0.191735
0x19
// 0.287982
0x25
// 0.428491
0x37
// 0.236311
0x1E
// 0.142581
0x12
// 0.981504
0x7E
// 0.370153
0x2F
// 0.141493
0x12
// 0.020653
0x03
// 0.004885
0x01
// 0.528854
0x44
// 0.073787
0x09
// 0.557828
0x47
// 0.734641
0x5E
// 0.135374
0x11
// 0.114101
0x0F
// 0.496593
0x40
// 0.299451
0x26
// 0.422930
0x36
// 0.031521
0x04
// 0.297820
0x26
// 0.292876
0x25
// 0.201392
0x1A
// 0.318115
0x29
// 0.040682
0x05
// 0.038819
0x05
// 0.238251
0x1E
// 0.509357
0x41
// 0.186130
0x18
// 0.106388
0x0E
// 0.270024
0x23
// 0.053047
0x07
// 0.060925
0x08
// 0.230659
0x1E
// 0.233907
0x1E
// 0.599756
0x4D
// 0.001226
0x00
// 0.056549
0x07
// 0.369718
0x2F
// 0.139689
0x12
// 0.030954
0x04
// 0.106074
0x0E
// 0.116792
0x0F
// 0.186298
0x18
// 0.054083
0x07
// 0.664406
0x55
// 0.720169
0x5C
// 0.024285
0x03
// 0.453417
0x3A
// 0.579656
0x4A
// 0.406865
0x34
// 0.327136
0x2A
// 0.050715
0x06
// 0.166522
0x15
// 0.463558
0x3B
// 0.566297
0x48
// 0.043389
0x06
// 0.395165
0x33
// 0.530630
0x44
// 0.322141
0x29
// 0.155298
0x14
// 0.450380
0x3A
// 0.022014
0x03
// 0.188941
0x18
// 0.136682
0x11
// 0.399724
0x33
// 1.000000
0x7F
// 0.365820
0x2F
// 0.372843
0x30
// 0.068239
0x09
// 0.097078
0x0C
// 0.232430
0x1E
// 0.115582
0x0F
// 0.242468
0x1F
// 0.668121
0x56
// 0.498624
0x40
// 0.023149
0x03
// 0.518478
0x42
// 0.183058
0x17
// 0.269847
0x23
// 0.056135
0x07
// 0.216037
0x1C
// 0.057304
0x07
// 0.407747
0x34
// 0.020721
0x03
// 0.505437
0x41
// 0.249114
0x20
// 0.491962
0x3F
// 0.262355
0x22
// 0.020904
0x03
// 0.174981
0x16
// 0.144922
0x13
// 0.070263
0x09
// 0.358853
0x2E
// 0.088375
0x0B
// 0.507894
0x41
// 0.300326
0x26
// 0.500913
0x40
// 0.189180
0x18
// 0.442558
0x39
// 0.327327
0x2A
// 0.113684
0x0F
// 0.437995
0x38
// 0.345656
0x2C
// 0.008792
0x01
// 0.415429
0x35
// 0.367083
0x2F
// 0.025490
0x03
// 0.185856
0x18
// 0.626408
0x50
// 0.172210
0x16
// 0.413104
0x35
// 0.641639
0x52
// 0.492462
0x3F
// 0.654081
0x54
// 0.318345
0x29
// 0.292832
0x25
// 0.398645
0x33
// 0.184955
0x18
// 0.158882
0x14
// 0.716584
0x5C
// 0.382191
0x31
// 0.778871
0x64
// 0.193729
0x19
// 0.027986
0x04
// 0.707624
0x5B
// 0.715398
0x5C
// 0.295780
0x26
// 0.381512
0x31
// 0.225217
0x1D
// 0.461425
0x3B
// 0.246591
0x20
// 0.333991
0x2B
// 0.099814
0x0D
// 0.122315
0x10
// 0.029943
0x04
// 0.156905
0x14
// 0.172874
0x16
// 0.450637
0x3A
// 0.452841
0x3A
// 0.301896
0x27
// 0.047299
0x06
// 0.542612
0x45
// 0.519547
0x43
// 0.396262
0x33
// 0.368082
0x2F
// 0.130987
0x11
// 0.380206
0x31
// 0.206908
0x1A
// 0.082314
0x0B
// 0.051018
0x07
// 0.689293
0x58
// 0.158847
0x14
// 0.165609
0x15
// 0.066256
0x08
// 0.046642
0x06
// 0.560652
0x48
// 0.427382
0x37
// 0.218212
0x1C
// 0.048314
0x06
// 0.204662
0x1A
// 0.399807
0x33
// 0.353441
0x2D
// 0.136485
0x11
// 0.240735
0x1F
// 0.247185
0x20
// 0.214757
0x1B
// 0.038601
0x05
// 0.494496
0x3F
// 0.384830
0x31
// 0.065402
0x08
// 0.175979
0x17
// 0.190275
0x18
// 0.020249
0x03
// 0.064169
0x08
// 0.125110
0x10
// 0.591696
0x4C
// 0.248324
0x20
// 0.615145
0x4F
// 0.203749
0x1A
// 0.145391
0x13
// 0.308673
0x28
// 0.826078
0x6A
// 0.060390
0x08
// 0.840549
0x6C
// 0.428528
0x37
// 0.256774
0x21
// 0.572414
0x49
// 0.077251
0x0A
// 0.391714
0x32
// 0.590278
0x4C
// 0.247925
0x20
// 0.043780
0x06
// 0.289079
0x25
// 0.429156
0x37
// 0.440040
0x38
// 0.077204
0x0A
// 0.237497
0x1E
// 0.097638
0x0C
// 0.208186
0x1B
// 0.162387
0x15
// 0.289790
0x25
// 0.201132
0x1A
// 0.288023
0x25
// 0.116764
0x0F
// 0.501167
0x40
// 0.196502
0x19
// 0.643608
0x52
// 0.387612
0x32