You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference4_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.064504
0x08
// 0.038618
0x05
// -0.134938
0xEF
// -0.412120
0xCB
// 0.107334
0x0E
// -0.429152
0xC9
// 0.216174
0x1C
// 0.393623
0x32
// 0.200205
0x1A
// -0.725092
0xA3
// 0.122122
0x10
// 0.011724
0x02
// 0.108062
0x0E
// -0.226710
0xE3
// 0.310394
0x28
// -0.093970
0xF4
// 0.146297
0x13
// 0.647514
0x53
// 0.321058
0x29
// -0.006182
0xFF
// -0.543564
0xBA
// -0.227122
0xE3
// -0.488105
0xC2
// -0.040977
0xFB
// -0.460714
0xC5
// 0.526423
0x43
// -0.052460
0xF9
// -0.023040
0xFD
// 0.033904
0x04
// -0.461909
0xC5
// 0.065347
0x08
// 0.081416
0x0A
// 0.438266
0x38
// 0.595147
0x4C
// 0.435188
0x38
// -0.442872
0xC7
// 0.042600
0x05
// 0.077096
0x0A
// 0.432735
0x37
// -0.303713
0xD9
// 0.250513
0x20
// -0.235866
0xE2
// 0.466069
0x3C
// -0.521251
0xBD
// 0.376633
0x30
// 0.693767
0x59
// 0.851114
0x6D
// -0.435568
0xC8
// -0.067128
0xF7
// -0.219973
0xE4
// -0.473585
0xC3
// 0.370331
0x2F
// -0.427695
0xC9
// 0.941047
0x78
// -0.316314
0xD8
// -0.044823
0xFA
// 0.384565
0x31
// 0.347998
0x2D
// 1.197130
0x7F
// 0.111254
0x0E
// -0.279326
0xDC
// -0.069406
0xF7
// 0.208642
0x1B
// 0.208107
0x1B
// -0.151352
0xED
// -0.751035
0xA0
// -0.335269
0xD5
// -0.246557
0xE0
// -0.250553
0xE0
// 0.376258
0x30
// 0.605301
0x4D
// 0.149927
0x13
// 0.612689
0x4E
// -0.371932
0xD0
// 0.424456
0x36
// 0.765073
0x62
// 0.826120
0x6A
// -0.133613
0xEF
// -0.206522
0xE6
// 0.347441
0x2C
// -0.172705
0xEA
// -0.158355
0xEC
// -0.065367
0xF8
// -0.047219
0xFA
// -0.473322
0xC3
// 0.271835
0x23
// -0.586379
0xB5
// -0.348519
0xD3
// -0.345412
0xD4
// 0.424447
0x36
// -0.742072
0xA1
// -0.260261
0xDF
// 0.182812
0x17
// -0.501146
0xC0
// 0.280502
0x24
// 0.388547
0x32
// 0.270734
0x23
// 0.427262
0x37
// -0.452370
0xC6
// -0.114904
0xF1
// 0.087935
0x0B
// -0.727075
0xA3
// -0.144296
0xEE
// 0.418374
0x36
// -0.071969
0xF7
// -0.356838
0xD2
// -0.598902
0xB3
// -0.597668
0xB3
// -0.595917
0xB4
// -0.633023
0xAF
// -0.198493
0xE7
// 0.192610
0x19
// 0.137411
0x12
// -0.045657
0xFA
// -0.621840
0xB0
// -0.062126
0xF8
// -0.358506
0xD2
// -0.187394
0xE8
// -0.564762
0xB8
// 0.000383
0x00
// 0.177814
0x17
// 0.195669
0x19
// 0.035452
0x05
// -0.143186
0xEE
// -0.475629
0xC3
// 0.005958
0x01
// 0.653965
0x54
// -0.168804
0xEA
// -0.205534
0xE6
// -0.324412
0xD6
// 0.187840
0x18
// 0.357831
0x2E
// -0.629256
0xAF
// 0.255969
0x21
// 0.200147
0x1A
// -0.236371
0xE2
// -0.021661
0xFD
// 0.505940
0x41
// 0.305937
0x27
// -0.487343
0xC2
// 0.486194
0x3E
// 0.424948
0x36
// 0.193087
0x19
// 0.245591
0x1F
// -0.233789
0xE2
// 0.455008
0x3A
// 0.192975
0x19
// -0.219672
0xE4
// -0.130071
0xEF
// -0.519996
0xBD
// 0.081376
0x0A
// 0.772292
0x63
// 0.462080
0x3B
// -0.522259
0xBD
// -0.105987
0xF2
// 0.220321
0x1C
// -0.247525
0xE0
// -0.379245
0xCF
// -0.428323
0xC9
// -0.009855
0xFF
// -0.680678
0xA9
// 0.008104
0x01
// -0.025094
0xFD
// 0.338450
0x2B
// -0.244032
0xE1
// 0.144599
0x13
// 0.131374
0x11
// -0.257092
0xDF
// -0.273798
0xDD
// -0.145712
0xED
// -0.110356
0xF2
// -0.327745
0xD6
// -0.253353
0xE0
// -0.111199
0xF2
// -0.240744
0xE1
// -0.144093
0xEE
// -0.354764
0xD3
// 0.189924
0x18
// -0.342458
0xD4
// 0.160628
0x15
// 0.338155
0x2B
// -0.097147
0xF4
// 0.400439
0x33
// 0.171362
0x16
// -0.050234
0xFA
// 0.586291
0x4B
// 0.034696
0x04
// -0.555113
0xB9
// 0.690007
0x58
// -0.208595
0xE5
// -0.496546
0xC0
// -0.199400
0xE6
// 0.372547
0x30
// -0.824400
0x96
// -0.785463
0x9B
// 0.188496
0x18
// 0.155146
0x14
// -0.269279
0xDE
// -0.489043
0xC1
// -0.179157
0xE9
// 0.279587
0x24
// 0.022267
0x03
// 0.287715
0x25
// 0.205079
0x1A
// -0.183432
0xE9
// 0.179550
0x17
// 0.612290
0x4E
// -0.251050
0xE0
// 0.169390
0x16
// 0.222262
0x1C
// 0.515698
0x42
// 0.152385
0x14
// 0.367243
0x2F
// -0.363002
0xD2
// 0.315727
0x28
// -1.000000
0x80
// -0.143107
0xEE
// -0.260282
0xDF
// -0.844910
0x94
// 0.029188
0x04
// 0.424648
0x36
// -0.539110
0xBB
// -0.090689
0xF4
// -0.083859
0xF5
// -0.097590
0xF4
// 0.393123
0x32
// 0.290042
0x25
// -0.284734
0xDC
// -0.131279
0xEF
// 0.214582
0x1B
// -0.149166
0xED
// -0.236073
0xE2
// 0.369931
0x2F
// -0.261667
0xDF
// 0.154880
0x14
// -0.028917
0xFC
// -0.238166
0xE2
// -0.337141
0xD5
// 0.314773
0x28
// 0.391832
0x32
// 0.245761
0x1F
// -0.349732
0xD3
// -0.265659
0xDE
// 0.770000
0x63
// 0.496721
0x40
// -0.163168
0xEB
// -0.361557
0xD2
// 0.195600
0x19
// 0.027101
0x03
// -0.470655
0xC4
// 0.160672
0x15
// 0.148270
0x13
// -0.500722
0xC0
// 0.078598
0x0A
// 0.097275
0x0C
// 0.838979
0x6B