You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference6_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// -0.110041
0xF1EA
// 0.324163
0x297E
// 0.192462
0x18A3
// 0.171402
0x15F0
// -0.093370
0xF40C
// -0.121384
0xF076
// 0.500000
0x4000
// -0.109846
0xF1F1
// 0.354432
0x2D5E
// 0.023279
0x02FB
// -0.133069
0xEEF8
// -0.070845
0xF6EF
// 0.119312
0x0F46
// -0.126644
0xEFCA
// -0.061432
0xF823
// 0.039886
0x051B
// 0.058104
0x0770
// 0.002411
0x004F
// 0.152017
0x1375
// -0.050395
0xF98D
// 0.194351
0x18E0
// 0.065733
0x086A
// -0.211856
0xE4E2
// 0.134314
0x1131
// 0.277364
0x2381
// 0.206557
0x1A70
// -0.109225
0xF205
// -0.142030
0xEDD2
// -0.071471
0xF6DA
// -0.106805
0xF254
// -0.093611
0xF405
// 0.042831
0x057B
// 0.096931
0x0C68
// -0.111091
0xF1C8
// 0.025817
0x034E
// -0.054893
0xF8F9
// -0.009657
0xFEC4
// 0.315963
0x2871
// 0.069714
0x08EC
// -0.181886
0xE8B8
// -0.029466
0xFC3A
// -0.068638
0xF737
// -0.021456
0xFD41
// 0.155856
0x13F3
// -0.211225
0xE4F7
// -0.053657
0xF922
// 0.115872
0x0ED5
// -0.158509
0xEBB6
// 0.192880
0x18B0
// -0.044924
0xFA40
// 0.167316
0x156B
// 0.236638
0x1E4A
// -0.223440
0xE366
// 0.054920
0x0708
// -0.067042
0xF76B
// -0.037019
0xFB43
// 0.091469
0x0BB5
// -0.179913
0xE8F9
// 0.013525
0x01BB
// 0.201210
0x19C1
// 0.290502
0x252F
// 0.204578
0x1A30
// -0.066075
0xF78B
// -0.025800
0xFCB3
// 0.011524
0x017A
// -0.017732
0xFDBB
// -0.213125
0xE4B8
// -0.130677
0xEF46
// 0.269948
0x228E
// -0.104432
0xF2A2
// 0.241211
0x1EE0
// -0.224063
0xE352
// -0.105013
0xF28F
// -0.006121
0xFF37
// 0.086194
0x0B08
// 0.206632
0x1A73
// 0.385854
0x3164
// -0.144173
0xED8C
// -0.098249
0xF36D
// 0.438685
0x3827
// -0.176916
0xE95B
// -0.087170
0xF4D8
// -0.015782
0xFDFB
// -0.269030
0xDD90
// 0.138898
0x11C7
// 0.257729
0x20FD
// -0.168965
0xEA5F
// -0.028633
0xFC56
// 0.339435
0x2B73
// -0.170858
0xEA21
// 0.066651
0x0888
// 0.035380
0x0487
// -0.051583
0xF966
// 0.057409
0x0759
// -0.234475
0xE1FD
// -0.119359
0xF0B9
// 0.008730
0x011E
// 0.078491
0x0A0C
// 0.166862
0x155C
// 0.137000
0x1189
// 0.055151
0x070F
// 0.073366
0x0964
// -0.118979
0xF0C5
// 0.161593
0x14AF
// 0.203220
0x1A03
// 0.113116
0x0E7B
// 0.030289
0x03E0
// 0.110058
0x0E16
// -0.115150
0xF143
// -0.259958
0xDEBA
// -0.076502
0xF635
// 0.011097
0x016C
// -0.097127
0xF391
// 0.112045
0x0E57
// 0.042578
0x0573
// 0.162126
0x14C1
// 0.024382
0x031F
// 0.173405
0x1632
// -0.123802
0xF027
// -0.178651
0xE922
// 0.103267
0x0D38
// -0.131767
0xEF22
// 0.007624
0x00FA
// -0.436445
0xC823
// 0.123790
0x0FD8
// 0.258074
0x2109
// 0.047151
0x0609
// 0.026451
0x0363
// -0.389120
0xCE31
// 0.213819
0x1B5E
// 0.141993
0x122D
// -0.336307
0xD4F4
// -0.228878
0xE2B4
// -0.243424
0xE0D7
// -0.247828
0xE047
// 0.330168
0x2A43
// 0.207461
0x1A8E
// -0.342273
0xD430
// 0.045544
0x05D4
// -0.153402
0xEC5D
// 0.083668
0x0AB6
// 0.116979
0x0EF9
// -0.145082
0xED6E
// -0.161762
0xEB4B
// 0.257140
0x20EA
// 0.021350
0x02BC
// -0.353610
0xD2BD
// 0.045975
0x05E3
// 0.126855
0x103D
// 0.397548
0x32E3
// -0.173355
0xE9CF
// -0.199600
0xE674
// -0.102365
0xF2E6
// -0.177772
0xE93F
// 0.111910
0x0E53
// -0.273334
0xDD03
// -0.194370
0xE71F
// -0.322960
0xD6A9
// -0.046054
0xFA1B
// -0.016417
0xFDE6
// 0.040226
0x0526
// 0.031047
0x03F9
// 0.029015
0x03B7
// -0.336149
0xD4F9
// -0.018591
0xFD9F
// 0.016384
0x0219
// -0.036901
0xFB47
// 0.060512
0x07BF
// -0.253999
0xDF7D
// 0.277018
0x2375
// -0.355826
0xD274
// 0.103756
0x0D48
// 0.114240
0x0E9F
// 0.088572
0x0B56
// 0.100402
0x0CDA
// -0.167827
0xEA85
// 0.017350
0x0239
// 0.114825
0x0EB3
// -0.126283
0xEFD6
// 0.147292
0x12DA
// 0.145438
0x129E
// -0.146134
0xED4B
// 0.009645
0x013C
// -0.017179
0xFDCD
// -0.008806
0xFEDF
// 0.057059
0x074E
// -0.029792
0xFC30
// 0.139103
0x11CE
// -0.052385
0xF94B
// 0.055435
0x0718
// -0.038888
0xFB06
// 0.026402
0x0361
// -0.116747
0xF10E
// 0.156685
0x140E
// 0.213099
0x1B47
// -0.256961
0xDF1C
// 0.007035
0x00E7
// -0.499900
0xC003
// 0.197188
0x193D
// 0.082361
0x0A8B
// 0.107526
0x0DC3
// -0.081185
0xF59C
// -0.094597
0xF3E4
// 0.043445
0x0590
// -0.080624
0xF5AE
// 0.075448
0x09A8
// -0.257817
0xDF00
// -0.103106
0xF2CD
// 0.069048
0x08D7
// -0.032961
0xFBC8
// -0.085517
0xF50E
// 0.137648
0x119E
// -0.329389
0xD5D7
// 0.074341
0x0984
// 0.066939
0x0891
// -0.188403
0xE7E2
// -0.113801
0xF16F
// -0.017610
0xFDBF
// 0.005307
0x00AE
// 0.276131
0x2358
// 0.225898
0x1CEA
// -0.045399
0xFA30
// -0.189447
0xE7C0
// -0.014911
0xFE17
// -0.121145
0xF07E
// -0.081309
0xF598
// -0.125499
0xEFF0
// -0.035926
0xFB67
// 0.056326
0x0736
// -0.048925
0xF9BD
// -0.131910
0xEF1E
// 0.013736
0x01C2
// -0.108956
0xF20E
// 0.008429
0x0114
// -0.085540
0xF50D
// 0.010082
0x014A
// -0.115831
0xF12C
// -0.040761
0xFAC8
// 0.115227
0x0EC0
// -0.006154
0xFF36
// -0.102220
0xF2EA
// -0.043980
0xFA5F
// 0.351041
0x2CEF
// 0.165959
0x153E
// -0.071278
0xF6E0
// -0.182226
0xE8AD
// -0.155547
0xEC17
// -0.189905
0xE7B1
// -0.048901
0xF9BE
// 0.127117
0x1045
// -0.266661
0xDDDE
// -0.089569
0xF489
// 0.137013
0x118A
// 0.204024
0x1A1D
// 0.018960
0x026D
// -0.144867
0xED75