You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/ComplexMaths/ComplexMathsQ15/Reference7_q15.txt

1027 lines
9.8 KiB
Plaintext

H
512
// -0.024780
0xFCD4
// 0.015595
0x01FF
// -0.038702
0xFB0C
// 0.018678
0x0264
// -0.018816
0xFD97
// -0.021279
0xFD47
// -0.014717
0xFE1E
// -0.026886
0xFC8F
// -0.016030
0xFDF3
// -0.013346
0xFE4B
// 0.009132
0x012B
// -0.007814
0xFF00
// 0.028017
0x0396
// 0.084960
0x0AE0
// 0.063680
0x0827
// -0.051315
0xF96E
// -0.001878
0xFFC2
// 0.009075
0x0129
// 0.009780
0x0140
// -0.073192
0xF6A2
// -0.028943
0xFC4C
// -0.019721
0xFD7A
// -0.019094
0xFD8E
// 0.010647
0x015D
// -0.004657
0xFF67
// -0.000708
0xFFE9
// 0.028594
0x03A9
// 0.018500
0x025E
// 0.022510
0x02E2
// -0.076192
0xF63F
// 0.052938
0x06C7
// -0.036590
0xFB51
// 0.011328
0x0173
// 0.024883
0x032F
// -0.024632
0xFCD9
// -0.017860
0xFDB7
// 0.017655
0x0243
// -0.044519
0xFA4D
// 0.022676
0x02E7
// -0.022942
0xFD10
// -0.112964
0xF18A
// 0.031024
0x03F9
// -0.005527
0xFF4B
// -0.035413
0xFB78
// -0.052923
0xF93A
// -0.028199
0xFC64
// 0.029771
0x03D0
// -0.027048
0xFC8A
// -0.002717
0xFFA7
// -0.011103
0xFE94
// -0.016781
0xFDDA
// 0.031334
0x0403
// 0.075737
0x09B2
// 0.108880
0x0DF0
// 0.001817
0x003C
// 0.014563
0x01DD
// 0.085652
0x0AF7
// 0.136093
0x116B
// -0.018656
0xFD9D
// -0.111707
0xF1B4
// 0.029691
0x03CD
// -0.027705
0xFC74
// -0.016487
0xFDE4
// 0.011730
0x0180
// 0.005494
0x00B4
// -0.026703
0xFC95
// -0.000169
0xFFFA
// 0.003375
0x006F
// 0.052357
0x06B4
// -0.036091
0xFB61
// 0.067667
0x08A9
// -0.007329
0xFF10
// -0.002942
0xFFA0
// -0.026926
0xFC8E
// -0.022839
0xFD14
// 0.028807
0x03B0
// 0.074423
0x0987
// 0.081262
0x0A67
// -0.031965
0xFBE9
// 0.000926
0x001E
// 0.091530
0x0BB7
// 0.011302
0x0172
// 0.013050
0x01AC
// -0.000188
0xFFFA
// 0.001429
0x002F
// -0.002617
0xFFAA
// 0.016823
0x0227
// 0.019559
0x0281
// 0.004426
0x0091
// -0.018222
0xFDAB
// -0.006009
0xFF3B
// 0.035402
0x0488
// 0.000208
0x0007
// -0.034584
0xFB93
// 0.016728
0x0224
// -0.005397
0xFF4F
// -0.001153
0xFFDA
// -0.018127
0xFDAE
// -0.004682
0xFF67
// -0.002522
0xFFAD
// -0.015496
0xFE04
// 0.019224
0x0276
// -0.006754
0xFF23
// 0.021646
0x02C5
// 0.007303
0x00EF
// -0.011476
0xFE88
// 0.028172
0x039B
// -0.024426
0xFCE0
// -0.060661
0xF83C
// 0.007709
0x00FD
// -0.007253
0xFF12
// -0.016960
0xFDD4
// 0.000546
0x0012
// -0.017326
0xFDC8
// -0.040323
0xFAD7
// 0.018409
0x025B
// 0.021485
0x02C0
// -0.020482
0xFD61
// 0.017847
0x0249
// 0.007875
0x0102
// 0.013515
0x01BB
// 0.066507
0x0883
// 0.068391
0x08C1
// -0.016077
0xFDF1
// 0.002342
0x004D
// 0.016620
0x0221
// -0.021600
0xFD3C
// 0.005443
0x00B2
// 0.005515
0x00B5
// -0.008468
0xFEEB
// -0.005106
0xFF59
// 0.011905
0x0186
// 0.013559
0x01BC
// -0.037340
0xFB38
// 0.010462
0x0157
// 0.012866
0x01A6
// 0.006747
0x00DD
// 0.006082
0x00C7
// -0.025468
0xFCBD
// 0.011998
0x0189
// -0.089613
0xF488
// -0.039107
0xFAFF
// 0.021716
0x02C8
// 0.018229
0x0255
// -0.027971
0xFC6B
// -0.043692
0xFA68
// -0.001206
0xFFD8
// 0.001089
0x0024
// -0.037534
0xFB32
// -0.011272
0xFE8F
// -0.028726
0xFC53
// 0.092502
0x0BD7
// 0.032617
0x042D
// -0.006292
0xFF32
// -0.005411
0xFF4F
// -0.058508
0xF883
// -0.009541
0xFEC7
// 0.003215
0x0069
// -0.023989
0xFCEE
// -0.050919
0xF97B
// -0.069231
0xF723
// -0.060357
0xF846
// -0.005939
0xFF3D
// -0.013485
0xFE46
// 0.037755
0x04D5
// 0.004093
0x0086
// -0.032551
0xFBD5
// -0.099441
0xF346
// 0.023600
0x0305
// -0.047245
0xF9F4
// 0.149244
0x131A
// 0.057985
0x076C
// 0.081512
0x0A6F
// -0.010391
0xFEAC
// -0.008727
0xFEE2
// -0.035682
0xFB6F
// -0.015270
0xFE0C
// -0.009764
0xFEC0
// -0.053052
0xF936
// -0.079857
0xF5C7
// -0.015093
0xFE11
// -0.011993
0xFE77
// 0.004564
0x0096
// -0.000705
0xFFE9
// -0.011179
0xFE92
// 0.018971
0x026E
// 0.036335
0x04A7
// 0.010279
0x0151
// 0.012743
0x01A2
// -0.008092
0xFEF7
// 0.019843
0x028A
// -0.012659
0xFE61
// -0.049192
0xF9B4
// 0.032983
0x0439
// -0.028017
0xFC6A
// 0.014750
0x01E3
// 0.030668
0x03ED
// -0.002297
0xFFB5
// -0.010612
0xFEA4
// 0.003420
0x0070
// -0.052263
0xF94F
// -0.014606
0xFE21
// 0.004451
0x0092
// -0.024538
0xFCDC
// 0.009061
0x0129
// -0.051437
0xF96B
// 0.030902
0x03F5
// 0.036044
0x049D
// -0.044031
0xFA5D
// -0.037557
0xFB31
// -0.049915
0xF99C
// -0.078673
0xF5EE
// 0.021591
0x02C4
// 0.022456
0x02E0
// 0.014736
0x01E3
// -0.031508
0xFBF8
// 0.055296
0x0714
// -0.008507
0xFEE9
// 0.037643
0x04D1
// 0.000882
0x001D
// -0.036756
0xFB4C
// 0.016491
0x021C
// 0.055220
0x0711
// -0.082995
0xF560
// 0.034552
0x046C
// -0.019038
0xFD90
// -0.002686
0xFFA8
// 0.010648
0x015D
// 0.029771
0x03D0
// -0.025824
0xFCB2
// 0.001582
0x0034
// -0.013362
0xFE4A
// -0.011824
0xFE7D
// 0.008990
0x0127
// 0.046745
0x05FC
// 0.002634
0x0056
// -0.012861
0xFE5B
// 0.012869
0x01A6
// 0.003769
0x007B
// -0.000599
0xFFEC
// 0.013151
0x01AF
// -0.088021
0xF4BC
// -0.002515
0xFFAE
// 0.000199
0x0007
// 0.013631
0x01BF
// 0.019393
0x027B
// -0.047542
0xF9EA
// -0.170785
0xEA24
// 0.020595
0x02A3
// 0.014459
0x01DA
// 0.006665
0x00DA
// 0.000935
0x001F
// 0.021271
0x02B9
// 0.027402
0x0382
// -0.020250
0xFD68
// 0.003840
0x007E
// 0.036262
0x04A4
// 0.003611
0x0076
// 0.168007
0x1581
// -0.250342
0xDFF5
// -0.004207
0xFF76
// 0.030096
0x03DA
// -0.038934
0xFB04
// -0.037751
0xFB2B
// -0.002139
0xFFBA
// 0.004121
0x0087
// 0.001268
0x002A
// 0.006225
0x00CC
// 0.066890
0x0890
// 0.025898
0x0351
// -0.040051
0xFAE0
// 0.016956
0x022C
// 0.026960
0x0373
// 0.013752
0x01C3
// -0.070198
0xF704
// -0.006791
0xFF21
// 0.033855
0x0455
// -0.014196
0xFE2F
// 0.012319
0x0194
// 0.001328
0x002C
// -0.011819
0xFE7D
// -0.009341
0xFECE
// -0.009820
0xFEBE
// 0.008520
0x0117
// 0.000032
0x0001
// -0.032713
0xFBD0
// -0.015627
0xFE00
// 0.011802
0x0183
// -0.011622
0xFE83
// 0.026739
0x036C
// 0.008469
0x0116
// 0.026835
0x036F
// -0.011455
0xFE89
// -0.037476
0xFB34
// -0.013163
0xFE51
// 0.020469
0x029F
// 0.010644
0x015D
// -0.020738
0xFD58
// 0.004134
0x0087
// 0.007171
0x00EB
// 0.078867
0x0A18
// 0.046580
0x05F6
// 0.001340
0x002C
// -0.002807
0xFFA4
// 0.002576
0x0054
// 0.018702
0x0265
// 0.031301
0x0402
// -0.002180
0xFFB9
// 0.060101
0x07B1
// 0.075393
0x09A6
// -0.067504
0xF75C
// 0.040543
0x0531
// -0.009399
0xFECC
// -0.041373
0xFAB4
// 0.025708
0x034A
// -0.017904
0xFDB5
// -0.014218
0xFE2E
// 0.013170
0x01B0
// 0.037610
0x04D0
// -0.078194
0xF5FE
// 0.067477
0x08A3
// -0.023943
0xFCEF
// -0.008823
0xFEDF
// -0.011262
0xFE8F
// 0.005315
0x00AE
// 0.042426
0x056E
// 0.007278
0x00EE
// 0.013165
0x01AF
// 0.013744
0x01C2
// 0.017437
0x023B
// 0.000499
0x0010
// 0.009825
0x0142
// 0.002460
0x0051
// 0.005294
0x00AD
// 0.072404
0x0945
// -0.004267
0xFF74
// 0.139227
0x11D2
// -0.064226
0xF7C7
// 0.011286
0x0172
// 0.006015
0x00C5
// 0.023698
0x0309
// -0.055874
0xF8D9
// -0.045057
0xFA3C
// -0.036448
0xFB56
// 0.037724
0x04D4
// 0.018785
0x0268
// 0.001354
0x002C
// 0.019012
0x026F
// 0.011693
0x017F
// -0.012751
0xFE5E
// 0.006514
0x00D5
// -0.028641
0xFC55
// -0.009777
0xFEC0
// -0.019380
0xFD85
// 0.001799
0x003B
// 0.001113
0x0024
// -0.075483
0xF657
// -0.103029
0xF2D0
// -0.051571
0xF966
// 0.075458
0x09A9
// 0.035839
0x0496
// -0.020835
0xFD55
// 0.005863
0x00C0
// -0.001491
0xFFCF
// 0.010349
0x0153
// 0.011751
0x0181
// -0.008572
0xFEE7
// -0.008121
0xFEF6
// -0.035456
0xFB76
// 0.043205
0x0588
// -0.005940
0xFF3D
// -0.000769
0xFFE7
// -0.002332
0xFFB4
// 0.032196
0x041F
// 0.011717
0x0180
// -0.015008
0xFE14
// 0.030061
0x03D9
// 0.023123
0x02F6
// 0.024846
0x032E
// -0.005869
0xFF40
// 0.024425
0x0320
// 0.019810
0x0289
// 0.025956
0x0353
// 0.023496
0x0302
// -0.020066
0xFD6E
// -0.011722
0xFE80
// -0.009316
0xFECF
// -0.005597
0xFF49
// 0.023458
0x0301
// 0.034633
0x046F
// -0.016472
0xFDE4
// 0.034096
0x045D
// -0.018908
0xFD94
// 0.042520
0x0571
// -0.011578
0xFE85
// -0.001600
0xFFCC
// -0.015477
0xFE05
// -0.035048
0xFB84
// 0.000770
0x0019
// -0.039253
0xFAFA
// 0.013517
0x01BB
// 0.026532
0x0365
// 0.023215
0x02F9
// -0.028001
0xFC6A
// -0.002018
0xFFBE
// 0.002012
0x0042
// -0.049574
0xF9A8
// -0.023102
0xFD0B
// 0.005478
0x00B3
// 0.015262
0x01F4
// 0.059134
0x0792
// 0.007372
0x00F2
// -0.000181
0xFFFA
// -0.000179
0xFFFA
// 0.000038
0x0001
// -0.008057
0xFEF8
// 0.015081
0x01EE
// 0.032746
0x0431
// -0.019293
0xFD88
// -0.034170
0xFBA0
// 0.032041
0x041A
// 0.009260
0x012F
// 0.002270
0x004A
// -0.041679
0xFAAA
// -0.049639
0xF9A5
// 0.016706
0x0223
// 0.058015
0x076D
// -0.022694
0xFD18
// 0.133132
0x110A
// 0.024692
0x0329
// 0.006940
0x00E3
// -0.060583
0xF83F
// 0.028135
0x039A
// -0.024446
0xFCDF
// 0.013083
0x01AD
// -0.027162
0xFC86
// -0.040660
0xFACC
// -0.052062
0xF956
// -0.026252
0xFCA4
// 0.020936
0x02AE
// 0.002925
0x0060
// -0.014685
0xFE1F
// -0.031228
0xFC01
// 0.024024
0x0313
// -0.074456
0xF678
// -0.015053
0xFE13
// 0.063977
0x0830
// -0.093295
0xF40F
// -0.018170
0xFDAD
// -0.024853
0xFCD2
// 0.023118
0x02F6
// 0.032631
0x042D
// 0.033151
0x043E
// 0.039313
0x0508
// 0.023964
0x0311
// -0.013940
0xFE37
// -0.006289
0xFF32
// -0.000987
0xFFE0
// 0.020656
0x02A5
// 0.025152
0x0338
// -0.008868
0xFEDD
// 0.017623
0x0241
// -0.018395
0xFDA5
// 0.001632
0x0035
// -0.026677
0xFC96
// -0.018512
0xFDA1
// -0.038120
0xFB1F
// 0.016425
0x021A
// -0.002608
0xFFAB
// -0.026958
0xFC8D
// -0.016170
0xFDEE
// -0.007579
0xFF08
// -0.000908
0xFFE2
// 0.008472
0x0116
// 0.019373
0x027B
// -0.020051
0xFD6F
// -0.050467
0xF98A
// -0.032178
0xFBE2
// -0.045395
0xFA30
// -0.025170
0xFCC7
// -0.015033
0xFE13
// -0.021345
0xFD45
// 0.012100
0x018C
// -0.059272
0xF86A
// 0.003272
0x006B
// -0.050299
0xF990
// -0.067207
0xF766
// 0.036033
0x049D
// -0.016855
0xFDD8
// 0.011135
0x016D
// 0.066604
0x0886
// -0.002797
0xFFA4
// -0.026401
0xFC9F
// 0.032407
0x0426
// 0.013721
0x01C2
// 0.000603
0x0014
// -0.061578
0xF81E
// -0.035232
0xFB7E
// -0.002208
0xFFB8
// -0.006165
0xFF36
// 0.011800
0x0183
// 0.013198
0x01B0
// 0.005922
0x00C2
// -0.001238
0xFFD7
// 0.058377
0x0779
// -0.051373
0xF96D
// 0.000559
0x0012
// 0.019490
0x027F
// -0.006299
0xFF32
// 0.110065
0x0E17
// -0.036161
0xFB5F
// 0.076296
0x09C4