You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/ComplexMaths/ComplexMathsQ15/Reference7_q15.txt

1027 lines
9.8 KiB
Plaintext

H
512
// 0.037423
0x04CA
// -0.012358
0xFE6B
// -0.015481
0xFE05
// 0.008124
0x010A
// -0.026050
0xFCAA
// -0.042971
0xFA80
// -0.125668
0xEFEA
// -0.035284
0xFB7C
// 0.001396
0x002E
// -0.004549
0xFF6B
// -0.017273
0xFDCA
// -0.036326
0xFB5A
// 0.006131
0x00C9
// 0.012804
0x01A4
// 0.011112
0x016C
// -0.077561
0xF612
// -0.037589
0xFB30
// 0.025595
0x0347
// 0.005081
0x00A6
// -0.006730
0xFF23
// 0.003776
0x007C
// 0.009989
0x0147
// 0.047931
0x0623
// -0.080972
0xF5A3
// -0.005973
0xFF3C
// -0.009789
0xFEBF
// -0.007637
0xFF06
// 0.010076
0x014A
// -0.034685
0xFB8F
// 0.077927
0x09FA
// 0.008306
0x0110
// -0.014655
0xFE20
// -0.022174
0xFD29
// -0.002791
0xFFA5
// -0.003446
0xFF8F
// 0.048620
0x0639
// -0.030105
0xFC26
// 0.021470
0x02C0
// 0.035609
0x048F
// 0.047765
0x061D
// -0.014374
0xFE29
// -0.035972
0xFB65
// -0.009932
0xFEBB
// -0.011386
0xFE8B
// -0.016467
0xFDE4
// 0.001913
0x003F
// -0.048661
0xF9C5
// 0.019584
0x0282
// -0.001288
0xFFD6
// -0.031527
0xFBF7
// 0.017025
0x022E
// -0.029992
0xFC29
// -0.001297
0xFFD5
// 0.019259
0x0277
// -0.007118
0xFF17
// -0.029747
0xFC31
// 0.022534
0x02E2
// 0.019534
0x0280
// 0.003934
0x0081
// 0.011295
0x0172
// 0.038422
0x04EB
// -0.022511
0xFD1E
// -0.005963
0xFF3D
// -0.039189
0xFAFC
// 0.001766
0x003A
// 0.000038
0x0001
// -0.012872
0xFE5A
// -0.000972
0xFFE0
// 0.076048
0x09BC
// -0.015762
0xFDFC
// 0.030350
0x03E2
// -0.035945
0xFB66
// 0.000285
0x0009
// -0.000408
0xFFF3
// -0.002760
0xFFA6
// -0.002957
0xFF9F
// -0.016420
0xFDE6
// -0.032394
0xFBDB
// 0.023357
0x02FD
// 0.033926
0x0458
// 0.024492
0x0323
// -0.012703
0xFE60
// 0.028553
0x03A8
// 0.028792
0x03AF
// 0.000872
0x001D
// 0.003034
0x0063
// 0.000003
0x0000
// -0.004080
0xFF7A
// 0.055598
0x071E
// 0.024738
0x032B
// 0.035536
0x048C
// 0.036255
0x04A4
// -0.004788
0xFF63
// -0.002925
0xFFA0
// -0.012443
0xFE68
// -0.099479
0xF344
// 0.061041
0x07D0
// -0.052368
0xF94C
// -0.003470
0xFF8E
// -0.011802
0xFE7D
// 0.034724
0x0472
// -0.012663
0xFE61
// -0.014634
0xFE20
// -0.049354
0xF9AF
// 0.002989
0x0062
// 0.007980
0x0106
// -0.013278
0xFE4D
// 0.000766
0x0019
// 0.010155
0x014D
// -0.051671
0xF963
// -0.009212
0xFED2
// 0.152333
0x1380
// 0.004652
0x0098
// 0.001014
0x0021
// 0.024838
0x032E
// -0.052926
0xF93A
// -0.071973
0xF6CA
// 0.038927
0x04FC
// 0.005359
0x00B0
// -0.002598
0xFFAB
// 0.028520
0x03A7
// 0.009508
0x0138
// 0.043945
0x05A0
// 0.010801
0x0162
// 0.016721
0x0224
// 0.028642
0x03AB
// 0.038838
0x04F9
// -0.060343
0xF847
// 0.021432
0x02BE
// -0.077633
0xF610
// -0.083426
0xF552
// 0.059149
0x0792
// -0.080188
0xF5BC
// -0.050682
0xF983
// 0.000267
0x0009
// 0.055968
0x072A
// 0.050691
0x067D
// -0.030371
0xFC1D
// -0.003529
0xFF8C
// 0.039610
0x0512
// -0.013276
0xFE4D
// -0.035644
0xFB70
// -0.027828
0xFC70
// -0.013834
0xFE3B
// 0.016651
0x0222
// 0.008271
0x010F
// 0.013270
0x01B3
// -0.089098
0xF498
// -0.066000
0xF78D
// -0.045753
0xFA25
// -0.028483
0xFC5B
// 0.004008
0x0083
// -0.025037
0xFCCC
// -0.033104
0xFBC3
// -0.034741
0xFB8E
// 0.007623
0x00FA
// -0.055521
0xF8E5
// 0.050323
0x0671
// 0.023968
0x0311
// -0.007769
0xFF01
// -0.008710
0xFEE3
// 0.000842
0x001C
// 0.004761
0x009C
// 0.005589
0x00B7
// 0.001434
0x002F
// 0.009833
0x0142
// 0.000044
0x0001
// -0.000647
0xFFEB
// 0.003171
0x0068
// 0.029140
0x03BB
// -0.004529
0xFF6C
// -0.025055
0xFCCB
// -0.003187
0xFF98
// 0.025657
0x0349
// 0.020004
0x028F
// -0.031908
0xFBEA
// 0.010500
0x0158
// -0.019010
0xFD91
// -0.029405
0xFC3C
// 0.006188
0x00CB
// -0.019664
0xFD7C
// -0.017928
0xFDB5
// -0.049967
0xF99B
// 0.101107
0x0CF1
// -0.004647
0xFF68
// 0.007094
0x00E8
// -0.002764
0xFFA5
// -0.008702
0xFEE3
// -0.007419
0xFF0D
// 0.003680
0x0079
// 0.034684
0x0471
// -0.059948
0xF854
// -0.034789
0xFB8C
// 0.030027
0x03D8
// -0.001076
0xFFDD
// 0.062259
0x07F8
// 0.079526
0x0A2E
// 0.029171
0x03BC
// 0.008366
0x0112
// 0.015029
0x01EC
// -0.012422
0xFE69
// -0.008569
0xFEE7
// 0.012908
0x01A7
// -0.006879
0xFF1F
// 0.009683
0x013D
// -0.028747
0xFC52
// -0.039477
0xFAF2
// -0.000810
0xFFE5
// 0.000164
0x0005
// 0.038333
0x04E8
// 0.023925
0x0310
// 0.057254
0x0754
// -0.020421
0xFD63
// -0.043322
0xFA74
// 0.020808
0x02AA
// 0.002628
0x0056
// 0.016506
0x021D
// 0.007075
0x00E8
// 0.028812
0x03B0
// -0.012633
0xFE62
// 0.000888
0x001D
// -0.002633
0xFFAA
// -0.049824
0xF99F
// -0.029097
0xFC47
// -0.010042
0xFEB7
// 0.010212
0x014F
// 0.016516
0x021D
// 0.027758
0x038E
// 0.009568
0x013A
// -0.011446
0xFE89
// 0.048721
0x063C
// -0.003212
0xFF97
// -0.033423
0xFBB9
// -0.024005
0xFCED
// 0.015661
0x0201
// -0.006210
0xFF35
// 0.007002
0x00E5
// 0.007811
0x0100
// 0.003052
0x0064
// 0.031783
0x0411
// 0.067419
0x08A1
// -0.005550
0xFF4A
// 0.006701
0x00DC
// -0.009545
0xFEC7
// 0.096426
0x0C58
// -0.062785
0xF7F7
// -0.057975
0xF894
// -0.088755
0xF4A4
// -0.009214
0xFED2
// -0.017319
0xFDC9
// 0.014342
0x01D6
// 0.006335
0x00D0
// 0.012941
0x01A8
// -0.004490
0xFF6D
// 0.051456
0x0696
// -0.010143
0xFEB4
// 0.028775
0x03AF
// -0.005149
0xFF57
// 0.046939
0x0602
// 0.022313
0x02DB
// 0.002807
0x005C
// -0.013827
0xFE3B
// -0.026712
0xFC95
// 0.009383
0x0133
// 0.063484
0x0820
// 0.017450
0x023C
// 0.003245
0x006A
// -0.009054
0xFED7
// -0.013683
0xFE40
// 0.030415
0x03E5
// -0.008678
0xFEE4
// 0.000826
0x001B
// 0.045429
0x05D1
// 0.097373
0x0C77
// -0.007051
0xFF19
// 0.009466
0x0136
// -0.051331
0xF96E
// -0.029111
0xFC46
// -0.005340
0xFF51
// -0.011834
0xFE7C
// -0.022450
0xFD20
// -0.026691
0xFC95
// 0.009385
0x0134
// -0.000577
0xFFED
// -0.006927
0xFF1D
// 0.072646
0x094C
// 0.002043
0x0043
// -0.076823
0xF62B
// -0.017429
0xFDC5
// -0.043628
0xFA6A
// -0.001420
0xFFD1
// -0.009686
0xFEC3
// 0.006747
0x00DD
// 0.001686
0x0037
// -0.008538
0xFEE8
// -0.012549
0xFE65
// -0.004785
0xFF63
// -0.001651
0xFFCA
// -0.056778
0xF8BC
// 0.076503
0x09CB
// -0.095793
0xF3BD
// 0.019408
0x027C
// 0.003813
0x007D
// -0.029742
0xFC31
// 0.014504
0x01DB
// 0.034663
0x0470
// -0.081637
0xF58D
// -0.064727
0xF7B7
// -0.013305
0xFE4C
// 0.013982
0x01CA
// -0.002571
0xFFAC
// -0.010713
0xFEA1
// 0.010576
0x015B
// -0.056183
0xF8CF
// 0.063107
0x0814
// -0.111846
0xF1AF
// 0.013212
0x01B1
// -0.017027
0xFDD2
// 0.016803
0x0227
// -0.013488
0xFE46
// 0.059801
0x07A8
// 0.003384
0x006F
// -0.002545
0xFFAD
// 0.005431
0x00B2
// 0.069752
0x08EE
// 0.006314
0x00CF
// -0.070536
0xF6F9
// -0.018510
0xFDA1
// 0.044766
0x05BB
// -0.041590
0xFAAD
// 0.015403
0x01F9
// -0.023822
0xFCF3
// 0.008551
0x0118
// -0.013017
0xFE55
// -0.004387
0xFF70
// 0.012892
0x01A6
// 0.027232
0x037C
// -0.105854
0xF273
// -0.028332
0xFC60
// -0.025867
0xFCB0
// -0.032541
0xFBD6
// -0.052491
0xF948
// 0.082123
0x0A83
// 0.051159
0x068C
// 0.005313
0x00AE
// -0.011193
0xFE91
// 0.022876
0x02EE
// -0.003398
0xFF91
// -0.014673
0xFE1F
// 0.010517
0x0159
// 0.017426
0x023B
// 0.009211
0x012E
// 0.007639
0x00FA
// 0.161027
0x149D
// 0.003168
0x0068
// 0.000836
0x001B
// 0.007504
0x00F6
// -0.027436
0xFC7D
// 0.013013
0x01AA
// -0.012126
0xFE73
// -0.030156
0xFC24
// -0.019191
0xFD8B
// -0.018250
0xFDAA
// 0.020889
0x02AC
// 0.020203
0x0296
// 0.033941
0x0458
// 0.018054
0x0250
// -0.000122
0xFFFC
// 0.146833
0x12CB
// -0.030712
0xFC12
// -0.058319
0xF889
// -0.046492
0xFA0D
// -0.082680
0xF56B
// -0.102977
0xF2D2
// -0.010478
0xFEA9
// -0.031505
0xFBF8
// 0.015397
0x01F9
// -0.003453
0xFF8F
// 0.029543
0x03C8
// -0.031202
0xFC02
// 0.026310
0x035E
// 0.033484
0x0449
// -0.005138
0xFF58
// -0.005099
0xFF59
// -0.010226
0xFEB1
// -0.061212
0xF82A
// -0.054032
0xF915
// 0.004091
0x0086
// 0.000102
0x0003
// -0.001328
0xFFD4
// -0.010926
0xFE9A
// -0.042347
0xFA94
// 0.007540
0x00F7
// -0.012348
0xFE6B
// 0.013464
0x01B9
// 0.095757
0x0C42
// -0.016634
0xFDDF
// -0.009436
0xFECB
// 0.038303
0x04E7
// 0.006906
0x00E2
// 0.016460
0x021B
// -0.015780
0xFDFB
// 0.037692
0x04D3
// 0.002240
0x0049
// -0.018909
0xFD94
// -0.036218
0xFB5D
// 0.026089
0x0357
// -0.013512
0xFE45
// -0.021742
0xFD38
// 0.016741
0x0225
// -0.022314
0xFD25
// -0.015119
0xFE11
// 0.015661
0x0201
// 0.009062
0x0129
// 0.038817
0x04F8
// -0.027761
0xFC72
// -0.038930
0xFB04
// -0.006694
0xFF25
// -0.004973
0xFF5D
// 0.045039
0x05C4
// 0.043030
0x0582
// 0.102376
0x0D1B
// -0.081177
0xF59C
// 0.019976
0x028F
// 0.071441
0x0925
// 0.061080
0x07D1
// 0.004009
0x0083
// 0.008380
0x0113
// -0.061177
0xF82B
// 0.033118
0x043D
// 0.015422
0x01F9
// -0.039123
0xFAFE
// 0.000542
0x0012
// -0.011000
0xFE98
// -0.009170
0xFED4
// -0.005706
0xFF45
// 0.044046
0x05A3
// -0.174323
0xE9B0
// 0.001752
0x0039
// 0.013621
0x01BE
// -0.005016
0xFF5C
// -0.011124
0xFE93
// 0.005458
0x00B3
// 0.030547
0x03E9
// -0.016781
0xFDDA
// 0.061890
0x07EC
// -0.005224
0xFF55
// 0.013946
0x01C9
// 0.010548
0x015A
// 0.029230
0x03BE
// 0.034621
0x046E
// -0.011108
0xFE94
// -0.003638
0xFF89
// 0.003499
0x0073
// 0.014077
0x01CD
// -0.027758
0xFC72
// -0.072991
0xF6A8
// -0.028756
0xFC52
// -0.029325
0xFC3F
// 0.019131
0x0273
// 0.002509
0x0052
// -0.002295
0xFFB5
// -0.009895
0xFEBC
// -0.012102
0xFE73
// -0.011401
0xFE8A
// -0.073478
0xF698
// 0.023110
0x02F5
// 0.021141
0x02B5
// 0.035405
0x0488
// 0.007373
0x00F2
// -0.035107
0xFB82
// -0.055420
0xF8E8
// -0.009693
0xFEC2
// -0.018313
0xFDA8
// -0.005885
0xFF3F
// 0.021557
0x02C2
// 0.143833
0x1269
// -0.005413
0xFF4F
// -0.033224
0xFBBF
// 0.086923
0x0B20
// -0.027956
0xFC6C
// 0.039562
0x0510
// -0.011113
0xFE94
// 0.029870
0x03D3
// 0.008863
0x0122
// -0.027008
0xFC8B
// -0.021185
0xFD4A
// 0.021378
0x02BD
// -0.083142
0xF55C
// 0.050485
0x0676
// -0.007090
0xFF18
// 0.009112
0x012B
// 0.007695
0x00FC
// 0.006208
0x00CB
// 0.001435
0x002F
// -0.012676
0xFE61
// 0.081425
0x0A6C
// 0.035787
0x0495
// -0.057887
0xF897
// -0.052972
0xF938
// -0.013201
0xFE4F
// 0.011921
0x0187
// -0.046296
0xFA13
// -0.021027
0xFD4F
// -0.034730
0xFB8E
// 0.067721
0x08AB
// -0.033885
0xFBAA
// -0.019160
0xFD8C
// -0.024521
0xFCDC
// 0.013260
0x01B2
// 0.058310
0x0777
// 0.025217
0x033A