You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference1_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// 0.885931
0x7166
// -0.747214
0xA05B
// -0.197511
0xE6B8
// -0.541855
0xBAA4
// 0.375189
0x3006
// 0.048296
0x062F
// -0.236232
0xE1C3
// -0.051306
0xF96F
// -0.351403
0xD305
// -0.743609
0xA0D1
// 0.316605
0x2887
// -0.222421
0xE388
// -0.084937
0xF521
// 0.688014
0x5811
// 0.003748
0x007B
// -0.898196
0x8D08
// 0.573136
0x495D
// 0.298747
0x263D
// 0.518685
0x4264
// 0.529850
0x43D2
// 0.044350
0x05AD
// -0.384987
0xCEB9
// 0.900098
0x7336
// -0.347037
0xD394
// -0.356727
0xD257
// -0.198647
0xE693
// -0.187842
0xE7F5
// -0.325558
0xD654
// 1.057774
0x7FFF
// 0.534412
0x4468
// -1.043399
0x8000
// -0.868848
0x90CA
// 0.386070
0x316B
// -0.271361
0xDD44
// 0.347850
0x2C86
// 0.888592
0x71BD
// -0.581500
0xB591
// 0.346532
0x2C5B
// -0.107646
0xF239
// 0.276310
0x235E
// -0.212416
0xE4D0
// 0.235043
0x1E16
// 0.858116
0x6DD7
// -0.372925
0xD044
// -0.409538
0xCB94
// -0.488707
0xC172
// 0.767011
0x622D
// -0.589475
0xB48C
// -0.081964
0xF582
// 0.624625
0x4FF4
// 0.382771
0x30FF
// -0.449047
0xC686
// -0.159147
0xEBA1
// 0.833905
0x6ABD
// 0.505928
0x40C2
// -0.412554
0xCB31
// 0.272798
0x22EB
// 0.248925
0x1FDD
// -0.105655
0xF27A
// 0.476464
0x3CFD
// 0.319157
0x28DA
// 0.324427
0x2987
// -0.476163
0xC30D
// -0.045776
0xFA24
// 0.117101
0x0EFD
// 0.432697
0x3763
// -0.138343
0xEE4B
// 0.405487
0x33E7
// 0.435525
0x37BF
// -0.082010
0xF581
// -0.110601
0xF1D8
// 0.036630
0x04B0
// 0.011143
0x016D
// -0.090169
0xF475
// 0.177607
0x16BC
// -0.063197
0xF7E9
// 0.169339
0x15AD
// 1.225680
0x7FFF
// 0.120528
0x0F6D
// -0.044178
0xFA58
// 0.642256
0x5235
// -0.130645
0xEF47
// 0.058944
0x078B
// -0.907637
0x8BD3
// -0.705544
0xA5B1
// -0.430052
0xC8F4
// 0.796818
0x65FE
// 0.885552
0x715A
// -0.420563
0xCA2B
// -0.475058
0xC331
// 0.334432
0x2ACF
// -0.067722
0xF755
// 0.913595
0x74F1
// 0.279000
0x23B6
// 0.354150
0x2D55
// -0.415183
0xCADB
// -0.065586
0xF79B
// -0.574998
0xB666
// -0.912656
0x8B2E
// -0.376084
0xCFDC
// 0.842847
0x6BE2
// 0.560604
0x47C2
// 0.386710
0x3180
// -0.253364
0xDF92
// 0.405534
0x33E9
// -0.228395
0xE2C4
// -1.156800
0x8000
// -0.002165
0xFFB9
// -0.220029
0xE3D6
// -1.185517
0x8000
// 0.234392
0x1E01
// -0.023266
0xFD06
// -0.468553
0xC406
// -0.366730
0xD10F
// -0.463156
0xC4B7
// -0.230152
0xE28A
// -0.397925
0xCD11
// -0.348013
0xD374
// -0.371212
0xD07C
// 0.001206
0x0028
// -0.711342
0xA4F3
// -0.079817
0xF5C9
// -0.793332
0x9A74
// 0.506884
0x40E2
// 0.772247
0x62D9
// -1.257600
0x8000
// -1.277417
0x8000
// -0.527834
0xBC70
// -0.085774
0xF505
// -0.283357
0xDBBB
// 0.865434
0x6EC7
// 0.161017
0x149C
// -0.362011
0xD1AA
// 0.484580
0x3E07
// -0.996079
0x8080
// -0.439180
0xC7C9
// 0.335425
0x2AEF
// -1.230569
0x8000
// 0.236315
0x1E40
// 0.112107
0x0E5A
// -0.250019
0xDFFF
// 1.169630
0x7FFF
// -0.468690
0xC402
// -0.380382
0xCF50
// -0.634801
0xAEBF
// -1.195516
0x8000
// 0.461481
0x3B12
// -0.163965
0xEB03
// -0.062707
0xF7F9
// 0.132427
0x10F3
// 0.042988
0x0581
// -0.932124
0x88B0
// -0.985488
0x81DC
// 0.256729
0x20DC
// 0.034305
0x0464
// -0.276027
0xDCAB
// 0.687873
0x580C
// -0.672034
0xA9FB
// -0.249635
0xE00C
// 0.227953
0x1D2E
// -0.941781
0x8774
// -0.328502
0xD5F4
// -0.210803
0xE504
// -0.385587
0xCEA5
// -0.017798
0xFDB9
// 0.039342
0x0509
// -0.449970
0xC667
// -0.059488
0xF863
// 0.575478
0x49A9
// -0.884735
0x8EC1
// -0.319918
0xD70D
// 1.062444
0x7FFF
// -0.046485
0xFA0D
// -0.221597
0xE3A3
// -0.345963
0xD3B7
// -0.972282
0x838C
// 0.171100
0x15E7
// -0.492690
0xC0F0
// 0.369434
0x2F4A
// 1.190289
0x7FFF
// 0.068687
0x08CB
// -0.095619
0xF3C3
// -0.028253
0xFC62
// -0.371671
0xD06D
// -0.099240
0xF34C
// 0.287704
0x24D3
// -0.447060
0xC6C7
// 0.287587
0x24D0
// -0.517583
0xBDC0
// 0.651548
0x5366
// 0.252354
0x204D
// -0.853194
0x92CB
// 0.634378
0x5133
// -0.766430
0x9DE6
// -0.050458
0xF98B
// 0.427508
0x36B9
// 0.123235
0x0FC6
// -0.290825
0xDAC6
// 0.250985
0x2020
// -0.741331
0xA11C
// -0.772912
0x9D11
// -0.355326
0xD285
// -0.333807
0xD546
// 0.195233
0x18FD
// 0.302445
0x26B7
// 0.370017
0x2F5D
// 0.506796
0x40DF
// 0.229338
0x1D5B
// -0.002823
0xFFA3
// -0.388849
0xCE3A
// -0.481701
0xC258
// -0.061860
0xF815
// -0.161852
0xEB48
// 0.162656
0x14D2
// -0.781997
0x9BE8
// -0.046982
0xF9FC
// 0.149128
0x1317
// -0.057428
0xF8A6
// -0.484266
0xC204
// -0.650546
0xACBB
// 0.538401
0x44EA
// 0.567983
0x48B4
// 0.277082
0x2377
// -0.449625
0xC673
// 0.006891
0x00E2
// 0.086197
0x0B09
// -0.016335
0xFDE9
// -0.450868
0xC64A
// -0.010769
0xFE9F
// 0.565540
0x4864
// -0.654919
0xAC2C
// 0.261060
0x216A
// 1.126534
0x7FFF
// -0.144369
0xED85
// 0.800045
0x6668
// -0.652293
0xAC82
// -0.680194
0xA8EF
// -0.241824
0xE10C
// 0.549805
0x4660
// 0.261406
0x2176
// -0.009488
0xFEC9
// 0.458762
0x3AB9
// -0.622618
0xB04E
// -1.157576
0x8000
// 1.018627
0x7FFF
// -0.646246
0xAD48
// -0.181486
0xE8C5
// -0.164480
0xEAF2
// -0.051995
0xF958
// 0.263313
0x21B4
// -0.520997
0xBD50
// 0.348298
0x2C95
// -0.003717
0xFF86
// -0.656196
0xAC02
// 1.024063
0x7FFF
// -0.351529
0xD301