You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference5_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.108961
0x0DF2
// 0.367506
0x2F0A
// 0.175661
0x167C
// 0.739965
0x5EB7
// 0.787413
0x64CA
// 0.192475
0x18A3
// 0.417557
0x3573
// 0.264083
0x21CD
// 0.949457
0x7988
// 0.086149
0x0B07
// 0.781545
0x640A
// 0.106398
0x0D9E
// 1.135543
0x7FFF
// 0.471801
0x3C64
// 0.252226
0x2049
// 0.073349
0x0963
// 0.594929
0x4C27
// 0.352452
0x2D1D
// 0.651437
0x5362
// 0.396838
0x32CC
// 1.500000
0x7FFF
// 0.372684
0x2FB4
// 0.723084
0x5C8E
// 0.302630
0x26BD
// 0.476421
0x3CFB
// 0.664779
0x5517
// 0.554862
0x4706
// 0.616807
0x4EF4
// 1.224476
0x7FFF
// 0.824554
0x698B
// 1.137242
0x7FFF
// -0.494701
0xC0AE
// 0.346395
0x2C57
// 0.775814
0x634E
// 0.415505
0x352F
// -0.152355
0xEC80
// 0.134914
0x1145
// 0.158695
0x1450
// 1.109822
0x7FFF
// 0.761556
0x617B
// 0.459824
0x3ADC
// 0.513211
0x41B1
// -0.130985
0xEF3C
// 0.757101
0x60E9
// 0.763646
0x61BF
// -0.207048
0xE57F
// 0.507630
0x40FA
// 0.872092
0x6FA1
// 0.700446
0x59A8
// -0.191038
0xE78C
// 0.520442
0x429E
// 1.241753
0x7FFF
// 0.229033
0x1D51
// 0.649906
0x5330
// 0.655500
0x53E7
// 0.569104
0x48D8
// 0.546970
0x4603
// 0.550831
0x4682
// -0.023837
0xFCF3
// 0.046761
0x05FC
// 0.391689
0x3223
// 0.228555
0x1D41
// 0.303418
0x26D6
// 0.817899
0x68B1
// 0.796574
0x65F6
// -0.273282
0xDD05
// 0.598481
0x4C9B
// 1.077823
0x7FFF
// 0.260763
0x2161
// 0.388396
0x31B7
// 0.850488
0x6CDD
// -0.474917
0xC336
// 0.025863
0x034F
// 0.733892
0x5DF0
// -0.160819
0xEB6A
// 0.163116
0x14E1
// 0.171265
0x15EC
// 1.102986
0x7FFF
// 0.423955
0x3644
// 0.201000
0x19BA
// 0.479572
0x3D63
// 0.320195
0x28FC
// 0.886969
0x7188
// 0.613119
0x4E7B
// 0.509004
0x4127
// 1.339391
0x7FFF
// 0.636101
0x516C
// 0.120721
0x0F74
// -0.078833
0xF5E9
// 0.235837
0x1E30
// 1.033847
0x7FFF
// 0.909433
0x7468
// 0.834975
0x6AE0
// 0.348118
0x2C8F
// 0.367780
0x2F13
// 0.320583
0x2909
// 0.311519
0x27E0
// 1.006994
0x7FFF
// 0.971158
0x7C4F
// 0.650447
0x5342
// -0.068105
0xF748
// 0.706037
0x5A5F
// 0.836932
0x6B21
// 0.628105
0x5066
// -0.108755
0xF214
// 0.283708
0x2451
// 0.172661
0x161A
// 0.574259
0x4981
// 0.307810
0x2766
// -0.050959
0xF97A
// 0.465977
0x3BA5
// 0.115085
0x0EBB
// 0.915263
0x7527
// -0.013936
0xFE37
// 0.909222
0x7461
// 0.735739
0x5E2D
// 1.013779
0x7FFF
// 0.580366
0x4A49
// 0.508089
0x4109
// -0.165939
0xEAC2
// -0.053521
0xF926
// 0.381512
0x30D5
// 0.047246
0x060C
// 0.689352
0x583D
// 0.263553
0x21BC
// 0.529425
0x43C4
// -0.032288
0xFBDE
// 0.341315
0x2BB0
// 0.707125
0x5A83
// 0.243442
0x1F29
// 0.779340
0x63C1
// 0.675831
0x5682
// 0.842134
0x6BCB
// 0.166415
0x154D
// -0.290520
0xDAD0
// -0.104685
0xF29A
// 0.933929
0x778B
// 0.711268
0x5B0B
// -0.036812
0xFB4A
// 0.251151
0x2026
// -0.025246
0xFCC5
// 0.137696
0x11A0
// 0.027432
0x0383
// 0.893772
0x7267
// 0.476549
0x3D00
// 1.206359
0x7FFF
// 0.130225
0x10AB
// -0.027837
0xFC70
// 0.312168
0x27F5
// 0.663702
0x54F4
// -0.243740
0xE0CD
// 0.231639
0x1DA6
// 0.392446
0x323C
// 0.907995
0x7439
// 0.891583
0x721F
// 0.718611
0x5BFB
// 0.006980
0x00E5
// 0.872303
0x6FA8
// 0.501229
0x4028
// 0.916385
0x754C
// 0.604454
0x4D5F
// 0.794703
0x65B9
// 0.499448
0x3FEE
// 0.663755
0x54F6
// 0.463084
0x3B46
// 0.227697
0x1D25
// 0.314904
0x284F
// 0.684122
0x5791
// -0.056027
0xF8D4
// -0.213326
0xE4B2
// 0.576186
0x49C0
// 0.659486
0x546A
// 0.506846
0x40E0
// 0.451244
0x39C2
// 0.945768
0x790F
// 0.525109
0x4337
// -0.057602
0xF8A0
// 0.589997
0x4B85
// 0.212307
0x1B2D
// 0.656651
0x540D
// 0.729572
0x5D63
// 0.909576
0x746D
// 0.267911
0x224B
// 1.357708
0x7FFF
// 1.008076
0x7FFF
// 0.042217
0x0567
// 1.037929
0x7FFF
// 0.578232
0x4A04
// 0.602995
0x4D2F
// 0.863774
0x6E90
// 0.159583
0x146D
// 1.488812
0x7FFF
// 1.227331
0x7FFF
// 0.457597
0x3A93
// -0.748493
0xA031
// 0.518439
0x425C
// 0.419044
0x35A3
// 0.998395
0x7FCB
// 0.742706
0x5F11
// 0.051853
0x06A3
// -0.058205
0xF88D
// 0.668927
0x559F
// 0.134690
0x113E
// 0.899500
0x7323
// -0.067251
0xF764
// 0.613547
0x4E89
// -0.066178
0xF787
// -0.175753
0xE981
// 0.417716
0x3578
// 0.763793
0x61C4
// 0.639256
0x51D3
// 1.063582
0x7FFF
// 0.670762
0x55DC
// 0.645771
0x52A9
// 0.275231
0x233B
// 1.322337
0x7FFF
// 1.005253
0x7FFF
// 0.349525
0x2CBD
// 1.352788
0x7FFF
// 0.729226
0x5D57
// 0.520920
0x42AE
// 1.217030
0x7FFF
// 0.920662
0x75D8
// 0.318285
0x28BE
// 0.363321
0x2E81
// 0.698719
0x5970
// -0.280927
0xDC0B
// 0.816314
0x687D
// 0.837074
0x6B25
// 0.949962
0x7998
// 0.134913
0x1145
// -0.015723
0xFDFD
// 0.755542
0x60B6
// 0.035887
0x0498
// 0.636815
0x5183
// 0.016027
0x020D
// 0.803115
0x66CC
// -0.016164
0xFDEE
// 0.563928
0x482F
// 0.977272
0x7D17
// 0.201675
0x19D0
// 0.038211
0x04E4
// 0.973654
0x7CA1
// 0.065671
0x0868
// 0.318395
0x28C1
// 0.467861
0x3BE3
// 0.359603
0x2E07
// 0.786762
0x64B5
// 0.364899
0x2EB5
// 0.343628
0x2BFC
// 0.082078
0x0A82
// 0.628029
0x5063
// 0.790168
0x6524
// 0.730520
0x5D82
// 0.484291
0x3DFD
// 0.004929
0x00A2