You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference5_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.279918
0x23D4
// 1.148327
0x7FFF
// 0.884923
0x7145
// 0.842804
0x6BE1
// 0.313260
0x2819
// 0.257232
0x20ED
// 1.500000
0x7FFF
// 0.280308
0x23E1
// 1.208863
0x7FFF
// 0.546558
0x45F6
// 0.233862
0x1DEF
// 0.358311
0x2DDD
// 0.738624
0x5E8B
// 0.246712
0x1F94
// 0.377137
0x3046
// 0.579772
0x4A36
// 0.616209
0x4EE0
// 0.504822
0x409E
// 0.804033
0x66EB
// 0.399209
0x3319
// 0.888702
0x71C1
// 0.631467
0x50D4
// 0.076288
0x09C4
// 0.768629
0x6262
// 1.054728
0x7FFF
// 0.913113
0x74E1
// 0.281549
0x240A
// 0.215940
0x1BA4
// 0.357058
0x2DB4
// 0.286390
0x24A8
// 0.312779
0x2809
// 0.585661
0x4AF7
// 0.693862
0x58D0
// 0.277818
0x2390
// 0.551635
0x469C
// 0.390214
0x31F3
// 0.480685
0x3D87
// 1.131926
0x7FFF
// 0.639429
0x51D9
// 0.136228
0x1170
// 0.441067
0x3875
// 0.362724
0x2E6E
// 0.457089
0x3A82
// 0.811712
0x67E6
// 0.077550
0x09ED
// 0.392686
0x3244
// 0.731744
0x5DAA
// 0.182983
0x176C
// 0.885759
0x7161
// 0.410152
0x3480
// 0.834632
0x6AD5
// 0.973275
0x7C94
// 0.053120
0x06CD
// 0.609839
0x4E0F
// 0.365916
0x2ED6
// 0.425961
0x3686
// 0.682938
0x576B
// 0.140175
0x11F1
// 0.527050
0x4376
// 0.902421
0x7383
// 1.081003
0x7FFF
// 0.909156
0x745F
// 0.367850
0x2F16
// 0.448401
0x3965
// 0.523049
0x42F3
// 0.464537
0x3B76
// 0.073749
0x0971
// 0.238645
0x1E8C
// 1.039896
0x7FFF
// 0.291136
0x2544
// 0.982423
0x7DC0
// 0.051874
0x06A4
// 0.289974
0x251E
// 0.487759
0x3E6F
// 0.672387
0x5611
// 0.913264
0x74E6
// 1.271709
0x7FFF
// 0.211655
0x1B18
// 0.303502
0x26D9
// 1.377371
0x7FFF
// 0.146168
0x12B6
// 0.325660
0x29AF
// 0.468437
0x3BF6
// -0.038060
0xFB21
// 0.777797
0x638F
// 1.015457
0x7FFF
// 0.162070
0x14BF
// 0.442735
0x38AC
// 1.178871
0x7FFF
// 0.158285
0x1443
// 0.633303
0x5110
// 0.570760
0x490F
// 0.396833
0x32CB
// 0.614818
0x4EB2
// 0.031050
0x03F9
// 0.261281
0x2172
// 0.517460
0x423C
// 0.656982
0x5418
// 0.833725
0x6AB7
// 0.774001
0x6312
// 0.610301
0x4E1E
// 0.646732
0x52C8
// 0.262042
0x218B
// 0.823186
0x695E
// 0.906440
0x7406
// 0.726232
0x5CF5
// 0.560577
0x47C1
// 0.720115
0x5C2D
// 0.269699
0x2286
// -0.019917
0xFD73
// 0.346996
0x2C6A
// 0.522194
0x42D7
// 0.305745
0x2723
// 0.724090
0x5CAF
// 0.585157
0x4AE6
// 0.824252
0x6981
// 0.548763
0x463E
// 0.846810
0x6C64
// 0.252397
0x204F
// 0.142697
0x1244
// 0.706534
0x5A70
// 0.236465
0x1E44
// 0.515248
0x41F4
// -0.372890
0xD045
// 0.747580
0x5FB1
// 1.016149
0x7FFF
// 0.594302
0x4C12
// 0.552902
0x46C6
// -0.278240
0xDC63
// 0.927637
0x76BD
// 0.783986
0x645A
// -0.172614
0xE9E8
// 0.042244
0x0568
// 0.013152
0x01AF
// 0.004345
0x008E
// 1.160337
0x7FFF
// 0.914922
0x751C
// -0.184546
0xE861
// 0.591087
0x4BA9
// 0.193195
0x18BB
// 0.667335
0x556B
// 0.733959
0x5DF2
// 0.209836
0x1ADC
// 0.176476
0x1697
// 1.014280
0x7FFF
// 0.542699
0x4577
// -0.207219
0xE57A
// 0.591950
0x4BC5
// 0.753710
0x607A
// 1.295096
0x7FFF
// 0.153289
0x139F
// 0.100800
0x0CE7
// 0.295270
0x25CB
// 0.144456
0x127E
// 0.723820
0x5CA6
// -0.046668
0xFA07
// 0.111261
0x0E3E
// -0.145919
0xED53
// 0.407892
0x3436
// 0.467166
0x3BCC
// 0.580452
0x4A4C
// 0.562094
0x47F3
// 0.558031
0x476E
// -0.172297
0xE9F2
// 0.462819
0x3B3E
// 0.532767
0x4432
// 0.426197
0x368E
// 0.621025
0x4F7E
// -0.007999
0xFEFA
// 1.054037
0x7FFF
// -0.211653
0xE4E9
// 0.707512
0x5A90
// 0.728481
0x5D3F
// 0.677144
0x56AD
// 0.700805
0x59B4
// 0.164346
0x1509
// 0.534701
0x4471
// 0.729649
0x5D65
// 0.247434
0x1FAC
// 0.794584
0x65B5
// 0.790876
0x653B
// 0.207731
0x1A97
// 0.519291
0x4278
// 0.465642
0x3B9A
// 0.482388
0x3DBF
// 0.614118
0x4E9B
// 0.440416
0x3860
// 0.778205
0x639C
// 0.395229
0x3297
// 0.610870
0x4E31
// 0.422223
0x360B
// 0.552804
0x46C2
// 0.266505
0x221D
// 0.813370
0x681D
// 0.926198
0x768E
// -0.013922
0xFE38
// 0.514071
0x41CD
// -0.499800
0xC007
// 0.894377
0x727B
// 0.664722
0x5516
// 0.715053
0x5B87
// 0.337630
0x2B37
// 0.310807
0x27C9
// 0.586890
0x4B1F
// 0.338752
0x2B5C
// 0.650896
0x5351
// -0.015634
0xFE00
// 0.293787
0x259B
// 0.638097
0x51AD
// 0.434079
0x3790
// 0.328967
0x2A1C
// 0.775296
0x633D
// -0.158778
0xEBAD
// 0.648681
0x5308
// 0.633878
0x5123
// 0.123194
0x0FC5
// 0.272399
0x22DE
// 0.464779
0x3B7E
// 0.510615
0x415C
// 1.052262
0x7FFF
// 0.951795
0x79D4
// 0.409202
0x3461
// 0.121106
0x0F80
// 0.470179
0x3C2F
// 0.257710
0x20FD
// 0.337382
0x2B2F
// 0.249002
0x1FDF
// 0.428148
0x36CE
// 0.612652
0x4E6B
// 0.402149
0x337A
// 0.236180
0x1E3B
// 0.527472
0x4384
// 0.282088
0x241B
// 0.516859
0x4228
// 0.328921
0x2A1A
// 0.520164
0x4295
// 0.268339
0x2259
// 0.418478
0x3591
// 0.730455
0x5D80
// 0.487691
0x3E6D
// 0.295561
0x25D5
// 0.412040
0x34BE
// 1.202082
0x7FFF
// 0.831918
0x6A7C
// 0.357443
0x2DC1
// 0.135548
0x115A
// 0.188905
0x182E
// 0.120189
0x0F62
// 0.402198
0x337B
// 0.754235
0x608B
// -0.033323
0xFBBC
// 0.320862
0x2912
// 0.774026
0x6313
// 0.908047
0x743B
// 0.537919
0x44DB
// 0.210267
0x1AEA