You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference10_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.126742
0x1039
// 0.058866
0x0789
// 0.130892
0x10C1
// 0.040584
0x0532
// 0.045334
0x05CE
// 0.609106
0x4DF7
// 0.357286
0x2DBC
// 0.265087
0x21EE
// 0.103120
0x0D33
// 0.911448
0x74AA
// 0.212999
0x1B44
// 0.144638
0x1283
// 0.263924
0x21C8
// 0.122349
0x0FA9
// 0.023757
0x030A
// 0.098060
0x0C8D
// 0.595519
0x4C3A
// 0.230962
0x1D90
// 0.184198
0x1794
// 0.335105
0x2AE5
// 0.193150
0x18B9
// 0.233188
0x1DD9
// 0.391231
0x3214
// 0.261568
0x217B
// 0.582887
0x4A9C
// 0.430650
0x3720
// 0.150871
0x1350
// 0.256633
0x20D9
// 0.204247
0x1A25
// 0.382167
0x30EB
// 0.187891
0x180D
// 0.717906
0x5BE4
// 0.949411
0x7986
// 0.025250
0x033B
// 0.245584
0x1F6F
// 0.662205
0x54C3
// 0.496748
0x3F95
// 0.724651
0x5CC1
// 0.294871
0x25BE
// 0.545794
0x45DD
// 1.000000
0x7FFF
// 0.204297
0x1A26
// 0.482733
0x3DCA
// 0.178201
0x16CF
// 0.404156
0x33BB
// 0.485662
0x3E2A
// 0.072848
0x0953
// 0.003415
0x0070
// 0.039638
0x0513
// 0.471526
0x3C5B
// 0.280258
0x23DF
// 0.006236
0x00CC
// 0.341270
0x2BAF
// 0.158798
0x1453
// 0.334175
0x2AC6
// 0.543285
0x458A
// 0.100509
0x0CDD
// 0.022713
0x02E8
// 0.326090
0x29BD
// 0.260548
0x215A
// 0.327710
0x29F2
// 0.141767
0x1225
// 0.126766
0x103A
// 0.073301
0x0962
// 0.004333
0x008E
// 0.198710
0x196F
// 0.180650
0x1720
// 0.167550
0x1572
// 0.420766
0x35DC
// 0.377861
0x305E
// 0.647641
0x52E6
// 0.866432
0x6EE7
// 0.829324
0x6A27
// 0.114143
0x0E9C
// 0.411576
0x34AF
// 0.023240
0x02FA
// 0.436338
0x37DA
// 0.094915
0x0C26
// 0.329665
0x2A32
// 0.440540
0x3864
// 0.784165
0x6460
// 0.259906
0x2145
// 0.208003
0x1AA0
// 0.348274
0x2C94
// 0.157407
0x1426
// 0.148487
0x1302
// 0.321396
0x2923
// 0.301594
0x269B
// 0.142559
0x123F
// 0.265726
0x2203
// 0.394826
0x328A
// 0.445878
0x3913
// 0.661629
0x54B0
// 0.287038
0x24BE
// 0.427605
0x36BC
// 0.159600
0x146E
// 0.070351
0x0901
// 0.256823
0x20E0
// 0.015459
0x01FB
// 0.524600
0x4326
// 0.646645
0x52C5
// 0.316574
0x2886
// 0.050366
0x0672
// 0.217787
0x1BE0
// 0.141679
0x1223
// 0.428217
0x36D0
// 1.032174
0x7FFF
// 0.162962
0x14DC
// 0.081920
0x0A7C
// 0.034347
0x0465
// 0.204782
0x1A36
// 0.112700
0x0E6D
// 0.843449
0x6BF6
// 0.385259
0x3150
// 0.317961
0x28B3
// 0.129920
0x10A1
// 0.634276
0x5130
// 0.378447
0x3071
// 0.695630
0x590A
// 0.625123
0x5004
// 0.117132
0x0EFE
// 0.510242
0x4150
// 0.352902
0x2D2C
// 0.449136
0x397D
// 0.136318
0x1173
// 0.111794
0x0E4F
// 0.306947
0x274A
// 0.604117
0x4D54
// 0.316308
0x287D
// 0.042035
0x0561
// 0.786908
0x64B9
// 0.452336
0x39E6
// 0.188452
0x181F
// 0.078976
0x0A1C
// 0.210148
0x1AE6
// 0.122921
0x0FBC
// 0.162098
0x14C0
// 0.408339
0x3444
// 0.045576
0x05D5
// 0.616557
0x4EEB
// 0.076984
0x09DB
// 0.311453
0x27DE
// 0.064681
0x0847
// 0.157728
0x1430
// 0.359937
0x2E12
// 0.073616
0x096C
// 0.019815
0x0289
// 0.118974
0x0F3B
// 0.044175
0x05A8
// 0.462856
0x3B3F
// 0.310845
0x27CA
// 0.385877
0x3164
// 0.698413
0x5966
// 0.242611
0x1F0E
// 0.248162
0x1FC4
// 0.407401
0x3426
// 0.260469
0x2157
// 0.211569
0x1B15
// 0.050988
0x0687
// 0.400369
0x333F
// 0.736064
0x5E37
// 0.028999
0x03B6
// 0.257297
0x20EF
// 0.100099
0x0CD0
// 0.339378
0x2B71
// 0.525343
0x433E
// 0.793563
0x6593
// 0.013384
0x01B7
// 0.018887
0x026B
// 0.093376
0x0BF4
// 0.254884
0x20A0
// 0.278314
0x23A0
// 0.313322
0x281B
// 0.187305
0x17FA
// 0.323495
0x2968
// 0.917394
0x756D
// 1.011700
0x7FFF
// 0.490673
0x3ECE
// 0.191193
0x1879
// 0.254082
0x2086
// 0.177160
0x16AD
// 0.493954
0x3F3A
// 0.361236
0x2E3D
// 0.168313
0x158B
// 0.512299
0x4193
// 0.670624
0x55D7
// 0.217802
0x1BE1
// 0.166929
0x155E
// 0.578650
0x4A11
// 0.266504
0x221D
// 0.328279
0x2A05
// 0.487061
0x3E58
// 0.038399
0x04EA
// 0.087010
0x0B23
// 0.367557
0x2F0C
// 0.406624
0x340C
// 0.668108
0x5585
// 0.121793
0x0F97
// 0.099180
0x0CB2
// 0.233312
0x1DDD
// 0.263030
0x21AB
// 0.091718
0x0BBD
// 0.390527
0x31FD
// 0.230950
0x1D90
// 0.291667
0x2555
// 0.172078
0x1607
// 0.080776
0x0A57
// 0.193427
0x18C2
// 0.400608
0x3347
// 0.493380
0x3F27
// 0.346773
0x2C63
// 0.269152
0x2274
// 0.486658
0x3E4B
// 0.486265
0x3E3E
// 0.430214
0x3711
// 0.222200
0x1C71
// 0.675916
0x5684
// 0.112391
0x0E63
// 0.237691
0x1E6D
// 0.464037
0x3B66
// 0.724635
0x5CC1
// 0.368207
0x2F21
// 0.100791
0x0CE7
// 0.026156
0x0359
// 0.058045
0x076E
// 0.028807
0x03B0
// 0.303576
0x26DC
// 0.211545
0x1B14
// 0.100954
0x0CEC
// 0.666831
0x555B
// 0.962645
0x7B38
// 0.666877
0x555C
// 0.213663
0x1B59
// 0.464322
0x3B6F
// 0.614675
0x4EAE
// 0.195734
0x190E
// 0.029302
0x03C0
// 0.418077
0x3584
// 0.392604
0x3241
// 0.237594
0x1E69
// 0.366398
0x2EE6
// 0.038115
0x04E1
// 0.129434
0x1091
// 0.220848
0x1C45
// 0.017728
0x0245
// 0.054948
0x0709
// 0.214110
0x1B68
// 1.013547
0x7FFF
// 0.078216
0x0A03
// 0.123712
0x0FD6
// 0.499686
0x3FF6
// 0.008815
0x0121
// 0.472551
0x3C7D
// 0.127180
0x1047
// 0.007707
0x00FD
// 0.558795
0x4787