You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference5_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// -0.272747
0xDD
// 0.567546
0x49
// 0.529090
0x44
// 0.478577
0x3D
// -0.463625
0xC5
// 0.576963
0x4A
// 0.651862
0x53
// 0.424423
0x36
// 0.531138
0x44
// 0.460626
0x3B
// 0.697738
0x59
// 0.320160
0x29
// 0.526085
0x43
// 0.474025
0x3D
// 0.523710
0x43
// 0.141848
0x12
// 0.682408
0x57
// 0.355792
0x2E
// 0.247484
0x20
// 0.154668
0x14
// 0.320489
0x29
// 0.532433
0x44
// 0.483105
0x3E
// 0.591918
0x4C
// 0.006820
0x01
// 0.427757
0x37
// 1.500000
0x7F
// 0.356095
0x2E
// 0.437212
0x38
// 0.956790
0x7A
// 0.844389
0x6C
// 0.097349
0x0C
// 0.271284
0x23
// 0.912654
0x75
// 0.430270
0x37
// 0.654760
0x54
// 0.815750
0x68
// 0.592195
0x4C
// 0.139042
0x12
// 0.279860
0x24
// 0.368389
0x2F
// 0.450559
0x3A
// 1.211339
0x7F
// 0.416830
0x35
// 1.132389
0x7F
// 0.397183
0x33
// 0.409120
0x34
// 1.006340
0x7F
// 1.117751
0x7F
// 0.425221
0x36
// 0.152475
0x14
// 0.449916
0x3A
// 0.442408
0x39
// -0.078492
0xF6
// 0.758534
0x61
// 0.326853
0x2A
// 0.346804
0x2C
// 0.453437
0x3A
// 0.335635
0x2B
// 0.010839
0x01
// 1.248620
0x7F
// 0.430423
0x37
// 0.183893
0x18
// 0.820219
0x69
// 1.369226
0x7F
// 0.637058
0x52
// 0.834078
0x6B
// 0.577707
0x4A
// 0.275241
0x23
// 0.022177
0x03
// 0.593085
0x4C
// -0.014706
0xFE
// 0.613565
0x4F
// -0.141853
0xEE
// 0.865398
0x6F
// 0.496635
0x40
// 0.106457
0x0E
// 0.300823
0x27
// 0.752329
0x60
// 1.048020
0x7F
// 1.334066
0x7F
// 1.366331
0x7F
// 0.271446
0x23
// 0.303438
0x27
// 1.016168
0x7F
// 0.580657
0x4A
// 0.835057
0x6B
// 0.486832
0x3E
// 0.979241
0x7D
// 0.907291
0x74
// 0.239476
0x1F
// 0.643934
0x52
// 0.652011
0x53
// 0.067506
0x09
// 0.831437
0x6A
// 0.205967
0x1A
// 0.690011
0x58
// 0.108064
0x0E
// 0.673049
0x56
// -0.009871
0xFF
// 0.242916
0x1F
// 0.916758
0x75
// 0.217115
0x1C
// 0.475778
0x3D
// 0.684004
0x58
// 0.597257
0x4C
// 0.359421
0x2E
// 0.645829
0x53
// 0.703360
0x5A
// 0.616138
0x4F
// 1.103126
0x7F
// 0.485378
0x3E
// 0.623170
0x50
// 0.366676
0x2F
// 0.349082
0x2D
// 0.641244
0x52
// -0.178382
0xE9
// 0.727218
0x5D
// 0.524709
0x43
// 0.524473
0x43
// 0.597016
0x4C
// 0.224223
0x1D
// 0.165469
0x15
// 0.604453
0x4D
// 0.407542
0x34
// 0.244264
0x1F
// 0.366803
0x2F
// 0.228349
0x1D
// 0.166227
0x15
// 0.763304
0x62
// 0.520609
0x43
// 0.255463
0x21
// 0.473436
0x3D
// 0.493559
0x3F
// 0.475947
0x3D
// 1.072809
0x7F
// 0.659520
0x54
// 1.267228
0x7F
// 1.026278
0x7F
// 0.277633
0x24
// 0.712450
0x5B
// 0.650199
0x53
// 0.496579
0x40
// 1.045556
0x7F
// 0.482092
0x3E
// 0.703672
0x5A
// 0.691596
0x59
// 0.542828
0x45
// -0.110005
0xF2
// 1.083389
0x7F
// 0.018798
0x02
// 0.971129
0x7C
// 0.157013
0x14
// 0.927244
0x77
// 0.267771
0x22
// 0.508805
0x41
// 0.453435
0x3A
// 0.478515
0x3D
// 0.609299
0x4E
// 0.915950
0x75
// 0.396877
0x33
// -0.063116
0xF8
// 0.731557
0x5E
// 0.245867
0x1F
// 0.509130
0x41
// 0.587019
0x4B
// 0.366949
0x2F
// 1.220624
0x7F
// 0.997331
0x7F
// 0.660483
0x55
// 0.552893
0x47
// 0.180307
0x17
// 0.338961
0x2B
// 0.232269
0x1E
// 1.045088
0x7F
// 0.856477
0x6E
// 0.490652
0x3F
// 1.027862
0x7F
// 0.587363
0x4B
// 1.021134
0x7F
// 0.573121
0x49
// 1.003820
0x7F
// 0.375291
0x30
// 0.629476
0x51
// 0.141855
0x12
// 0.462346
0x3B
// 0.186751
0x18
// 0.511695
0x41
// 0.491620
0x3F
// 0.782468
0x64
// 0.664952
0x55
// 0.571359
0x49
// 0.354225
0x2D
// 0.348788
0x2D
// 1.015480
0x7F
// 0.279748
0x24
// 0.652392
0x54
// 0.787311
0x65
// 0.678285
0x57
// 0.453394
0x3A
// 0.587371
0x4B
// 0.031608
0x04
// 0.531503
0x44
// 0.246495
0x20
// 0.264931
0x22
// 0.498585
0x40
// 0.269558
0x23
// 1.003709
0x7F
// 0.234681
0x1E
// 0.528753
0x44
// 0.937107
0x78
// 0.185424
0x18
// 0.139196
0x12
// 1.139020
0x7F
// 0.455103
0x3A
// 0.848026
0x6D
// 0.461432
0x3B
// 0.542927
0x45
// 0.216553
0x1C
// 0.254595
0x21
// 0.110535
0x0E
// 0.397737
0x33
// 0.050597
0x06
// 0.509365
0x41
// 0.360197
0x2E
// 0.207062
0x1B
// 0.183585
0x17
// 0.355116
0x2D
// 0.132697
0x11
// 0.802847
0x67
// 0.885283
0x71
// 0.955387
0x7A
// -0.326654
0xD6
// 0.365758
0x2F
// 0.194582
0x19
// 0.448642
0x39
// 0.793030
0x66
// 0.564808
0x48
// 0.124605
0x10
// 0.692012
0x59
// 0.255519
0x21
// 0.441295
0x38
// 0.214466
0x1B
// 0.783418
0x64
// 1.026462
0x7F
// 0.336371
0x2B
// 0.857199
0x6E
// 0.431670
0x37
// 0.697610
0x59
// 0.122900
0x10
// 0.476920
0x3D
// 0.268338
0x22
// 1.395535
0x7F
// 0.728589
0x5D
// -0.177723
0xE9
// 0.719863
0x5C