You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference5_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.906505
0x74
// 0.189437
0x18
// 0.672014
0x56
// 0.272598
0x23
// 0.070885
0x09
// 1.066325
0x7F
// 0.635244
0x51
// 0.272754
0x23
// 0.221605
0x1C
// 0.435144
0x38
// 0.882370
0x71
// 0.884018
0x71
// 0.357574
0x2E
// 0.627911
0x50
// 1.437348
0x7F
// 0.744336
0x5F
// 0.499551
0x40
// 0.627691
0x50
// 1.046126
0x7F
// -0.178888
0xE9
// 0.632136
0x51
// 0.977643
0x7D
// 0.710225
0x5B
// 0.844956
0x6C
// 1.068114
0x7F
// -0.373362
0xD0
// 0.946447
0x79
// 1.033950
0x7F
// 0.978272
0x7D
// 1.360382
0x7F
// 0.335698
0x2B
// 1.077795
0x7F
// 0.858514
0x6E
// 0.038504
0x05
// 0.401554
0x33
// 0.680956
0x57
// 0.524522
0x43
// 1.063421
0x7F
// 0.811872
0x68
// 0.535202
0x45
// 0.126276
0x10
// -0.060139
0xF8
// 0.496065
0x3F
// 0.755564
0x61
// 0.620520
0x4F
// -0.045286
0xFA
// 0.441560
0x39
// 0.691735
0x59
// 0.212018
0x1B
// 0.071509
0x09
// 0.263689
0x22
// 0.642581
0x52
// 1.481504
0x7F
// 0.129847
0x11
// 0.641493
0x52
// 0.479347
0x3D
// 0.504885
0x41
// 1.028854
0x7F
// 0.426213
0x37
// 1.057828
0x7F
// 1.234641
0x7F
// 0.364626
0x2F
// 0.385899
0x31
// 0.996593
0x7F
// 0.200549
0x1A
// 0.077070
0x0A
// 0.468479
0x3C
// 0.202180
0x1A
// 0.792876
0x65
// 0.298608
0x26
// 0.181885
0x17
// 0.459318
0x3B
// 0.538819
0x45
// 0.738251
0x5E
// 1.009357
0x7F
// 0.686130
0x58
// 0.606388
0x4E
// 0.770024
0x63
// 0.553047
0x47
// 0.439075
0x38
// 0.730659
0x5E
// 0.733907
0x5E
// -0.099756
0xF3
// 0.498774
0x40
// 0.556549
0x47
// 0.869718
0x6F
// 0.360311
0x2E
// 0.530954
0x44
// 0.393926
0x32
// 0.616792
0x4F
// 0.686298
0x58
// 0.445917
0x39
// -0.164406
0xEB
// 1.220169
0x7F
// 0.475715
0x3D
// 0.046583
0x06
// -0.079656
0xF6
// 0.906865
0x74
// 0.172864
0x16
// 0.550715
0x46
// 0.333478
0x2B
// 0.963558
0x7B
// 1.066297
0x7F
// 0.543389
0x46
// 0.104835
0x0D
// -0.030630
0xFC
// 0.177859
0x17
// 0.344702
0x2C
// 0.950380
0x7A
// 0.477986
0x3D
// 0.311059
0x28
// 0.636682
0x51
// 0.100276
0x0D
// 1.500000
0x7F
// 0.134180
0x11
// 0.127157
0x10
// 0.431761
0x37
// 0.597078
0x4C
// 0.267570
0x22
// 0.384418
0x31
// 0.742468
0x5F
// 1.168121
0x7F
// 0.001376
0x00
// 0.476851
0x3D
// 1.018478
0x7F
// 0.683058
0x57
// 0.230153
0x1D
// 0.556135
0x47
// 0.283963
0x24
// 0.442696
0x39
// 0.092253
0x0C
// 0.520721
0x43
// -0.005437
0xFF
// 0.250886
0x20
// 0.991962
0x7F
// 0.237645
0x1E
// 0.479096
0x3D
// 0.325019
0x2A
// 0.355078
0x2D
// 0.429737
0x37
// 0.141147
0x12
// 0.588375
0x4B
// 1.007894
0x7F
// 0.800326
0x66
// 1.000913
0x7F
// 0.310820
0x28
// 0.942558
0x79
// 0.827327
0x6A
// 0.613684
0x4F
// 0.937995
0x78
// 0.154344
0x14
// 0.508792
0x41
// 0.915429
0x75
// 0.867083
0x6F
// 0.525490
0x43
// 0.314144
0x28
// -0.126408
0xF0
// 0.672210
0x56
// 0.086896
0x0B
// -0.141639
0xEE
// 0.992462
0x7F
// 1.154081
0x7F
// 0.818345
0x69
// 0.792832
0x65
// 0.101355
0x0D
// 0.684955
0x58
// 0.341118
0x2C
// -0.216584
0xE4
// 0.882191
0x71
// 1.278871
0x7F
// 0.693729
0x59
// 0.527986
0x44
// 1.207624
0x7F
// -0.215398
0xE4
// 0.204220
0x1A
// 0.118488
0x0F
// 0.274783
0x23
// 0.961425
0x7B
// 0.253409
0x20
// 0.833991
0x6B
// 0.599814
0x4D
// 0.377685
0x30
// 0.529943
0x44
// 0.343095
0x2C
// 0.327126
0x2A
// 0.950637
0x7A
// 0.952841
0x7A
// 0.801896
0x67
// 0.452701
0x3A
// 1.042612
0x7F
// 1.019547
0x7F
// 0.103738
0x0D
// 0.868082
0x6F
// 0.369013
0x2F
// 0.880206
0x71
// 0.706908
0x5A
// 0.582314
0x4B
// 0.448982
0x39
// -0.189293
0xE8
// 0.658847
0x54
// 0.334391
0x2B
// 0.433744
0x38
// 0.453358
0x3A
// -0.060652
0xF8
// 0.072618
0x09
// 0.281788
0x24
// 0.451686
0x3A
// 0.295338
0x26
// 0.899807
0x73
// 0.146559
0x13
// 0.636485
0x51
// 0.740735
0x5F
// 0.747185
0x60
// 0.714757
0x5B
// 0.538601
0x45
// 0.005504
0x01
// 0.884830
0x71
// 0.565402
0x48
// 0.324021
0x29
// 0.690275
0x58
// 0.520249
0x43
// 0.564169
0x48
// 0.625110
0x50
// -0.091696
0xF4
// 0.251676
0x20
// -0.115145
0xF1
// 0.703749
0x5A
// 0.645391
0x53
// 0.191327
0x18
// -0.326078
0xD6
// 0.560390
0x48
// -0.340549
0xD4
// 0.928528
0x77
// 0.243226
0x1F
// -0.072414
0xF7
// 0.577251
0x4A
// 0.108286
0x0E
// 1.090278
0x7F
// 0.747925
0x60
// 0.456220
0x3A
// 0.789079
0x65
// 0.070844
0x09
// 0.059960
0x08
// 0.422796
0x36
// 0.737497
0x5E
// 0.597638
0x4C
// 0.708186
0x5B
// 0.337613
0x2B
// 0.210210
0x1B
// 0.701132
0x5A
// 0.211977
0x1B
// 0.616764
0x4F
// 1.001167
0x7F
// 0.696502
0x59
// 1.143608
0x7F
// 0.112388
0x0E