You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference5_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.435496
0x38
// 0.461382
0x3B
// 0.634938
0x51
// 0.912120
0x75
// 0.392666
0x32
// 0.929152
0x77
// 0.283826
0x24
// 0.106377
0x0E
// 0.299795
0x26
// 1.225092
0x7F
// 0.377878
0x30
// 0.488276
0x3E
// 0.391938
0x32
// 0.726710
0x5D
// 0.189606
0x18
// 0.593970
0x4C
// 0.353703
0x2D
// -0.147514
0xED
// 0.178942
0x17
// 0.506182
0x41
// 1.043564
0x7F
// 0.727122
0x5D
// 0.988105
0x7E
// 0.540977
0x45
// 0.960714
0x7B
// -0.026423
0xFD
// 0.552460
0x47
// 0.523040
0x43
// 0.466096
0x3C
// 0.961909
0x7B
// 0.434653
0x38
// 0.418584
0x36
// 0.061734
0x08
// -0.095147
0xF4
// 0.064812
0x08
// 0.942872
0x79
// 0.457400
0x3B
// 0.422904
0x36
// 0.067265
0x09
// 0.803713
0x67
// 0.249487
0x20
// 0.735866
0x5E
// 0.033931
0x04
// 1.021251
0x7F
// 0.123367
0x10
// -0.193767
0xE7
// -0.351114
0xD3
// 0.935568
0x78
// 0.567128
0x49
// 0.719973
0x5C
// 0.973585
0x7D
// 0.129669
0x11
// 0.927695
0x77
// -0.441047
0xC8
// 0.816314
0x68
// 0.544823
0x46
// 0.115435
0x0F
// 0.152002
0x13
// -0.697130
0xA7
// 0.388746
0x32
// 0.779326
0x64
// 0.569406
0x49
// 0.291358
0x25
// 0.291893
0x25
// 0.651352
0x53
// 1.251035
0x7F
// 0.835269
0x6B
// 0.746557
0x60
// 0.750553
0x60
// 0.123742
0x10
// -0.105301
0xF3
// 0.350073
0x2D
// -0.112689
0xF2
// 0.871932
0x70
// 0.075544
0x0A
// -0.265073
0xDE
// -0.326120
0xD6
// 0.633613
0x51
// 0.706522
0x5A
// 0.152559
0x14
// 0.672705
0x56
// 0.658355
0x54
// 0.565367
0x48
// 0.547219
0x46
// 0.973322
0x7D
// 0.228165
0x1D
// 1.086379
0x7F
// 0.848519
0x6D
// 0.845412
0x6C
// 0.075553
0x0A
// 1.242072
0x7F
// 0.760261
0x61
// 0.317188
0x29
// 1.001146
0x7F
// 0.219498
0x1C
// 0.111453
0x0E
// 0.229266
0x1D
// 0.072738
0x09
// 0.952370
0x7A
// 0.614904
0x4F
// 0.412065
0x35
// 1.227075
0x7F
// 0.644296
0x52
// 0.081626
0x0A
// 0.571969
0x49
// 0.856838
0x6E
// 1.098902
0x7F
// 1.097668
0x7F
// 1.095917
0x7F
// 1.133023
0x7F
// 0.698493
0x59
// 0.307390
0x27
// 0.362589
0x2E
// 0.545657
0x46
// 1.121840
0x7F
// 0.562126
0x48
// 0.858506
0x6E
// 0.687394
0x58
// 1.064762
0x7F
// 0.499617
0x40
// 0.322186
0x29
// 0.304331
0x27
// 0.464548
0x3B
// 0.643186
0x52
// 0.975629
0x7D
// 0.494042
0x3F
// -0.153965
0xEC
// 0.668804
0x56
// 0.705534
0x5A
// 0.824412
0x6A
// 0.312160
0x28
// 0.142169
0x12
// 1.129256
0x7F
// 0.244031
0x1F
// 0.299853
0x26
// 0.736371
0x5E
// 0.521661
0x43
// -0.005940
0xFF
// 0.194063
0x19
// 0.987343
0x7E
// 0.013806
0x02
// 0.075052
0x0A
// 0.306913
0x27
// 0.254409
0x21
// 0.733789
0x5E
// 0.044992
0x06
// 0.307025
0x27
// 0.719672
0x5C
// 0.630071
0x51
// 1.019996
0x7F
// 0.418624
0x36
// -0.272292
0xDD
// 0.037920
0x05
// 1.022259
0x7F
// 0.605987
0x4E
// 0.279679
0x24
// 0.747525
0x60
// 0.879245
0x71
// 0.928323
0x77
// 0.509855
0x41
// 1.180678
0x7F
// 0.491896
0x3F
// 0.525094
0x43
// 0.161550
0x15
// 0.744032
0x5F
// 0.355401
0x2D
// 0.368626
0x2F
// 0.757092
0x61
// 0.773798
0x63
// 0.645712
0x53
// 0.610356
0x4E
// 0.827745
0x6A
// 0.753353
0x60
// 0.611199
0x4E
// 0.740744
0x5F
// 0.644093
0x52
// 0.854764
0x6D
// 0.310076
0x28
// 0.842458
0x6C
// 0.339372
0x2B
// 0.161845
0x15
// 0.597147
0x4C
// 0.099561
0x0D
// 0.328638
0x2A
// 0.550234
0x46
// -0.086291
0xF5
// 0.465304
0x3C
// 1.055113
0x7F
// -0.190007
0xE8
// 0.708595
0x5B
// 0.996546
0x7F
// 0.699400
0x5A
// 0.127453
0x10
// 1.324400
0x7F
// 1.285463
0x7F
// 0.311504
0x28
// 0.344854
0x2C
// 0.769279
0x62
// 0.989043
0x7F
// 0.679157
0x57
// 0.220413
0x1C
// 0.477733
0x3D
// 0.212285
0x1B
// 0.294921
0x26
// 0.683432
0x57
// 0.320450
0x29
// -0.112290
0xF2
// 0.751050
0x60
// 0.330610
0x2A
// 0.277738
0x24
// -0.015698
0xFE
// 0.347615
0x2C
// 0.132757
0x11
// 0.863002
0x6E
// 0.184273
0x18
// 1.500000
0x7F
// 0.643107
0x52
// 0.760282
0x61
// 1.344910
0x7F
// 0.470812
0x3C
// 0.075352
0x0A
// 1.039110
0x7F
// 0.590689
0x4C
// 0.583859
0x4B
// 0.597590
0x4C
// 0.106877
0x0E
// 0.209958
0x1B
// 0.784734
0x64
// 0.631279
0x51
// 0.285418
0x25
// 0.649166
0x53
// 0.736073
0x5E
// 0.130069
0x11
// 0.761667
0x61
// 0.345120
0x2C
// 0.528917
0x44
// 0.738166
0x5E
// 0.837141
0x6B
// 0.185227
0x18
// 0.108168
0x0E
// 0.254239
0x21
// 0.849732
0x6D
// 0.765659
0x62
// -0.270000
0xDD
// 0.003279
0x00
// 0.663168
0x55
// 0.861557
0x6E
// 0.304400
0x27
// 0.472899
0x3D
// 0.970655
0x7C
// 0.339328
0x2B
// 0.351730
0x2D
// 1.000722
0x7F
// 0.421402
0x36
// 0.402725
0x34
// -0.338979
0xD5