You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.089031
0xF5
// -0.053302
0xF9
// 0.186247
0x18
// 0.568825
0x49
// -0.148147
0xED
// 0.592333
0x4C
// -0.298372
0xDA
// -0.543295
0xBA
// -0.276332
0xDD
// 1.000802
0x7F
// -0.168558
0xEA
// -0.016182
0xFE
// -0.149151
0xED
// 0.312915
0x28
// -0.428419
0xC9
// 0.129701
0x11
// -0.201925
0xE6
// -0.893726
0x8E
// -0.443138
0xC7
// 0.008532
0x01
// 0.750250
0x60
// 0.313483
0x28
// 0.673702
0x56
// 0.056558
0x07
// 0.635896
0x51
// -0.726591
0xA3
// 0.072407
0x09
// 0.031801
0x04
// -0.046795
0xFA
// 0.637545
0x52
// -0.090194
0xF4
// -0.112374
0xF2
// -0.604913
0xB3
// -0.821446
0x97
// -0.600664
0xB3
// 0.611270
0x4E
// -0.058798
0xF8
// -0.106411
0xF2
// -0.597279
0xB4
// 0.419198
0x36
// -0.345768
0xD4
// 0.325552
0x2A
// -0.643287
0xAE
// 0.719453
0x5C
// -0.519845
0xBD
// -0.957565
0x85
// -1.174743
0x80
// 0.601188
0x4D
// 0.092652
0x0C
// 0.303616
0x27
// 0.653661
0x54
// -0.511147
0xBF
// 0.590322
0x4C
// -1.298872
0x80
// 0.436589
0x38
// 0.061866
0x08
// -0.530793
0xBC
// -0.480321
0xC3
// -1.652329
0x80
// -0.153557
0xEC
// 0.385538
0x31
// 0.095797
0x0C
// -0.287976
0xDB
// -0.287238
0xDB
// 0.208902
0x1B
// 1.036609
0x7F
// 0.462752
0x3B
// 0.340308
0x2C
// 0.345824
0x2C
// -0.519327
0xBE
// -0.835462
0x95
// -0.206936
0xE6
// -0.845659
0x94
// 0.513356
0x42
// -0.585851
0xB5
// -1.055985
0x80
// -1.140245
0x80
// 0.184418
0x18
// 0.285051
0x24
// -0.479552
0xC3
// 0.238375
0x1F
// 0.218568
0x1C
// 0.090223
0x0C
// 0.065173
0x08
// 0.653298
0x54
// -0.375198
0xD0
// 0.809345
0x68
// 0.481040
0x3E
// 0.476752
0x3D
// -0.585839
0xB5
// 1.024239
0x7F
// 0.359223
0x2E
// -0.252324
0xE0
// 0.691703
0x59
// -0.387161
0xCE
// -0.536288
0xBB
// -0.373678
0xD0
// -0.589725
0xB5
// 0.624379
0x50
// 0.158595
0x14
// -0.121371
0xF0
// 1.003539
0x7F
// 0.199164
0x19
// -0.577457
0xB6
// 0.099335
0x0D
// 0.492522
0x3F
// 0.826629
0x6A
// 0.824925
0x6A
// 0.822509
0x69
// 0.873724
0x70
// 0.273968
0x23
// -0.265848
0xDE
// -0.189661
0xE8
// 0.063017
0x08
// 0.858288
0x6E
// 0.085749
0x0B
// 0.494825
0x3F
// 0.258649
0x21
// 0.779507
0x64
// -0.000529
0x00
// -0.245426
0xE1
// -0.270070
0xDD
// -0.048932
0xFA
// 0.197631
0x19
// 0.656482
0x54
// -0.008224
0xFF
// -0.902629
0x8C
// 0.232991
0x1E
// 0.283687
0x24
// 0.447767
0x39
// -0.259265
0xDF
// -0.493894
0xC1
// 0.868525
0x6F
// -0.353298
0xD3
// -0.276252
0xDD
// 0.326249
0x2A
// 0.029898
0x04
// -0.698319
0xA7
// -0.422266
0xCA
// 0.672651
0x56
// -0.671065
0xAA
// -0.586531
0xB5
// -0.266506
0xDE
// -0.338975
0xD5
// 0.322685
0x29
// -0.628020
0xB0
// -0.266351
0xDE
// 0.303200
0x27
// 0.179529
0x17
// 0.717720
0x5C
// -0.112319
0xF2
// -1.065949
0x80
// -0.637783
0xAE
// 0.720844
0x5C
// 0.146288
0x13
// -0.304096
0xD9
// 0.341645
0x2C
// 0.523449
0x43
// 0.591190
0x4C
// 0.013602
0x02
// 0.939500
0x78
// -0.011185
0xFF
// 0.034636
0x04
// -0.467143
0xC4
// 0.336823
0x2B
// -0.199581
0xE6
// -0.181327
0xE9
// 0.354850
0x2D
// 0.377908
0x30
// 0.201117
0x1A
// 0.152318
0x13
// 0.452367
0x3A
// 0.349688
0x2D
// 0.153481
0x14
// 0.332285
0x2B
// 0.198883
0x19
// 0.489660
0x3F
// -0.262140
0xDE
// 0.472675
0x3D
// -0.221705
0xE4
// -0.466736
0xC4
// 0.134086
0x11
// -0.552703
0xB9
// -0.236521
0xE2
// 0.069335
0x09
// -0.809223
0x98
// -0.047889
0xFA
// 0.766190
0x62
// -0.952376
0x86
// 0.287911
0x25
// 0.685353
0x58
// 0.275220
0x23
// -0.514205
0xBE
// 1.137870
0x7F
// 1.084129
0x7F
// -0.260170
0xDF
// -0.214139
0xE5
// 0.371669
0x30
// 0.674997
0x56
// 0.247280
0x20
// -0.385897
0xCF
// -0.030734
0xFC
// -0.397116
0xCD
// -0.283058
0xDC
// 0.253181
0x20
// -0.247822
0xE0
// -0.845108
0x94
// 0.346510
0x2C
// -0.233799
0xE2
// -0.306776
0xD9
// -0.711787
0xA5
// -0.210328
0xE5
// -0.506884
0xBF
// 0.501030
0x40
// -0.435779
0xC8
// 1.380241
0x7F
// 0.197523
0x19
// 0.359252
0x2E
// 1.166180
0x7F
// -0.040287
0xFB
// -0.586116
0xB5
// 0.744102
0x5F
// 0.125172
0x10
// 0.115745
0x0F
// 0.134698
0x11
// -0.542604
0xBB
// -0.400328
0xCD
// 0.393002
0x32
// 0.181197
0x17
// -0.296175
0xDA
// 0.205885
0x1A
// 0.325838
0x2A
// -0.510594
0xBF
// 0.361164
0x2E
// -0.213772
0xE5
// 0.039913
0x05
// 0.328727
0x2A
// 0.465336
0x3C
// -0.434462
0xC8
// -0.540823
0xBB
// -0.339210
0xD5
// 0.482715
0x3E
// 0.366673
0x2F
// -1.062786
0x80
// -0.685595
0xA8
// 0.225211
0x1D
// 0.499036
0x40
// -0.269975
0xDD
// -0.037406
0xFB
// 0.649617
0x53
// -0.221767
0xE4
// -0.204649
0xE6
// 0.691116
0x58
// -0.108485
0xF2
// -0.134263
0xEF
// -1.157994
0x80