You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.147056
0xED
// 0.682829
0x57
// -0.111311
0xF2
// -0.270525
0xDD
// -0.290084
0xDB
// 0.162898
0x15
// -0.419467
0xCA
// 0.357937
0x2E
// 0.031909
0x04
// -0.084999
0xF5
// 0.146696
0x13
// 0.128746
0x10
// 0.694088
0x59
// 0.311564
0x28
// 0.747786
0x60
// 0.509705
0x41
// -0.056096
0xF9
// 0.770088
0x63
// 0.066594
0x09
// 0.198630
0x19
// -0.433864
0xC8
// -0.966109
0x84
// -0.375236
0xD0
// 0.577562
0x4A
// 0.039096
0x05
// -0.474095
0xC3
// -0.321360
0xD7
// 0.286727
0x25
// -0.650354
0xAD
// -0.271365
0xDD
// 0.449587
0x3A
// -0.093577
0xF4
// -0.377304
0xD0
// -0.263904
0xDE
// -0.247315
0xE0
// 0.346689
0x2C
// 0.218441
0x1C
// -0.356329
0xD2
// -0.508560
0xBF
// -0.061518
0xF8
// 0.590542
0x4C
// -0.809418
0x98
// -0.357210
0xD2
// 0.018398
0x02
// 0.341429
0x2C
// 0.683401
0x57
// -0.676468
0xA9
// -0.426848
0xC9
// -0.431519
0xC9
// -0.099815
0xF3
// -0.075784
0xF6
// 0.816663
0x69
// 0.039042
0x05
// -0.019939
0xFD
// 0.722296
0x5C
// -0.250130
0xE0
// 0.290517
0x25
// 0.318339
0x29
// 0.777695
0x64
// 0.102158
0x0D
// 0.008233
0x01
// 0.358697
0x2E
// 0.614601
0x4F
// 0.057724
0x07
// 0.145860
0x13
// -0.019425
0xFE
// -0.750057
0xA0
// 0.192348
0x19
// -0.643143
0xAE
// 0.256596
0x21
// 0.493092
0x3F
// -0.199582
0xE6
// 0.399198
0x33
// 0.071474
0x09
// 0.318596
0x29
// -0.242180
0xE1
// 0.073286
0x09
// -0.228407
0xE3
// 0.141707
0x12
// 0.003215
0x00
// -0.028276
0xFC
// -0.720048
0xA4
// 0.737453
0x5E
// -0.674779
0xAA
// -0.035004
0xFC
// 0.032207
0x04
// -0.989142
0x81
// 0.592864
0x4C
// 0.240269
0x1F
// -0.167544
0xEB
// -0.341035
0xD4
// -0.373318
0xD0
// 0.885478
0x71
// 0.624835
0x50
// 0.491899
0x3F
// 0.245450
0x1F
// -0.714583
0xA5
// -0.612403
0xB2
// -0.634599
0xAF
// 0.190054
0x18
// 0.324423
0x2A
// 0.140144
0x12
// 0.523019
0x43
// 0.469439
0x3C
// 0.382740
0x31
// -0.225634
0xE3
// -0.170365
0xEA
// -0.167292
0xEB
// -0.329558
0xD6
// -0.222453
0xE4
// -0.175830
0xE9
// 0.256959
0x21
// -0.085859
0xF5
// -0.304320
0xD9
// -0.362030
0xD2
// -0.798097
0x9A
// -0.394547
0xCD
// -0.237687
0xE2
// -0.406288
0xCC
// 0.821419
0x69
// 0.132921
0x11
// -0.090446
0xF4
// 0.722566
0x5C
// -0.151181
0xED
// -0.396777
0xCD
// -0.507081
0xBF
// -0.468034
0xC4
// 0.121833
0x10
// 0.011699
0x01
// 0.579498
0x4A
// -0.261794
0xDE
// 0.315657
0x28
// -0.320074
0xD7
// 0.548967
0x46
// -0.190689
0xE8
// -0.315866
0xD8
// -0.033191
0xFC
// 0.334621
0x2B
// 0.304345
0x27
// -1.347719
0x80
// -0.397108
0xCD
// -0.576720
0xB6
// 0.501757
0x40
// -0.114770
0xF1
// -0.756166
0x9F
// 0.212440
0x1B
// -0.270129
0xDD
// 0.805886
0x67
// -0.456366
0xC6
// -0.080369
0xF6
// 0.209115
0x1B
// -0.057062
0xF9
// 0.414118
0x35
// 0.640461
0x52
// 0.279323
0x24
// 0.745329
0x5F
// 0.153922
0x14
// -0.200270
0xE6
// 0.226171
0x1D
// -0.958628
0x85
// 0.108785
0x0E
// 0.643494
0x52
// 0.115280
0x0F
// 0.019280
0x02
// -0.095805
0xF4
// -0.276025
0xDD
// 0.187043
0x18
// 0.169410
0x16
// -0.026360
0xFD
// -0.371074
0xD1
// -0.332334
0xD5
// 0.083950
0x0B
// -0.295701
0xDA
// -0.469732
0xC4
// 0.254806
0x21
// -0.295164
0xDA
// -0.553299
0xB9
// -0.291992
0xDB
// 0.201775
0x1A
// 0.022632
0x03
// 0.360129
0x2E
// -0.546668
0xBA
// -0.210162
0xE5
// -0.716199
0xA4
// 0.410089
0x34
// 1.143846
0x7F
// 0.455495
0x3A
// -0.038876
0xFB
// 0.152432
0x14
// 0.196877
0x19
// -0.194198
0xE7
// 0.576792
0x4A
// -0.243901
0xE1
// -0.128934
0xEF
// -0.049987
0xFA
// -0.065325
0xF8
// -0.031675
0xFC
// 0.742449
0x5F
// -0.141635
0xEE
// -0.246174
0xE0
// -0.202938
0xE6
// 0.573704
0x49
// 0.326076
0x2A
// 0.419502
0x36
// -0.379230
0xCF
// 0.082077
0x0B
// 0.320924
0x29
// -0.099707
0xF3
// 0.212702
0x1B
// -0.615769
0xB1
// 0.275000
0x23
// -0.299841
0xDA
// -0.740855
0xA1
// 0.559182
0x48
// 0.922203
0x76
// 0.108359
0x0E
// 0.830118
0x6A
// 0.181857
0x17
// 0.727445
0x5D
// 0.212877
0x1B
// -0.554249
0xB9
// 0.263874
0x22
// -0.077320
0xF6
// 0.242254
0x1F
// 0.997715
0x7F
// -0.051584
0xF9
// -0.323746
0xD7
// -0.141546
0xEE
// -0.522484
0xBD
// -0.288960
0xDB
// -0.756732
0x9F
// 0.062077
0x08
// 0.223154
0x1D
// 0.037897
0x05
// -0.659290
0xAC
// 0.578001
0x4A
// -0.184474
0xE8
// 0.241318
0x1F
// 0.178972
0x17
// -0.245523
0xE1
// 0.230475
0x1E
// 0.210423
0x1B
// 0.256223
0x21
// 0.095890
0x0C
// 0.280993
0x24
// -0.231438
0xE2
// -0.181265
0xE9
// -0.479083
0xC3
// -1.074301
0x80
// 0.017743
0x02
// 0.197495
0x19
// -0.204847
0xE6
// -0.317660
0xD7
// -0.061025
0xF8
// -0.149781
0xED
// -0.688075
0xA8