You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -1.089638
0x80
// 0.095245
0x0C
// 0.041019
0x05
// -0.030208
0xFC
// -1.358791
0x80
// 0.108524
0x0E
// 0.214138
0x1B
// -0.106569
0xF2
// 0.043907
0x06
// -0.055521
0xF9
// 0.278827
0x24
// -0.253589
0xE0
// 0.036781
0x05
// -0.036627
0xFB
// 0.033432
0x04
// -0.505025
0xBF
// 0.257211
0x21
// -0.203346
0xE6
// -0.356069
0xD2
// -0.486946
0xC2
// -0.253125
0xE0
// 0.045733
0x06
// -0.023824
0xFD
// 0.129613
0x11
// -0.695425
0xA7
// -0.101869
0xF3
// 1.410083
0x7F
// -0.202919
0xE6
// -0.088536
0xF5
// 0.644112
0x52
// 0.485617
0x3E
// -0.567771
0xB7
// -0.322509
0xD7
// 0.581877
0x4A
// -0.098325
0xF3
// 0.218225
0x1C
// 0.445234
0x39
// 0.130002
0x11
// -0.508981
0xBF
// -0.310415
0xD8
// -0.185582
0xE8
// -0.069717
0xF7
// 1.003047
0x7F
// -0.117277
0xF1
// 0.891721
0x72
// -0.144981
0xED
// -0.128149
0xF0
// 0.713981
0x5B
// 0.871081
0x6F
// -0.105445
0xF3
// -0.490040
0xC1
// -0.070622
0xF7
// -0.081210
0xF6
// -0.815722
0x98
// 0.364554
0x2F
// -0.244151
0xE1
// -0.216019
0xE4
// -0.065658
0xF8
// -0.231768
0xE2
// -0.689758
0xA8
// 1.055617
0x7F
// -0.098110
0xF3
// -0.445738
0xC7
// 0.451536
0x3A
// 1.225681
0x7F
// 0.193263
0x19
// 0.471078
0x3C
// 0.109574
0x0E
// -0.316929
0xD7
// -0.673770
0xAA
// 0.131258
0x11
// -0.725779
0xA3
// 0.160136
0x14
// -0.905067
0x8C
// 0.515242
0x42
// -0.004745
0xFF
// -0.554929
0xB9
// -0.280856
0xDC
// 0.355804
0x2E
// 0.772755
0x63
// 1.176103
0x7F
// 1.221599
0x7F
// -0.322280
0xD7
// -0.277169
0xDD
// 0.727840
0x5D
// 0.113733
0x0F
// 0.472459
0x3C
// -0.018568
0xFE
// 0.675770
0x56
// 0.574314
0x4A
// -0.367361
0xD1
// 0.202959
0x1A
// 0.214348
0x1B
// -0.609852
0xB2
// 0.467353
0x3C
// -0.414612
0xCB
// 0.267931
0x22
// -0.552663
0xB9
// 0.244013
0x1F
// -0.718961
0xA4
// -0.362510
0xD2
// 0.587663
0x4B
// -0.398891
0xCD
// -0.034155
0xFC
// 0.259461
0x21
// 0.137140
0x12
// -0.198228
0xE7
// 0.205630
0x1A
// 0.286754
0x25
// 0.163764
0x15
// 0.850458
0x6D
// -0.020618
0xFD
// 0.173680
0x16
// -0.187998
0xE8
// -0.212807
0xE5
// 0.199166
0x19
// -0.956575
0x86
// 0.320396
0x29
// 0.034842
0x04
// 0.034510
0x04
// 0.136800
0x12
// -0.388868
0xCE
// -0.471716
0xC4
// 0.147287
0x13
// -0.130373
0xEF
// -0.360609
0xD2
// -0.187819
0xE8
// -0.383050
0xCF
// -0.470647
0xC4
// 0.371280
0x30
// 0.029061
0x04
// -0.344817
0xD4
// -0.037457
0xFB
// -0.009083
0xFF
// -0.033917
0xFC
// 0.807708
0x67
// 0.224936
0x1D
// 1.081856
0x7F
// 0.742096
0x5F
// -0.313556
0xD8
// 0.299572
0x26
// 0.211793
0x1B
// -0.004824
0xFF
// 0.769279
0x62
// -0.025252
0xFD
// 0.287194
0x25
// 0.270166
0x23
// 0.060391
0x08
// -0.860158
0x92
// 0.822628
0x69
// -0.678535
0xA9
// 0.664331
0x55
// -0.483641
0xC2
// 0.602449
0x4D
// -0.327463
0xD6
// 0.012415
0x02
// -0.065660
0xF8
// -0.030295
0xFC
// 0.154120
0x14
// 0.586524
0x4B
// -0.145412
0xED
// -0.794040
0x9A
// 0.326514
0x2A
// -0.358349
0xD2
// 0.012874
0x02
// 0.122704
0x10
// -0.187613
0xE8
// 1.016139
0x7F
// 0.701278
0x5A
// 0.226294
0x1D
// 0.074583
0x0A
// -0.450793
0xC6
// -0.227079
0xE3
// -0.377524
0xD0
// 0.768620
0x62
// 0.502662
0x40
// -0.013182
0xFE
// 0.744330
0x5F
// 0.123189
0x10
// 0.734843
0x5E
// 0.103106
0x0D
// 0.710429
0x5B
// -0.175850
0xE9
// 0.182572
0x17
// -0.505014
0xBF
// -0.053095
0xF9
// -0.441708
0xC7
// 0.016491
0x02
// -0.011816
0xFE
// 0.398304
0x33
// 0.232596
0x1E
// 0.100622
0x0D
// -0.205555
0xE6
// -0.213221
0xE5
// 0.726870
0x5D
// -0.310573
0xD8
// 0.214886
0x1C
// 0.405133
0x34
// 0.251397
0x20
// -0.065718
0xF8
// 0.123200
0x10
// -0.660471
0xAB
// 0.044422
0x06
// -0.357463
0xD2
// -0.331466
0xD6
// -0.001995
0x00
// -0.324943
0xD6
// 0.710272
0x5B
// -0.374122
0xD0
// 0.040544
0x05
// 0.616358
0x4F
// -0.443579
0xC7
// -0.508764
0xBF
// 0.901072
0x73
// -0.063309
0xF8
// 0.490745
0x3F
// -0.054384
0xF9
// 0.060530
0x08
// -0.399684
0xCD
// -0.346041
0xD4
// -0.549178
0xBA
// -0.144199
0xEE
// -0.633696
0xAF
// 0.013206
0x02
// -0.197134
0xE7
// -0.413066
0xCB
// -0.446171
0xC7
// -0.204299
0xE6
// -0.517927
0xBE
// 0.427040
0x37
// 0.543282
0x46
// 0.642133
0x52
// -1.165650
0x80
// -0.189293
0xE8
// -0.430664
0xC9
// -0.072419
0xF7
// 0.413196
0x35
// 0.091385
0x0C
// -0.529338
0xBC
// 0.270753
0x23
// -0.344739
0xD4
// -0.082778
0xF5
// -0.402627
0xCC
// 0.399643
0x33
// 0.742356
0x5F
// -0.230730
0xE2
// 0.503681
0x40
// -0.096352
0xF4
// 0.278647
0x24
// -0.531743
0xBC
// -0.032545
0xFC
// -0.326663
0xD6
// 1.262779
0x7F
// 0.322330
0x29
// -0.955646
0x86
// 0.310025
0x28