You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference2_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.039977
0xFB
// -0.023934
0xFD
// 0.083629
0x0B
// 0.255415
0x21
// -0.066521
0xF7
// 0.265971
0x22
// -0.133976
0xEF
// -0.243951
0xE1
// -0.124079
0xF0
// 0.449382
0x3A
// -0.075686
0xF6
// -0.007266
0xFF
// -0.066972
0xF7
// 0.140506
0x12
// -0.192370
0xE7
// 0.058239
0x07
// -0.090669
0xF4
// -0.401303
0xCD
// -0.198979
0xE7
// 0.003831
0x00
// 0.336879
0x2B
// 0.140761
0x12
// 0.302507
0x27
// 0.025396
0x03
// 0.285531
0x25
// -0.326256
0xD6
// 0.032512
0x04
// 0.014279
0x02
// -0.021012
0xFD
// 0.286272
0x25
// -0.040499
0xFB
// -0.050458
0xFA
// -0.271619
0xDD
// -0.368847
0xD1
// -0.269711
0xDD
// 0.274474
0x23
// -0.026401
0xFD
// -0.047781
0xFA
// -0.268191
0xDE
// 0.188229
0x18
// -0.155258
0xEC
// 0.146180
0x13
// -0.288850
0xDB
// 0.323050
0x29
// -0.233422
0xE2
// -0.429968
0xC9
// -0.527485
0xBC
// 0.269947
0x23
// 0.041603
0x05
// 0.136330
0x11
// 0.293508
0x26
// -0.229516
0xE3
// 0.265068
0x22
// -0.583223
0xB5
// 0.196038
0x19
// 0.027779
0x04
// -0.238338
0xE1
// -0.215675
0xE4
// -0.741932
0xA1
// -0.068951
0xF7
// 0.173115
0x16
// 0.043015
0x06
// -0.129307
0xEF
// -0.128976
0xEF
// 0.093802
0x0C
// 0.465460
0x3C
// 0.207786
0x1B
// 0.152806
0x14
// 0.155282
0x14
// -0.233189
0xE2
// -0.375141
0xD0
// -0.092919
0xF4
// -0.379720
0xCF
// 0.230508
0x1E
// -0.263060
0xDE
// -0.474161
0xC3
// -0.511995
0xBE
// 0.082808
0x0B
// 0.127994
0x10
// -0.215329
0xE4
// 0.107036
0x0E
// 0.098142
0x0D
// 0.040512
0x05
// 0.029264
0x04
// 0.293345
0x26
// -0.168472
0xEA
// 0.363414
0x2F
// 0.215998
0x1C
// 0.214072
0x1B
// -0.263055
0xDE
// 0.459906
0x3B
// 0.161299
0x15
// -0.113299
0xF1
// 0.310590
0x28
// -0.173844
0xEA
// -0.240805
0xE1
// -0.167790
0xEB
// -0.264800
0xDE
// 0.280360
0x24
// 0.071213
0x09
// -0.054498
0xF9
// 0.450611
0x3A
// 0.089429
0x0B
// -0.259291
0xDF
// 0.044603
0x06
// 0.221153
0x1C
// 0.371175
0x30
// 0.370410
0x2F
// 0.369325
0x2F
// 0.392321
0x32
// 0.123018
0x10
// -0.119372
0xF1
// -0.085162
0xF5
// 0.028296
0x04
// 0.385391
0x31
// 0.038503
0x05
// 0.222187
0x1C
// 0.116139
0x0F
// 0.350016
0x2D
// -0.000237
0x00
// -0.110202
0xF2
// -0.121267
0xF0
// -0.021972
0xFD
// 0.088741
0x0B
// 0.294775
0x26
// -0.003693
0x00
// -0.405300
0xCC
// 0.104618
0x0D
// 0.127382
0x10
// 0.201057
0x1A
// -0.116416
0xF1
// -0.221769
0xE4
// 0.389987
0x32
// -0.158639
0xEC
// -0.124043
0xF0
// 0.146493
0x13
// 0.013425
0x02
// -0.313561
0xD8
// -0.189607
0xE8
// 0.302035
0x27
// -0.301323
0xD9
// -0.263366
0xDE
// -0.119667
0xF1
// -0.152207
0xED
// 0.144893
0x13
// -0.281995
0xDC
// -0.119598
0xF1
// 0.136144
0x11
// 0.080613
0x0A
// 0.322272
0x29
// -0.050434
0xFA
// -0.478635
0xC3
// -0.286378
0xDB
// 0.323675
0x29
// 0.065686
0x08
// -0.136546
0xEF
// 0.153406
0x14
// 0.235040
0x1E
// 0.265457
0x22
// 0.006108
0x01
// 0.421856
0x36
// -0.005022
0xFF
// 0.015552
0x02
// -0.209757
0xE5
// 0.151241
0x13
// -0.089616
0xF5
// -0.081420
0xF6
// 0.159335
0x14
// 0.169689
0x16
// 0.090306
0x0C
// 0.068394
0x09
// 0.203123
0x1A
// 0.157018
0x14
// 0.068916
0x09
// 0.149203
0x13
// 0.089303
0x0B
// 0.219868
0x1C
// -0.117707
0xF1
// 0.212241
0x1B
// -0.099551
0xF3
// -0.209575
0xE5
// 0.060208
0x08
// -0.248176
0xE0
// -0.106203
0xF2
// 0.031133
0x04
// -0.363359
0xD1
// -0.021503
0xFD
// 0.344036
0x2C
// -0.427638
0xC9
// 0.129278
0x11
// 0.307739
0x27
// 0.123580
0x10
// -0.230889
0xE2
// 0.510929
0x41
// 0.486798
0x3E
// -0.116822
0xF1
// -0.096153
0xF4
// 0.166888
0x15
// 0.303089
0x27
// 0.111034
0x0E
// -0.173276
0xEA
// -0.013800
0xFE
// -0.178314
0xE9
// -0.127100
0xF0
// 0.113684
0x0F
// -0.111277
0xF2
// -0.379472
0xCF
// 0.155591
0x14
// -0.104981
0xF3
// -0.137749
0xEE
// -0.319608
0xD7
// -0.094442
0xF4
// -0.227602
0xE3
// 0.224974
0x1D
// -0.195674
0xE7
// 0.619759
0x4F
// 0.088692
0x0B
// 0.161312
0x15
// 0.523641
0x43
// -0.018090
0xFE
// -0.263179
0xDE
// 0.334118
0x2B
// 0.056205
0x07
// 0.051972
0x07
// 0.060483
0x08
// -0.243641
0xE1
// -0.179756
0xE9
// 0.176467
0x17
// 0.081361
0x0A
// -0.132989
0xEF
// 0.092447
0x0C
// 0.146309
0x13
// -0.229268
0xE3
// 0.162171
0x15
// -0.095989
0xF4
// 0.017922
0x02
// 0.147606
0x13
// 0.208946
0x1B
// -0.195083
0xE7
// -0.242841
0xE1
// -0.152313
0xED
// 0.216750
0x1C
// 0.164644
0x15
// -0.477214
0xC3
// -0.307847
0xD9
// 0.101125
0x0D
// 0.224078
0x1D
// -0.121225
0xF0
// -0.016796
0xFE
// 0.291693
0x25
// -0.099578
0xF3
// -0.091892
0xF4
// 0.310327
0x28
// -0.048712
0xFA
// -0.060287
0xF8
// -0.519965
0xBD