You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference6_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.139924
0xEE
// 0.235013
0x1E
// 0.091198
0x0C
// 0.082321
0x0B
// -0.002248
0x00
// 0.168063
0x16
// 0.027142
0x03
// 0.047434
0x06
// -0.014051
0xFE
// -0.245350
0xE1
// 0.021240
0x03
// -0.114225
0xF1
// -0.071162
0xF7
// 0.343090
0x2C
// 0.155485
0x14
// 0.125552
0x10
// -0.171963
0xEA
// 0.075609
0x0A
// 0.195211
0x19
// 0.058838
0x08
// 0.053583
0x07
// 0.002590
0x00
// -0.168033
0xEA
// -0.426751
0xC9
// 0.073038
0x09
// -0.034141
0xFC
// -0.006903
0xFF
// 0.142633
0x12
// 0.024925
0x03
// 0.096140
0x0C
// -0.196011
0xE7
// 0.052499
0x07
// -0.202403
0xE6
// 0.346860
0x2C
// 0.180578
0x17
// -0.280569
0xDC
// 0.024499
0x03
// -0.012156
0xFE
// 0.155580
0x14
// -0.053448
0xF9
// 0.192230
0x19
// -0.168996
0xEA
// 0.157705
0x14
// 0.200069
0x1A
// -0.031418
0xFC
// 0.194473
0x19
// 0.218256
0x1C
// -0.169503
0xEA
// -0.308328
0xD9
// 0.008299
0x01
// 0.485395
0x3E
// -0.007501
0xFF
// 0.122778
0x10
// 0.374363
0x30
// -0.193434
0xE7
// 0.309088
0x28
// -0.043577
0xFA
// -0.375992
0xD0
// 0.201696
0x1A
// -0.037045
0xFB
// -0.202607
0xE6
// 0.027906
0x04
// 0.103418
0x0D
// 0.046123
0x06
// -0.195733
0xE7
// 0.372860
0x30
// -0.217347
0xE4
// -0.159064
0xEC
// 0.010157
0x01
// 0.045505
0x06
// 0.131894
0x11
// 0.015475
0x02
// -0.365323
0xD1
// -0.244435
0xE1
// 0.092287
0x0C
// -0.028257
0xFC
// -0.104200
0xF3
// 0.088241
0x0B
// -0.131540
0xEF
// 0.007511
0x01
// -0.114627
0xF1
// 0.023546
0x03
// -0.105529
0xF2
// -0.182193
0xE9
// -0.094372
0xF4
// -0.004638
0xFF
// 0.102904
0x0D
// -0.001410
0x00
// 0.120560
0x0F
// 0.050511
0x06
// 0.079442
0x0A
// -0.100575
0xF3
// -0.132166
0xEF
// 0.222358
0x1C
// -0.097708
0xF3
// 0.020891
0x03
// -0.100590
0xF3
// -0.098661
0xF3
// 0.212207
0x1B
// -0.178261
0xE9
// -0.049482
0xFA
// 0.095559
0x0C
// 0.019485
0x02
// -0.027225
0xFD
// 0.180941
0x17
// -0.060668
0xF8
// -0.166284
0xEB
// 0.125120
0x10
// -0.133941
0xEF
// 0.009741
0x01
// 0.146323
0x13
// -0.332352
0xD5
// 0.045231
0x06
// -0.238755
0xE1
// -0.163306
0xEB
// 0.035127
0x04
// -0.089665
0xF5
// -0.062577
0xF8
// 0.146651
0x13
// 0.131468
0x11
// -0.118843
0xF1
// -0.167250
0xEB
// -0.035314
0xFB
// 0.173017
0x16
// 0.219632
0x1C
// -0.117218
0xF1
// -0.280681
0xDC
// 0.060080
0x08
// -0.163501
0xEB
// -0.175687
0xEA
// 0.031130
0x04
// -0.049303
0xFA
// -0.093975
0xF4
// -0.087398
0xF5
// 0.064937
0x08
// 0.233443
0x1E
// 0.142530
0x12
// -0.023219
0xFD
// -0.174762
0xEA
// 0.116517
0x0F
// 0.062925
0x08
// 0.038796
0x05
// 0.220398
0x1C
// -0.002932
0x00
// -0.281446
0xDC
// -0.119045
0xF1
// -0.095934
0xF4
// 0.130278
0x11
// -0.040099
0xFB
// 0.500000
0x40
// 0.040193
0x05
// -0.118116
0xF1
// -0.199736
0xE6
// 0.025301
0x03
// -0.132929
0xEF
// 0.027246
0x03
// -0.057956
0xF9
// 0.320325
0x29
// 0.218329
0x1C
// 0.309214
0x28
// 0.076383
0x0A
// -0.359915
0xD2
// 0.187407
0x18
// -0.115362
0xF1
// -0.084732
0xF5
// 0.330581
0x2A
// -0.258460
0xDF
// 0.174981
0x16
// -0.160495
0xEB
// 0.123107
0x10
// -0.334739
0xD5
// 0.040847
0x05
// -0.048260
0xFA
// -0.174295
0xEA
// 0.067510
0x09
// 0.367508
0x2F
// -0.164060
0xEB
// 0.038889
0x05
// 0.132786
0x11
// -0.180078
0xE9
// 0.165121
0x15
// 0.201228
0x1A
// -0.279140
0xDC
// 0.098950
0x0D
// -0.065983
0xF8
// -0.032110
0xFC
// -0.010277
0xFF
// 0.001800
0x00
// 0.137513
0x12
// -0.019062
0xFE
// -0.087801
0xF5
// -0.316606
0xD7
// 0.195101
0x19
// -0.163399
0xEB
// -0.121577
0xF0
// 0.104842
0x0D
// 0.153106
0x14
// -0.113615
0xF1
// 0.089656
0x0B
// 0.028980
0x04
// -0.157014
0xEC
// -0.089094
0xF5
// 0.124685
0x10
// -0.271569
0xDD
// -0.258718
0xDF
// -0.144620
0xED
// -0.007710
0xFF
// 0.027404
0x04
// -0.377224
0xD0
// -0.166442
0xEB
// 0.291494
0x25
// 0.249309
0x20
// -0.032556
0xFC
// -0.050070
0xFA
// -0.151509
0xED
// 0.034096
0x04
// 0.167798
0x15
// -0.163711
0xEB
// 0.196392
0x19
// -0.097972
0xF3
// -0.222893
0xE3
// -0.093794
0xF4
// -0.240655
0xE1
// -0.031018
0xFC
// 0.457278
0x3B
// -0.373771
0xD0
// -0.094490
0xF4
// 0.350432
0x2D
// 0.084227
0x0B
// -0.156770
0xEC
// 0.021734
0x03
// -0.221868
0xE4
// 0.050734
0x06
// -0.002085
0x00
// -0.194937
0xE7
// -0.097719
0xF3
// 0.108889
0x0E
// -0.175517
0xEA
// -0.007151
0xFF
// -0.000924
0x00
// -0.052208
0xF9
// -0.007651
0xFF
// -0.021607
0xFD
// 0.214618
0x1B
// -0.038302
0xFB
// 0.302774
0x27
// -0.011505
0xFF
// 0.045456
0x06
// 0.181147
0x17
// -0.055261
0xF9
// 0.276274
0x23
// -0.066627
0xF7
// -0.113532
0xF1
// -0.057321
0xF9
// 0.086146
0x0B
// -0.347338
0xD4