jony7788
級(jí)別: 工控俠客
![]() |
圖片:
![]()
圖片:
![]() 用三菱PLC(FX-3U)計(jì)算對(duì)數(shù),發(fā)現(xiàn)同EXCEL直接計(jì)算的有差異,兩個(gè)數(shù)值都是相差0.09,是什么原因造成的呢。 [ 此帖被jony7788在2023-09-29 20:26重新編輯 ] |
---|---|
|
gzcjx555
QQ 296686949
級(jí)別: 工控俠客
![]() |
計(jì)算精度問(wèn)題,三菱FX3U只支持單精度浮點(diǎn)計(jì)算,32位,EXCEL默認(rèn)使用雙精度浮點(diǎn),也就是64位。 |
|
---|---|---|
本帖最近評(píng)分記錄:
|
jony7788
級(jí)別: 工控俠客
![]() |
感謝! 后面發(fā)現(xiàn)當(dāng)數(shù)值大于一定值的時(shí)候,兩者的計(jì)算結(jié)果是一樣的。 |
---|---|
|
niningtt
級(jí)別: 工控俠客
![]() |
你PLC計(jì)算的結(jié)果0.004,0.007只是四舍五入的三位小數(shù)結(jié)果,實(shí)際按32為浮點(diǎn)數(shù)還有幾位有效數(shù)字,只是編程軟件沒(méi)有顯示出來(lái),不表示那是計(jì)算的參數(shù)值 |
---|---|
本帖最近評(píng)分記錄: |