0189名無しさん@3周年
2018/06/27(水) 14:50:10.57ID:h8xDKi8k各演算の際に、また表示の際にどう丸めるかが機種によって違う
そうは言ってもどれ使っても大体同じでしょ?
という気はするもののそれを検証するのは面倒だから皆同じ電卓を使う
これだと不便なので浮動小数点数数の丸め方とかは1985年にIEEE754で規格化されて
それ以降の、それに準拠した CPU 等ではどれも同じ結果になる
電卓は過去のモデルとの互換性のためか何かわからないけど今でもなんか機種毎にちょっと違うよね