未分類 【PL/I学習|初心者向け】メインフレームで高精度な計算を!FLOAT DECIMAL (p) の正しい使い方
1. 導入:なぜFLOAT DECIMALが必要なのかメインフレームでの開発において、金額や科学技術計算を扱う際「計算結果が微妙にずれる」という経験はありませんか?通常の2進浮動小数点数(FLOAT BINARY)で10進数の小数を扱うと、...
未分類
未分類
未分類
未分類