未分類 【PL/I学習|実務向け】【メインフレーム技術者向け】FIXED DECIMAL (p, q) で陥る精度問題と正しい設計の勘所
1. 導入:なぜいま改めて「固定小数点」なのかメインフレーム開発において、金額計算は最も正確性が求められる領域です。浮動小数点(BINARY FLOAT)で計算を行うと、2進数への変換誤差により1円のズレが生じるリスクがあります。この課題を...
未分類
未分類