スポンサーリンク
未分類

【PL/I学習|実務向け】【メインフレーム技術者向け】FIXED DECIMAL (p, q) で陥る精度問題と正しい設計の勘所

1. 導入:なぜいま改めて「固定小数点」なのかメインフレーム開発において、金額計算は最も正確性が求められる領域です。浮動小数点(BINARY FLOAT)で計算を行うと、2進数への変換誤差により1円のズレが生じるリスクがあります。この課題を...
未分類

【PL/I学習|初心者向け】メインフレームのデータ型入門:FIXED BINARY(p)を正しく使いこなそう

1. 導入:なぜFIXED BINARY(p)を知る必要があるのかメインフレームでの開発において、データ型の選択はプログラムの「処理速度」と「メモリ効率」に直結します。特に数値計算を行う際、適切な精度を指定しないと、意図しないメモリ消費やパ...
スポンサーリンク