PL/Iの学習

導入メインフレームのPL/IやCOBOLなどの言語で数値計算を行う際、意外と見落としがちなのが「乗算による精度の肥大化」です。特にPL/Iでは、計算結果の精度が自動的に拡張されますが、上限を超えた場合に発生する「切り捨て」は、予期せぬ計算誤...

導入：なぜ加減算の精度ルールを知る必要があるのかメインフレーム（特にPL/I環境）での開発において、算術演算の結果が想定外の桁あふれ（オーバーフロー）を起こし、上位桁が消失するトラブルは、古くからの技術者にとっても悩みの種です。現代の言語と...

1. 導入：なぜFLOAT DECIMALが必要なのかメインフレームでの開発において、金額や科学技術計算を扱う際「計算結果が微妙にずれる」という経験はありませんか？通常の2進浮動小数点数（FLOAT BINARY）で10進数の小数を扱うと、...

導入：なぜ浮動小数点の理解が不可欠なのかメインフレームでの開発において、金額計算にはDECIMAL型が鉄則ですが、科学技術計算や統計処理などで「FLOAT BINARY」型を扱う場面は少なくありません。しかし、このデータ型は「近似値」を保持...

1. 導入：なぜいま改めて「固定小数点」なのかメインフレーム開発において、金額計算は最も正確性が求められる領域です。浮動小数点（BINARY FLOAT）で計算を行うと、2進数への変換誤差により1円のズレが生じるリスクがあります。この課題を...

1. 導入：なぜFIXED BINARY(p)を知る必要があるのかメインフレームでの開発において、データ型の選択はプログラムの「処理速度」と「メモリ効率」に直結します。特に数値計算を行う際、適切な精度を指定しないと、意図しないメモリ消費やパ...