未分類

スポンサーリンク
未分類

【PL/I学習|豆知識】[メインフレーム事務計算における除算の罠:精度とスケールファクタ(q)の制御]

1. 導入:なぜ「除算の精度」が重要なのかメインフレームでのCOBOL等の事務計算において、算術演算の精度管理はシステムの信頼性に直結します。特に除算(割り算)を行う際、システム内部では「結果の小数点以下の桁数(スケールファクタ:q)」を可...
未分類

【PL/I学習|実務向け】FIXED DECIMALの「符号なし」表現が引き起こすデータ比較の罠と対策

1. 導入メインフレームの基幹システムにおいて、パック10進数(COMP-3)はデータの標準形式ですが、符号ニブルの取り扱いに悩まされた経験はありませんか?特に、ホスト外とのデータ連携や、レガシーなバイナリ比較を行う際、`X'F'`(符号な...
未分類

【PL/I学習|初心者向け】PL/Iにおける浮動小数点数から文字への変換:数値が「10進文字」に化けるルールの正体

1. 導入:なぜこの変換ルールが重要なのかメインフレームの現場で、FLOAT型(浮動小数点数)のデータを、ログや帳票出力のためにCHAR型(文字項目)へ代入したことはありませんか?実は、PL/Iでこの代入を行うと、数値は自動的に「指数形式(...
未分類

【PL/I学習|豆知識】算術条件の優先順位とカッコの評価 ~PL/Iで陥りがちなオーバーフロー回避術~

はじめにメインフレームの世界では、数値計算の正確さがビジネスの根幹を支えています。PL/Iで算術式を扱う際、演算の「優先順位」と「カッコ」の使い方が、意図しない結果やオーバーフローを引き起こす原因となることがあります。今回は、PL/Iにおけ...
未分類

【PL/I学習|実務向け】メインフレームにおける超小数の扱い:FIXED DEC(p, q)で「p < q」を指定する意義

1. 導入メインフレーム開発において、金額計算や物理定数の管理は極めて高い精度が求められます。特に、0.00012のような極めて小さい値を扱う際、通常の整数部を持つ小数型では桁あふれや精度の欠落が発生しがちです。本稿では、PL/I等の環境で...
未分類

【PL/I学習|初心者向け】メインフレーム技術者の心得:HFP浮動小数点と「正規化」の罠

1. 導入:なぜ「正規化」を知る必要があるのかメインフレームで長年稼働しているCOBOLやアセンブラのプログラムを保守・移行する際、避けて通れないのが「浮動小数点の計算結果が、PCやJavaと微妙にずれる」という現象です。この原因の多くは、...
未分類

【PL/I学習|豆知識】メインフレームの歴史的遺産:「15桁問題」が現代システムに投げかける精度問題

メインフレームは長きにわたり、社会の基盤を支えるシステムとして進化を遂げてきました。しかし、その進化の過程で生まれた「歴史的遺産」の中には、現代のシステム移行や改修において、予期せぬ落とし穴となるものがあります。今回は、その中でも特に数値計...
未分類

【PL/I学習|実務向け】メインフレーム性能向上の鍵:FIXED BINARY演算とCPUフラグの最適活用

1. 導入:なぜ今、FIXED BINARYを見直すべきかメインフレームのPL/I開発において、数値データの型定義はプログラムの実行性能に直結します。特にループ制御やインデックス計算で「なんとなく」DECIMAL型を使用していませんか? 演...
未分類

【PL/I学習|初心者向け】メインフレームで計算精度を守る!浮動小数点リテラルの接尾辞 (E, D) の極意

こんにちは、メインフレーム技術者の皆さん!特に、これからPL/Iなどの言語で数値計算を始める皆さん、今日のテーマは「浮動小数点リテラルの接尾辞 (E, D)」です。これは、皆さんが書くプログラムの計算結果の「精度」を左右するとても重要な知識...
未分類

【PL/I学習|豆知識】PL/IにおけるMAX/MIN関数の落とし穴:混合属性と精度劣化のメカニズム

1. 導入:なぜこの「型混合」が危険なのかメインフレームのPL/I開発において、MAX関数やMIN関数は非常に便利です。しかし、異なる属性(FIXED DECIMAL、FIXED BINARY、FLOATなど)を一つの関数に投げ込むと、PL...
スポンサーリンク