数値の表現
使い方
左のセレクタから数値の表現形式を選んで下さい。
上のテキストボックスに10進数の数字を入力すると下のテキストボックスに入力した数字が指定した形式に変換されます。
下のテキストボックスに指定した形式のデータを入力すると上のテキストボックスに入力した数字が10進数に変換されます。
下のテキストエリアに計算の過程が表示されます。
上のテキストボックスに入力する数字には先頭に符号(+,-)を入力できます。
上のテキストボックスには、浮動小数点数の場合のみ、eを使った指数表現もできます。
下のラジオボタンでいくつかの設定を行うことができます。
その他細かい補足についてはページの下部を見てください。
補足
- ラジオボタンとセレクタに関する補足
ラジオボタンやセレクタを操作しても計算は行われない。
ラジオボタンやセレクタの変更を反映したい場合は、変換したいほうのテキストボックスの数値の最後にスペースを入力すればよい。
- 固定小数点数に関する補足
下のラジオボタンの「ビット数」で「16ビット」、「32ビット」を指定できる。
下のラジオボタンの「符号」で3種類の形式を指定できる。
- 浮動小数点数に関する補足
下のラジオボタンの「ビット数」で「32ビット」、「64ビット」を指定できる。
浮動小数点数はIEEE754に基づく。
上のテキストボックスでは「非数」を「NaN」と表現する。
上のテキストボックスでは「無限大」を「∞」または「inf」と表現する。
10進数と浮動小数点数との間の変換には誤差が発生することがあり、その場合は変換、逆変換を行ってももとに戻らないことがある。
丸め誤差などの誤差に関する処理は厳密に行っていない。
目次へ戻る