時刻と計算
数値・ビット演算・単位変換ツール
ビットマスクの中身を調べたい、IPアドレスを別の表記に変換したい、浮動小数点の値が期待どおりに表示されない理由を確かめたい、ストレージ見積もりのためにバイトとギガバイトを変換したい——どれも手計算では間違えやすい数値の問題です。ここでは進数変換、ビット演算、IPアドレスやデータ容量の変換、実際のビット確認をまとめています。
進数変換は2進数から36進数まで、大きな整数を丸めずに扱います。普通の電卓アプリは黙って丸めてしまうことがあります。ビット演算電卓は8〜64bitの値でAND・OR・XOR・NOT・シフトを実行し、2の補数計算機は同じ64bitのワードを符号付きと符号なしの両方で読み分けます。浮動小数点変換は32・64bitのビット列の背後にある正確な10進値を示します。
7個のツール
Numbers, Bitwise & Unitsツールに関するFAQ
大きな数値を別の進数に変換すると丸められたり違う結果になったりするのはなぜですか
多くの電卓アプリは内部で浮動小数点や固定サイズの整数を経由して変換するため、非常に大きな値で精度が失われます。進数変換は2進数から36進数までを丸めずに扱うように作られているので、大きな整数も変換先の進数で同じ値のまま変換されます。
浮動小数点数が入力した通りの10進値で表示されないのはなぜですか
ほとんどの10進小数は2進の浮動小数点で正確に表現できないため、0.1も実際にはごくわずかにずれた最も近い64bit表現として格納されます。浮動小数点変換は32bitと64bitの両方について、格納されたビット列の背後にある正確な10進値を示すので、どこで丸めが起きているかを正確に確認できます。
負の数の2の補数ビット列を読むにはどうすればよいですか
2の補数計算機は64bitのワードを符号付きと符号なしの両方で解釈できるので、同じビット列を両方の見方で並べて確認できます。大きな符号なし数値に見える値が実は小さな負の数を表すつもりだった、という理由を調べる最も速い方法です。