倍精度浮動小数点数

熱血から次のような問題を振られた。面白かったので解決に至るまでの思考の流れをメモする。
出典はstackoverflowの質問

問題:
2進数で表される有効数字53桁の数を10進数に変換し有効数字N桁で丸めた。これを再び2進数に変換し有効数字53桁で丸めるとき、必ずもとの数と一致するための最小のNはいくらか?

続きを読む »

プロフィール

hide(ハイド)

Author:hide(ハイド)

○やりこみとか

DQMキャラバンハートRTA
3:57:15

(11年5月21日)

GB版DQM2
低レベルボス攻略

(14年5月6日)

ぱるメロ
旧曲10780pts %表
ツアー3628630
(12年3月~14年9月)

ポケモン不思議のダンジョン
赤の救助隊
RTA 2:49:59

(14年12月5日)

ポケモン不思議のダンジョン
赤の救助隊
状況再現ありRTA 2:26:36

(15年3月9日)

DQM系データ

フリーノベルゲ攻略

最新記事
カテゴリ
リンク
最新コメント
月別アーカイブ