倍精度浮動小数点数
熱血から次のような問題を振られた。面白かったので解決に至るまでの思考の流れをメモする。
出典はstackoverflowの質問
問題:
2進数で表される有効数字53桁の数を10進数に変換し有効数字N桁で丸めた。これを再び2進数に変換し有効数字53桁で丸めるとき、必ずもとの数と一致するための最小のNはいくらか?
出典はstackoverflowの質問
問題:
2進数で表される有効数字53桁の数を10進数に変換し有効数字N桁で丸めた。これを再び2進数に変換し有効数字53桁で丸めるとき、必ずもとの数と一致するための最小のNはいくらか?