ブログ「サイバー少年」

ブログ「サイバー少年」へようこそ!
小学六年生ごろからプログラミングを趣味にしている高校生のブログです。
勉強したことについての記事などを書いています。フリーソフトも制作、公開しています。
(当ブログについて詳しくは「ブログ概要紹介」を参照)

サイバー少年が作ったフリーソフトは「サイバー少年の作品展示場」へ

ソフト「何進数でもオッケー」にバグ発覚!

昔、作ったソフト「何進数でもオッケー」でバグが発覚しました!

結果に誤差が発生してしまうのです。

小数の誤差は認知していて、諦めているのですが、
なんと、整数でも誤った結果が表示されました。

数百とか数千とか、小さな数値なら問題ないのですが、
万の辺りを超えると変換結果が間違ってしまうのです。

あと、変換する基数によって、誤差が発生するラインが異なっています。

最大基数の82進法だと
(半角カナ)
ンンンンンンンン~100000000内に誤差ラインがあるようです。

しかし、これも一概には言えないんですよね。

変換する数値によっても、間違うかどうか異なるんですよ。


誤差が結構、大きいのでヤバいです。

一応、修正には取り掛かりますが、正直、昔のソフトの事はどうでもいいので、諦めるかもしれません。

手抜きですね。

tag:

コメント

コメントの投稿

トラックバック

トラックバック URL
http://cyberboy6.blog.fc2.com/tb.php/181-a254bf65
この記事にトラックバックする(FC2ブログユーザー)

当ブログをご利用(閲覧等)になる場合は必ず「当ブログの利用規定」をお守りください。