Monday, June 13, 2022

精度問題で躓いている

本当にどうしようもない気がするけど、計算精度、特にライブラリに依存するようなところでつまづいていて、スクラッチで高精度演算の関数を書かなきゃいけない気がしている。

使い勝手が良くて長年使っていた有名なCV系ライブラリがその原因だが、まぁ、専用機を汎用計算に使っている私が悪かったかもしれない。
10年前に、これくらい使えないとだめだよねって中年の研究者が言っていたので、試しに使ってみたところ、アホでも使えるような気軽な設計で、極めて使い心地よかった。なので、それからは、CV用途以外にも、汎用的な演算などいろんなことに使ったが、ここに来て精度の甘さが気になることが続いた。さすがに無茶だったっぽい。やっぱりCGにはCGの精度が必要だった。

はぁ、ここに来て、やり直しか。精度の限界とかライブラリの特性はなんとなくでも知っておかないといかんな。

No comments: