投稿一覧に戻る 楽天グループ(株)【4755】の掲示板 2023/05/25 1397 urrrrrrrrrrrrri 2023年5月25日 22:48 >>1391 誤差出るのって確かちゃんと三角関数で計算すると演算量でかくなって、当時の演算期では使い物にならないから、誤差は出るけど簡易的に演算できる方法でやっていたからってことじゃなかったっけ。 やっぱ今のGPUでも厳しいの? そう思う2 そう思わない3 開く お気に入りユーザーに登録する 無視ユーザーに登録する 違反報告する 証券取引等監視委員会に情報提供する ツイート 投稿一覧に戻る
urrrrrrrrrrrrri 2023年5月25日 22:48
>>1391
誤差出るのって確かちゃんと三角関数で計算すると演算量でかくなって、当時の演算期では使い物にならないから、誤差は出るけど簡易的に演算できる方法でやっていたからってことじゃなかったっけ。
やっぱ今のGPUでも厳しいの?