■ このスレッドは過去ログ倉庫に格納されています
【訃報】Switch、電卓より低性能だった【豚憤死】
- 44 :名無しさん必死だな@\(^o^)/:2017/08/12(土) 21:07:49.34 ID:DcAFGuhc0.net
- >>41
恐らく2進数演算による誤差だな
コンピュータ上で5-4.9-0.1とか計算させると、大抵計算結果がおかしくなる(電卓では普通に0になる)
試しにJavaで計算させたら、-0.000000000000000360822483003176…と出た
総レス数 66
12 KB
新着レスの表示
掲示板に戻る
全部
前100
次100
最新50
read.cgi ver 2014.07.20.01.SC 2014/07/20 D ★