2012-04-30から1日間の記事一覧

浮動小数点演算の誤差についての誤解

Lua

『Programming in Lua プログラミング言語Lua公式解説書』p.28ページより。 浮動小数点演算の誤差については広く誤解されており、浮動小数点数では単純に 1 を加算するだけでも悲惨な状況になると恐れている人もいます。実際のところは、倍精度浮動小数点数…

コルーチンの練習

Lua

コルーチンの練習です。 function main() co = coroutine.create(function() coroutine.yield(1) coroutine.yield(2) end) print(co) print(coroutine.status(co)) print(coroutine.resume(co)) print(coroutine.status(co)) print(coroutine.resume(co)) pr…

数値の表記が e を使ったものに切り替わるタイミング

Lua

2^i をプリントするプログラムを作成しました。 function main() for i = 1,50 do print(i, 2^i, type(2^i)) end end main() 実行結果です。 1 2 number 2 4 number 3 8 number 4 16 number 5 32 number 6 64 number 7 128 number 8 256 number 9 512 number…