1.2 == 1 ??

Filip Hroch hroch na monoceros.physics.muni.cz
Pátek Červen 2 12:46:40 CEST 2000


Cau

tohle je velmi zaludna chyba..:-)

asi by melo pomoct: 1.2 == 1.0

ale jinak je testovani rovnosti realnich (double) cisel 
timhle zpusobem vazne sazka do loterie kvuli zaokrouhlovacim
chybam. Podminky je potreba psat spis (treba) jako

if( abs(x-1.0) < 1e-16 ) ...

F. Hroch

> delam na projektu, ve kterem je dost dulezita presnost vypoctu.
> a zjistil jsem, ze jsem se zblaznil ja a nebo kompjutry. proste
> pro ten komp je 1.2 == 1!!



Další informace o konferenci Linux