-
Data: 2019-06-12 14:47:06
Temat: Re: Porównywanie liczb, double float
Od: Wojciech Piechowski <p...@g...com> szukaj wiadomości tego autora
[ pokaż wszystkie nagłówki ]W dniu środa, 12 czerwca 2019 14:17:44 UTC+2 użytkownik Pszemol napisał:
> Dlaczego konwersja CDbl stringu 31 lub 32.8 dodaje jakieś
> śmieci do zmiennej double float na 15 miejscu po przecinku??
> A może odejmowanie stałej 1.8 wprowadza ten błąd?
>
> Czy to jest normalne zachowanie się VB6?
>
> Czy inne Visuale jak VC++ lub VC# też tak mają?
Mniej więcej wszystko tak ma. "Normalne" typy zmiennoprzecinkowe (normalne, czyli
float, double, zapisywane w stałej ilości bitów) odwzorowują liczby z jakąśtam
dokładnością. Podczas operacji prawie zawsze wprowadza się jakąś odchyłkę.
Porównywanie takich liczb na równość lub różność to źródło smrodu. Twój fix jest ok,
to zdrowa praktyka na porównanie liczb zmiennoprzecinkowych: if abs(x-y)<0.00...001
then...
WP
Następne wpisy z tego wątku
- 12.06.19 14:48 Zbych
- 12.06.19 14:56 Irek.N.
- 12.06.19 15:21 JDX
- 12.06.19 16:52 Szyk Cech
- 12.06.19 16:53 Queequeg
- 12.06.19 16:54 Cezary Grądys
- 12.06.19 17:27 J.F.
- 12.06.19 17:45 s...@g...com
- 12.06.19 18:17 stary grzyb
- 13.06.19 15:24 Pszemol
- 13.06.19 15:35 Pszemol
- 13.06.19 15:36 Pszemol
- 13.06.19 15:37 Pszemol
- 13.06.19 15:39 Pszemol
- 13.06.19 17:28 Dariusz Dorochowicz
Najnowsze wątki z tej grupy
- Który symulator AVR jest ,,prawilny"?
- Disk on Module, czym to odczytać?
- Pasta ochronna? Lutownicza?
- zagadka pneumatyczna
- Klip testowy, jak sie to używa
- Jak sie smazy elektronike z odleglosci kilkuset metrów?
- William Shockley, co-inventor of the transistor
- Gazowy kocioł CO regulacja cyklingu i regulacja pogodowa
- Zamek elektroniczny
- szablon do pasty DIY
- Głośnik potrzebny
- Silikonowy przewód ekranowany
- Wtyk bananowy ekranowany
- Co może być gorsze od pożaru elektryka?
- daltonizm
Najnowsze wątki
- 2025-11-20 Rzeszów => International Freight Forwarder <=
- 2025-11-20 Warszawa => Senior IT Recruitment Consultant <=
- 2025-11-20 Warszawa => Konsultant Microsoft Dynamics AX/365 SCM Consultant - Serv
- 2025-11-20 Warszawa => Programista Dynamics 365 Commerce/POS <=
- 2025-11-20 Warszawa => Konsultant ERP Microsoft Dynamics 365 Commerce <=
- 2025-11-20 Kraków => Production Coordinator / Representant Product Dev <=
- 2025-11-20 Warszawa => Senior Frontend Developer (React + React Native) <=
- 2025-11-20 Warszawa => Microsoft Dynamics 365 Finance Consultant <=
- 2025-11-20 Bieruń => Junior Dynamics 365 Finance Consultant <=
- 2025-11-20 Bieruń => Tester Automatyzujący (Junior/Mid) <=
- 2025-11-20 rejestrować blog/kanał yt jako prasa
- 2025-11-20 Warszawa => ERP Microsoft Dynamics 365 Commerce Consultant <=
- 2025-11-20 Warszawa => Dynamics 365 Commerce/POS Developer <=
- 2025-11-20 Który symulator AVR jest ,,prawilny"?
- 2025-11-19 i znowu JEBNIĘTE POMYSŁY wyznawców religii klimatycznej




Ile kosztują tanie mieszkania w polskich metropoliach?