-
X-Received: by 2002:a81:10f:: with SMTP id 15mr27559021ywb.498.1560343626731; Wed, 12
Jun 2019 05:47:06 -0700 (PDT)
X-Received: by 2002:a81:10f:: with SMTP id 15mr27559021ywb.498.1560343626731; Wed, 12
Jun 2019 05:47:06 -0700 (PDT)
Path: news-archive.icm.edu.pl!news.icm.edu.pl!newsfeed2.atman.pl!newsfeed.atman.pl!go
blin2!goblin1!goblin.stu.neva.ru!j96no422480qte.0!news-out.google.com!33ni110qt
t.0!nntp.google.com!j96no422479qte.0!postnews.google.com!glegroupsg2000goo.goog
legroups.com!not-for-mail
Newsgroups: pl.misc.elektronika
Date: Wed, 12 Jun 2019 05:47:06 -0700 (PDT)
In-Reply-To: <qdqqh6$n2f$1@dont-email.me>
Complaints-To: g...@g...com
Injection-Info: glegroupsg2000goo.googlegroups.com; posting-host=153.19.49.104;
posting-account=IbYA7woAAABvc1iLJW1qEPhxazrH_YNX
NNTP-Posting-Host: 153.19.49.104
References: <qdqqh6$n2f$1@dont-email.me>
User-Agent: G2/1.0
MIME-Version: 1.0
Message-ID: <1...@g...com>
Subject: Re: Porównywanie liczb, double float
From: Wojciech Piechowski <p...@g...com>
Injection-Date: Wed, 12 Jun 2019 12:47:07 +0000
Content-Type: text/plain; charset="UTF-8"
Content-Transfer-Encoding: quoted-printable
Xref: news-archive.icm.edu.pl pl.misc.elektronika:743694
[ ukryj nagłówki ]W dniu środa, 12 czerwca 2019 14:17:44 UTC+2 użytkownik Pszemol napisał:
> Dlaczego konwersja CDbl stringu 31 lub 32.8 dodaje jakieś
> śmieci do zmiennej double float na 15 miejscu po przecinku??
> A może odejmowanie stałej 1.8 wprowadza ten błąd?
>
> Czy to jest normalne zachowanie się VB6?
>
> Czy inne Visuale jak VC++ lub VC# też tak mają?
Mniej więcej wszystko tak ma. "Normalne" typy zmiennoprzecinkowe (normalne, czyli
float, double, zapisywane w stałej ilości bitów) odwzorowują liczby z jakąśtam
dokładnością. Podczas operacji prawie zawsze wprowadza się jakąś odchyłkę.
Porównywanie takich liczb na równość lub różność to źródło smrodu. Twój fix jest ok,
to zdrowa praktyka na porównanie liczb zmiennoprzecinkowych: if abs(x-y)<0.00...001
then...
WP
Następne wpisy z tego wątku
- 12.06.19 14:48 Zbych
- 12.06.19 14:56 Irek.N.
- 12.06.19 15:21 JDX
- 12.06.19 16:52 Szyk Cech
- 12.06.19 16:53 Queequeg
- 12.06.19 16:54 Cezary Grądys
- 12.06.19 17:27 J.F.
- 12.06.19 17:45 s...@g...com
- 12.06.19 18:17 stary grzyb
- 13.06.19 15:24 Pszemol
- 13.06.19 15:35 Pszemol
- 13.06.19 15:36 Pszemol
- 13.06.19 15:37 Pszemol
- 13.06.19 15:39 Pszemol
- 13.06.19 17:28 Dariusz Dorochowicz
Najnowsze wątki z tej grupy
- Raspberry Pi 5 + dyski SATA
- lutownica na węgiel
- Znów czary (albo niewiedza) - tym razem fotowoltaika
- Chess
- Vitruvian Man - parts 7-11a
- przeźroczyste koszulki
- Re: Win 10/11 nie lubi OKI
- Programator czasowy TUYA.
- Dlaczego energia elektryczna jest droga i cały czas drożeje
- twardy dysk stuka
- Oclenie alkalicznych akumulatorów
- Powerbank jednonapieciowy, a trzynapieciowy
- Lustra w maszynie ASML
- DC blocker i buczące toroidy
- Problemy TSMC cd
Najnowsze wątki
- 2024-05-09 Łódź => Senior DevOps Engineer <=
- 2024-05-09 Wrocław => Java Developer <=
- 2024-05-09 MSI B450 PRO VDH MAX - HDMI+DVI = 2 ekrany?
- 2024-05-09 Raspberry Pi 5 + dyski SATA
- 2024-05-09 Warszawa => Spedytor międzynarodowy <=
- 2024-05-09 Berlin => IT Systems Administrator and Customer Support Engineer <=
- 2024-05-09 lutownica na węgiel
- 2024-05-09 Dla Kfiata i Olina tzw. prawo międzynarodowe
- 2024-05-08 Osoby które znają informacje tajne
- 2024-05-08 doprowadzenie przymusowe świadka
- 2024-05-08 Opel? Ale jaki Opel?? A może nie Opel?
- 2024-05-08 Znów czary (albo niewiedza) - tym razem fotowoltaika
- 2024-05-08 Chess
- 2024-05-08 Gruby pasożyt nasyła tajną policję na aktywistę z Rzeszy działającego w SZAP!
- 2024-05-08 Chess