Użytkownik "bartekltg" <b...@g...com> napisał w wiadomości
news:l65ml0$aq9$2@node1.news.atman.pl...
>W dniu 2013-11-15 08:09, Tomasz Kaczanowski pisze:
>
>>
>>
>> Nie - liczy się dokładniej - księguje się z dokładnością do grosza/centa
>> ect... Inaczej jakbyś miał paczkę 1000 diodek za 2 zł, to sumując
>> wartościami te diodki miałbyś 0zł.
>
> To jeszcze jedno pytanie, kupuję 1000 różnych tanich
> układzików po 1000 sztuk. Księgowanie/zaokrąglanie
> ma nastąpić już po mnożeniu, czy po zsumowaniu dokładnie całości.
>

jak by nie kombinował - trzeba wiedzic co sie robi bo
największa dokładność/precyzja obliczeń nie pomoże
jak prgramista nie rozumie co robi :)))

przykład z życia

w magazynie butelka płynu 1kg

odbiorca nie chce kupić butelek tylko
ich zawartość przeliczoną na fragmenty/kropelki
bo tak to potem sprzedaje.

Jedna butelka to np. 1837 kropelek
Prgram zatem dzieli 1kg na 1837 i ma 1837 kropelek po xx g
a potem wydaje z magazynu 1837 kropelek po xx g każda i co ?

I już nie ma kg tylko cos koło tego.( błąd np. 1e-30 )
Obliczenia max precyzja oracla.
Jak bład jest w dól to mały problem - gorzej jak w górę
bo zamiast 1kg ma wydac 1kg + 10^-30kg

Jednak pierwszy warunek to nie można wydac więcej
niż mam w magazynie. Dla komputera brak 10^-30kg
to brak :)))

Niby proste ale na formatce widać mamy 1.00000 kg
i potrzebujemy 1.00000 kg (bo zaokraglone przy wyświetlaniu)
a operacja niemożliwa do wykonania bo - progam mowi,że brak
w magazynie :))))

Po pewnych awanturach - poroblem sie wyjaśnia
( programy diagniostyczne - wyświetlaja wszystkie cyfry :)) )
ale teraz trzeba to wyjaśnić programiście by poprawił
ewidentny błąd i zaokrąglił wynik.

Przez trzy miesiące ( 1x maili i tel. , wydruki, skrytp pokazujący
to 10^-30 błędu ) gość nie był w stanie zrozumieć
o co chodzi. A to był gość płacony - koło 1000$ za dniówkę
( tzn. firma tyle brala - za jego pracę)
Potem się rozchorował czy urlopował - ktos go zastępował
i w 5 minut było po problemie.

Morał taki,dokładność musi byc u programisty nie
w komputerze - choć na pewno ta ostatnia też
sie przydaje :)))))

pozdrawiam