Borneq pisze:
> Rysowałem punkty na płaszczyźnie i chciałem do tego dopasować prostą.
> Metodą najmniejszych kwadratów (np.
> http://www.algorytm.org/procedury-numeryczne/metoda-
najmniejszych-kwadratow.html)
> Współczynnik a był w ogóle nie przystający do danych. Nie wiedziałem dlaczego,
szukałem
> błędu a wszystko się zgadzało.
> W końcu odkryłem że miałem float a nie double. Problemem było to , że odejmowaliśmy
dwie
> bliskie sobie duże liczby a wynik był małą liczbą.

to jest elementarz metod numerycznych. Błąd różnicy gwałtownie wzrasta gdy
odejmujemy
bliskie liczby.

> Czy można zmienić wzorki tak, by zadanie było lepiej uwarunkowane?

a = ILxy/SKx

ILxy= Suma( (xi-xsr)(yi-ysr) )
SKx = Suma( (xi-xsr)^2 )

b = ysr - a xsr

sr - średnia

--
peter