On Saturday, November 14, 2020 at 8:21:23 PM UTC+1, Mateusz Viste wrote:
> 2020-11-13 o 20:35 -0800, M.M. napisał:
> > > AI są fajne, ostatnio trochę się tym bawiłem. Nie podoba mi się
> > > jednak to, że kiedy raz zdarzy się że sieć neuronowa nie zachowa
> > > się tak, jak powinna (czy jak człowiek tego oczekuje) - to nie
> > > wiadomo ani dlaczego, ani jak to naprawić.
> >
> > Nie wiem co masz na myśli....
> Przykład: wytrenowałem sieć która ma robić "coś". Sprzedałem produkt
> przemysłowemu klientowi. Działa. Do momentu, kiedy sieć wysypała
> klientowi produkcję.

Nadal nie znam wystarczającej ilości szczegółów, ale może sieć wcześniej
dużo zarobiła, albo dużo zaoszczędziła względem alternatywnych rozwiązań, że
na pewne problemy można sobie pozwolić? Albo w ogóle nie ma lepszego
rozwiązania i trzeba z wadami sieci żyć?

> Fakt, że sieć zawiodła, to jeden problem - powiedzmy, mniejszy.

Sztuczne (a i biologiczne też) sieci neuronowe z pewnym prawdopodobieństwem dają
błędne odpowiedzi. Zwykle mam N danych uczących. Dzielimy te dane na zbiór uczący o
rozmiarze NU i testowy o rozmiarze NT. I zwykle jak sieć na zbiorze uczącym da NU
poprawnych odpowiedzi, to na NT daje mniej poprawnych. Poza tym konieczność
testowania już nam zmniejsza zbiór uczący z N do NU.

Sieci według 'mojego autorskiego' pomysłu w bardzo wstępnych testach miały mniej
tego typu problemów. Ale nie mogę ich opatentować, więc nie podaję szczegółów.

> Poważniejszy problem to wytłumaczyć klientowi
> dlaczego, oraz sprawić że więcej nie będzie.

Jeśli sieć zostanie wyuczona na danych z ostatniego wypadku, to w takiej sytuacji
tego
problemu już naprawdę nie powinno być, ale jak pisałem powyżej, sieć dająca 100%
poprawnych odpowiedzi na zbiorze uczącym, zwykle daje mniej poprawnych odpowiedzi
na zbiorze testowym.

> > Jeśli sieć da złą odpowiedź i ktoś monitoruje system, to mamy
> > dodatkowy przykład który może dorzucić do danych uczących.
> Jeden przykład chyba nie wpłynie na działanie sieci - tych przykładów
> musi być raczej dużo więcej... i uważać, aby nie "przetrenować" AI.
>
> AI to niewątpliwie ciekawy temat, ale zdecydowanie nie panaceum na
> wszystko. Jeśli potrzebny determinizm i możliwość zrozumienia dlaczego
> robot reaguje w ten a nie inny sposób - to AI odpada.

Ja też się długo (może z 20 lat) zastanawiałem dlaczego dobrze wytresowany
pies działający w oparciu o biologiczną sieci neuronową, 1000 razy na 1000 przynosi
treserowi ręcznik, gdy treser o ręcznik go prosi. Podobnie dziecko dobrze
nauczone tabliczki mnożenia 1000 razy na 1000 dobrze poda wynik. Tymczasem
sieć neuronowa zrealizowana w krzemie, jeśli ze zbioru uczącego poda 100%
poprawnych wyników, to na zbiorze testowym skuteczność spada np. do 50%.
Nie rozumiałem dlaczego sztuczna sieć musi na zbiorze uczącym mieć skuteczność
np. 95%, aby i na zbiorze testowym miał wysoką skuteczność np. 95%. No i opracowałem
perceptron wielowarstwowy według swojego pomysłu - oczywiście też ma problemy, ale
z bardzo wstępnych badań wynikło, że ma ich mniej: znacznie szybciej się uczy,
znacznie szybciej działa, niekoniecznie traci ogólność gdy na zbiorze uczącym da
100% poprawnych odpowiedzi - czyli klienta można zapewnić że - w takiej samej
sytuacji - problem się już nie powtórzy.

W przypadku moich sieci, na początku wystarczy mniej danych, np. tyle, aby zapewnić,
iż
sieć zadziała poprawnie przez godzinę. Potem dane z kraksy dodajemy do danych
uczących i
próbujemy wyuczyć ponownie. System (statystycznie) powinien pracować dłużej, a w tej
konkretnej sytuacji mamy już 100% gwarancję że sieć da poprawną odpowiedź. W
przypadku
klasycznego perceptronu wielowarstwowego nie ma takiej gwarancji, zwykle musi na
danych
uczących mieć skuteczność niecałe 100%, aby i na zbiorze testowym miał niecałe 100%.

Pozdrawiam