On Monday, September 18, 2017 at 4:23:54 PM UTC+2, t-1 wrote:
> W dniu 2017-09-18 o 02:26, M.M. pisze:
> > Druga sieć na wyjściu zaproponuje
> > nowy czas uczenia, nowe podziały na pod-zbiory, nową architekturę itd.
> > Pierwszą sieć, o ile odpowiedź drugiej sieci nie jest całkowicie
> > nonsensowna, uczymy według propozycji drugiej sieci. W ten sposób
> > uzyskamy kolejne dane uczące dla drugiej sieci. Cały proces zapętlamy.
> >
> > Będę wdzięczny za uwagi.
>
> Rysuje się więc układ potencjalnie niestabilny.
> A ponieważ jest niewątpliwie układem dynamicznym, wielowymiarowym,
> nieliniowym i niestacjonarnym to trudno nawet oszacować jak się zachowa.

Druga sieć jest po prostu aproksymatorem. Skuteczność sieci na zbiorze
testowym zależy głównie od: inicjalizacji wag, algorytmu uczenia, czasu
uczenia, podziału danych na pod-zbiory uczące/testowe i od architektury
sieci.

Przykład dotyczący architektury: zbyt dużo neuronów ukrytych doprowadzi
do przeuczenia, zbyt mało do niedouczenia. I w jednym, i w drugim
przypadku sieć kiepsko zachowa się na zbiorze testowym. Druga sieć,
na podstawie kilkudziesięciu danych uczących, może z jakimś
prawdopodobieństwem odgadnąć optymalną ilość ukrytych neuronów.

Pozdrawiam