Dnia Sun, 17 Feb 2013 00:22:20 -0800, M.M. wyszeptal:

> W dniu sobota, 16 lutego 2013 15:28:11 UTC+1 użytkownik Edek Pienkowski napisał:
>> Dnia Mon, 11 Feb 2013 15:49:33 -0800, M.M. wyszeptal:
>>
>> > SSN mogłyby być skuteczne jakby podać im do uczenia tekst wysoko
>> > przetworzony. To jest właśnie ta masa pracy o jakiej pisałem powyżej.
>>
>>
>> SSN symulują fizyczną strukturę mózgu, niewiele ponadto.
> Nie powiedziałbym że SSN mają coś wspólnego ze swoimi
> biologicznymi odpowiednikami, no... może poza ideą :)

Nie chcę wchodzić w dyskusję czym sieci są lub mają być
według idei.

> Na moje to wygląda prościej. Mamy jakieś problemy które
> byśmy chcieli rozwiązywać przy pomocy SSN. Mamy także
> ogromną ilość SSN. Każdy problem, ma swój podzbiór
> sieci które rozwiązują go w zadowalający sposób.

No taka idea przyświecała tym sieciom na początku.

W praktyce
> trudno jest powiązać problemu z właściwą SSN.
> Dlatego stosuje się szereg ułatwień, a to jest bardzo
> pracochłonne, rzadko bywa skuteczne gdy się poda
> nieprzetworzone dane na wejście sieci.

No i taka jest praktyka. Można mieć "ogromną" ilość sieci,
tylko co z tego.

>> Więcej rozwoju wiedzy na ten temat wiąże się pracami
>> na temat metod opartych na prawdopodobieństwie.
> Bo to prosty, przejrzysty model, który bywa skuteczny i
> nie wymaga koszmarnej mocy obliczeniowej. Np. w takim
> tłumaczeniu kontekstowym można obliczyć jak często wyraz
> xxxx tłumaczył się na wyraz aaaa, jak często
> na wyraz bbbb, itd. Jeśli są dane i są zasoby obliczeniowe to
> można policzyć warunkowo jak często wyraz xxxx tłumaczył
> się na aaaa jeśli poprzedza go wyraz yyyy. Natomiast tak
> uzyskane prawdopodobieństwa można spróbować podać sieci
> na wejście... ciekawe coby wyszło.

Wyszłoby to co opisałeś: miałbyś statystykę, który wyraz
występuje częściej po innym wyrazie niż inny. Do
uczenia gramatyki jest daleko, od semantyki dzieli przepaść.

>> W tym udawadnianiu, że proces poznania już u małych dzieci zachowuje
>> się prawie dokładnie tak, jak znane metody probabilistyczne,
>> chociażby uzywane w ekonomii - przynajmniej istnieją badania
>> potwierdzające cechy probabilistyczne w procesie uczenia,
>> takie jak "jeżeli widzę coś podobnego do tego co znam, nie ma
>> w tym nic ciekawego, ale interesujące są wszystkie obiekty nie
>> pasujące do reguły, bo pozwalają stworzyć nowe reguły".
> Hmmm mnie się zawsze wydawało że to widać gołym okiem, bez badań :)

Jak widzisz 4-12 miesięcznego bobaska, to myślisz "ale on bayesjański"?!

--
Edek