On 2024-03-19, J.F <j...@p...onet.pl> wrote:
> On Tue, 19 Mar 2024 11:31:41 GMT, Marcin Debowski wrote:
>> On 2024-03-19, Piotr Gałka <p...@c...pl> wrote:
>>> W dniu 2024-03-18 o 18:37, Jacek pisze:
>>>
>>>> Mianowicie, zapomniano wbudować mechanizm umożliwiający chatowi
>>>> powiedzenie "nie wiem" kiedy rzeczywiście czegoś nie wie.
>>>
>>> Ludzie mają ten mechanizm wbudowany 'z definicji' ale popatrz na
>>> polityków. Wydaje mi się, że będą bajdurzyć jakieś głupoty byle tylko
>>> nie powiedzieć 'nie wiem'.
>>> Chyba spora grupa ludzi ma jakieś opory przed powiedzeniem 'nie wiem'.
>>
>> Problem z czatem jest taki, że on ani wie ani nie wie, bo to jednak nie
>> jest żadna sztuczna inteligencja. W najlepszym wypadku możnaby pewnie
>> podawać jakiś poziom ufności. Ale też te informacje, którymi czat
>> dysponuje niekoniecznie są oparte na weryfikowa(l)nych danych, więc i
>> poziom ufności mógłby wprowadzać w błąd.
>
> Problem jest też w tym, że oni się zasłaniają, że to jest
> "model językowy", cokolwiek to znaczy. I na dobrą sprawę nie wiemy,
> jak wiedzę zdobywa.

Podejrzewam, że to wszystko działa w oparciu o analizę wzorców
jezykowych. Na zadane pytanie "ile kół ma hulajnoga" taki czat pewnie
nie wnika w logiczną, czy nawet semantyczną część pytania, a sprawdza
jedynie częstotliwość występowania pewnego wzorca odpowiedzi. Szuka więc
np. zdań "hulajnoga ma xxx koła" gdzie nie analziuje, że xxx="dwa" czy
"trzy" czy jedno, a że występuje wzorzec "hulajnoga ma xxx koła", i co
najcześciej się pojawia. "dwa" nie jest tu liczbą a wyrazową częścią
wzorca. Tak przynajmniej to sobie wyobrażam, bo nic o tym konkretnego
nie wiem. Na jakimś poziomie, jakaś analiza logiczna tez pewnie
występuje co by uniknąć problemów w stylu "hulajnoga ma metalowe koła".

> czy skrzypek może być nietrzeźwy?
>
> "Ciągle uczę się, jak odpowiedzieć na to pytanie. W międzyczasie
> skorzystaj z wyszukiwarki Google."
>
> Wow

No jak elegancko :)

--
Marcin