W dniu 20.03.2024 o 01:30, Marcin Debowski pisze:
> On 2024-03-19, J.F <j...@p...onet.pl> wrote:
>> On Tue, 19 Mar 2024 11:31:41 GMT, Marcin Debowski wrote:
>>> On 2024-03-19, Piotr Gałka <p...@c...pl> wrote:
>>>> W dniu 2024-03-18 o 18:37, Jacek pisze:
>>>>
>>>>> Mianowicie, zapomniano wbudować mechanizm umożliwiający chatowi
>>>>> powiedzenie "nie wiem" kiedy rzeczywiście czegoś nie wie.
>>>>
>>>> Ludzie mają ten mechanizm wbudowany 'z definicji' ale popatrz na
>>>> polityków. Wydaje mi się, że będą bajdurzyć jakieś głupoty byle tylko
>>>> nie powiedzieć 'nie wiem'.
>>>> Chyba spora grupa ludzi ma jakieś opory przed powiedzeniem 'nie wiem'.
>>>
>>> Problem z czatem jest taki, że on ani wie ani nie wie, bo to jednak nie
>>> jest żadna sztuczna inteligencja. W najlepszym wypadku możnaby pewnie
>>> podawać jakiś poziom ufności. Ale też te informacje, którymi czat
>>> dysponuje niekoniecznie są oparte na weryfikowa(l)nych danych, więc i
>>> poziom ufności mógłby wprowadzać w błąd.
>>
>> Problem jest też w tym, że oni się zasłaniają, że to jest
>> "model językowy", cokolwiek to znaczy. I na dobrą sprawę nie wiemy,
>> jak wiedzę zdobywa.
>
> Podejrzewam, że to wszystko działa w oparciu o analizę wzorców
> jezykowych. Na zadane pytanie "ile kół ma hulajnoga" taki czat pewnie
> nie wnika w logiczną, czy nawet semantyczną część pytania, a sprawdza
> jedynie częstotliwość występowania pewnego wzorca odpowiedzi. Szuka więc
> np. zdań "hulajnoga ma xxx koła" gdzie nie analziuje, że xxx="dwa" czy
> "trzy" czy jedno, a że występuje wzorzec "hulajnoga ma xxx koła", i co
> najcześciej się pojawia. "dwa" nie jest tu liczbą a wyrazową częścią
> wzorca. Tak przynajmniej to sobie wyobrażam, bo nic o tym konkretnego
> nie wiem. Na jakimś poziomie, jakaś analiza logiczna tez pewnie
> występuje co by uniknąć problemów w stylu "hulajnoga ma metalowe koła".
>
>> czy skrzypek może być nietrzeźwy?
>>
>> "Ciągle uczę się, jak odpowiedzieć na to pytanie. W międzyczasie
>> skorzystaj z wyszukiwarki Google."
>>
>> Wow
>
> No jak elegancko :)
>

Też zauważyłem, że Gemini się poddaje po jakimś czasie. ChatGPT ma
anielską cierpliwość i ciągle szuka rozwiązania.


Robert