ChatGPT a další LLM společnosti produkují kecy, ne halucinace

V komunikaci kolem LLM a populárních rozhraní, jako je ChatGPT, se termín „halucinace“ často používá k označení falešných dat obsažených ve výstupu těchto modelů. To naznačuje určitou soudržnost a snahu ze strany LLM uvědomit si pravdu a zároveň zažít okamžiky (mírného) šílenství. S LLM je tak účinně zacházeno jako s malým dítětem nebo s osobou trpící poruchami, jako je Alzheimerova choroba, což jim dává v tomto procesu volnost. To je čistý nesmysl a zjevně nepravdivé. Předmět zprávy podle [Michael Townsen Hicks] a kolegové, jak je zveřejněno v Etika a informační technologie.

Velká část rozdílu spočívá v rozdílu mezi lží a kecy, jak je výmluvně popsáno v [Harry G. Frankfurt]Článek z roku 1986 a kniha z roku 2005 O nesmyslechZatímco lhaní má za cíl oklamat a zatajit pravdu, lhaní se neprovádí bez ohledu na pravdu nebo spojení s pravdou. Lhaní má pouze sloužit současné situaci, která nám připomíná to nejhorší, co se v dějinách lidstva stalo. Zvukové kousnutí kultura.

Když se zamyslíme nad tím, jak LLM fungují, se vstupním dotazem používaným k poskytnutí pravděpodobnosti přizpůsobené váženým uzlům, které tvoří jeho vektorový prostor, můžeme vidět, že generované výstupy jsou v podstatě výstupy algoritmu pro predikci slov ve velkém měřítku. To vylučuje jakoukoli možnost inteligence a tím i kognitivního vědomí „pravdy“. To znamená, že i když za LLM není žádný záměr, stále je to nesmysl, i když je měkkého (neúmyslného) druhu. Když vezmeme v úvahu sílu a záměry těch, kteří vytvořili a vycvičili LLM a vytvořili rozhraní (jako je ChatGPT), vstupujeme do záměrného a obtížného nesmyslného území.

Mimochodem, je to stejný nesmysl, který již vedl k částečnému vyřazení LLM programů, protože Retrieval Augmented Retrieval (RAG) proměnil algoritmus predikce slov na sofistikovanější vyhledávací stroj. Ani venture kapitalisté si koneckonců nemohou dovolit příliš keců.