Jensen Huang z Nvidie říká, že AI halucinace jsou řešitelné a umělá obecná inteligence je vzdálena 5 let

Obrazové kredity: Hajj Jean Camps

Umělá obecná inteligence (AGI) – často označovaná jako „silná umělá inteligence“, „úplná umělá inteligence“, „AI na lidské úrovni“ nebo „všeobecná inteligentní práce“ – představuje velký budoucí skok na poli umělé inteligence. Na rozdíl od úzké umělé inteligence, která je navržena pro specifické úkoly, jako je zjišťování vad produktů, shrnutí novinek nebo vytváření webových stránek pro vás, bude obecná umělá inteligence schopna provádět širokou škálu kognitivních úkolů na úrovni člověka nebo nad ním. Když tento týden mluvil s novináři na výroční vývojářské konferenci společnosti Nvidia GTC, generální ředitel Jensen Huang se zdál být diskutováním o tomto tématu skutečně znuděný – v neposlední řadě proto, že se zdá, že je hodně špatně citován, říká.

Opakování otázky dává smysl: Tento koncept vyvolává existenciální otázky o roli lidstva v budoucnosti, ve které stroje dokážou překonat lidi, učit se a překonat lidi téměř ve všech oblastech. Jádrem tohoto zájmu je nepředvídatelnost rozhodovacích procesů a cílů AGI, které nemusí být v souladu s lidskými hodnotami nebo prioritami (konceptem). To bylo prozkoumáno do hloubky ve sci-fi přinejmenším od čtyřicátých lét). Existují obavy, že jakmile AGI dosáhne určité úrovně autonomie a schopností, může se stát nemožným jej ovládat nebo ovládat, což vede ke scénářům, kdy jeho akce nelze předvídat nebo zvrátit.

Když senzacechtivá žurnalistika žádá o časový rámec, často láká profesionály AI, aby stanovili časovou osu pro konec lidstva – nebo alespoň status quo. Je samozřejmé, že generální ředitelé AI nemají vždy zájem se tomuto tématu věnovat.

Huang však strávil nějaký čas tím, že řekl tisku, co chtěl Dělat Přemýšlejte o tom. Předpovídání, kdy AGI přijmeme, závisí na tom, jak je AGI definováno, říká Huang a uvádí některé paralely: I přes složitost časových pásem víte, kdy přijde nový rok a začne rok 2025. Pokud pojedete autem do San Convention Center José (kde se koná letošní VOP), obecně víte, že jste dorazili, když můžete vidět obrovské nápisy GTC. Rozhodujícím bodem je, že se můžeme dohodnout na tom, jak měřit váš příchod, ať už časově nebo geoprostorově, tam, kam jste doufali, že půjdete.

„Pokud definujeme AGI jako něco velmi specifického nebo jako soubor testů, které program může provádět velmi dobře – nebo možná o 8 % lépe než většina lidí – myslím, že tohoto cíle dosáhneme do 5 let,“ vysvětluje Huang. Navrhuje se, že testy by mohly být právním testem, logickým testem, ekonomickým testem nebo možná testem schopnosti složit předlékařský test. Pokud není tazatel schopen být velmi konkrétní, co znamená umělá obecná inteligence (AGI) v kontextu otázky, není ochoten předpovídat. dost spravedlivé.

AI halucinace jsou řešitelné

V úterní relaci otázek a odpovědí byl Huang dotázán, co dělat s halucinacemi AI – tendencí některých AI vymýšlet si odpovědi hlas Rozumné, ale nezaložené na realitě. Zdálo se, že je tou otázkou viditelně frustrovaný a všiml si, že halucinace lze snadno vyřešit tím, že se ujistíte, že odpovědi jsou dobře promyšlené.

„Přidejte pravidlo: Pro každou odpověď musíte vyhledat odpověď,“ říká Huang a odkazuje na tuto praxi jako na „generaci s rozšířeným vyhledáváním“, která popisuje přístup velmi podobný základní mediální gramotnosti: zkoumání zdroje a kontextu. Porovnejte fakta ve zdroji se známými fakty, a pokud je odpověď věcně nepřesná – byť částečně – vymažte celý zdroj a přejděte k dalšímu zdroji. „AI by neměla jen odpovídat; Měla by nejprve provést průzkum, aby zjistila, které odpovědi jsou nejlepší.

Pro důležité odpovědi, jako jsou tipy na zdraví nebo podobně, generální ředitel společnosti Nvidia navrhuje, že cestou vpřed je možná kontrola více zdrojů a známých zdrojů pravdy. To samozřejmě znamená, že generátor generující odpověď musí mít možnost říci: „Neznám odpověď na vaši otázku“ nebo „Nemohu dospět ke shodě ohledně správné odpovědi, tato otázka je ,'“ nebo dokonce něco jako: „Hej, „Super Bowl se ještě nekonal, takže nevím, kdo vyhrál.“

Podívejte se na GTC 2024 od Nvidie: