Chatbot neví, co mluví. Není to umělá inteligence, jen generuje naučené texty, vysvětluje expert

13. únor 2023

Ve světě digitálních technologií dochází podle mnoha expertů k zásadní změně. Microsoft a Google oznámili, že zapojí umělou inteligenci do vyhledávání informací na svých platformách. „Rozšířili vyhledávací políčko, můžete tam psát víc textů. Už to nejsou jen klíčová slova, jak jsme zvyklí, můžete popsat problém, zeptat se, kam na dovolenou nebo jaký je rozdíl mezi jednotlivými typy aut,“ popisuje odborník na informační technologie Josef Holý.

Termín umělá inteligence ovšem považuje za nadnesený, podle obecně přijímané definice jde o inteligentní stroj schopný se učit a sám si volit, co se bude učit. Naproti tomu ChatGPT je založeno na strojovém učení, které je trénováno na desítkách miliard dokumentů, textů a zpráv. „Když se ho zeptáte přirozenou řečí, tak se snaží odpovědět – řetězit slova tak, jak si myslí, že je to nejpravděpodobněji správně,“ vysvětluje.

Čtěte také

„Ten stroj v uvozovkách neví, co povídá. On generuje text, který je uvěřitelný, ale nemá konceptuální porozumění reality, jak ho máme my. Může se jevit, že vám vrátí velice smysluplný text, ale je to jen výsledek velice sofistikované statistiky. A i tyto stroje dělají velké chyby,“ pokračuje s tím, že přesný mechanismus fungování vývojáři nezveřejňují.

Využívají se k tomu takzvané neuronové sítě, které se trénují pro daný účel, a poté se měří, jak dobře ho plní:

„Co dělá, to je pro nás obtížné pochopit. Jsou tvořené miliardami propojených neuronů a trénováním se vytváří znalost těch věcí. Přirovnávám to k tomu, když byste mi otevřeli hlavu a pohledem na mozek chtěli pochopit, proč jsem takový, jaký jsem. Ta struktura je příliš komplikovaná, abyste ji mohli chápat.“

Revoluce?

S takzvaným chatbotem prý lze vést dialog na libovolné téma, kvalita odpovědí ale bude záviset na dostatku dat pro trénování a občas si může i trochu vymýšlet, protože řetězí slova na základě pravděpodobnosti.

V danou chvíli je to hodně o marketingu a o tom, co dáváte do tiskových prohlášení: revoluce, umělá inteligence, změna všeho.

„Když se ho zeptáme, jak snížit státní dluh, tak odpoví tak, že buď zvýšením daní, nebo snížením výdajů. Takovou odpověď vyprodukuji i já jako neekonom. Ale pokud by měl dostatek dát třeba z českého ekonomického tisku, tak může dát i sofistikovanější odpověď,“ doplňuje.

Čtěte také

Holý nevylučuje, že tato technologie může změnit způsob, jakým používáme internet, vše je ale teprve na začátku. „V danou chvíli je to hodně o marketingu a o tom, co dáváte do tiskových prohlášení: revoluce, umělá inteligence, změna všeho. Ale jedna věc je technologie a druhá to, jak ji společnost dokáže adoptovat a využít,“ podotýká.

Upozorňuje přitom i na nebezpečí, pokud jde o vytváření dezinformačního obsahu šitého na míru konkrétním skupinám obyvatel. V posledních deseti letech od masivního nástupu sociálních sítí také dochází k tomu, že každý dostává trochu jinou verzi obsahů, což může vést například k radikalizaci.

„Rozhodně bychom si na toto měli dát pozor, abychom nezačali jako jednotlivci nebo jako skupiny dostávat příliš odlišný obraz toho, jaká je realita,“ zdůrazňuje spoluautor podcastu Kanárci v síti.

Poslechněte si celý rozhovor v Interview Plus.

autoři: Jan Bumba , ert
Spustit audio

Související