Nafouklý obrázek papeže vytvořený umělou inspirací inspiruje papeže Františka k novému varování

Poté, co se loni sociálními sítěmi rozšířila realistická fotografie papeže Františka v nadýchaném kabátě vytvořená umělou inteligencí, podle zpráv si toho všiml i samotný papež. Reuters. v zpráva U příležitosti 58. Světového dne sociálních komunikací František napsal: „Potřebujeme se jen zamyslet nad dlouhodobým problémem dezinformací v podobě fake news, které dnes lze použít jako ‚deepfakes‘, tedy vytváření a šíření obrazů, které se zdají dokonalé.“ „Věrohodné, ale falešné (taky jsem byl terčem tohoto).“

Papež také varuje před hlasovými zprávami, které „používají něčí hlas k tomu, aby řekl věci, které by člověk nikdy neřekl“. „Simulační technologie za těmito programy může být užitečná ve specifických oblastech, ale stává se škodlivou, když narušuje náš vztah s ostatními a s realitou.“

V březnu 2023 použil uživatel Twitteru jménem „skyferrori“ službu pro montáž obrázků Midjourney v5 k vytvoření přesvědčivého falešného obrazu papeže Františka v dlouhém bílém nafouklém kabátě a bílé košili. Zveřejněno na službě. Rychle se stal virálním a dnes má více než 197 000 lajků a 28,1 milionů zhlédnutí. Mnoho lidí si myslelo, že se jedná o skutečnou fotografii, a v té době byla pozoruhodná tím, že byla jedním z prvních obrázků generovaných umělou inteligencí, které oklamaly velké online publikum.

„Měl jsem tuto diskusi s přítelem a budu upřímný, nemyslel jsem si, že je to falešné,“ napsal tehdy na fórech Ars Technica komentátor jménem „thrillgore“. „Myslel jsem si, že je to pravda, i když jsem dnes četl, že papež František je spořivý muž a nechlubí se vatikánským bohatstvím… Včera to bylo legrační a teď je to naprosto děsivé.“

Od spuštění Stable Diffusion v roce 2022 jsme se opakovaně zabývali hlubokými fakely a obavami, že podkopávají sociální důvěru, snižují kvalitu online informací vstřikováním hluku, podněcují online obtěžování a potenciálně A deaktivace historického záznamu. Je to nevyřešený problém, protože technologie vodoznaků je často považována za nespolehlivou a projekty označování metadat zatím nejsou široce podporovány. Naše schopnost důvěřovat tomu, co vidíme online, bude v podstatě záviset na tom, jak moc důvěřujeme messengerovi.

„Vývoj systémů umělé inteligence, kterému jsem věnoval své poslední poselství u příležitosti Světového dne míru, radikálně ovlivňuje svět informací a komunikací a jejich prostřednictvím i určité základy života ve společnosti,“ varoval papež. „Tyto změny ovlivňují každého, nejen profesionály v těchto oblastech. Rychlé šíření úžasných inovací, jejichž fungování a potenciál překračuje schopnost většiny z nás pochopit a ocenit, se ukázalo být vzrušující i rušivé.“