Snímky vygenerované umělou inteligencí matou lidi. Zde jsou tipy na to, jak je poznat

Nedávno vyvinuté nástroje umělé inteligence jako Midjourney, DALL-E, Craiyon či Stable Diffusion jsou na základě rozsáhlých databází schopny generovat nekonečné množství obrázků.

Mnoho lidí tyto nástroje používá k humorným nebo uměleckým účelům, ale jiní se na ně spoléhají při vytváření obrazů týkajících se politických zpráv.

Obrázky generované umělou inteligencí zaplavily Twitter například po setkání ruského prezidenta Putina s čínským protějškem Si Ťin-pchingem 20. března 2023. V době, kdy se v pařížských ulicích hromadily odpadky během masových stávek kvůli kontroverzním důchodovým reformám, se zas objevily snímky zobrazující francouzského prezidenta Emmanuela Macrona jako popeláře.

Ačkoli většina tvůrců jasně uvádí, že tyto snímky jsou vygenerované počítačem, některé fotografie mohou kolovat bez kontextu nebo být prezentovány jako autentické.

Vývojáři spustili nástroje jako Hugging Face, které se snaží tyto montáže odhalit. Podle testů agentury AFP jsou však výsledky zatím spíše smíšené a někdy mohou být zavádějící.

„Když umělá inteligence generuje obrázky (od nuly), obecně neexistuje jeden původní obrázek, z něhož by byly jednotlivé části převzaty,“ řekl 21. března agentuře AFP David Fischinger, odborník na umělou inteligenci a inženýr z Rakouského technologického institutu. „Existují tisíce či miliony fotografií, z kterých se AI učí miliardy parametrů.“

Vincent Terrasi, spoluzakladatel startupu Draft & Goal, který uvedl na trh detektor AI pro univerzity, dodal: „AI snímky ze své databáze smíchá, dekonstruuje je a poté rekonstruuje fotografii pixel po pixelu, což znamená, že ve výsledném obrázku již nezpozorujeme rozdíl mezi původními snímky.“

Proto software zjišťující manipulaci s fotografiemi funguje špatně nebo vůbec při identifikaci snímků vytvořených umělou inteligencí. Nepomáhají ani metadata.

„Na metadata se bohužel nelze spolehnout, protože na sociálních sítích jsou zcela odstraněna,“ řekla agentuře AFP odbornice na umělou inteligenci Annalisa Verdoliva, profesorka na Univerzitě Frederika II. v Neapoli.

Návrat ke zdroji obrázku

Podle odborníků je důležitým ukazatelem to, kdy byl obrázek poprvé zveřejněn na internetu. V některých případech autoři těchto snímků uvádějí, že se jedná o výtvor umělé inteligence a uvedou nástroj, který k jejich vytvoření použili. 

Pomoci může zpětné vyhledávání obrázků, jímž zjistíte, zda byl obrázek ve vyhledávačích indexován, a můžete najít staré příspěvky obsahující stejnou fotografii.

Tato metoda umožnila najít například zdroj snímků údajně zobrazujích násilnou potyčku mezi bývalým americkým prezidentem Donaldem Trumpem a policisty, kteří ho zatýkají.

Zpětné vyhledání jednoho z těchto obrázků na Googlu vede k tweetu Eliota Higginse, zakladatele investigativního projektu Bellingcat, zveřejněný 20. března 2023.

Higgins ve vlákně vysvětlil, že sérii obrázků vytvořil pomocí nejnovější verze programu Midjourney.

Image

Snímek vyhledávání na Googlu pořízený 22. března 2023

Making pictures of Trump getting arrested while waiting for Trump's arrest. pic.twitter.com/4D2QQfUpLZ

— Eliot Higgins (@EliotHiggins) March 20, 2023

Pokud se vám nedaří najít původní fotografii, můžete pomocí zpětného vyhledávání obrázků získat alespoň kvalitnější verzi obrázku, zvláště pokud byl při sdílení oříznut nebo jinak upraven. Ostřejší fotografii bude snazší analyzovat a najít případné chyby, které by mohly odhalit, že se jedná o montáž.

Zpětným vyhledáváním lze také najít podobné obrázky, což může být cenné pro porovnání fotografií potenciálně vytvořených umělou inteligencí s fotografiemi ze spolehlivých zdrojů.

U virální fotografie, na které Putin údajně klečí před Si Ťin-pchingem, upozornili uživatelé Twitteru, jako například italský novinář David Puente, že výzdoba místnosti se liší od té na snímcích zveřejněných v médiích. 

Image

Snímek z Twitteru pořízený 23. března 2023

Při rozpoznávání snímků generovaných umělou inteligencí mohou být užitečné také popisky k fotografiím a online komentáře. Například nástroj DALL-E je známý svými ultrarealistickými obrázky a Midjourney zase scénami zobrazujícími celebrity.

Vizuální nápovědy

I bez znalosti zdroje fotografie můžete snímek analyzovat pomocí vizuálních nápověd.

Hledejte vodoznak

Některými AI nástroje pro tvorbu obrázků zanechávají stopy jako vodoznak. 

Například program DALL-E automaticky generuje různobarevný pruh v pravém dolním rohu všech svých obrázků. Crayion na stejné místo umístí ikonu malé červené tužky.

Image

Obrázek vygenerovaný agenturou AFP 22. března 2023 s použitím DALL-E a fráze: „Lízátko držené dítětem na pláži“

Image

Obrázek vygeneroval Craiyon.com dne 22. března 2023 pomocí fráze: „Pero na stole“

Ne všechny obrázky generované AI však obsahují vodoznaky. Ty lze navíc odstranit, oříznout nebo skrýt.

Tipy ze světa umění

Tina Nikoukhah, doktorandka na univerzitě ENS Paris-Saclay, agentuře AFP řekla: „Pokud máte pochybnosti, podívejte se na zrnitost obrázku, která se u fotografie vytvořené umělou inteligencí bude velmi lišit od skutečné fotografie." 

AFP vytvořila s pomocí bezplatných verzí nástrojů umělé inteligence obrázky, jejichž styl se velmi podobal hyperrealistickým malbám, například následující snímek vlevo zobrazující Brada Pitta v Paříži.

Obrázek vpravo byl vytvořen za použití podobných klíčových slov nástrojem DALL-E. Není tak okatě vygenerovaný pomocí AI.

Image

Obrázek vytvořený AI nástrojem Stable Diffusion 22. března 2023 pomocí slov: the phrase: „Brad Pitt, ulice v Paříži, brzké slunečné ráno, drží croissant poblíž pekárny a starého francouzského auta, má na sobě bílou košili, usmívá se, realistické, 4K“

Image

Obrázek vytvořený AI nástrojem DALL-E 22. března 2023 pomocí slov: „Brad Pitt v Paříži, foto, obchody v pozadí, 4K“

Vizuální nesrovnalosti

Navzdory rychlému pokroku umělé inteligence obsahují vygenerované obrázky stále chyby. Ty představují podle odborníků stále nejlepší způsob, jak uměle vytvořený obrázek rozpoznat.

„Některé prvky jsou pro AI stále problém, a často jsou to stále ty samé. Právě tyto nesrovnalosti je třeba sledovat,“ řekl Terrasi z Draft & Goal.

Podle Verdolivy z Univerzity Fredericka II v Neapoli se však „metody vytváření obrázků s postupujícím časem lepší a vykazují čím dál tím méně syntetických artefaktů, takže v dlouhodobém horizontu bych se jen na vizuální vodítka nespoléhala.“

K březnu 2023 bylo pro AI stále obtížné vygenerovat realistické ruce. Například na obrázku Brada Pitta, který AFP vytvořila pomocí AI, má herec nepřiměřeně velký prst.

V únoru 2023 si zas novinářka AFP všimla, že policista na snímcích údajně pořízených 7. března 2023 během demonstrace proti francouzské důchodové reformě měl šest prstů. 

„V současnosti je pro AI také velmi obtížné vytvářet odrazy,“ řekl Terrasi. „Dobrým způsobem, jak rozpoznat dílo AI, je dívat se na stíny, zrcadla, vodu, ale také zblízka analyzovat zorničky, protože při fotografování obvykle dochází k odrazu. Často si také můžeme všimnout, že oči nejsou steně velké, někdy mají i různé barvy.“

Použitím lupy v nástroji Invid-WeVerify lze zvýraznit barevný rozdíl mezi očima Macrona na této fotce vygenerované AI a sdílené na Instagramu. Nejen, že každé oko na obrázku má jiný odstín hnědé, ale Macronovy oči jsou ve skutečnosti modré.

Image

Snímek obrázku vytvořeného AI na Instagramu

Image

Snímek analýzy AI snímku pomocí nástroje Invid-WeVerify

AI také vytváří různé asymetrie. Obličeje často vykazují různé disproporce a každé ucho bývá jinak veliké. 

Také zuby a vlasy je obtížné vytvořit, takže jejich obrysy či struktura často odhalí, že obrázek není skutečný. 

Další prvky se do obrázku špatně integrují, například sluneční brýle často splývají s obličejem.

Podle odborníků má AI kvůli míchání různých obrázků problém také s osvětlením.

Image

Snímek instagramového příspěvku vytvořeného pomocí AI

Zkontrolujte pozadí

Dobrým způsobem, jak tyto anomálie odhalit, je nahlédnout do pozadí fotografie. I když se to na první pohled může zdát normální, fotografie generované umělou inteligencí často odhalují chyby, jako například na těchto fotografiích, které údajně ukazují Baracka Obamu a Angelu Merkelovou na pláži.

Jeden z lidí v pozadí vypadá, jako by měl useknuté nohy. 

„Čím dále se prvek nachází, tím je objekt rozmazanější, zkreslenější a vykazuje nesprávnou perspektivu,“ řekl Terrasi. 

Na falešné fotografii ze setkání Si Ťin-pchinga s Putinem není čára sloupu rovná. Také hlava ruského vůdce se zdá být ve srovnání s trupem nepřiměřeně veliká. Fischinger AFP řekl, že právě tyto nesrovnalosti odhalily, že byl obraz vytvořený pomocí AI.

Image

Nesrovnalosti patrné na falešném snímku Si Ťin-pchinga Jinping s Vladimírem Putinem

Používejte zdravý rozum

Některé prvky ani nemusí být zkreslené, ale přesto vyzradí, že se jedná o dílo AI. „Je dobré spoléhat se na zdravý rozum,“ řekl Fischinger.  

AFP vytvořila pomocí nástroje Midjourney následující obrázek, který má představovat Paříž. Snímek však obsahuje modrou značku zákazu vjezdu, která ve Francii neexistuje.  

Image

Obrázek vytvořený AFP 22. března 2023 pomocí nástroje Midjourney s použitím slov: „Brad Pitt, ulice v Paříži, brzké slunečné ráno, drží croissant poblíž pekárny a starého francouzského auta, má na sobě bílou košili, usmívá se, realistické, 4K“

Tento prvek v kombinaci s uříznutými konečky prstů, uměle vypadajícím croissantem a různě osvětlenými okny naznačuje, že se jedná o obrázek vytvořený AI.

Vodoznak v pravém dolním rohu nade vší pochybnost dokazuje, že byl obrázek vytvořen nástrojem DALL-E.

A konečně, pokud máte pochybnosti o tom, že obrázek zobrazuje skutečnou událost, obraťte se na spolehlivé zdroje a hledejte možné nesrovnalosti.