Instrumentele de inteligență artificială dezvoltate recent, cum ar fi Midjourney, DALL-E, Craiyon sau Stable Diffusion, pot genera un număr infinit de imagini prin utilizarea unor baze de date masive.

Mulți oameni folosesc aceste instrumente în scopuri umoristice sau artistice, dar alții se bazează pe ele pentru a fabrica imagini de știri politice.  

De exemplu, o avalanșă de imagini generate de inteligența artificială a circulat pe Twitter după întâlnirea dintre Putin și Xi din 20 martie 2023. Altele l-au înfățișat pe președintele francez Emmanuel Macron ca pe un gunoier, în timp ce gunoaiele se adunau pe străzile pariziene pe fondul grevelor în masă din cauza controversatei reforme a pensiilor.

Deși majoritatea creatorilor afirmă în mod clar că aceste imagini distribuite pe scară largă sunt fabricate, unele fotografii pot circula fără context sau pot fi prezentate ca fiind autentice, cum ar fi această postare în limba română cu imagini generate de inteligența artificială care îl înfățișează pe fostul președinte american Donald Trump încercând să fugă de poliția care încearcă să-l aresteze. 

Dezvoltatorii au lansat instrumente precum Hugging Face pentru a încerca să detecteze aceste montaje. Însă rezultatele sunt mixte și uneori pot fi înșelătoare, potrivit testelor efectuate de AFP. 

„Atunci când AI generează imagini (de la zero), în general nu există o singură imagine originală din care să fie preluate părțile”, a declarat pentru AFP, pe 21 martie, David Fischinger, specialist în AI și inginer la Institutul austriac de tehnologie. „Există mii/ milioane de fotografii care au fost folosite pentru a învăța miliarde de parametri”.

Vincent Terrasi, co-fondator al Draft & Goal, un startup care a lansat un detector de inteligență artificială pentru universități, a adăugat: „Inteligența artificială amestecă aceste imagini din baza sa de date, le deconstruiește și apoi reconstruiește o fotografie pixel cu pixel, ceea ce înseamnă că, în randarea finală, nu mai observăm diferența dintre imaginile originale”. 

Acesta este motivul pentru care software-ul de detectare a manipulărilor funcționează prost, sau deloc, în identificarea imaginilor generate de inteligența artificială. Nici metadatele unei imagini, adică un set de informații care uneori pot dezvălui sursa unei imagini generate de AI, nu sunt de ajutor. 

„Din păcate, nu te poți baza pe metadate, deoarece pe rețelele sociale acestea sunt complet eliminate”, a declarat pentru AFP expertul în inteligență artificială Annalisa Verdoliva, profesor la Universitatea Frederick II din Napoli.

Întoarceți-vă la sursa imaginii

Experții spun că un indiciu important este găsirea primului moment în care fotografia a fost postată online. În unele cazuri, este posibil ca creatorul să fi spus că a fost generată prin inteligență artificială și să fi indicat instrumentul folosit.

O căutare inversă a imaginii poate fi utilă pentru a vedea dacă imaginea a fost indexată în motoarele de căutare și pentru a găsi postări vechi cu aceeași fotografie. 

Această metodă face posibilă găsirea sursei imaginilor care ar arăta o altercație violentă între fostul președinte american Donald Trump și polițiștii care îl arestează.

O căutare inversă a imaginii pe Google pentru una dintre aceste imagini duce la o postare pe Twitter a lui Eliot Higgins, fondatorul colectivului de investigații Bellingcat, publicată pe 20 martie 2023.

Higgins a explicat într-un comentariu că a creat seria de imagini cu cea mai recentă versiune a Midjourney.

Dacă nu puteți găsi fotografia originală, o căutare inversă a imaginii poate duce la o versiune de mai bună calitate a imaginii, dacă aceasta a fost decupată sau modificată în timp ce era distribuită. O fotografie mai clară va fi mai ușor de analizat pentru a găsi erori care ar putea dezvălui un montaj.

O căutare inversă a imaginii va găsi, de asemenea, imagini similare, ceea ce poate fi valoros pentru a compara potențialele fotografii generate de AI cu cele din surse sigure.

În cazul unei imagini virale care l-ar fi arătat pe Putin îngenuncheat în fața lui Xi, utilizatorii de pe Twitter, cum ar fi jurnalistul italian David Puente, au subliniat că decorul din cameră era diferit de cel din imaginile publicate de mass-media care au relatat despre eveniment. Imaginea a fost distribuită de un utilizator român de Facebook aici, fără explicații. 

Legendele fotografiilor și comentariile online pot fi, de asemenea, utile pentru a recunoaște un anumit stil de conținut generat de AI. DALL-E, de exemplu, este cunoscut pentru desenele sale ultrarealiste, iar Midjourney pentru scenele în care apar celebrități.

Unele instrumente, cum ar fi Midjourney, lasă o urmă de imagini generate de AI pe diferite canale de comunicare. 

Indicii vizuale

Chiar și fără a cunoaște sursa unei fotografii, este posibil să puteți analiza imaginea în sine folosind indicii vizuale.

Căutați un filigran

Uneori, indiciile sunt ascunse în fotografie, cum ar fi un filigran utilizat de unele instrumente de creare a AI.

DALL-E, de exemplu, generează în mod automat o bară multicoloră în dreapta jos a tuturor imaginilor sale. Crayion plasează un mic creion roșu în același loc.

Dar nu toate imaginile generate de inteligența artificială au filigrane - iar acestea pot fi eliminate, decupate sau ascunse.

Sfaturi din lumea artei

Tina Nikoukhah, doctorandă care studiază prelucrarea imaginilor la Universitatea ENS Paris-Saclay, a declarat pentru AFP: „Dacă aveți îndoieli, uitați-vă la granulația imaginii, care va fi foarte diferită pentru o fotografie generată de inteligența artificială față de cea a unei fotografii reale”.

Folosind versiuni gratuite ale instrumentelor de inteligență artificială, AFP a generat imagini cu un stil asemănător picturilor din mișcarea hiperrealistă, cum ar fi exemplul din stânga de mai jos, care prezintă o imagine a lui Brad Pitt în Paris.

O altă creație de mai jos, în dreapta, a fost realizată cu cuvinte cheie similare pe DALL-E. Imaginea nu este la fel de evident generată de AI.

Inconsecvențe vizuale  

În ciuda progresului meteoric al inteligenței artificiale generative, încă mai apar erori în conținutul generat de inteligența artificială. Aceste defecte sunt cea mai bună modalitate de a recunoaște o imagine fabricată, au declarat specialiștii pentru AFP.

”Unele caracteristici, adesea aceleași, reprezintă o problemă pentru AI. Aceste neconcordanțe și artefacte sunt cele care trebuie analizate, ca într-un joc de detectare a diferențelor”, a declarat Terrasi de la Draft & Goal.

Cu toate acestea, Verdoliva de la Universitatea Frederick II din Napoli a avertizat: „Metodele de generare continuă să se îmbunătățească în timp și prezintă din ce în ce mai puține artefacte de sinteză, așa că nu m-aș baza pe indicii vizuale pe termen lung”. 

De exemplu, în martie 2023, mâinile realiste sunt încă greu de generat. Fotografia lui Pitt generată de AI pentru AFP îl arată pe actor cu un deget disproporționat de mare.

Un jurnalist AFP a subliniat în februarie 2023 că un ofițer de poliție avea șase degete într-o serie de fotografii care ar fi fost făcute în timpul unei manifestații împotriva reformei sistemului francez de pensii, pe 7 februarie 2023.

„În prezent, imaginile AI au, de asemenea, dificultăți în a genera reflexii”, a spus Terrasi. „O modalitate bună de a identifica o AI este să cauți umbre, oglinzi, apă, dar și să faci zoom pe ochi și să analizezi pupilele, deoarece, în mod normal, există o reflexie atunci când faci o fotografie. De asemenea, putem observa adesea că ochii nu au aceeași dimensiune, uneori cu culori diferite".

Folosirea lupei din instrumentul Invid-WeVerify evidențiază o diferență de culoare între cei doi ochi din această fotografie a lui Macron generată de AI și distribuită pe Instagram. Nu numai că fotografia prezintă două nuanțe diferite de maro, dar Macron are de fapt ochi albaștri. 

De asemenea, generatoarele creează adesea asimetrii. Fețele pot fi disproporționate sau urechile pot avea dimensiuni diferite.

Dinții și părul sunt greu de imitat și pot dezvălui, prin contururile sau textura lor, că o imagine nu este reală.

Iar unele elemente pot fi slab integrate, cum ar fi ochelarii de soare care se confundă cu fața.

De asemenea, experții spun că amestecarea mai multor imagini poate crea probleme de iluminare într-o imagine generată de AI.

Verificați fundalul

O modalitate bună de a detecta aceste anomalii este de a privi în fundalul fotografiei. Deși la prima vedere poate părea normal, o fotografie generată de inteligența artificială dezvăluie adesea erori, cum ar fi în cazul acestor fotografii care se presupune că îi arată pe Barack Obama și Angela Merkel la plajă.

Una dintre persoanele din fundal pare să aibă picioarele tăiate.

„Cu cât un element este mai îndepărtat, cu atât un obiect va fi mai neclar, distorsionat și va avea perspective incorecte”, a spus Terrasi.

În fotografia falsă a întâlnirii dintre Xi și Putin, o linie de pe o coloană nu este dreaptă. De asemenea, capul liderului rus pare disproporționat în comparație cu restul corpului său. Fischinger a declarat pentru AFP că aceste neconcordanțe au dezvăluit că imaginea a fost generată de AI.

Folosiți „bunul simț”

Este posibil ca unele elemente să nu fie distorsionate, dar ele pot trăda totuși o eroare de logică. „Este bine să vă bazați pe bunul simț” atunci când vă îndoiți de o imagine, a spus el.

Fotografia de mai jos, generată de AFP pe Midjourney și menită să arate Parisul, prezintă un semn albastru de interdicție de intrare, care nu există în Franța.

Acest indiciu, combinat cu vârfurile degetelor tăiate ale personajului central, un croissant cu aspect de plastic și o diferență de iluminare la unele ferestre, sugerează că fotografia este generată de inteligența artificială. 

Filigranul din dreapta jos a imaginii înlătură orice dubiu și semnalează că imaginea este din DALL-E.

În cele din urmă, dacă o imagine pretinde că arată un eveniment, dar credibilitatea sa este îndoielnică, consultați surse de încredere pentru a căuta posibile neconcordanțe.