Come riconoscere le immagini generate dall’intelligenza artificiale | Tecnica

Midjourney, DALL-E, Stable Diffusion…: questi programmi sono in grado, da un enorme database, costantemente alimentato dalle richieste degli utenti, di generare un numero infinito di snapshot. Alcuni, iperrealistici e legati alla cronaca, seminano confusione. Il più recente è stato Papa Francesco che indossava una splendida tunica.

Ci sono programmi per cercare di capirlo, ma i loro risultati sono ancora molto contrastanti, secondo i test condotti da AFP.

Quando un’intelligenza artificiale crea un’immagine da zero, di solito non prende parti di una singola immagine. “Migliaia o addirittura milioni di immagini vengono utilizzate per tenere conto di miliardi di criteri”, ha detto all’AFP David Fischinger, ingegnere dell’Istituto austriaco di tecnologia specializzato in intelligenza artificiale.

“L’intelligenza artificiale (…) lo smonta e poi ricostruisce l’immagine pixel per pixel”, da qui la solita incapacità del software di rilevamento, aggiunge Vincent Terrasi, co-fondatore di Draft & Goal, una startup che ha lanciato un AI- strumento di rilevamento del contenuto generato.

Ma gli esperti dicono che ci sono ancora espedienti.

Grazie a una ricerca di immagini inversa, le immagini del falso arresto di Trump possono essere ricondotte alla fonte: un tweet di Elliot Higgins, fondatore del sito investigativo Bellingcat, che spiega di averlo creato tramite Midjourney.

Alcuni programmi lasciano anche una firma visiva: una barra multicolore nell’angolo destro di DALL-E.

Puoi anche confrontare l’immagine con immagini dello stesso evento provenienti da fonti attendibili. Così, lo scatto falso di Putin inginocchiato davanti a Xi Jinping ha un’ambientazione molto diversa rispetto alle foto della visita del leader cinese al Cremlino.

Altri dettagli possono tradire l’intelligenza artificiale, come “la grana dell’immagine, che sarà molto diversa”, afferma Tina Nekokah, PhD, in elaborazione delle immagini (Paris-Saclay).

Nelle versioni gratuite dei sistemi AI testati da AFP, alcune delle immagini generate avevano uno stile simile al tipo di fotografia iperrealista, con forti contrasti. Vincent Terracy sottolinea che “alcune caratteristiche, spesso simili, pongono problemi per l’IA, e sono queste (visibili) incoerenze che devono essere esaminate”.

Ad esempio, le mani sono spesso deformate. In una foto presumibilmente scattata durante una manifestazione contro la riforma delle pensioni che mostra un membro del Catholic Relief Services (CRS) che abbraccia un manifestante, possiamo notare che il poliziotto ha… sei dita.

“Tuttavia, l’intelligenza artificiale sta migliorando di giorno in giorno e mostra meno anomalie, quindi non dovresti fare affidamento su segnali visivi a lungo termine”, avverte Annalisa Verdoliva, professore all’Università Fredericton II di Napoli.

Attualmente, anche i sistemi di intelligenza artificiale hanno molti problemi a generare riflessioni. Un buon modo (…) è quindi cercare ombre, specchi e acqua, ma anche allargare gli occhi», dice Vincent Terrasse, come in questa foto di Emmanuel Macron davanti a una manifestazione e condivisa su Instagram: i suoi occhi sono marroni, non blu (anche gli occhi non sono della stessa tonalità di marrone).

I generatori spesso creano asimmetria: un viso sproporzionato, orecchie ad altezze diverse … Anche denti e capelli sono difficili da imitare.

Infine, mescolare più foto può portare a problemi di illuminazione, sottolineano gli esperti. Spesso i difetti sono sullo sfondo. Nelle foto molto realistiche di Barack Obama e Angela Merkel sulla spiaggia apparse sui social network, una delle figure appare sullo sfondo con le gambe mozzate.

“Più un oggetto è lontano, più prospettive sfocate, distorte e errate l’oggetto diventa”, afferma Vincent Terrasi.

Nella foto falsa Putin/Xi, la linea verticale della colonna è spezzata, molte sedie sono deformate, oltre al fatto che la testa di Vladimir Putin è sproporzionatamente grande.

In alcune delle foto false dell’arresto muscolare di Trump, i volti di diversi agenti appaiono sfocati e le braccia e le gambe degli agenti di polizia sono mostrate qua e là senza coerenza.

Se alcuni elementi non sono necessariamente distorti, possono comunque tradire un errore: in un’immagine creata da AFP in Medjourny e che dovrebbe mostrare una strada parigina, possiamo distinguere, ad esempio, un cartello vietato… blu.

La giacca del rapper Pope intrattiene Internet

Le foto false in realtà raffigurano l’arresto di Donald Trump