Instagram ha annunciato una modifica alle regole per i profili creati con l'intelligenza artificiale. La piattaforma limiterà la visibilità degli account che mostrano persone generate dall'IA senza dichiararlo, e cambia l'etichetta «AI creator» in «AI-generated profile», una scelta che secondo la società rende la comunicazione più chiara per gli utenti.
Il nuovo tag serve a segnalare che la persona mostrata nel profilo è stata generata, o creata in misura sostanziale, tramite intelligenza artificiale. Chi non etichetta correttamente un profilo IA potrà vedere ridotta la propria portata, mentre chi utilizza la nuova etichetta non subirà penalizzazioni per il solo fatto di avere come soggetto una persona generata dall'IA. La regola non riguarda ogni uso della tecnologia: chi si limita a modificare foto, rifinire didascalie, creare grafiche o apportare altri ritocchi creativi non deve applicare l'etichetta.
La novità nasce in parte dalle segnalazioni di utenti che si sono imbattuti in profili apparentemente umani, scoprendo solo in seguito che la persona ritratta era interamente generata dall'IA. «Con la diffusione dell'IA generativa, abbiamo sentito che le persone non apprezzano vedere un profilo che sembra umano, per scoprire solo dopo che la persona è generata dall'IA», ha scritto Instagram. «Vogliono sapere quando un profilo presenta una persona generata dall'IA».
Il momento scelto non è casuale. La frustrazione verso i contenuti generati dall'IA cresce mentre gli influencer artificiali si moltiplicano sui social. Un'inchiesta di Wired ha portato alla luce, all'inizio dell'anno, il caso dell'app di incontri gay Goose, promossa da una rete di presunti influencer maschili generati dall'IA: più di due dozzine di account che sembravano appartenere a persone reali, alcuni dei quali avrebbero contattato potenziali utenti via messaggio diretto per spingerli a iscriversi.
Anche il settore salute e benessere desta preoccupazione. Il New York Times ha riferito a luglio di aver individuato centinaia di finti medici, guaritori e figure del wellness generati dall'IA, impegnati a promuovere integratori o a diffondere affermazioni sulla salute tra gli utenti.
L'annuncio arriva dopo le critiche ricevute da Instagram per Muse, uno strumento IA che permetteva di generare immagini utilizzando le sembianze di altre persone, senza un consenso esplicito da parte loro. Meta ha poi rimosso la funzione. La scorsa settimana l'azienda ha raggiunto un accordo da 18 miliardi di dollari con gli stati americani, in una causa relativa agli effetti di Facebook e Instagram su bambini e adolescenti. Nell'ambito dell'intesa, Meta introdurrà un limite giornaliero predefinito di due ore per i teenager su Facebook e Instagram, una modalità «Night Mode» per bloccare l'accesso notturno, la disattivazione delle notifiche durante l'orario scolastico e altre restrizioni.
