Google non ha ancora risolto il generatore di immagini distorto di Gemini

Nel mese di febbraio, Google ha interrotto temporaneamente la capacità del chatbot alimentato da intelligenza artificiale Gemini di generare immagini di persone dopo che gli utenti si sono lamentati di inesattezze storiche. Ad esempio, chiesto di raffigurare 'una legione romana', Gemini avrebbe mostrato un gruppo anacronistico di soldati culturalmente diversi mentre raffigurava 'guerrieri Zulu' in modo stereotipato nero.

Il CEO di Google Sundar Pichai si è scusato, e Demis Hassabis, il co-fondatore della divisione di ricerca sull'IA di Google DeepMind, ha detto che una soluzione dovrebbe arrivare 'molto presto' - entro le prossime due settimane. Ma siamo ormai a maggio e la soluzione promessa resta elusiva.

Google ha promosso molte altre funzionalità di Gemini alla sua conferenza annuale per sviluppatori I/O di questa settimana, dalle chatbot personalizzate a un pianificatore di itinerari vacanze e integrazioni con Google Calendar, Keep e YouTube Music. Ma la generazione di immagini di persone continua ad essere disattivata nelle app di Gemini sul web e su dispositivi mobili, ha confermato un portavoce di Google.

Allora qual è il motivo del ritardo? Beh, il problema è probabilmente più complesso di quanto Hassabis abbia accennato.

I dataset utilizzati per addestrare i generatori di immagini come quella di Gemini contengono generalmente più immagini di persone bianche rispetto a persone di altre razze ed etnie, e le immagini di persone non bianche in quei dataset rafforzano stereotipi negativi. Google, in un apparente sforzo per correggere questi pregiudizi, ha implementato una codifica rigida sotto il cofano. E ora sta facendo fatica a individuare un percorso ragionevole che eviti di ripetere la storia.

Google ci riuscirà? Forse. Forse no. In ogni caso, l'affare prolungato serve da promemoria che nessuna soluzione per l'IA che si comporta male è facile - specialmente quando il pregiudizio è alla radice del comportamento scorretto.

Stiamo lanciando una newsletter sull'IA! Iscriviti qui per iniziare a riceverla nella tua casella di posta l'5 giugno.