La scorsa settimana, Google ha presentato la nuova linea di smartphone Pixel 9, una gamma di dispositivi che mette l’intelligenza artificiale al centro dell’esperienza utente. Tutti i modelli Pixel 9 supportano il nuovo sistema Gemini AI e includono strumenti avanzati di generazione e modifica delle immagini basati su AI. Tuttavia, quello che sembra essere un passo avanti tecnologico potrebbe trasformarsi in un vero e proprio incubo di pubbliche relazioni per Google, a causa delle implicazioni etiche e pratiche che stanno già emergendo.
Uno degli strumenti più discussi introdotti con il Pixel 9 è Pixel Studio, un’app progettata per creare adesivi e immagini utilizzando semplici comandi testuali. A prima vista, Pixel Studio sembra una versione anticipata di quello che potrebbe essere il futuro Image Playground di Apple. Tuttavia, i primi test condotti dai recensori hanno rivelato un lato oscuro di questa innovazione. Con Pixel Studio, è possibile generare immagini che spaziano da versioni naziste di Spongebob a personaggi come Elmo armati di AK47.
Nonostante Google abbia implementato alcune “verifiche di sicurezza” per evitare usi impropri, i risultati finora mostrano che queste misure potrebbero non essere sufficienti. Recensioni di siti come Digital Trends hanno dimostrato che è relativamente facile far creare all’app immagini di personaggi dei cartoni animati in situazioni decisamente discutibili, come l’uso di droghe o in contesti violenti. Google ha affermato di star lavorando per migliorare l’AI in risposta a queste critiche, ma il danno potrebbe già essere fatto.
Se Pixel Studio ha attirato critiche, lo strumento Reimagine di Google ha sollevato preoccupazioni ancora più gravi. Questo tool permette di aggiungere oggetti a foto già esistenti, e i risultati sono così realistici che è difficile distinguere una foto modificata da una originale. Test condotti da The Verge hanno mostrato come sia possibile aggiungere elementi inquietanti come cadaveri, bombe o disastri a immagini comuni, senza lasciare alcun segno evidente di manipolazione.
Sebbene Google abbia implementato un tag di metadati per indicare che l’immagine è stata modificata, questo può essere facilmente eliminato con uno screenshot, rendendo ancora più difficile identificare le immagini alterate. In un’epoca in cui la fiducia nelle immagini online è già messa alla prova, strumenti come Reimagine potrebbero peggiorare la situazione, rendendo sempre più complicato distinguere tra realtà e finzione.
È importante notare che gli strumenti AI di Google, come Pixel Studio e Reimagine, non sono intrinsecamente negativi. Possono essere usati per creare immagini divertenti e creative, come gattini che giocano a basket o pizze Oreo, come evidenziato da Android Authority. Tuttavia, la facilità con cui è possibile generare contenuti problematici solleva questioni etiche significative. Se in passato la creazione di immagini manipolate richiedeva competenze avanzate in Photoshop, ora basta un pensiero e pochi secondi per ottenere lo stesso risultato direttamente dallo smartphone.
Le nuove funzionalità AI del Pixel 9 offrono un’anteprima di ciò che potrebbe accadere quando Apple introdurrà i suoi strumenti di generazione di immagini, come Image Playground o Genmoji. La sfida per Apple sarà quella di trovare un equilibrio tra innovazione e responsabilità, garantendo che gli utenti non possano abusare di queste potenti tecnologie. Con l’AI che diventa sempre più integrata nella nostra vita quotidiana, la capacità di distinguere tra il reale e l’artificiale diventerà una competenza cruciale per tutti noi.
Cosa ne pensate?