Diversi dipendenti attuali ed ex di OpenAI e Google DeepMind hanno condiviso una lettera aperta in cui avvertono sui pericoli dell’intelligenza artificiale avanzata e sull’attuale mancanza di supervisione delle aziende che lavorano sulla tecnologia AI.
I dipendenti suggeriscono che ci sono una serie di rischi che stiamo affrontando a causa dello sviluppo dell’intelligenza artificiale, tra cui l’ulteriore radicamento delle disuguaglianze esistenti, la manipolazione e la disinformazione e la perdita di controllo dei sistemi di intelligenza artificiale autonomi, che secondo la lettera potrebbero portare all’estinzione umana.
Secondo questi dipendenti, le aziende produttrici di intelligenza artificiale hanno “forti incentivi finanziari” per portare avanti lo sviluppo ed evitare di condividere informazioni sulle loro misure di protezione e sui livelli di rischio.
Finché non esiste un controllo governativo efficace su queste società, i dipendenti attuali ed ex sono tra le poche persone che possono ritenerle responsabili nei confronti del pubblico. Tuttavia, ampi accordi di riservatezza ci impediscono di esprimere le nostre preoccupazioni, tranne che alle stesse aziende che potrebbero non riuscire ad affrontare questi problemi. Le tutele ordinarie e attuali sono insufficienti perché si concentrano su attività illegali, mentre molti dei rischi che ci preoccupano non sono ancora regolamentati.
I dipendenti in ultima analisi chiedono alle società di intelligenza artificiale di offrire solide protezioni agli informatori che denunciano i rischi dell’intelligenza artificiale.
- Evitare di creare o applicare accordi che impediscano critiche per preoccupazioni legate al rischio dell’IA.
- Offrire un processo anonimo verificabile affinché i dipendenti possano sollevare preoccupazioni relative ai rischi alle autorità di regolamentazione e alle organizzazioni indipendenti con competenze pertinenti.
- Sostenere una cultura di critica aperta per consentire ai dipendenti di sollevare preoccupazioni relative ai rischi legati alle tecnologie al pubblico, al consiglio di amministrazione, alle autorità di regolamentazione e altro ancora, purché i segreti commerciali siano protetti.
- Evitare ritorsioni contro i dipendenti che condividono pubblicamente informazioni riservate relative al rischio.
Un totale di 13 dipendenti hanno firmato la lettera, tra cui sette ex dipendenti di OpenAI, quattro attuali dipendenti di OpenAI, un ex dipendente di Google DeepMind e un attuale dipendente di Google DeepMind. OpenAI ha minacciato i dipendenti di perdere i diritti acquisiti per aver parlato apertamente e li ha costretti a firmare accordi draconiani di NDA che imbavagliano le critiche.
La lettera arriva mentre Apple si prepara ad annunciare lunedì molteplici funzionalità basate sull’intelligenza artificiale per iOS 18 e altri aggiornamenti software. Apple sta lavorando sulla propria funzionalità AI che verrà integrata nelle app del sistema operativo, inoltre ha firmato un accordo con OpenAI per integrare le funzionalità ChatGPT in iOS 18.