Elon Musk ha esortato a sospendere i grandi esperimenti con l'IA

Miscellanea / by admin / April 03, 2023

click fraud protection

È stato supportato dai principali ricercatori del settore.

L'organizzazione no-profit Future of Life Institute ha pubblicato una lettera aperta firmata da Elon Musk, co-fondatore di Apple Steve Wozniak, il co-fondatore di Skype Jaan Tallinn, così come altri ricercatori e dirigenti di IA di grandi aziende.

La lettera sostiene che i laboratori sono bloccati in una "corsa fuori controllo" per sviluppare e applicare sistemi di apprendimento automatico che “nessuno, nemmeno i loro creatori, può comprendere, prevedere o con sicurezza controllo". Ecco cosa suggeriscono gli autori:

Chiediamo a tutti i laboratori di intelligenza artificiale di sospendere immediatamente la formazione sui sistemi di intelligenza artificiale superiori a GPT-4 per almeno 6 mesi. La sospensione delle operazioni deve essere pubblica e verificabile e tutti i principali attori devono essere coinvolti. Se non è possibile fermarsi nel prossimo futuro, i governi dei paesi dovrebbero intervenire e imporre una moratoria.

Da Pause Giant AI Experiments: una lettera aperta

instagram viewer

La lettera esprime anche insoddisfazione per la posizione "lo rilasceremo così com'è, lo ripareremo in seguito" durante lo sviluppo di reti neurali (ricorda almeno bardo da Google). Anche IA aperta ha già sollevato la potenziale necessità di futuri audit di sicurezza dell'IA. Gli autori della lettera ritengono che questo futuro sia già arrivato.

Gli sviluppatori di intelligenza artificiale e gli esperti indipendenti dovrebbero sfruttare questa pausa per sviluppare e implementare congiuntamente protocolli di sicurezza unificati per sistemi di IA complessi, il cui rispetto sarà verificato da soggetti esterni indipendenti esperti. Tali protocolli contribuiranno a garantire che i sistemi siano sufficientemente sicuri da utilizzare.

Da Pause Giant AI Experiments: una lettera aperta

Si può leggere il testo integrale della lettera Qui.