OpenAI ha messo in guardia sulla scoperta dell'intelligenza artificiale che potrebbe minacciare l'umanità

Il giorno prima esilio Sam Altman, CEO di OpenAI, diversi ricercatori dello staff dell'azienda hanno scritto al consiglio di amministrazione lettera di avvertimento sulla scoperta di una potente intelligenza artificiale, che secondo loro "potrebbe minacciare all'umanità." A questo proposito con riferimento alle nostre fonti scrive Reuters.

È stata questa lettera ad essere citata come uno dei fattori nella lunga lista di denunce del consiglio di amministrazione che hanno portato al licenziamento di Altman. Reuters non è stata in grado di parlare personalmente con gli autori o ottenere commenti da OpenAI. Tuttavia, dopo tale richiesta, l'azienda, in un messaggio interno ai dipendenti, ha annunciato l'esistenza di un determinato progetto chiamato Q* (pronunciato Q-Star).

Alcuni dipendenti di OpenAI ritengono che Q* potrebbe rappresentare una svolta nel cosiddetto intelligenza artificiale generale

(AGI). OpenAI lo caratterizza come un sistema autonomo che supera gli esseri umani nei compiti economicamente più importanti.

Finora, secondo una fonte, Q* può eseguire solo problemi di matematica a livello elementare. scuole, ma il completamento con successo di tali test dà ai ricercatori un grande ottimismo riguardo alle prospettive sviluppo.

La differenza principale tra tale intelligenza artificiale è che è in grado di fissare obiettivi, dividere problemi complessi in problemi più piccoli, lavorare su un’ampia gamma di problemi e trovare soluzioni tenendo conto del contesto di diversi domini. In poche parole, tale intelligenza, in teoria, può sostituire uno specialista altamente qualificato con conoscenze, competenze e una vasta esperienza.

I ricercatori ritengono che la matematica sia la punta di diamante dell’intelligenza artificiale generativa. Al giorno d'oggi è bravo a scrivere e tradurre, prevedendo statisticamente la parola successiva, e le risposte alla stessa domanda possono variare notevolmente. Ma conquistare la matematica (dove esiste una sola risposta corretta) implica che l’intelligenza artificiale avrà capacità di ragionamento più ampie che assomigliano all’intelligenza umana. Ciò può essere applicato, ad esempio, alla nuova ricerca scientifica, dicono gli esperti.

Nella loro lettera al consiglio di amministrazione, i ricercatori hanno sottolineato la potenza dell’intelligenza artificiale e i potenziali pericoli. Hanno anche notato il lavoro di un gruppo speciale di “scienziati dell’intelligenza artificiale”, la cui esistenza è stata confermata da numerose fonti. Il team sta studiando come ottimizzare i modelli di intelligenza artificiale esistenti per migliorare il loro ragionamento e, in definitiva, eseguire un lavoro scientifico con essi, ha detto una delle persone.

Altman ha guidato l'impegno per rendere ChatGPT una delle applicazioni software in più rapida crescita nel mondo storia e ha attirato da Microsoft gli investimenti e le risorse informatiche necessarie per realizzarlo AGI. E poco prima del suo licenziamento, al vertice dei leader mondiali a San Francisco, ha annunciato alcuni “seri risultati che sono proprio dietro l’angolo”.

Il giorno dopo, il consiglio licenziò Altman.

Forse un giorno tutte queste decisioni ed eventi costituiranno la base di un libro, di un intero film o addirittura di un manuale di storia.