Musk ha fallito più volte, OpenAI è emersa all’improvviso e la guerra dell’intelligenza artificiale nella Silicon Valley è iniziata dieci anni fa

Nota dell'editore: "Coloro che affermano di essere più preoccupati per la crisi che porterà l'intelligenza artificiale sono in realtà quelli che sono più determinati a crearla e a godersi la ricchezza che porta".

Questo articolo del New York Times ripercorre la battaglia sull'intelligenza artificiale della Silicon Valley che è in corso dal 2010:

1. Musk e il co-fondatore di Google Larry Page hanno "litigato" a una festa nel 2015. I due avevano atteggiamenti opposti nei confronti dello sviluppo dell'intelligenza artificiale.

2. Il fondatore di DeepMind, Demis Hassabis, ha usato per la prima volta gli scacchi per attirare l'attenzione di Peter Thiel. Con il supporto di Thiel, DeepMind ha guadagnato l'attenzione e gli investimenti di Musk ed è gradualmente cresciuta.

3. Il "Padrino dell'AI" Jeffrey Hinton ha tenuto un'"asta" e ciò che ha "venduto" era se stesso e la sua squadra. Alla fine, Google ha acquisito con successo il team del Dr. Hinton.

4. Questa asta simboleggia l'ingresso ufficiale dei giganti della Silicon Valley nella guerra dell'IA. DeepMind si è "andato in pensione" e ha deciso di vendere.

5. Dopo la vendita, DeepMind aveva originariamente un "comitato etico" per garantire lo sviluppo sicuro dell'intelligenza artificiale, ma alla fine questo comitato è diventato inefficace.

6. OpenAI rompe con Musk e si avvia verso la cooperazione con Microsoft.

7. Dario Amodei di OpenAI lascia per fondare Anthropic.

8. OpenAI ha superato l’“esame” di Bill Gates e GPT è stato considerato da quest’ultimo un’innovazione rivoluzionaria.

Indirizzo originale: https://www.nytimes.com/2023/12/03/technology/ai-openai-musk-page-altman.html

Autore originale: Cade Metz, Karen Weise, Nico Grant e Mike Isaac

Nel luglio 2015, Elon Musk ha festeggiato il suo 44esimo compleanno con una festa di tre giorni organizzata da sua moglie in un resort vinicolo della California costellato di chalet. Sono stati invitati solo parenti e amici, e i bambini hanno corso e giocato nella lussuosa proprietà della Napa Valley.

Mancavano ancora alcuni anni prima che Twitter diventasse X e Tesla diventasse redditizia. Il signor Musk e sua moglie Talulah Riley – l'attrice che interpreta il bellissimo ma pericoloso robot nel film di fantascienza della HBO "Westworld" – sono ancora vicini alla fine del loro secondo matrimonio, un anno fa. L'ospite della festa era Larry Page, allora CEO di Google. E l’intelligenza artificiale ha cominciato a diventare nota al pubblico solo qualche anno fa, quando è stata utilizzata per identificare i gatti su YouTube – con una precisione del 16%.

Quando Musk e Page chiacchierarono accanto al fuoco a bordo piscina dopo cena quella prima sera, l'intelligenza artificiale era l'argomento della loro conversazione. I due miliardari sono amici da più di un decennio, con il signor Musk che a volte scherzava dicendo che di tanto in tanto avrebbe passato la notte sul divano del signor Page dopo una sessione di gioco tutta notturna.

Ma l’atmosfera in quella notte luminosa divenne rapidamente tesa quando i due iniziarono a discutere se l’intelligenza artificiale alla fine avrebbe migliorato o distrutto l’umanità.

Man mano che la discussione si protraeva nella fresca notte, l'atmosfera diventava sempre più tesa, e alcuni dei trentenni partecipanti alla festa si erano riuniti per ascoltare più da vicino. Page descrive la sua visione di un'utopia digitale sottovoce, dopo aver sofferto di una condizione insolita che ha colpito le sue corde vocali per più di un decennio. Gli esseri umani finiranno per fondersi con le macchine artificialmente intelligenti, ha affermato. Un giorno ci saranno molti tipi di intelligenza in competizione per le risorse e la migliore vincerà.

Se ciò accade, ha detto Musk, siamo fregati. Le macchine distruggeranno l’umanità.

Con un grido di frustrazione, Page insiste che dovremmo perseguire l’utopia che descrive. Infine, ha definito Musk uno “specista”, qualcuno che preferisce gli esseri umani alle future forme di vita digitale.

Musk in seguito disse che l'umiliazione era "l'ultima goccia".

Mentre la folla si disperdeva, molti sembravano stupiti ma anche divertiti, supponendo che fosse proprio il tipo di dibattito esoterico che spesso avviene alle feste della Silicon Valley.

Otto anni dopo, tuttavia, il dibattito tra i due uomini sembra preveggente. Se l’intelligenza artificiale migliorerà il mondo o lo distruggerà, o almeno causerà gravi danni, ha dato vita a un dibattito tra imprenditori della Silicon Valley, utenti di chatbot, accademici, legislatori e regolatori sull’opportunità di controllarla o lasciarla andare. dibattito sullo sviluppo.

Quel dibattito ha messo l’uno contro l’altro un gruppo delle persone più ricche del mondo: Musk, Page, Mark Zuckerberg di Meta, l’investitore tecnologico Peter Thiel, Satya Satya Nadella di Microsoft e Sam Altman di OpenAI. Sono tutti in lizza per un pezzo di business che un giorno potrebbe valere trilioni di dollari, e per il potere di plasmarlo.

Al centro di questa competizione c’è un paradosso sconcertante. Coloro che affermano di essere più preoccupati per l’intelligenza artificiale sono quelli più determinati a crearla e a godersi la ricchezza che porterà. Giustificano le loro ambizioni con la ferma convinzione che solo loro possono impedire che l’intelligenza artificiale rappresenti un pericolo per il pianeta.

Poco dopo quella festa estiva, Musk e Page persero i contatti. Alcune settimane dopo, Musk cenò con Altman, che all’epoca gestiva un incubatore tecnologico, e diversi ricercatori in una stanza privata al Rosewood Hotel a Menlo Park, in California. Questo è un posto piuttosto popolare per parlare di collaborazioni perché è vicino agli uffici VC su Sand Hill Road.

Quella cena portò alla fondazione di una startup chiamata OpenAI nello stesso anno. Sostenuto da centinaia di milioni di dollari da Musk e altri investitori, il laboratorio promette di proteggere il mondo dalla visione di Page.

Grazie al chatbot ChatGPT, OpenAI ha cambiato radicalmente il settore tecnologico e ha dimostrato i rischi e il potenziale dell'intelligenza artificiale. OpenAI è stata valutata più di 80 miliardi di dollari, secondo due persone che hanno familiarità con l'ultimo round di finanziamento della società, sebbene la partnership tra Musk e Altman non sia durata. Da allora i due hanno smesso di parlarsi.

"C'è divisione, sfiducia, egoismo", ha detto Altman. "Quanto più persone si muovono nella stessa direzione, tanto più marcate sono le divisioni. Lo si vede anche nelle sette e nei gruppi religiosi. Sono quelli che sono più vicini gli uni agli altri ad avere le lotte più accese".

Il mese scorso le lotte intestine hanno raggiunto il consiglio di amministrazione di OpenAI. I membri ribelli del consiglio cercarono di cacciare Ultraman perché credevano di non poter più fidarsi di lui per costruire un'intelligenza artificiale che potesse avvantaggiare l'umanità. Dopo cinque giorni di caos, OpenAI sembrava destinata al collasso, finché il consiglio non si è tirato indietro sotto la pressione di importanti investitori e dipendenti che hanno minacciato di seguire Altman.

La drammatica battaglia all’interno di OpenAI ha dato al mondo il primo assaggio della furiosa battaglia tra coloro che determineranno il futuro dell’IA.

Ma pochi anni prima della quasi debacle di OpenAI, nella Silicon Valley c’era una concorrenza poco conosciuta ma feroce per le tecnologie che ora stanno rapidamente rimodellando il mondo, riscrivendo tutto, dal modo in cui educhiamo i nostri figli a come combattere una guerra. Il New York Times ha intervistato più di 80 dirigenti, scienziati e imprenditori, tra cui due che hanno partecipato alla festa di compleanno di Musk nel 2015, per raccontare questa storia di ambizione, paura e denaro.

La nascita di DeepMind

Cinque anni prima di quella festa nella Napa Valley, e due anni prima del successo dei video di gatti su YouTube, il neuroscienziato 34enne Demis Hassabis entrò nel film di Peter Thiel. Durante un cocktail party in una residenza di San Francisco, si rese conto di aver trovato l'oro. Nel soggiorno di Tierna, che si affaccia sul Palazzo delle Arti e sullo Stagno dei Cigni, c'è una scacchiera. Il dottor Hassabis una volta era il secondo giocatore di scacchi al mondo nella categoria under 14.

"Mi sono preparato per quell'incontro per un anno", ha detto il dottor Hassabis. "Ho pensato che sarebbe stato il mio punto di partenza unico: sapevo che amava giocare a scacchi."

Nel 2010, il dottor Hassabis e due suoi colleghi, che vivevano nel Regno Unito, stavano cercando finanziamenti per iniziare a costruire una "intelligenza artificiale generale" o AGI, una macchina in grado di fare tutto ciò che fa un cervello. All’epoca poche persone erano interessate all’intelligenza artificiale. Dopo mezzo secolo di ricerca, il campo dell’intelligenza artificiale non è riuscito a produrre nulla di simile al cervello umano.

Tuttavia, alcuni scienziati e pensatori hanno sviluppato opinioni ostinate sugli impatti negativi dell’intelligenza artificiale. Molti, come questi tre giovani britannici, sono imparentati con il filosofo di Internet e ricercatore autodidatta di intelligenza artificiale Eliezer Yudkowsky. Il signor Yudokowsky era un leader della comunità che si definiva un "razionalista", che in seguito divenne noto come un "altruista efficace".

Credono che l’intelligenza artificiale possa trovare una cura per il cancro o risolvere il cambiamento climatico, ma temono che i robot IA possano fare cose che vanno contro le intenzioni dei loro creatori. Se le macchine diventassero più intelligenti degli esseri umani, sostengono i razionalisti, potrebbero rivoltarsi contro i loro creatori.

Thiel ha accumulato una fortuna attraverso i suoi primi investimenti in Facebook e la sua prima collaborazione con Musk su PayPal. È rimasto affascinato dalla singolarità, un tema della fantascienza che descrive il momento in cui la tecnologia intelligente non può più essere controllata dagli esseri umani.

Con il finanziamento di Thiel, Yudokovsky ampliò il suo laboratorio di intelligenza artificiale e creò una conferenza annuale sulla Singolarità. Anni fa, uno dei due colleghi del dottor Hassabis incontrò Yudokowsky. Ha dato loro la possibilità di parlare alle riunioni e si è assicurato che fossero invitati alle feste di Till.

Il signor Yudkowsky ha presentato il dottor Hassabis a Thiel. Hassabis pensava che ci sarebbero state molte persone alla festa che avrebbero cercato di spremere soldi da Thiel. La sua strategia era organizzare un altro incontro. Disse a Teal che i rapporti tra il vescovo e il cavaliere erano tesi. I due pezzi hanno lo stesso valore, ma i migliori giocatori capiscono che i loro vantaggi sono molto diversi.

Ha funzionato. Affascinato, Teal li invitò a tornare il giorno successivo per incontrarsi in cucina. Il conduttore aveva appena terminato il suo allenamento mattutino e il suo corpo luccicava di sudore. Uno steward gli porse una Diet Coke. Tutti e tre lanciarono la loro proposta e presto Thiel e la sua società di venture capital decisero di investire 1,4 milioni di sterline (circa 2,25 milioni di dollari) nella loro startup. È stato il loro primo investitore significativo.

Hanno chiamato l'azienda DeepMind, un riferimento al "deep learning" (un modo con cui i sistemi di intelligenza artificiale apprendono competenze analizzando grandi quantità di dati), alle neuroscienze e al supercomputer dal pensiero profondo descritto nel romanzo di fantascienza "The Hitchhiker's Guide to the Galassia." Nell'autunno del 2010 stavano costruendo la macchina dei loro sogni. Credono fermamente di essere in una posizione unica per proteggere il mondo perché ne comprendono i rischi.

“Non penso che sia una posizione contraddittoria”, ha detto Mustafa Suleyman, uno dei tre fondatori di DeepMind. "Queste tecnologie porteranno enormi benefici. L'obiettivo non è eliminarne o sospenderne lo sviluppo. L'obiettivo è ridurne gli impatti negativi."

Dopo aver ottenuto il sostegno di Thiel, il dottor Hassabis è entrato gradualmente nel campo visivo di Musk. Si sono incontrati circa due anni dopo in una conferenza organizzata dal fondo di investimento di Thiel, che ha investito anche nella società di Musk, SpaceX. Il dottor Hassabis ha organizzato un tour del quartier generale di SpaceX. Successivamente, i due hanno pranzato e parlato nella sala mensa con i proiettili di razzi appesi al soffitto.

Il signor Musk ha spiegato che il suo piano è colonizzare Marte come un modo per sfuggire alla sovrappopolazione e ad altri pericoli sulla Terra. Il dottor Hassabis ha risposto che questo piano funzionerà, a condizione che le macchine super-intelligenti non seguano gli umani su Marte e non distruggano gli umani su Marte.

Musk era senza parole. Non aveva mai considerato questo particolare pericolo. Musk ha investito rapidamente in DeepMind insieme a Thiel per essere più vicino alla creazione della tecnologia.

Con ampi finanziamenti, DeepMind impiega ricercatori specializzati in reti neurali, algoritmi complessi modellati sul cervello umano. Una rete neurale è essenzialmente un gigantesco sistema matematico che impiega giorni, settimane o addirittura mesi a identificare modelli in grandi quantità di dati. Sviluppati originariamente negli anni ’50, questi sistemi possono imparare a gestire le attività da soli. Ad esempio, dopo aver analizzato centinaia di nomi e indirizzi scritti a mano sulle buste, possono leggere il testo scritto a mano.

DeepMind porta ulteriormente questo concetto. Ha costruito un sistema in grado di imparare a giocare ai classici giochi Atari come Space Invaders, Pong e Breakout per dimostrare il suo potenziale.

Ciò ha attirato l'attenzione di Google, un altro colosso della Silicon Valley, in particolare di Larry Page. Ha visto una dimostrazione della macchina di DeepMind mentre giocava a un gioco Atari. Voleva farne parte.

Asta dei talenti

Nell’autunno del 2012, Geoffrey Hinton, un professore di 64 anni dell’Università di Toronto, e due studenti laureati hanno pubblicato un documento di ricerca che dimostrava al mondo le capacità dell’intelligenza artificiale. Hanno addestrato una rete neurale a riconoscere oggetti comuni come fiori, cani e automobili.

Gli scienziati sono rimasti sorpresi dall'accuratezza della tecnologia costruita dal dottor Hinton e dai suoi studenti. Una persona particolarmente preoccupata per questo è Yu Kai, un ricercatore di intelligenza artificiale che ha incontrato il dottor Hinton a una conferenza di ricerca e recentemente ha iniziato a lavorare per il colosso cinese di Internet Baidu. Secondo tre persone a conoscenza della questione, Baidu ha offerto al dottor Hinton e ai suoi studenti 12 milioni di dollari per unirsi all'azienda con sede a Pechino.

Il dottor Hinton ha rifiutato Baidu, ma i soldi hanno attirato la sua attenzione.

L'espatriato britannico laureato a Cambridge, che ha trascorso la maggior parte del suo tempo nel mondo accademico, a parte periodi occasionali presso Microsoft e Google, non apprezza particolarmente il denaro. Ma i suoi figli sono affetti da neurodiversità e il denaro significherebbe sicurezza finanziaria.

"Non sappiamo quale sia il nostro valore", ha detto il dottor Hinton. Si è consultato con avvocati ed esperti di acquisizioni, poi ha elaborato un piano: "Organizzeremo un'asta e ci venderemo." L'asta si svolgerà durante la conferenza annuale sull'intelligenza artificiale all'Harrah's Hotel e Casinò Lake Tahoe.condotta.

Le grandi aziende tecnologiche stanno iniziando a prenderne atto. Aziende come Google, Microsoft e Baidu hanno iniziato a credere che le macchine fornite dalle reti neurali non solo avranno la capacità di vedere, ma anche di ascoltare, scrivere, parlare e, alla fine, persino di pensare.

Page aveva visto una tecnologia simile nel laboratorio di intelligenza artificiale della sua azienda, Google Brain, e pensava che la ricerca del dottor Hinton potesse migliorare il lavoro dei suoi scienziati. In sostanza ha dato ad Alan Eustace, vicepresidente senior e ingegnere di Google, un assegno non numerato per assumere tutti gli esperti di intelligenza artificiale di cui aveva bisogno.

Il signor Eustace e Jeff Dean, che gestisce Brain Labs, sono volati a Lake Tahoe e hanno organizzato una cena con il dottor Hinton e i suoi studenti in una steakhouse di un hotel la sera prima dell'asta. Il dottor Dean ha ricordato che c'era un forte odore di fumo di sigaretta vecchia. Hanno convinto il dottor Hinton e i suoi studenti a lavorare presso Google.

Il giorno successivo, il dottor Hinton condusse l'asta nella sua camera d'albergo. Si siede raramente a causa di un vecchio infortunio. Ha capovolto un bidone della spazzatura su un tavolo, ha posizionato sopra il suo laptop e ha osservato le offerte arrivare nei due giorni successivi.

Google ha fatto un'offerta. Lo stesso vale per Microsoft. Con l'aumento dei prezzi, DeepMind è uscito rapidamente. I giganti del settore hanno spinto l’offerta fino a 20 milioni di dollari e poi a 25 milioni di dollari, secondo i dettagli dell’asta. Microsoft si ritirò quando il prezzo superò i 30 milioni di dollari, ma riprese a partecipare all'asta a 37 milioni di dollari.

"Abbiamo pensato che fosse come un film", ha detto il dottor Hinton.

Successivamente, Microsoft si è ritirata dalla gara per la seconda volta. Sono rimasti solo Baidu e Google, che hanno spinto i prezzi delle loro offerte a 42 milioni di dollari e 43 milioni di dollari. Alla fine, con 44 milioni di dollari, il dottor Hinton e i suoi studenti hanno chiuso l'asta. Anche se le offerte sono ancora in aumento, vogliono lavorare per Google. E la quantità di denaro è già abbastanza impressionante.

È un chiaro segnale che le aziende dalle tasche profonde sono determinate ad accaparrarsi i ricercatori più talentuosi nel campo dell’intelligenza artificiale, cosa di cui si rende conto anche il Dr. Hassabis di DeepMind. Ha detto ai suoi dipendenti che DeepMind rimarrà un'azienda indipendente. Crede che questo sia il modo migliore per garantire che la sua tecnologia non si trasformi in qualcosa di pericoloso.

Ma quando le grandi aziende tecnologiche sono entrate nella competizione per i talenti, ha deciso di non avere scelta: era ora di vendere.

Secondo tre persone a conoscenza della questione, entro la fine del 2012 Google e Facebook stavano cercando di acquisire il laboratorio di Londra. Il dottor Hassabis e i suoi cofondatori hanno insistito su due condizioni: la tecnologia di DeepMind non poteva essere utilizzata per scopi militari e la sua tecnologia di intelligenza artificiale doveva essere supervisionata da un comitato indipendente di tecnologi ed esperti di etica.

L'offerta di Google era di 650 milioni di dollari. Mark Zuckerberg di Facebook ha offerto al fondatore di DeepMind un prezzo più alto ma non è stato d'accordo con i termini. Alla fine DeepMind è stata venduta a Google.

Zuckerberg ha deciso di costruire il proprio laboratorio di intelligenza artificiale. Assunse Yann LeCun, uno scienziato informatico francese che aveva anche svolto ricerche innovative sull'intelligenza artificiale, per gestire il laboratorio. Un anno dopo l’asta del dottor Hinton, Zuckerberg e il dottor LeChun volarono a Lake Tahoe per partecipare alla stessa conferenza sull’intelligenza artificiale. In una suite dell'Harrah's Casino, il signor Zuckerberg andava in giro con i calzini, intervistando personalmente i migliori ricercatori a cui furono subito offerti milioni di dollari in salari e azioni.

Una volta l’intelligenza artificiale veniva ridicolizzata. Ora le persone più ricche della Silicon Valley stanno spendendo miliardi per evitare di rimanere indietro nella corsa.

Il comitato etico scomparso

Quando Musk ha investito in DeepMind, ha infranto una regola non ufficiale secondo cui non avrebbe investito in nessuna azienda che non gestisse. L'impatto negativo di questa decisione divenne evidente solo circa un mese dopo il suo litigio in occasione del suo compleanno, quando si trovò di fronte al suo ex amico e collega miliardario.

Questa occasione è stata la prima riunione del Comitato Etico di DeepMind, tenutasi il 14 agosto 2015. Su insistenza dei fondatori, fu formato un comitato per garantire che la loro tecnologia non causasse danni se venduta. Secondo tre persone che avevano familiarità con l'incontro, i membri del comitato si sono riuniti in una sala conferenze fuori dall'ufficio SpaceX di Musk, con finestre che si affacciano sulla sua fabbrica di razzi.

Tuttavia, è qui che finisce il controllo di Musk. Quando Google ha acquisito DeepMind, ha acquistato l’intera azienda. Il muschio è stato espulso. Anche se stava guadagnando soldi finanziariamente, non era felice.

Tre dirigenti di Google ora hanno il controllo saldo di DeepMind: Page; il co-fondatore di Google e investitore di Tesla Sergey Brin; e il presidente di Google Eric Schmidt (Eric Schmidt). Tra gli altri partecipanti c'erano Reid Hoffman, un altro fondatore di PayPal, e Toby Ord, un filosofo australiano che studia il rischio esistenziale.

I fondatori di DeepMind riferiscono che stanno andando avanti con il loro lavoro, ma sono consapevoli che la tecnologia comporta seri rischi.

Suleiman, co-fondatore di DeepMind, ha tenuto un discorso dal titolo "The Rising People Are Coming". Ha detto al consiglio che l’intelligenza artificiale potrebbe portare a un’esplosione di disinformazione. Teme che nei prossimi anni, man mano che la tecnologia sostituirà innumerevoli posti di lavoro, il pubblico incolperà Google per avergli tolto i mezzi di sostentamento. Crede che Google debba condividere la sua ricchezza con milioni di disoccupati e fornire un "reddito di base universale".

Musk è d'accordo. Ma è chiaro che i suoi ospiti su Google non hanno alcuna intenzione di redistribuire la ricchezza. Schmidt ha affermato di ritenere che le preoccupazioni siano del tutto esagerate. Il signor Page acconsentì con la sua solita voce bassa. Ha sostenuto che l’intelligenza artificiale creerebbe più posti di lavoro di quanti ne toglierebbe.

Otto mesi dopo, DeepMind ha ottenuto una svolta che ha scioccato la comunità dell’intelligenza artificiale e il mondo. Una macchina DeepMind chiamata AlphaGo ha sconfitto uno dei migliori giocatori di Go al mondo. La partita è stata trasmessa in diretta su Internet ed è stata vista da 200 milioni di persone in tutto il mondo. La maggior parte dei ricercatori pensava che ci sarebbe voluto un altro decennio prima che l’intelligenza artificiale avesse le capacità innovative per farlo.

Razionalisti, altruisti efficaci e altri preoccupati per i rischi dell’intelligenza artificiale affermano che il trionfo dei computer conferma le loro paure.

"Questo è un altro segno che l'intelligenza artificiale sta avanzando più velocemente di quanto molti esperti si aspettassero", ha scritto in un post sul blog Victoria Krakovna, che si unirà a DeepMind come ricercatrice sulla "sicurezza dell'intelligenza artificiale".

I fondatori di DeepMind erano sempre più preoccupati per il modo in cui Google avrebbe utilizzato la loro invenzione. Nel 2017 hanno cercato di separarsi dall'azienda. In risposta, Google ha aumentato gli stipendi e i premi azionari dei fondatori di DeepMind e dei loro dipendenti. Hanno scelto di restare.

Il comitato etico non si è mai riunito una seconda volta.

separato

Convinto che l'ottimismo di Page sull'intelligenza artificiale fosse completamente fuori luogo e arrabbiato per aver perso DeepMind, Musk costruì il suo laboratorio.

OpenAI è stata fondata alla fine del 2015, pochi mesi dopo che lui e Sam Altman si erano incontrati al Rosewood Hotel nella Silicon Valley. Musk ha versato denaro nel laboratorio e i suoi ex partner PayPal, i signori Hoffman e Thiel, si sono uniti allo sforzo. Il trio e altri hanno promesso 1 miliardo di dollari al progetto, che Altman, allora trentenne, avrebbe contribuito a gestire. Per avviare il progetto, hanno assunto Ilya Sutskever di Google. (Il dottor Sutskwei era uno degli studenti laureati che Google ha “acquistato” all’asta del dottor Hinton.)

Inizialmente, Musk voleva gestire OpenAI come organizzazione no-profit, lontano dagli interessi finanziari guidati da aziende come Google. Ma mentre Google sta scioccando il mondo tecnologico con le sue prestazioni Go, Musk sta cambiando idea su come dovrebbe funzionare OpenAI. Voleva disperatamente che OpenAI inventasse qualcosa che catturasse l'immaginazione del mondo e lo avvicinasse a Google, ma essendo un'organizzazione no-profit non è stata in grado di portare a termine il lavoro.

Alla fine del 2017, ha escogitato un piano per cercare di strappare il controllo del laboratorio ad Altman e agli altri fondatori e trasformarlo in un'operazione commerciale, unendo le forze con Tesla e facendo affidamento sulle supercar che la società automobilistica stava sviluppando. quattro persone che hanno familiarità con la questione.

Quando Altman e altri si opposero, Musk si ritirò e disse che si sarebbe concentrato sul proprio lavoro sull’intelligenza artificiale presso Tesla. Ha annunciato la sua partenza ai dipendenti di OpenAI nel febbraio 2018 all'ultimo piano degli uffici della startup in una fabbrica di camion riconvertita, hanno detto tre persone che hanno partecipato all'incontro. Quando ha detto che OpenAI doveva muoversi più velocemente, un ricercatore presente alla riunione ha ribattuto che il comportamento di Musk era sconsiderato.

Musk ha definito il ricercatore "stupido" e se n'è andato, portando con sé la sua vasta fortuna.

OpenAI aveva improvvisamente bisogno di nuovi finanziamenti. Altman è volato a Sun Valley per una conferenza e si è imbattuto nel CEO di Microsoft Satya Nadella. L'unione tra i due sembrava naturale. Altman conosceva Kevin Scott, chief technology officer di Microsoft. Microsoft ha acquisito LinkedIn dal membro del consiglio di amministrazione di OpenAI Hoffman. Nadella ha incaricato Scott di portarlo a termine. L'accordo è stato completato nel 2019.

Altman e OpenAI, che hanno costituito una società a scopo di lucro sotto l’originale ombrello no-profit, hanno 1 miliardo di dollari di nuovo capitale e Microsoft ha trovato un nuovo modo per incorporare l’intelligenza artificiale nel suo massiccio servizio di cloud computing.

Ma non tutti in OpenAI sono contenti.

Il ricercatore Dario Amodei è associato alla comunità Effective Altruism ed era già presente quando OpenAI è nata al Rosewood Hotel. Il dottor Amoudi, che continua ad arricciarsi i riccioli mentre parla, è a capo di un laboratorio che sta costruendo una rete neurale chiamata modello linguistico di grandi dimensioni in grado di apprendere da grandi quantità di testo digitale. Genera testo in modo autonomo analizzando innumerevoli articoli di Wikipedia, libri digitali e bacheche. Ha anche la sfortunata abitudine di inventare le cose. Si chiama GPT-3 ed è stato rilasciato nell'estate del 2020.

I ricercatori di OpenAI, Google e altre società ritengono che questa tecnologia in rapido miglioramento possa essere la strada verso l’AGI.

Tuttavia, il dottor Amodei è insoddisfatto dell'accordo con Microsoft perché ritiene che stia portando OpenAI in una direzione molto commerciale. Lui e altri ricercatori hanno cercato di fare pressione sul consiglio per estromettere il signor Altman, secondo cinque persone a conoscenza della questione. Ma fallirono e se ne andarono. Come i fondatori di DeepMind prima di loro, temevano che i loro nuovi capi aziendali avrebbero anteposto gli interessi commerciali alla sicurezza.

Nel 2021, circa 15 ingegneri e scienziati hanno creato un nuovo laboratorio chiamato Anthropic. Il loro piano è quello di costruire l’intelligenza artificiale nel modo in cui gli altruisti efficaci pensano che dovrebbe essere costruita, con controlli molto rigorosi.

"I cofondatori di Anthropic non stanno cercando di rimuovere Sam Altman da OpenAI", ha detto la portavoce di Anthropic, Sally Aldous. "Gli stessi cofondatori sono giunti alla conclusione di voler lasciare OpenAI per avviare una propria azienda, lo hanno chiarito alla leadership di OpenAI e in poche settimane hanno negoziato la loro uscita a condizioni reciprocamente accettabili."

Anthropic ha ricevuto un investimento di 4 miliardi di dollari da Amazon e due anni dopo ha ricevuto altri 2 miliardi di dollari da Google.

svelare

Quando OpenAI si assicurò un ulteriore investimento di 2 miliardi di dollari da parte di Microsoft, Altman e un altro dirigente, Greg Brockman, si recarono nella villa di Bill Gates sulle rive del lago Washington, fuori Seattle. Anche se il fondatore di Microsoft non è più coinvolto nelle operazioni quotidiane dell'azienda, rimane in contatto regolare con i dirigenti dell'azienda.

Durante la cena, Gates disse loro che non era sicuro che i grandi modelli linguistici avrebbero funzionato. Ha detto che sarebbe rimasto scettico a meno che la tecnologia non fosse in grado di gestire compiti che richiedono pensiero critico, come superare un esame di biologia Advanced Placement.

Cinque mesi dopo, il 24 agosto 2022, Altman e Brockman tornarono e portarono con sé una ricercatrice OpenAI di nome Chelsea Voss. La signora Voss è stata una vincitrice delle Olimpiadi internazionali di biologia al liceo. Erano presenti anche il signor Nadella e altri dirigenti Microsoft.

Su un grande display digitale fuori dal soggiorno di Gates, il team OpenAI ha dimostrato una tecnologia chiamata GPT-4.

Il signor Brockman ha sottoposto il sistema a domande a scelta multipla durante un esame di biologia avanzata e la signora Voss ha valutato le risposte. La prima domanda riguarda le molecole polari, che sono gruppi di atomi con una carica positiva da un lato e una carica negativa dall'altro. Il sistema ha risposto correttamente alla domanda e ha spiegato le sue scelte. "Lo abbiamo solo addestrato a fornire risposte", ha detto Brockman. "La natura colloquiale è emersa magicamente." In altre parole, stava facendo qualcosa per cui non era stato progettato.

Su 60 domande, GPT-4 ha ottenuto solo una risposta sbagliata.

Il signor Gates si mise a sedere con la schiena dritta, con gli occhi spalancati. Ebbe una reazione simile nel 1980, quando i ricercatori gli mostrarono l'interfaccia utente grafica che divenne la base dei moderni personal computer. Crede che GPT sia così rivoluzionario.

Entro ottobre, Microsoft aveva aggiunto la tecnologia ai suoi servizi online, compreso il motore di ricerca Bing. Due mesi dopo, OpenAI ha rilasciato il suo chatbot ChatGPT, che ora viene utilizzato da 100 milioni di persone ogni settimana.

OpenAI ha sconfitto l’Efficace Altruista di Anthropic. Gli ottimisti di Page in Google si sono affrettati a rilasciare il proprio chatbot, Bard, ma è stato ampiamente visto come se avesse perso la corsa contro OpenAI. Tre mesi dopo il rilascio di ChatGPT, le azioni di Google sono scese dell'11%. Il signor Musk non si trovava da nessuna parte.

Ma tutto questo è solo l'inizio.

# Benvenuti a seguire l'account pubblico WeChat ufficiale di aifaner: aifaner (ID WeChat: ifanr). Contenuti più interessanti ti verranno forniti il ​​prima possibile.

Ai Faner | Link originale · Visualizza commenti · Sina Weibo