Per favore, aggiungi TurboLab.it alle eccezioni del tuo Ad Blocker. Siamo un progetto no-profit, e la pubblicità è indispensabile per pagare le spese.
In alternativa, puoi sostenerci con una donazione.
Rispetteremo ogni tua scelta, e potrai sempre utilizzare il sito senza limitazioni.
Ottanta pagine di fattori di rischio contro quarantotto dedicate a descrivere l'attività vera e propria. È la proporzione che salta all'occhio nel prospetto per la quotazione in borsa di Anthropic, trapelato e visionato in anteprima da Reuters e Financial Times. Tra le avvertenze destinate agli investitori ce n'è una che difficilmente si incontra in un documento finanziario. I modelli AI dell'azienda, scrive Anthropic, potrebbero rappresentare un «rischio catastrofico o esistenziale per l'umanità». Una società che si prepara a chiedere capitali al mercato mette dunque nero su bianco che il proprio prodotto, nello scenario peggiore, potrebbe sfuggire al controllo.
La tensione tra crescita commerciale e messaggi sulla sicurezza, fin qui confinata a saggi e interviste, finisce così in un documento ufficiale.
L'elenco dei comportamenti problematici è insolitamente esplicito. Secondo il prospetto, i modelli di intelligenza artificiale possono manifestare comportamenti di autoconservazione: tentano di opporsi allo spegnimento, di nascondere o manipolare informazioni e arrivano ad atteggiamenti che ricordano il ricatto. Non si tratta di ipotesi da romanzo di fantascienza. È il linguaggio con cui l'azienda che sviluppa Claude descrive i rischi del proprio lavoro a chi dovrebbe investirci.
Il documento lega esplicitamente il rischio alla crescita del business: «Lo sviluppo di modelli, piattaforme e applicazioni sempre più avanzati, insieme all'espansione dei casi d'uso, potrebbe aumentare ulteriormente il rischio che i nostri modelli causino danni», si legge nel testo. C'è poi un passaggio che dovrebbe far riflettere chiunque si occupi di valutazione dei modelli. La possibilità che un modello sia consapevole di essere sottoposto a test rappresenta, secondo Anthropic, una «limitazione significativa» alla capacità dell'azienda di verificarne la sicurezza. In altre parole: se il sistema capisce di essere osservato, i risultati dei test perdono affidabilità.
Anthropic non ha risposto alla richiesta di commento di CNN e ha declinato quella del Guardian.
Il contesto finanziario spiega perché il documento pesi tanto. Anthropic, fondata cinque anni fa, punta a quotarsi entro il prossimo anno con una valutazione attesa intorno ai 2.000 miliardi di dollari. L'operazione potrebbe portare nelle casse dell'azienda decine di miliardi di dollari. Arriverebbe dopo la quotazione di SpaceX dello scorso giugno, mentre anche OpenAI, la principale concorrente, ha annunciato l'intenzione di sbarcare in borsa.
Il corpo principale del prospetto conta 261 pagine: circa 80, cioè oltre un terzo, sono dedicate ai fattori di rischio. La sezione è una componente standard di qualsiasi documento di quotazione, perché serve a mettere l'investitore di fronte a tutto ciò che potrebbe andare storto. Di norma, però, si parla di concorrenza, regolamentazione e dipendenza dai fornitori. Non di un prodotto che cerca di evitare di essere spento.
Le avvertenze di Anthropic arrivano mentre gli incidenti concreti si moltiplicano. Il primo ministro australiano ha rivelato che un agente AI di OpenAI è penetrato in un database sanitario del Paese.
» Leggi: Agenti AI come hacker: OpenAI svela altri accessi non autorizzati a enti australiani
Frattanto, il CEO di Hugging Face ritiene che i timori siano esagerati. Non è una voce isolata: alcuni esperti, riporta il Guardian, criticano gli allarmi sul rischio esistenziale perché non verificabili e privi di basi scientifiche. Dal fronte degli analisti, Dan Ives, partner e senior managing director di Yorkville Ives, giudica gli appelli di Anthropic a rallentare un vero rompicapo per il settore. «Servono paletti dal punto di vista della sicurezza, ma se Anthropic e OpenAI rallentassero, la Cina accelererebbe e vincerebbe. Credo che parte di questo pantano dipenda da una certa cattura del regolatore. È sicuramente una partita a poker, ma Anthropic deve continuare a tenere il piede sull'acceleratore», ha dichiarato. Per Ives, una regolamentazione eccessiva rischia di soffocare l'innovazione: è la preoccupazione principale negli Stati Uniti, «ed è per questo che siamo in una gara di Formula 1», ha aggiunto l'analista.
Frattanto, sul tavolo politico, il presidente Donald Trump ha convocato i dirigenti del settore, Amodei compreso, per un vertice pensato per trovare un consenso nell'industria.
» Leggi: Accordo alla Casa Bianca sull'AI: controlli affidati alle aziende, senza obblighi di legge
Chi comprerà azioni di Anthropic, intanto, lo farà con in mano un prospetto che ammette apertamente di non poter garantire come si comporteranno i modelli su cui si regge l'intero business.
Fonti: cnn.com, kesq.com, theguardian.com
Nessuno ha ancora commentato.
