Ora anche i capi delle aziende di AI dicono che bisogna stare attenti

Dario Amodei – l’amministratore delegato di Anthropic, una delle più importanti aziende del settore dell’intelligenza artificiale e conosciuta soprattutto per il chatbot Claude – ha scritto un articolo molto commentato in cui sostiene che serva rallentare lo sviluppo dell’intelligenza artificiale per valutarne bene i rischi. Tra questi ha indicato la perdita di controllo dei sistemi, la possibilità che decidano autonomamente attacchi informatici, nonché le loro conseguenze economiche.

Amodei aveva già parlato diverse volte in passato di questi temi, meno della necessità di avere maggiore prudenza. «Dobbiamo rallentare il ritmo con cui miglioriamo le capacità dei modelli di intelligenza artificiale. I progressi sembreranno lo stesso rapidi, e dobbiamo fare un uso oculato del tempo che guadagniamo», ha scritto. Le sue parole sono state molto riprese, e si sono detti sorprendentemente d’accordo anche altri personaggi di spicco del settore, come Sam Altman – l’amministratore delegato di OpenAI, l’azienda dietro Chat GPT – ed Elon Musk, il quale tra le altre cose è anche a capo di una società di intelligenza artificiale, xAI.

Nel suo articolo Amodei ha proposto un piano in tre punti che include il monitoraggio indipendente dei modelli di intelligenza artificiale durante la fase di sviluppo, una regolamentazione a livello di settore e una regolamentazione globale.

Del resto sono giorni in cui le società che si occupano di intelligenza artificiale, tra cui proprio Anthropic e OpenAI, stanno affrontando le accuse pubbliche di ex dipendenti che denunciano scelte aziendali spregiudicate nello sviluppo dei nuovi modelli.

In particolare due ex dipendenti di Anthropic hanno detto che c’è il rischio concreto che l’intelligenza artificiale possa «sterminare l’umanità entro la fine del decennio». Sostengono inoltre che le aziende del settore non si stanno comportando «in modo responsabile» e che prese da questa competizione senza regole stanno andando verso lo sviluppo di sistemi che alla fine non saranno in grado di controllare.

Queste dichiarazioni hanno contribuito a indebolire la reputazione che negli ultimi anni Anthropic si era fatta di azienda più cauta e scrupolosa rispetto ad altre del settore. In passato Anthropic aveva precedentemente reso pubblico di aver individuato e contrastato tentativi di utilizzare il suo modello di intelligenza artificiale per attività che avrebbero potuto supportare lo sviluppo di armi biologiche. Si era ritrovata anche in un caso politico e giudiziario con il governo statunitense per aver chiesto che i suoi sistemi non venissero usati dal dipartimento della Difesa per la sorveglianza di massa o per armi completamente autonome.

La reputazione di azienda più attenta è dunque in parte meritata, ma in parte anche costruita e sovrastimata.

– Leggi anche: L’intelligenza artificiale potrebbe ucciderci tutti?