Altman: “Ecco i due scenari da evitare nello sviluppo dell’intelligenza artificiale”
Sam Altman, amministratore delegato di OpenAI, ha recentemente espresso la sua opinione sulla necessità di rallentare lo sviluppo dell'intelligenza artificiale per gestire i rischi associati ai sistemi avanzati. In un post sui social, ha identificato due scenari da evitare nel progresso dell'IA. Il primo è la perdita di controllo da parte dell'umanità, sottolineando che l'IA deve sempre servire le persone. Altman ha affermato che le tecniche di allineamento e sicurezza devono progredire più rapidamente delle capacità dei modelli.
Il secondo rischio riguarda la concentrazione del potere. Se un sistema di intelligenza artificiale potente venisse monopolizzato da un individuo o un'azienda, i risultati potrebbero essere estremamente negativi. Altman ha avvertito che è fondamentale seguire un approccio equilibrato per evitare che il potere si concentri in un singolo paese o laboratorio.
Nel contesto di un dibattito in corso tra le aziende tecnologiche sul ritmo di sviluppo dell'IA, Altman ha chiarito che non si tratta di fermare il progresso, ma di rallentarlo rispetto al potenziale. Ha sottolineato l'importanza di strumenti come i safety cases e il monitoraggio, che, sebbene costosi, sono necessari per garantire uno sviluppo responsabile.
Altman ha anche proposto l'adozione di un quadro federale per stabilire requisiti di sicurezza uniformi e ha evidenziato la necessità di regole comuni per gestire i rischi dei sistemi avanzati. Ha concluso affermando che il coordinamento internazionale sarà essenziale, ma che le aziende devono iniziare a lavorare autonomamente per affrontare queste sfide.
