Ricercatore di Anthropic si dimette: “Umanità a rischio entro la fine del decennio”
Un ricercatore di Anthropic, Jacob Coxon, ha rassegnato le dimissioni avvertendo che l'evoluzione dell'intelligenza artificiale potrebbe rappresentare un rischio esistenziale per l'umanità entro la fine del decennio. Coxon, 27 anni e originario del Regno Unito, ha espresso preoccupazioni riguardo alla corsa allo sviluppo di una super intelligenza capace di auto-migliorarsi, definendo il comportamento delle aziende come una sorta di "gioco d'azzardo" con il futuro dell'umanità.
In un post su X, ha dichiarato: "Le persone che sviluppano l'IA credono sinceramente che essa possa ucciderci tutti entro la fine del decennio". Le sue dimissioni si inseriscono in un contesto di crescente allerta tra i ricercatori nel settore, con diversi scienziati che hanno lasciato Anthropic e altre aziende per motivi simili. Tra questi, Chloé Bakalar, eticista dell'azienda, e Johannes Heidecke, responsabile del team Safety Systems.
Coxon ha avvertito che la potenza della tecnologia IA è sottovalutata al di fuori dei laboratori, sostenendo che i sistemi futuri potrebbero avere la capacità di "hackerare qualsiasi cosa" e acquisire potere e risorse reali. Anche Evan Hubinger, un altro ricercatore di sicurezza di Anthropic, ha confermato le preoccupazioni di Coxon, affermando che la rapida evoluzione dell'IA potrebbe portare a una probabilità superiore al 10% di un evento catastrofico per l'umanità entro il 2030. Hubinger ha sottolineato che, sebbene i rischi attuali siano considerati "bassi", la situazione potrebbe cambiare rapidamente.
