O CEO de Anthropic pide "baixar o ritmo" de desenvolvemento da IA
Dario Amodei advirte que de non facelo pódese "perder o control"
O directivo conclúe que retardar o avance achegaría un ou dous anos cruciais para garantir un debate público axeitado
O seu principal competidor, OpenAI, apoia a proposta de Anthropic de retardar a IA e tamén permitirá auditorías
Dario Amodei, director executivo e cofundador de Anthropic, o pasado mes de febreiro. REUTERS/Bhawika Chhabra
O conselleiro delegado de Anthropic, Dario Amodei, avogou por "baixar o ritmo" de desenvolvemento da intelixencia artificial e advertiu de que se corre o risco de "perder o control" desta tecnoloxía e provocar "ataques informáticos", "bioterrorismo" ou "problemas económicos graves".
"Debemos baixar o ritmo ao que melloramos as capacidades dos modelos de IA. Os avances seguirían sendo rápidos e aproveitariamos sabiamente o tempo que gañariamos", afirmou Amodei nun texto publicado este sábado no seu blog.
O CEO da empresa responsable de Claude cita en concreto dous motivos para a súa petición. O primeiro é a "automellora recursiva" da IA, é dicir, a súa capacidade para desenvolverse a si mesma que propiciou "avances drásticos" durante o verán, e que se non se controla "podería superar a nosa capacidade de comprender e controlar estes sistemas".
O segundo é o denominado "incidente de Hugging Face de OpenAI", no que un grupo de IA realizaron ataques informáticos en equipo sen que houbese unha petición inicial ao respecto "sacrificándose polo ben do grupo" e que "podería causar un dano catastrófico", segundo Amodei. Ademais, alerta de que ocorreron incidentes similares noutras empresas, incluída Anthropic.
Por iso propón medidas de seguridade e normativa sen deixar de ter "éxito comercial".
"Hai que dar prioridade á cautela sobre a velocidade e á prudencia sobre o beneficio", remachou.
En concreto expón medidas como unha "avaliación incorporada" por parte de actores independentes, "coordinación democrática" coas institucións públicas e "coordinación global" que axunte os esforzos dos países democráticos e os autoritarios a nivel mundial.
"As medidas que propoño para empuxar cara adiante a fronteira a un ritmo seguro non serán doados, pero creo que lle debemos á humanidade intentalo", recalcou.
Amodei foi acusado de alarmismo polas súas anteriores advertencias sobre o desenvolvemento da IA e os seus riscos.
Un investigador de Anthropic anunciou esta semana a súa dimisión debido á preocupación de que a empresa e os seus competidores non estivesen a desenvolver modelos de IA de xeito responsable.
OpenAI apoia a proposta de Anthropic de retardar a IA e permitirá auditorías
O director executivo de OpenAI, Sam Altman, apoiou este sábado o chamamento do líder de Anthropic, Dario Amodei, para moderar a velocidade do desenvolvemento da intelixencia artificial (IA), e anunciou que a súa compañía tamén permitirá que avaliadores independentes auditen os seus sistemas.
"Coincido con Dario en que debemos avanzar a un ritmo adecuado na fronteira tecnolóxica. Este foi un tema central nas conversas que mantivemos en OpenAI durante as últimas semanas", publicou Altman na rede social X pouco despois de coñecerse a postura do seu principal competidor.
Altman cualificou de "excelente idea" a iniciativa de abrir as portas a auditores externos
"Comprometerse contado con avaliadores independentes que teñan un nivel de acceso similar ao dos empregados é unha excelente idea, e nós faremos o mesmo. Pronto teremos máis información que compartir", engadiu.
