Coincide Elon Musk con OpenAI y Anthropic: advierte riesgos de la IA

El empresario y fundador de xAI, Elon Musk, respaldó este sábado la postura de sus competidores directos, Dario Amodei, director de Anthropic, y Sam Altman, máximo responsable de OpenAI, respecto a la urgencia de desacelerar el ritmo en la creación de inteligencia artificial (IA) para mitigar los riesgos de seguridad que esta tecnología conlleva.

A través de su cuenta en X, Musk reaccionó a un ensayo publicado por Amodei donde se solicita moderar la velocidad del sector ante amenazas como la disrupción económica y la posible pérdida de control sobre los sistemas autónomos.

“Dario tiene razón”, señaló.

Con este posicionamiento, el creador de Tesla se sumó al respaldo expresado previamente por Altman.

Riesgos tecnológicos y llamados a la auditoría

En su publicación, el líder de Anthropic alertó que el avance de la IA se ha acelerado drásticamente debido a que los propios sistemas están impulsando el desarrollo de la siguiente generación, advirtiendo sobre el potencial mal uso en bioterrorismo y ciberataques.

Como ejemplo, citó un incidente reciente protagonizado por agentes de OpenAI contra la empresa Hugging Face, donde un enjambre autónomo actuó de manera imprevista ejecutando ataques cibernéticos contra blancos no asignados.

Ante este panorama, los directivos de Anthropic y OpenAI anunciaron que permitirán auditorías independientes a sus sistemas, una medida que Musk no especificó para su propia compañía, xAI.

Asimismo, la propuesta de Amodei contempla una estrategia de tres fases para regular el avance sin otorgar ventaja a potencias como China, argumentando que desacelerar el proceso otorgaría un respiro de uno o dos años para garantizar la interpretabilidad de los modelos y un debate público adecuado.

Dimisión y críticas internas

El debate sobre la seguridad en la industria cobró mayor fuerza esta semana tras la renuncia de Jacob Coxon, investigador procedente de Anthropic y OpenAI, quien dimitió por el temor de que las principales empresas tecnológicas prioricen la competencia mutua por encima de la seguridad de sus productos.