El director ejecutivo de Anthropic pide que se ralentice el desarrollo de la IA.
Ricardo
En un ensayo publicado el sábado, Dario Amodei afirmó que el desarrollo de la IA no estaba en duda, pero que los riesgos asociados a ella eran "graves" y que se debía dar tiempo a las empresas y a los gobiernos para abordarlos.
Amodei propuso un plan de tres puntos que incluye la supervisión independiente de los modelos de IA a medida que se desarrollan, la regulación de toda la industria y la regulación global.
Últimamente ha habido una creciente preocupación por los riesgos potenciales de esta tecnología, y el más grave de ellos sugiere que hay más de un 10% de probabilidades de que "pueda matar a todos los humanos" en la próxima década .
Anthropic ya había declarado que había identificado y frustrado intentos de utilizar su modelo de IA para "actividades maliciosas" que podrían apoyar el desarrollo de armas biológicas.
Pero la advertencia más contundente provino de dos empleados del equipo de seguridad de Anthropic que renunciaron en las últimas dos semanas, afirmando que la humanidad podría no sobrevivir a la carrera entre las empresas de IA para desarrollar máquinas más inteligentes que los humanos.
A medida que la propuesta de Amodei se difundía, incluso los competidores manifestaron su apoyo a la idea de contar con supervisores externos que pudieran evaluar la seguridad de los modelos durante su desarrollo.
"Estoy de acuerdo con Dario en que debemos marcar el ritmo de la frontera", escribió Sam Altman, CEO de OpenAI, en X. Calificó a los evaluadores independientes como "una gran idea".