Exinvestigador de Anthropic alerta sobre una IA que podría superar el control humano

El avance de la inteligencia artificial genera nuevas preocupaciones entre especialistas, ante la posibilidad de que en el futuro existan sistemas capaces de mejorar sus propias capacidades a una velocidad difícil de controlar.

Jacob Coxon, exinvestigador de Anthropic, advirtió sobre el desarrollo de la llamada “automejora recursiva”, proceso mediante el cual una inteligencia artificial podría contribuir a crear sistemas cada vez más avanzados y acelerar su propia evolución.

El escenario plantea interrogantes sobre la capacidad de las instituciones y desarrolladores para supervisar tecnologías que podrían superar ampliamente las capacidades de los modelos actuales.

Desde Anthropic, Evan Hubinger, investigador especializado en alineación de IA, también ha expresado preocupación por los posibles riesgos de sistemas avanzados. Su estimación personal sitúa por encima del 10 por ciento la posibilidad de una catástrofe relacionada con una IA avanzada durante la próxima década.

Esta cifra no constituye una predicción de extinción humana, sino una valoración individual sobre un escenario de riesgo. El debate se centra en cómo garantizar que sistemas cada vez más poderosos permanezcan alineados con los objetivos y valores humanos.

Ante este panorama, especialistas plantean la necesidad de acelerar el desarrollo de mecanismos de seguridad, supervisión y control antes de que las capacidades de la inteligencia artificial avancen más rápido que las herramientas creadas para mantenerla bajo control.