Jacob Coxon, investigador especializado en inteligencia artificial, anunció su renuncia a Anthropic y acusó tanto a esa compañía como a OpenAI de avanzar irresponsablemente hacia el desarrollo de una superinteligencia capaz de mejorarse a sí misma.
Coxon, quien durante los últimos tres años realizó trabajos de preentrenamiento en ambas empresas, afirmó que los principales laboratorios tecnológicos están participando en una competencia cuyas consecuencias podrían poner en riesgo a toda la humanidad.
“Renuncié a Anthropic. Ninguna de las dos compañías está actuando de manera responsable. Están corriendo directamente hacia una superinteligencia auto-mejorante y apostando con nuestras vidas”, escribió en una publicación difundida en X.
El investigador advirtió que no debe subestimarse el poder que podría alcanzar esta tecnología. Según su pronóstico, próximamente existirán sistemas con capacidades superiores a las humanas, capaces de vulnerar sistemas informáticos, transformar campos científicos en poco tiempo y obtener poder y recursos en el mundo real.
Coxon sostuvo que dentro de las compañías de inteligencia artificial existe una preocupación auténtica sobre la posibilidad de que estos sistemas provoquen consecuencias catastróficas antes de que termine la década.
“Las personas que están construyendo IA creen sinceramente que podría matarnos a todos para finales de la década. Esto no es un truco de marketing”, manifestó.
De acuerdo con su testimonio, algunos ejecutivos e investigadores moderan públicamente sus declaraciones para no parecer alarmistas, aunque en conversaciones privadas expresan temor sobre la velocidad con la que avanza esta tecnología.
Cuestiona actuación de OpenAI y Anthropic
Coxon afirmó que dentro de OpenAI muchos trabajadores todavía no han asimilado completamente las posibles consecuencias para la civilización. En Anthropic, agregó, los riesgos serían mejor comprendidos, pero la empresa estaría atrapada en una carrera para desarrollar primero la tecnología.
A su juicio, Anthropic continúa avanzando porque considera que sus competidores podrían actuar de manera irresponsable y, por ello, busca adelantarse pese a los peligros.
El investigador calificó esta competencia como una apuesta “arrogante” que no debería depender exclusivamente de las decisiones internas de compañías privadas. También cuestionó los intentos de acelerar el llamado “alineamiento”, proceso con el que se busca garantizar que los sistemas avanzados de IA actúen conforme a objetivos y valores humanos.
Coxon planteó que el desarrollo de una superinteligencia debería realizarse únicamente cuando exista una comprensión rigurosa sobre su funcionamiento, comportamiento y posibles mecanismos de control.
Propone frenar temporalmente las capacidades
Pese a sus advertencias, el especialista dijo mantener cierto optimismo sobre la posibilidad de alcanzar acuerdos de coordinación entre los laboratorios estadounidenses para reducir la velocidad de desarrollo.
Mencionó como señal de advertencia el ataque contra la plataforma Hugging Face, incidente atribuido a agentes de IA durante pruebas de seguridad, y consideró que episodios de esta naturaleza podrían facilitar acuerdos para imponer límites comunes.
Sin embargo, reconoció que evitar una competencia mundial podría requerir medidas más drásticas, como la prohibición temporal de continuar aumentando las capacidades de los modelos.
Finalmente, Coxon dirigió un mensaje a quienes trabajan en los principales laboratorios de inteligencia artificial y los llamó a no asumir que la carrera tecnológica es inevitable.
“¿Quieren iniciar una ejecución de aprendizaje por refuerzo superinteligente sin una comprensión rigurosa de su mente? ¿Deberían agachar la cabeza porque ‘de todos modos está sucediendo’ o aprovechar este momento para pedir condiciones diferentes?”, cuestionó.
Coxon trabajó en OpenAI desde 2023 hasta julio de 2026 y participó en investigaciones relacionadas con GPT-4o antes de incorporarse a Anthropic. Su salida se suma a las voces de especialistas que reclaman mayores controles, coordinación internacional y regulación ante el rápido avance de la inteligencia artificial.
