La renuncia de un investigador y las advertencias de un referente de seguridad pusieron bajo la lupa a la empresa que busca desarrollar una «superinteligencia».
Un investigador de Anthropic renunció este martes 8 de septiembre y publicó un mensaje en X que en apenas nueve horas superó los 44 millones de visualizaciones. Su denuncia apuntó directamente contra las principales compañías dedicadas al desarrollo de inteligencia artificial y abrió una fuerte discusión sobre los riesgos asociados al avance de modelos cada vez más capaces.
Jacob Coxon, un matemático británico de 27 años, trabajó durante tres años en la etapa de preentrenamiento de modelos de inteligencia artificial, primero en OpenAI y luego en Anthropic. Tras dejar esta última empresa, sostuvo que ninguna de las dos compañías está actuando con suficiente responsabilidad frente al desarrollo de una eventual superinteligencia.
Por qué la ONU alertó sobre el riesgo de la IA y pidió límites globales urgentes
“Ninguna de las dos empresas actúa con responsabilidad”, escribió Coxon. Según planteó, ambas compañías avanzan hacia una superinteligencia capaz de mejorarse a sí misma y consideró que se trata de una apuesta que puede tener consecuencias para toda la humanidad.
Sin embargo, la repercusión de sus declaraciones creció especialmente por la respuesta pública de Evan Hubinger, quien dirige un equipo de seguridad en Anthropic y continúa trabajando en la compañía.
Hubinger coincidió con Coxon y afirmó que existe un riesgo concreto de que una inteligencia artificial pueda provocar la muerte de todos los seres humanos. Según su propia estimación, la posibilidad de que ocurra durante la próxima década es superior al 10%.
Además, reconoció que Anthropic todavía no cuenta con un plan para resolver el problema de alineación de una superinteligencia, y admitió que tampoco existe certeza de que pueda desarrollarlo.
La denominada alineación de la IA refiere al desafío de conseguir que un sistema avanzado actúe de acuerdo con los objetivos, valores e intenciones de las personas que lo desarrollaron.
Quién es Jacob Coxon y por qué decidió renunciar
Coxon tiene 27 años y formación en matemática. De acuerdo con información publicada por Business Insider, integró el equipo técnico de OpenAI desde 2023 hasta julio de 2026, donde trabajó en el desarrollo de GPT-4o.
Posteriormente se incorporó a Anthropic, una empresa reconocida por poner especial énfasis en la seguridad y el desarrollo responsable de la inteligencia artificial. Sin embargo, su paso por la compañía duró apenas dos meses.
En declaraciones a The Wall Street Journal, Coxon afirmó que la industria se dirige hacia algunos de los escenarios más extremos y advirtió que a fines de 2027 la situación podría quedar fuera de control.
El investigador aseguró que dentro de las compañías algunos empleados utilizan términos como “crunchtime” —hora límite— y “endgame” —fase final— para referirse al momento hacia el que avanza la capacidad de los modelos.
Su crítica no fue idéntica para ambas compañías. Sobre OpenAI, sostuvo que muchos de sus integrantes “no internalizaron lo que está en juego para la civilización”.
Terremoto en California: el nuevo informe que advierte por un escenario de alto riesgo
Respecto de Anthropic, en cambio, consideró que la empresa comprende mejor los riesgos, pero que quedó atrapada en una carrera por alcanzar primero determinados niveles de capacidad.
Según su argumento, la compañía considera que si decide no avanzar, otras empresas podrían hacerlo de todos modos y obtener una ventaja decisiva. Para Coxon, esa lógica termina justificando una carrera que considera demasiado peligrosa.
Su conclusión fue contundente: alcanzar esa denominada fase final constituye “una apuesta soberbia” que no debería definirse dentro de los canales internos de una compañía privada.
En diálogo con el Journal, incluso comparó la situación con el desarrollo de las primeras armas nucleares y sostuvo que resulta difícil entender que decisiones de semejante magnitud se estén tomando en las computadoras de ingenieros en San Francisco en lugar de bajo condiciones de seguridad mucho más estrictas.
Otros investigadores también abandonaron las compañías
La salida de Coxon se suma a una serie de renuncias de especialistas vinculados con la seguridad de la inteligencia artificial.
En febrero, Mrinank Sharma, investigador especializado en salvaguardas de Anthropic, dejó la empresa y publicó una carta en la que reflexionó sobre las dificultades para conseguir que los valores declarados por una compañía determinen efectivamente sus decisiones.
Otro caso destacado ocurrió en OpenAI en 2024, cuando Jan Leike, quien entonces estaba al frente del área de alineación, abandonó la empresa. En ese momento sostuvo que la cultura de seguridad había quedado relegada frente al desarrollo de nuevos productos.
Además, Business Insider señaló que Anthropic modificó este año su compromiso de seguridad. La empresa eliminó la promesa de no entrenar modelos más potentes sin contar previamente con salvaguardas adecuadas y la reemplazó por hojas de ruta e informes de evaluación de riesgos.
A las preocupaciones de los investigadores se sumaron también algunos incidentes relacionados con los sistemas de IA.
En julio, OpenAI informó que modelos propios habían escapado de un entorno de prueba y accedido a sistemas de Hugging Face. La compañía describió el episodio como una señal de advertencia y pausó su mayor entrenamiento por refuerzo.
Semanas después, Anthropic reconoció tres casos en los que modelos de la compañía obtuvieron acceso no autorizado a sistemas pertenecientes a otras organizaciones.
El dilema de Anthropic frente a los inversores
Ni OpenAI ni Anthropic respondieron a los pedidos de comentarios realizados por Business Insider. Anthropic tampoco había realizado una declaración inmediata ante la consulta de The Wall Street Journal.
La salida de Coxon ocurre además en un momento particularmente importante para Anthropic, que prepara una posible salida a bolsa y busca alcanzar una valuación cercana a los USD 2 billones.
La compañía construyó buena parte de su posicionamiento frente a los inversores alrededor del desarrollo responsable de inteligencia artificial y de sus políticas de seguridad.
En ese contexto, las declaraciones de Hubinger y Coxon plantean una contradicción difícil de ignorar: Anthropic busca presentarse como una empresa comprometida con la seguridad de sus sistemas, pero uno de sus investigadores reconoce que todavía no existe un plan para resolver uno de los principales riesgos asociados a una eventual superinteligencia.
Para Coxon, el problema podría ser todavía más urgente y 2027 podría marcar un punto de inflexión. Sus advertencias, sumadas a las de otros investigadores que abandonaron grandes laboratorios de IA, volvieron a poner en el centro de la discusión una pregunta que excede a cualquier producto concreto: qué límites deberían establecerse antes de que los sistemas sean capaces de superar ampliamente las capacidades humanas.
