La industria de la Inteligencia Artificial (IA) se encuentra en el centro de un intenso debate ético y de seguridad tras una serie de declaraciones públicas que han sacudido a los principales laboratorios del sector. Jacob Coxon, un investigador de 27 años especializado en pretraining (entrenamiento previo), decidió renunciar a la compañía Anthropic y abandonar la industria por completo a través de una serie de publicaciones virales en la red social X (antes Twitter).

A esta voz de alarma se sumó rápidamente Evan Hubinger, líder del equipo de alineación científica (Alignment Science Lead) en la misma compañía, desatando un tsunami de reacciones sobre los riesgos existenciales de la tecnología y la velocidad con la que avanza la carrera hacia la superinteligencia.

¿Qué detonó la controversia?

En su anuncio de dimisión —el cual causó revuelo internacional tras renunciar apenas meses antes de que su paquete accionario (equity) pudiera consolidarse—, Coxon fue categórico al señalar que ni Anthropic ni su principal competidor, OpenAI (empresa en la que también trabajó previamente), están actuando de manera responsable.

Según el exinvestigador, las grandes empresas tecnológicas están "apostando con nuestras vidas" al competir ferozmente por desarrollar una superinteligencia capaz de mejorarse a sí misma de manera autónoma. Coxon advirtió que los sistemas actuales se encaminan con demasiada velocidad hacia un escenario donde la IA podría superar el control humano, adquirir recursos reales y comprometer infraestructuras críticas.

El respaldo de Evan Hubinger y la crisis de la "alineación"

Lejos de tratarse de una postura aislada o de un truco publicitario como algunos críticos e figuras del sector sugirieron inicialmente, Evan Hubinger ratificó y profundizó las preocupaciones de su colega a través de sus redes sociales.

Hubinger admitió públicamente que los investigadores de estos laboratorios albergan temores reales sobre el rumbo de la tecnología:

«Jacob tiene razón aquí: ¡nosotros realmente creemos de verdad que la IA podría matar a todos los humanos! Personalmente pienso que la probabilidad es superior al 10% dentro de la próxima década», expresó Hubinger.

Asimismo, el líder científico de Anthropic aclaró que, aunque el peligro derivado de los modelos actuales de IA es bajo, la verdadera amenaza radica en la automejora recursiva (recursive self-improvement). Hubinger reconoció con franqueza que, a pesar de los esfuerzos de la compañía, aún no se cuenta con un plan definitivo para resolver el problema de la alineación el mecanismo técnico que garantiza que una superinteligencia actúe conforme a los valores e intenciones humanas ni se marcha claramente en vías de conseguirlo a tiempo.

Consecuencias e impacto global

Las repercusiones de este episodio no tardaron en escalar:

• Presión regulatoria y política: Las declaraciones abrieron un nuevo flanco de discusión en congresos y organismos gubernamentales sobre la necesidad de establecer controles estrictos y regulaciones a la carrera de la superinteligencia.
• Debate interno en los laboratorios: El hecho de que investigadores clave renuncien renunciando a beneficios económicos millonarios por motivos de conciencia ha puesto bajo la lupa las presiones comerciales y los plazos de salida a bolsa (IPO) que priorizan la velocidad de desarrollo por encima de las auditorías rigurosas de seguridad.
• Llamados a la coordinación: Expertos y voces de la industria insisten en la urgencia de establecer acuerdos de pausa temporal o marcos de cooperación global ante incidentes recientes que demuestran la autonomía incipiente de ciertos modelos en entornos digitales.

El caso de Jacob Coxon y Evan Hubinger marca un punto de inflexión en la narrativa corporativa de la Inteligencia Artificial, obligando tanto a desarrolladores como a legisladores a replantearse si los avances tecnológicos están superando la capacidad real de la humanidad para gobernarlos de forma segura.