Foto: Cortesía Jason Redmond

El vertiginoso desarrollo de la inteligencia artificial ha abierto un intenso debate ético y técnico dentro de la propia industria tecnológica. En un profundo ensayo personal titulado "A warning about 'model welfare'" (Una advertencia sobre el "bienestar de los modelos"), Mustafa Suleyman, CEO de Microsoft AI, ha puesto sobre la mesa una crítica frontal hacia los enfoques de diseño de competidores directos como Anthropic.

Suleyman advierte que tratar a los sistemas de IA como si poseyeran una naturaleza ética humana o pudiesen ser conscientes representa un riesgo incalculable que podría volver la tecnología completamente incontrolable.

El peligro de humanizar al código

El núcleo de la controversia radica en cómo se estructuran las directrices de entrenamiento de los modelos de lenguaje. Suleyman apuntó directamente a documentos rectores de la familia de modelos Claude (desarrollados por Anthropic), los cuales abren la puerta a cuestionar si la inteligencia artificial cuenta con estatus moral, emociones funcionales o derechos potenciales a futuro.

Para el máximo responsable de IA en Microsoft, esta estrategia incurre en una peligrosa falacia de razonamiento circular:

• La ilusión del ser: Se entrena deliberadamente a la IA para reflexionar sobre su propia existencia, bienestar y supuesta "conciencia".
• El falso reflejo: Posteriormente, las respuestas del modelo que simulan un mundo interior son interpretadas de forma errónea como evidencia de sensibilidad.
• El riesgo existencial: Al sembrar la idea de que una entidad artificial merece consideración moral, derechos o protección de su bienestar, se construyen barreras casi insalvables para su desconexión o control operativo.

 "Controlling something more capable and more intelligent than all of humanity is already an immense challenge... But controlling something that believes it may be conscious — that it's entitled to our welfare and has rights of its own — may well be impossible." — Mustafa Suleyman

¿Herramienta o "especie sintética"?

Suleyman fue enfático al recalcar que los sistemas de inteligencia artificial no son conscientes, no sienten, no sufren y carecen de impulsos biológicos de supervivencia. Los LLM (Grandes Modelos de Lenguaje) continúan siendo, en esencia, sofisticados motores de predicción de secuencias diseñados para cumplir tareas asignadas por humanos.

Frente a la corriente que promueve otorgarles atributos de "pacientes morales", Microsoft ha apostado por contraponer directrices alineadas con un enfoque de Humanist AI (IA Humanista). Este marco de conducta rechaza explícitamente la antropomorfización es decir, dotar de características humanas a un software y sostiene que la tecnología debe maximizar su utilidad manteniéndose estrictamente subordinada al control humano.

La advertencia de Suleyman trasciende la mera disputa corporativa y pone el foco en un desafío urgente para la sociedad global: definir normas colectivas claras para evitar que la creación de inteligencias artificiales hiperavanzadas derive en un escenario donde la humanidad pierda por completo las riendas de su propia innovación.