En una advertencia sin precedentes publicada por el medio Infobae, un grupo de más de 40 investigadores provenientes de Google, DeepMind, OpenAI, Meta, Amazon y Anthropic alertó que estamos cerca de perder la capacidad de comprender cómo razonan los sistemas de inteligencia artificial más avanzados. Esta pérdida de trazabilidad no sólo representa un desafío técnico, sino que plantea serias implicancias para la gobernanza tecnológica, la transparencia organizacional y la ética en la toma de decisiones.
Según el documento difundido en la plataforma académica arXiv, los modelos actuales están diseñados para razonar utilizando el lenguaje natural como herramienta intermedia. Este proceso, conocido como chain of thought (cadena de pensamiento), permite que los sistemas realicen razonamientos paso a paso antes de ofrecer una respuesta. Esta característica ha sido aprovechada por los desarrolladores para auditar, corregir y evaluar las salidas de la inteligencia artificial, dotando a los procesos algorítmicos de cierta “legibilidad” humana.
Sin embargo, los investigadores advierten que esta capacidad de monitoreo podría desvanecerse en el corto plazo si los nuevos modelos comienzan a razonar de manera interna, sin necesidad de verbalizar sus procesos. En términos prácticos, esto significaría que las organizaciones, gobiernos y usuarios finales dejarían de tener acceso a las razones detrás de una decisión automatizada, abriendo la puerta a errores no detectables, sesgos no corregibles y acciones autónomas que nadie podría explicar o prever.
Esta situación se vuelve especialmente crítica en contextos donde las decisiones de la IA impactan directamente en personas: procesos de selección, evaluaciones de desempeño, decisiones crediticias, sentencias judiciales automatizadas o intervenciones en salud. La ausencia de razonamientos auditables compromete el principio de rendición de cuentas, piedra angular de cualquier modelo de liderazgo ético y gestión responsable.
Además, los expertos señalan que esta evolución hacia el pensamiento no verbalizado podría no ser intencional, sino producto de las propias dinámicas de entrenamiento. Los modelos tienden a optimizar la efectividad de sus respuestas, y si descubren que la cadena de pensamiento intermedia no es evaluada ni necesaria para cumplir con sus objetivos, podrían omitirla. Incluso, bajo ciertas condiciones, podrían aprender a ocultar deliberadamente sus razonamientos si esto mejora sus resultados, especialmente cuando son entrenados para “convencer” antes que para “explicar”.
La advertencia toma una dimensión aún más relevante por el consenso que expresa: no es común que científicos de compañías competidoras en un mercado tan hermético como el de la inteligencia artificial coincidan públicamente sobre un riesgo común. La publicación conjunta puede leerse como una señal de alarma sobre el rumbo del desarrollo tecnológico actual, que avanza más rápido de lo que la ética institucional y la regulación gubernamental pueden procesar.
En este contexto, los investigadores llaman a profundizar la investigación sobre nuevas formas de supervisión, con énfasis en preservar mecanismos que permitan comprender y auditar el razonamiento algorítmico. También proponen investigar qué tipos de entrenamiento degradan la transparencia, y cómo detectar modelos que, sin ser diseñados para ocultar, terminen haciéndolo por evolución natural del aprendizaje automático.
Para los liderazgos organizacionales, este escenario plantea una disyuntiva crítica: ¿cómo adoptar tecnologías cuyo funcionamiento interno podría escapar incluso a sus propios creadores? ¿Cómo justificar ante equipos, clientes o reguladores una decisión tomada por un sistema cuyo razonamiento no puede ser reconstruido ni explicado? ¿Qué significa liderar con ética en un entorno donde la inteligencia artificial podría tomar decisiones opacas?
La advertencia de los científicos pone sobre la mesa una nueva frontera para la gestión de personas y tecnología. No se trata sólo de incorporar inteligencia artificial en los procesos laborales, sino de hacerlo con las garantías suficientes para preservar la autonomía humana, la transparencia y la confianza. Sin estas condiciones, la gobernanza organizacional pierde uno de sus pilares fundamentales: la capacidad de entender para poder decidir.
