La expansión de la inteligencia artificial en organizaciones, instituciones y sistemas sociales está modificando la forma en que se toman decisiones, según el documento Cyber-civiltà algoritmica, rischio sistemico e architetture di responsabilità pubblica, elaborado por Valeria Lazzaroli, presidenta de Fondazione Enia, y revisado por RH Management. El texto advierte que los modelos algorítmicos ya no funcionan únicamente como soporte técnico, sino como infraestructuras cognitivas que participan en la generación de conocimiento operativo, en la validación de decisiones y en la redistribución de responsabilidades.
El planteamiento central del documento es que la transformación digital actual no se limita a automatizar tareas ni a mejorar la eficiencia de procesos. Su impacto más profundo aparece cuando los sistemas computacionales comienzan a clasificar, anticipar, recomendar y orientar decisiones en entornos donde antes predominaba el juicio humano directo. En ese escenario, la inteligencia artificial se convierte en una pieza estructural de la organización y obliga a revisar los modelos tradicionales de liderazgo, gobernanza y gestión del riesgo.
El texto sostiene que el riesgo tecnológico cambió de naturaleza. Ya no se expresa solo como una falla localizada, visible y acotada, sino como una dinámica distribuida y acumulativa que puede atravesar infraestructuras digitales, cadenas operativas y marcos normativos con una velocidad superior a la capacidad tradicional de control.
Decisión algorítmica
Desde esta perspectiva, la seguridad informática deja de estar asociada exclusivamente a la protección de activos, accesos o sistemas. La nueva exigencia es preservar la integridad de los procesos de decisión. Es decir, asegurar que una organización pueda seguir tomando decisiones comprensibles, verificables y gobernables, incluso cuando utiliza sistemas automatizados.
El documento introduce el concepto de “cyber-civilización algorítmica” para describir una etapa en la que el cálculo, los datos y los modelos predictivos intervienen de manera estable en la definición de prioridades, riesgos y respuestas institucionales. La diferencia con etapas anteriores es relevante: mientras la sociedad informacional estaba centrada en la circulación de datos, la sociedad algorítmica se organiza en torno a la producción automatizada de inferencias.
Ese cambio tiene implicancias directas para empresas, instituciones públicas y áreas de gestión de personas. Cuando los sistemas ya no solo muestran información, sino que la ordenan, la ponderan y la traducen en alertas, rankings o recomendaciones, el desafío no está únicamente en la calidad del dato. También está en la capacidad de gobernar la mediación que transforma ese dato en decisión.
Soberanía cognitiva
Otro eje del documento es la soberanía cognitiva. El concepto alude a la capacidad de una organización, administración pública o Estado para mantener control efectivo y continuo sobre las condiciones técnicas, lógicas y semánticas mediante las cuales un sistema digital produce inferencias relevantes para la acción.
Esta soberanía no equivale a prescindir de proveedores, plataformas o infraestructuras externas. El texto reconoce que ningún sistema contemporáneo opera sin interdependencias tecnológicas. El punto crítico es otro: identificar esas dependencias, comprender sus efectos, evaluar sus riesgos y conservar capacidad de intervención cuando generan opacidad o pérdida de control.
Para las organizaciones, esto supone mirar más allá de la adopción de herramientas de inteligencia artificial. La madurez tecnológica no dependería solo de la cantidad de soluciones implementadas, sino de la comprensión de sus dependencias, la auditabilidad de sus procesos, la trazabilidad de sus datos y la claridad sobre quién responde ante una decisión automatizada.
El documento también advierte que una infraestructura de inteligencia artificial utilizada para asignar recursos, clasificar anomalías, gestionar prioridades o apoyar decisiones sensibles puede convertirse en infraestructura crítica. Si esa infraestructura depende de nodos externos no verificables, una interrupción, actualización opaca, restricción de acceso o modificación de reglas puede afectar directamente la capacidad decisional de una institución.
Responsabilidad pública
La gobernanza algorítmica aparece, entonces, como un proceso multinivel. No basta con normas generales ni con declaraciones éticas. El texto propone entender la ética pública como una arquitectura operativa, traducida en mecanismos de auditoría, protocolos de verificación, responsabilidades distribuidas y sistemas de monitoreo continuo.
En ese marco, la responsabilidad no recae únicamente en equipos técnicos. También involucra a instituciones públicas, organizaciones privadas, comunidad científica y sociedad civil. El documento plantea que la sociedad civil debe participar en la definición de prioridades éticas, en la evaluación de impactos y en la construcción de confianza institucional.
La principal advertencia para el mundo organizacional es que la inteligencia artificial no solo aumenta la eficiencia. También puede generar nuevas vulnerabilidades. Un sistema puede seguir funcionando, producir resultados consistentes y mantener altos niveles de operación, mientras erosiona silenciosamente la calidad de las decisiones si sus modelos, datos o dependencias dejan de ser confiables.
Por eso, el texto propone avanzar hacia una seguridad dinámica, basada en anticipación, resiliencia, simulación y monitoreo permanente. En lugar de reaccionar solo ante incidentes, las organizaciones deben diseñar condiciones para detectar vulnerabilidades antes de que comprometan la estabilidad operativa o la legitimidad de sus decisiones.
RH Management invita a profesionales de gestión de personas, liderazgo, operaciones, compensaciones, tecnología y transformación organizacional a participar en el “Estudio cuantitativo RHM 2026: El trabajo en transformación”. La iniciativa busca reunir evidencia sobre las principales tensiones, brechas y desafíos del mundo laboral en Chile. Participa aquí: https://es.surveymonkey.com/r/TN7FGH7
