Gobernanza algorítmica y democracia: desafíos éticos de la inteligencia artificial en el estado

Resumen

El presente estudio examina las implicaciones sociales, éticas y legales del uso de herramientas de inteligencia artificial (IA) en la administración de servicios sociales, particularmente en la identificación y gestión de poblaciones en situación de vulnerabilidad. A través de una metodología mixta, se exploraron tanto las percepciones de actores sociales clave como el impacto concreto de algoritmos utilizados en sistemas automatizados de evaluación de beneficiarios. Los resultados muestran que, aunque la IA puede mejorar la eficiencia operativa y permitir una asignación más rápida de recursos, también puede reforzar sesgos estructurales y provocar discriminación algorítmica, afectando especialmente a grupos históricamente marginados. La investigación identifica riesgos como la opacidad de los sistemas, la escasa rendición de cuentas institucional y la limitada participación ciudadana en los procesos de diseño e implementación de estas tecnologías. En la discusión se reflexiona sobre la necesidad urgente de marcos regulatorios que garanticen una IA ética, centrada en los derechos humanos y alineada con principios de justicia social. Se propone el desarrollo de herramientas de evaluación de impacto algorítmico, así como estrategias de transparencia, participación pública y control democrático como pilares para una gobernanza justa de la IA en el ámbito de la protección social. La conclusión enfatiza que, sin un enfoque humanista, inclusivo y regulado, el despliegue de estas tecnologías puede profundizar desigualdades ya existentes y comprometer seriamente la equidad en el acceso a derechos y servicios básicos. Se requiere una actuación colectiva e interdisciplinaria para lograr una integración ética de la IA en la política social.