¿Cómo podemos preservar la autonomía humana en un mundo donde las decisiones y procesos están cada vez más automatizados?
En la última década, los avances en inteligencia artificial (IA) han transformado la manera en que vivimos, nos relacionamos, trabajamos y aprendemos. Desde la salud hasta la industria, pasando por la educación y la movilidad, la IA ha demostrado su capacidad para optimizar procesos, resolver problemas complejos y mejorar la calidad de vida (INTEF, 2024).
La aplicación de la IA en la educación ofrece un inmenso abanico de oportunidades como la evaluación automatizada, el aprendizaje personalizado, el análisis de datos, eficiencia al reducir las tareas automáticas, etc. (Pedró, 2020). Pero a pesar de estas bondades existen riesgos asociados como la capacidad de la IA para generar contenido falso, realista y sesgado, perpetuando estereotipos y prejuicios, el impacto en la privacidad de los datos, el tratamiento de la propiedad intelectual y los derechos de autor y la dependencia excesiva reduciendo la capacidad crítica y creativa.
Ante estos retos es importante tener presente la “Declaración Europea sobre los Derechos y Principios Digitales para la Década Digital” (2023/C 23/01). Esta declaración en su capítulo III “Libertad de elección: Interacciones con algoritmos y sistemas de inteligencia artificial” indica que:
8. La inteligencia artificial debe ser un instrumento al servicio de las personas y su fin último debe ser aumentar el bienestar humano.
9. Toda persona debería estar empoderada para beneficiarse de las ventajas de los sistemas algorítmicos y de inteligencia artificial, especialmente a fin de tomar sus propias decisiones en el entorno digital con conocimiento de causa, así como estar protegida frente a los riesgos y daños a su salud, su seguridad y sus derechos fundamentales.
La educación desempeña un papel crucial en el desarrollo de ciudadanos empoderados y críticos que puedan interactuar con las tecnologías de manera reflexiva. Las políticas educativas no solo deben garantizar la alfabetización digital y tecnológica como competencias esenciales, sino que deben ir más allá de estas competencias técnicas e incluir una comprensión profunda de los principios éticos, sociales y políticos que subyacen al diseño y la implementación de la IA. Empoderando a la ciudadanía podemos conseguir que estos derechos digitales estén asegurados y que la IA sea un instrumento al servicio de las personas, que nos ayude a reducir desigualdades y promover la justicia social. De este modo se podrá garantizar que los beneficios de la IA se distribuyan de manera equitativa y que las generaciones futuras estén preparadas para afrontar los desafíos de un mundo automatizado. Solo así podremos respetar nuestra autonomía y utilizar la IA como una herramienta que contribuya al progreso humano.
[Imagen: Freepik]
Directora de la Cátedra UNESCO de Estudios sobre el Desarrollo. Servicio de Relaciones Internacionales y Cooperación