Com podem preservar l’autonomia humana en un món on les decisions i processos estan cada vegada més automatitzats?

En l’última dècada, els avanços en intel·ligència artificial (IA) han transformat la manera en què vivim, ens relacionem, treballem i aprenem. Des de la salut fins a la indústria, passant per l’educació i la mobilitat, la IA ha demostrat la seua capacitat per a optimitzar processos, resoldre problemes complexos i millorar la qualitat de vida (INTEF, 2024).

L’aplicació de la IA en l’educació oferix un immens ventall d’oportunitats com l’avaluació automatitzada, l’aprenentatge personalitzat, l’anàlisi de dades, eficiència en reduir les tasques automàtiques, etc. (Pedró, 2020). Però malgrat estes bondats existixen riscos associats com la capacitat de la IA per a generar contingut fals, realista i esbiaixat, perpetuant estereotips i prejuís, l’impacte en la privacitat de les dades, el tractament de la propietat intel·lectual i els drets d’autor i la dependència excessiva reduint la capacitat crítica i creativa.

Davant estos reptes és important tindre present la “Declaració Europea sobre els Drets i Principis Digitals per a la Dècada Digital” (2023/C 23/01). Esta declaració en el seu capítol III “Llibertat d’elecció: Interaccions amb algorismes i sistemes d’intel·ligència artificial” indica que:

8. La intel·ligència artificial ha de ser un instrument al servici de les persones i la seua fi última ha de ser augmentar el benestar humà.

9. Tota persona hauria d’estar empoderada per a beneficiar-se dels avantatges dels sistemes algorítmics i d’intel·ligència artificial, especialment a fi de prendre les seues pròpies decisions en l’entorn digital amb coneixement de causa, així com estar protegida enfront dels riscos i danys a la seua salut, la seua seguretat i els seus drets fonamentals.

L’educació exercix un paper crucial en el desenrotllament de ciutadans empoderats i crítics que puguen interactuar amb les tecnologies de manera reflexiva. Les polítiques educatives no sols han de garantir l’alfabetització digital i tecnològica com a competències essencials, sinó que han d’anar més enllà d’estes competències tècniques i incloure una comprensió profunda dels principis ètics, socials i polítics que subjauen al disseny i la implementació de la IA. Empoderant a la ciutadania podem aconseguir que estos drets digitals estiguen assegurats i que la IA siga un instrument al servici de les persones, que ens ajude a reduir desigualtats i promoure la justícia social. D’esta manera es podrà garantir que els beneficis de la IA es distribuïsquen de manera equitativa i que les generacions futures estiguen preparades per a afrontar els desafiaments d’un món automatitzat. Només així podrem respectar la nostra autonomia i utilitzar la IA com una ferramenta que contribuïsca al progrés humà.

[Imatge: Freepik]
image_pdfPDF
+ posts

Directora de la Càtedra UNESCO d'Estudis sobre el Desenvolupament. Servei de Relacions Internacionals i Cooperació