Mientras exploramos los límites de la Inteligencia Artificial (IA) y sus increíbles posibilidades se plantean preguntas fundamentales sobre cómo garantizar un desarrollo y una implementación ética de esta tecnología en el mundo de la educación.
Es un hecho; la IA continúa avanzando y expandiéndose en múltiples áreas de nuestra vida cotidiana y el mundo universitario considera de vital importancia garantizar que su desarrollo y aplicación en el entorno educativo se rijan por principios éticos, equidad y respeto a los valores sociales. Estas prácticas responsables no solo protegen a las personas de posibles perjuicios y discriminación sino que también pueden ayudar a fomentar la confianza, la responsabilidad y la transparencia en su uso en la educación.
Según María Díaz de la Cebosa, Presidenta de CIS University “con la IA tenemos una oportunidad histórica pero hay una serie de cuestionamientos éticos que debemos de tener en cuenta y analizar cada uno de los casos que nos encontremos, como la preservación de los hechos reales. ¿Cómo impedir que se tergiversen los hechos auténticos a través de los datos que maneja la inteligencia artificial y que han sido generados por algoritmos cuya veracidad no es completamente fiable, y de los cuales desconocemos su trazabilidad?” Ante este panorama, surgirá la necesidad de asegurar que cada paso en su desarrollo y aplicación se base en principios éticos sólidos. Estos principios deben proporcionar una guía fundamental para salvaguardar el bienestar de los usuarios.
En recientes declaraciones, Stefania Gianni, destacada experta en educación de la UNESCO, ha compartido su perspectiva sobre el actual panorama de la IA y sostiene que nos encontramos en un momento crucial para dirigir esta revolución hacia un camino beneficioso y positivo. Según ella, es fundamental aprovechar esta oportunidad para mejorar los medios de subsistencia, reducir las desigualdades y promover una globalización justa e inclusiva.
Para lograr una implementación responsable de la IA, será necesario adoptar un enfoque integral que abarque varios aspectos clave. En primer lugar, las instituciones educativas deben adoptar principios éticos sólidos que guíen todas las etapas del desarrollo de la IA. Estos principios, basados en el respeto a los derechos humanos, la igualdad y la justicia, establecen un marco sólido para garantizar que la IA no se desvíe de su propósito original y no cause daño a las personas.
Asimismo, será fundamental establecer comités de revisión que evalúen de manera regular el desarrollo y la implementación de la IA. Estos comités, conformados por expertos en ética, tecnología y representantes de la sociedad educativa, desempeñan un papel crucial en la identificación y mitigación de posibles riesgos éticos. Su labor consiste en examinar de cerca los algoritmos y las decisiones tomadas por los sistemas de IA, verificando así que no existan sesgos ni discriminación en los procesos en que intervenga.
Otro aspecto clave será priorizar el diseño centrado en el ser humano. La IA debe ser concebida y desarrollada teniendo en cuenta las necesidades y perspectivas de los usuarios finales. Esto implica un enfoque participativo, donde se involucre a las partes interesadas en el proceso de diseño y se recopile de manera activa su retroalimentación. Al hacerlo, se garantiza que la IA mejore la calidad de vida de las personas y satisfazga sus necesidades reales.
Para Díaz de la Cebosa “es importante preservar la interacción humana por encima de todo y especialmente para que siga ocupando un lugar esencial en la educación, como el que tiene hoy en día.” “Necesitamos la reflexión sobre el devenir de las cosas, y no olvidar cualidades imprescindibles en la formación, como son la creatividad y el pensamiento crítico, para así avanzar en la vía correcta del uso de la Inteligencia artificial y el Big Data”.
Además, las organizaciones educativas deberán abordar las preocupaciones éticas que puedan surgir durante la implementación de la IA. Esto implica participación. Un análisis minucioso de posibles conflictos de valores y la búsqueda de soluciones equitativas y equilibradas.
Foto: Tima Miroshnichenko vía Pexels
