Ética, inteligencia artificial y educación

  • Juan Martín López Calva
Urge educar a las nuevas generaciones como consumidores digitales conscientes de sus derechos

Con mi solidaridad para el Mtro. Rodolfo Ruiz y todo el equipo de e-consulta

 

“Si educamos a una nueva generación de consumidores digitales conscientes de sus derechos y con las habilidades de pensamiento crítico necesarias para navegar la esfera digital, estaremos empoderándoles para que exijan a las grandes tecnológicas a rendir cuentas y estaremos exigiendo que la IA sea desarrollada de forma humana y ética”

 

Gabriela Ramos, subdirectora general de Ciencias sociales y humanas de la UNESCO, en nota de Montse Hidalgo Pérez en El País, 25 de noviembre de 2021.

 

El pasado viernes me encontré en el muro -o la biografía como creo que se llama ahora- de Facebook de mi querido amigo y compañero de páginas de e-consulta, Miguel Ángel Rodríguez, la nota del diario español El País de la que tomo el epígrafe del artículo de hoy. Empiezo pues, agradeciéndole por aportarme el tema para la reflexión de esta semana.

La sociedad de la información y el mundo digital que forman hoy parte cada vez más importante de la vida de millones de personas en todo el planeta tienen sin duda, muchos elementos positivos: nos permiten acceder a la información de lo que sucede en lugares muy lejanos prácticamente en tiempo real; nos ayudan a indagar datos, conceptos, definiciones, conocimientos y vivencias de prácticamente cualquier tema que nos interese; nos permiten estar comunicados con personas que conocemos y también conocer nuevas personas que de otra manera nunca podríamos llegar a conocer y constituyen en sí mismos, espacios de oportunidad para generar proyectos o empresas económicamente redituables o emplearse en ellas.

Pero también es cierto que la rápida irrupción de las tecnologías digitales en la vida humana ha generado nuevos problemas. Como decía bien el recordado sacerdote jesuita Gabriel Anaya Duarte S.J.: “La tecnología nos permite hoy, solucionar mucho más rápidamente problemas que antes no teníamos.”

En efecto, el desarrollo de las llamadas tecnologías de información y comunicación creó una realidad paralela en la que existen objetos y procesos intangibles, que no tienen una entidad material ni un espacio físico concreto en el cual ubicarlos. Con este desarrollo tecnológico se creó la llamada realidad virtual, con el consecuente derrumbe de la visión moderna del conocimiento como la capacidad de ver, explicar, medir y relacionar lo que está “ahí, afuera, ahora.”

Del nacimiento de esta realidad virtual se derivan muchos problemas de corte epistemológico que han ocupado a los especialistas en Filosofía de la Ciencia y a los mismos científicos que vieron en un abrir y cerrar de ojos, cuestionadas sus certezas respecto al conocimiento válido, los métodos para generarlo y la validez misma de lo que se descubre o construye en todos los campos del conocimiento humano.

Pero además de estos problemas relativos al conocimiento, que sería bueno abordar en otro artículo, la acelerada explosión de las tecnologías digitales, la realidad virtual y la internet han traído consigo también problemas de carácter ético que son cada vez más urgentes de atender, frente al desarrollo de la inteligencia artificial que ha derivado de este nuevo mundo mediado por las tecnologías en el que nos ha tocado vivir y en el que les tocó también vivir a los niños y jóvenes que hoy están formándose en los distintos niveles del sistema educativo.

Para empezar, entre los problemas de carácter ético tenemos la adicción a los dispositivos electrónicos, a internet y más recientemente a las redes sociales. Los seres humanos de hoy pasan cada vez más tiempo atendiendo a las pantallas de sus distintos dispositivos que al mundo natural y cultural que les rodea y lo que es peor, que a los seres humanos “de carne y hueso” con los que se supone comparten la vida.

Esta dependencia nos hace, como dicen muchos: “estar mucho más cerca de quienes viven lejos y mucho más lejos de quienes viven cerca” de nosotros, ignorando muchas veces las necesidades de las personas que tenemos alrededor, perdiendo la empatía indispensable para comprenderlos porque somos capaces de situarnos en su lugar y evadiendo las oportunidades de desarrollar las habilidades básicas de comunicación cara a cara y de compartir lo que sentimos, vivimos y somos, con quienes están a nuestro lado en las aulas y patios escolares o incluso en el mismo hogar.

Pero el impresionante desarrollo de la inteligencia artificial trae consigo también problemas éticos aún más serios que tienen que ver con la pérdida de la privacidad, el riesgo de vulneración de la dignidad y el prestigio moral, la manipulación para hacernos consumir ciertos productos o servicios y desarrollar ciertas necesidades creadas por el mercado, el robo de identidad, los fraudes y extorsiones cibernéticas, el cyberbullying y muchos otros riesgos que atentan contra los derechos humanos básicos y el derecho fundamental a vivir una buena vida humana libre y responsablemente elegida.

Por esto me pareció una excelente noticia la que aborda la publicación que he mencionado, en la que se anuncia que la UNESCO ha emitido la Recomendación sobre la Ética de la Inteligencia Artificial, que es una especie de declaración universal para el buen uso humano de estas herramientas tecnológicas, que firmaron los 193 países miembros de este organismo de la ONU dedicado a la educación, la ciencia y la cultura.

“Este texto establece por primera vez un marco normativo mundial para el uso de la inteligencia artificial. Se basa para ello en tres pilares: el respeto de los derechos humanos, el Estado de Derecho y la lucha contra la discriminación” cita este artículo periodístico que declaró la directora general de la UNESCO, Audrey Azoulay.

Tres pilares fundamentales vitales son los que menciona la directora general, en este mundo en el que, cual película futurista o novela de ciencia ficción, la tecnología parece en muchos aspectos ir desplazando las decisiones humanas, incluyendo las más vitales.

De manera que, aunque el documento no es legalmente vinculante para los países que lo firmaron, se trata de un avance enorme por ser la primera vez que se expresa una declaración de principios éticos relacionados con la inteligencia artificial y el uso de las tecnologías, que implica un compromiso moral para los gobiernos y una orientación básica para los medios de comunicación, las empresas, las organizaciones civiles y por supuesto, para los sistemas educativos.

La directora general de la UNESCO manifestó que la organización solicita a todos los países miembros, tomar todas las medidas necesarias para que se aplique este marco ético y señaló que se va a realizar una evaluación periódica de los avances en este tema, pidiendo a los gobiernos que presenten informes sobre sus procesos y prácticas en este campo. Los resultados van a ser sometidos a análisis de expertos y abiertos al debate público, lo cual también me parece una muy acertada forma de ir construyendo una cultura ética sobre el uso de las tecnologías y la inteligencia artificial.

Algunos aspectos que se incluyen en esta recomendación ética están el uso de los sistemas de reconocimiento facial con fines de vigilancia masiva y control político sobre los ciudadanos, los sistemas de recomendación de contenidos de las plataformas de streaming como Netflix o Spotify para garantizar la diversidad cultural y la eventual pero ya posible interacción entre humanos y robots, así como la “…constante interacción con tecnología de inteligencia artificial, incluyendo los algoritmos sociales, (que) podrían someter a niños y adultos a manipulaciones y consecuencias negativas para su salud mental.”

Se tratan también temas más extremos y graves como el uso de “armas autónomas” o de drones con fines militares, especificando que las decisiones de vida o muerte no deben jamás ser tomadas por sistemas de inteligencia artificial y que la última palabra en estos escenarios debe ser humana.

Para que este documento, que viene de arriba hacia abajo -de un organismo internacional hacia las sociedades- pueda tener un impacto real, es necesario un movimiento de abajo hacia arriba -de las sociedades a las grandes empresas de tecnología y los gobiernos- para exigir el cumplimiento de sus derechos digitales.

Es por ello que como afirma el epígrafe tomado de la declaración de la subdirectora de Ciencias Sociales y Humanas de la UNESCO, resulta indispensable educar a las nuevas generaciones como consumidores digitales conscientes de sus derechos y con el pensamiento crítico indispensable para convivir con el mundo virtual de una forma autónoma y constructiva.

 

 

 

Opinion para Interiores: 

Anteriores

Juan Martín López Calva

Doctor en Educación UAT. Tuvo estancias postdoctorales en Lonergan Institute de Boston College. Miembro de SNI, Consejo de Investigación Educativa, Red de Investigadores en Educación y Valores, y ALFE. Decano UPAEP