Los beneficios y los riesgos de la inteligencia artificial (IA) son temas urgentes que están obligando a las naciones del mundo a tomar medidas para controlarla. En 2023 se celebró la primera cumbre mundial sobre IA en Inglaterra. El resultado de la cumbre, a la que acudieron 28 naciones, fue la "Declaración Bletchley".

En ella se planteó la necesidad de la cooperación internacional, precisamente para hacerle frente a los problemas fundamentales que enfrentará la humanidad ante el desarrollo de una tecnología cada vez más compleja y eficiente. Entre sus conclusiones más importantes destacan que la cooperación internacional debe centrarse en:

“Identificar los riesgos de seguridad de la IA de interés compartido, construir una comprensión compartida científica y basada en evidencia de estos riesgos, y mantener esa comprensión a medida que las capacidades continúan aumentando, en el contexto de un enfoque global más amplio para comprender el impacto de la IA en nuestras sociedades.”

“Construir políticas respectivas basadas en riesgos en nuestros países para garantizar la seguridad a la luz de dichos riesgos, colaborando según corresponda y reconociendo que nuestros enfoques pueden diferir según las circunstancias nacionales y los marcos legales aplicables. Esto incluye, junto con una mayor transparencia por parte de los actores privados que desarrollan capacidades de IA de vanguardia, métricas de evaluación apropiadas, herramientas para pruebas de seguridad y el desarrollo de capacidades e investigaciones científicas relevantes del sector público.”

Entramos en un terreno muy interesante de disputa tecnológica y política. Los desarrolladores de IA están compitiendo en todo el mundo por mejorar los alcances de sus productos.

En esa competencia, el desarrollo de la IA está sobrepasando los límites de las regulaciones nacionales e internacionales. En su lógica de mercado, los desarrolladores de IA están pensando en ganancias y no solo en beneficios sociales.

Por su parte, los gobiernos del mundo se enfrentan a un dilema: el aprovechamiento de la IA para la gestión pública y la seguridad sería un punto favorable de este desarrollo tecnológico.

Por otro lado, los gobiernos visualizan una mayor fragilidad ante la IA que pudiera desestabilizar su gestión y ponerla a merced de hackers, enemigos y terroristas.  Algo más, las naciones con modelos democráticos están preocupadas por la gran capacidad que tiene la IA de influir en las decisiones políticas de la sociedad.  Hay gente hoy que ya consulta en la inteligencia artificial por quién votar en un proceso electoral.

La pregunta es ¿estará consciente esa gente de que la IA puede manipular su voto, así como en los últimos años la inteligencia artificial ha manipulado sus hábitos de consumo?

Un elemento más de preocupación respecto al uso de la IA es su capacidad de monitorear y controlar a la sociedad. En varias ciudades chinas, hay cientos de miles de cámaras revisando cada movimiento de sus ciudadanos.

En una nota de The New York Times se dio el llamado de alerta desde el 2022: “Los más de 1400 millones de habitantes de China están bajo vigilancia constante. Las cámaras de policía (omnipresentes, en las esquinas de las calles, el techo del metro, los vestíbulos de hoteles y los edificios de apartamentos) los graban. Sus teléfonos son rastreados, sus compras monitoreadas y sus mensajes en línea, censurados.”

En un principio la gente se sintió incómoda con semejante intromisión, nadie estaba exento del escrutinio del Estado. Pero, ahora, con el argumento de que la sociedad se siente más segura, esa tecnología es vendida por los chinos a varios gobiernos del mundo que la utilizan para razones de seguridad y también para monitorear a sus enemigos.

En este año se han realizado varias cumbres mundiales sobre IA. Sus resultados están por conocerse. Junto con el calentamiento global, estamos siendo testigos del nuevo gran reto que enfrenta la humanidad.