–El Secretario General de la ONU, Antonio Guterres, anunció la creación de un nuevo órgano asesor sobre inteligencia artificial (IA) con el fin de apoyar los esfuerzos globales para gestionar esta área tecnológica.

Se trata de un “comité de sabios” en el cual hay representantes de diversos Gobiernos, como Carme Artigas, secretaria de Estado de Digitalización e IA de España; así como del mundo académico, como es el caso de Paolo Benanti, profesor de la Pontificia Universidad Gregorian, y representantes de titanes de la tecnología como Sony, Microsoft, Google, y OpenAI. Todos los miembros fueron parte de una convocatoria abierta a la que se presentaron 1.800 personas.

Guterres señaló que las recomendaciones de este consejo contribuirán a los preparativos de la Cumbre del Futuro del próximo septiembre y, específicamente, a las negociaciones en torno al Pacto Digital Mundial propuesto.

“Gracias a una de esas aplicaciones, tuve la experiencia surrealista de verme pronunciar un discurso en un chino impecable, a pesar de que no hablo chino”, comentó Guterres para ejemplificar una de las posibilidades y peligros de la IA.

Entre las posibles ventajas de esta tecnología, el secretario general destacó que la IA podría ayudar a potenciar la acción climática y los esfuerzos para alcanzar los 17 Objetivos de Desarrollo Sostenible (ODS) para 2030.

“Pero todo esto depende de que las tecnologías de IA se aprovechen de manera responsable y se hagan accesibles a todos, incluidos los países en desarrollo que más las necesitan”, añadió.

En lo referente a los potenciales daños de la IA, Guterres dijo que le preocupa su uso para la desinformación, la invasión de la privacidad, el fraude y otras violaciones de los derechos humanos. “Sin entrar en una serie de escenarios apocalípticos, ya está claro que el uso malintencionado de la IA podría socavar la confianza en las instituciones, debilitar la cohesión social y amenazar la democracia”, señaló el secretario general.

Con la colaboración de expertos de instituciones gubernamentales, el sector privado, la sociedad civil y el mundo académico y de la investigación, el órgano pretende conseguir un consenso científico mundial sobre los riesgos y desafíos de la IA; evaluar su posible contribución en pro de los Objetivos de Desarrollo Sostenible; y fortalecer la cooperación internacional en la gestión de la IA.

El órgano publicará sus recomendaciones preliminares a finales de 2023, mientras que las definitivas verán la luz en el verano de 2024, previamente a la celebración de la Cumbre del Futuro.

El nuevo organismo asesor tiene como objetivo desarrollar un consenso científico sobre los riesgos y desafíos de la IA. Será un órgano Consultivo de Alto Nivel sobre Inteligencia Artificial.

Según el jefe de la ONU, la gobernanza coordinada a nivel mundial de la IA es la única manera de aprovechar esta nueva tecnologia para la humanidad y, al mismo tiempo, abordar sus riesgos e incertidumbres, a medida que las aplicaciones, los algoritmos, la capacidad informática y la experiencia relacionados con la IA se generalizan a nivel internacional.

Para fomentar un enfoque globalmente inclusivo, el Secretario General de la ONU está convocando un Órgano Asesor de Alto Nivel sobre IA de múltiples partes interesadas para realizar análisis y promover recomendaciones para la gobernanza internacional de la IA.

El organismo, que reunirá hasta 38 expertos en disciplinas relevantes de todo el mundo, ofrecerá diversas perspectivas y opciones sobre cómo se puede gobernar la IA para el bien común, alineando la gobernanza internacionalmente interoperable con los derechos humanos y los Objetivos de Desarrollo Sostenible.

El organismo, que estará integrado por expertos del gobierno, el sector privado y la sociedad civil, participará y consultará ampliamente con iniciativas y organizaciones internacionales existentes y emergentes, para unir perspectivas entre grupos y redes de partes interesadas.

Estos son los miembros del nuevo órgano asesor sobre inteligencia artificial (IA) de la ONU:

-Anna Abramova , directora del Instituto Estatal de Relaciones Internacionales de Moscú (MGIMO), Centro Universitario de IA
-Omar Sultan Al Olama , Ministro de Estado de Inteligencia Artificial de los Emiratos Árabes Unidos
-Latifa Al-Abdulkarim , miembro del Consejo Shura (Parlamento saudí), profesora asistente de informática en la Universidad Rey Saud
-Estela Aranha , Asesora Especial del Ministro de Justicia y Seguridad Pública, Gobierno Federal de Brasil
-Carme Artigas , Secretaria de Estado de Digitalización e Inteligencia Artificial de España
-Ran Balicer , director de innovación y director general adjunto de Clalit Health Services Israel
-Paolo Benanti , profesor extraordinario de la Pontificia Universidad Gregoriana
-Abeba Birhane , asesor principal en responsabilidad de la IA en la Fundación Mozilla
-Ian Bremmer , presidente y fundador de Eurasia Group
-Anna Christmann , Coordinadora Aeroespacial del Gobierno Federal Alemán
-Natasha Crampton , directora responsable de IA en Microsoft
-Nighat Dad , director ejecutivo de la Fundación de Derechos Digitales de Pakistán
-Vilas Dhar , presidente de la Fundación Patrick J. McGovern
-Virginia Dignum , profesora de Inteligencia Artificial Responsable en la Universidad de Umea
-Arisa Ema , profesora asociada de la Universidad de Tokio
-Amandeep Singh Gill , Enviado del Secretario General de la ONU para Tecnología
-Mohamed Farahat , consultor jurídico y vicepresidente del MAG del Norte de África IGF
-Wendy Hall , profesora Regius de Ciencias de la Computación en la Universidad de Southampton
-Rahaf Harfoush , antropólogo digital
-Hiroaki Kitano , director de tecnología de Sony Group Corporation
-Haksoo Ko , presidente de la Comisión de Protección de Información Personal (PIPC) de la República de Corea
-Andreas Krause , profesor de la ETH Zurich
-James Manyika , vicepresidente senior de Google-Alphabet, presidente de Investigación, Tecnología y Sociedad
-María Vanina Martínez Posse , becaria Ramón y Cajal del Instituto de Investigaciones Artificiales (IIIA-CSIC)
-Seydina Moussa Ndiaye , profesora de la Universidad Digital Cheikh Hamidou Kane
-Mira Murati , directora de tecnología de OpenAI
-Petri Myllymaki , profesor titular del Departamento de Ciencias de la Computación de la Universidad de Helsinki
-Alondra Nelson , Profesora Harold F. Linder del Instituto de Estudios Avanzados
-Nazneen Rajani , líder de investigación de Hugging Face
-Craig Ramlal , Jefe del Grupo de Sistemas de Control de la Universidad de las Indias Occidentales en St. Augustine
-He Ruimin , director de inteligencia artificial y director adjunto de tecnología digital, gobierno de Singapur
-Emma Ruttkamp-Bloem , profesora de la Universidad de Pretoria
-Sharad Sharma , cofundador de la Fundación iSPIRT
-Marietje Schaake , Directora de Política Internacional del Centro de Política Cibernética de la Universidad de Stanford
-Jaan Tallinn , cofundador del Centro de Cambridge para el Estudio del Riesgo Existencial
-Philip Thigo , Asesor del Gobierno de Kenia
-Jimena Sofía Viveros Álvarez , Jefa de Gabinete y Asesora Jurídica Principal de la Magistrada Loretta Ortiz en la Corte Suprema de Justicia de México
-Yi Zeng , profesor y director del Laboratorio de IA cognitiva inspirado en el cerebro, Academia de Ciencias de China
-Zhang Linghan , profesor del Instituto de Derecho de Datos, Universidad de Ciencias Políticas y Derecho de China
(Con información de Naciones Unidas y DW).