Un informe del Centro para la Seguridad de la inteligencia artificial elaborado por más de 350 líderes destacados de la industria advierte que la IA plantea un nuevo y creciente peligro para la humanidad «y debe ser considerada un riesgo social al mismo nivel que las pandemias y las guerras nucleares», informa Thalif Deen (IPS) desde Naciones Unidas.
Los fundadores de OpenAI Greg Brockman e Ilya Sutskever, junto con su director ejecutivo, Sam Altman, afirman que, para regular los riesgos de los sistemas de IA, debería existir «un organismo de control internacional, similar a la Agencia Internacional de la Energía Atómica (una agencia de la ONU con sede en Viena) que promueve los usos pacíficos de la energía nuclear».
OpenAI es una empresa dedicada a investigar, crear y testar tecnologías de IA. Es la desarrolladora de ChatGPT, un sistema de inteligencia artificial generativa, que aumentan su capacidad de entender el lenguaje humano y que además pueden establecer relaciones personalizadas con el usuario.
«Ante la posibilidad de un riesgo existencial, no podemos limitarnos a reaccionar», advirtieron en una declaración conjunta al finalizar mayo de 2023.
La Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (Unesco), que acogió en un encuentro a más de cuarenta ministros en una innovadora reunión en línea, dijo que menos de diez por ciento de las escuelas y universidades siguen directrices formales sobre el uso de herramientas de inteligencia artificial muy populares, como el chabot ChatGPT.
Anwarul Chowdhury, ex secretario general adjunto y alto representante de las Naciones Unidas, dijo a IPS que el secretario general de la ONU, António Guterres, en un informe titulado Nuestra Agenda Común (OCA, en inglés), publicado en septiembre de 2021, ya prometió «trabajar con los Estados miembros para establecer una plataforma de emergencia para responder a crisis globales complejas».
La plataforma no sería un nuevo organismo o institución permanente. Se activaría automáticamente en crisis de escala y magnitud suficientes, independientemente del tipo o la naturaleza de la crisis de que se trate.
La IA es, sin duda, una de esas «crisis globales complejas» y ya es hora de que Guterres comparta formalmente sus ideas sobre cómo planea abordar el desafío, dijo Chowdhury, fundador del Movimiento Global para la Cultura de Paz.
Consideró que será demasiado tarde para que la Cumbre del Futuro, convocada por el secretario general para septiembre de 2024, debata un régimen regulador mundial de la IA bajo la autoridad de la ONU. En ese plazo, argumentó, la tecnología de la IA se habrá afianzado de tal forma que ya no será posible una gobernanza mundial.
Robert Whitfield, presidente de One World Trust y del Grupo de Trabajo de Transición sobre la IA, dijo a IPS que la cuestión de la ONU y la IA es que esta ne necesita desesperadamente una gobernanza mundial y la ONU es el hogar natural de esa gobernanza.
En la actualidad, señaló, la ONU está preparando un Pacto Digital Mundial que se aprobará en septiembre de 2024 y que debería incluir la Inteligencia Artificial.
«Pero en realidad, la ONU apenas está en el punto de partida de la gobernanza de la IA, mientras que el Consejo de Europa, donde me encuentro en este momento, está muy metido en su negociación de una Convención Marco para la IA», dijo Whitfield, quien también preside el Movimiento Federalista Mundial, en el que participan ciudadanos y organizaciones.
También lento en su reacción a la explosión de los chatbots se muestra el Consejo de Europa, que se limita a alertar sobre los derechos humanos, la democracia y el Estado de derecho, aunque se trate de cuestiones tal alcance que impactan en el futuro de la humanidad.
La participación en los Tratados del Consejo de Europa es mucho más amplia que la de la Unión Europea, con 46 Estados signatarios, pero no tiene un alcance verdaderamente mundial, y cabe esperar que cualquier acuerdo de la ONU tenga una base más amplia.
«La principal ventaja de la ONU es que trataría de incluir a todos los países, incluidos Rusia y China, posiblemente el país con el sector de la inteligencia artificial más fuerte del mundo», afirmó Whitfield.
Se puede prever, por tanto, un proceso en dos fases:
Un acuerdo internacional inicial en el seno del Consejo de Europa que surja en primer lugar, tras la finalización de la Ley de IA de la UE, que el bloque de 27 países.
Y una Convención Marco Mundial obre Inteligencia Artificial de la ONU que se desarrolle más tarde, quizá tras la creación de un foro de múltiples partes interesadas sobre la gobernanza de la IA. Esa Convención podría incluir la creación de una agencia equivalente al Organismo Internacional de la Energía Atómica, tal y como han solicitado recientemente los grandes expertos.
Andreas Bummel, director ejecutivo de Democracia Sin Fronteras, dijo a IPS que «la gobernanza de la ONU en materia de IA debería ir más allá de los mecanismos intergubernamentales habituales y otorgar a los representantes elegidos por los ciudadanos un papel clave a través de un órgano parlamentario mundial».
El alcance de una asamblea parlamentaria de este tipo podría ampliarse a otras cuestiones y reforzar el carácter inclusivo y representativo de la ONU no solo en el ámbito de la IA, añadió.
Mientras tanto, un grupo de expertos en derechos humanos nombrados por la ONU advierte de que los programas espías y de desinformación basados en IA van en aumento, por lo que urge regular este ámbito.
En una declaración del 2 de junio 2023, los expertos afirmaron que las tecnologías emergentes, incluidos los sistemas de vigilancia biométrica basados en inteligencia artificial, se utilizan cada vez más «en contextos sensibles», sin el conocimiento o consentimiento de las personas.
«Se necesitan líneas rojas reglamentarias estrictas y contundentes para las tecnologías que pretenden reconocer las emociones o el género», afirmaron los expertos, entre ellos Fionnuala N. Aolkin, relatora especial sobre la promoción y protección de los derechos humanos en la lucha contra el terrorismo.
Los expertos, nombrados por el Consejo de Derechos Humanos de la ONU, condenaron el ya «alarmante» uso e impacto de los programas espía y las tecnologías de vigilancia en el trabajo de los defensores de los derechos humanos y los periodistas, «a menudo bajo el pretexto de la seguridad nacional y las medidas antiterroristas».
También han pedido que se regule el vertiginoso desarrollo de la inteligencia artificial generativa con los chabots, que está permitiendo la producción masiva de contenidos falsos en línea que difunden la desinformación y la incitación al odio.
