86 países reclaman una IA «segura y confiable» en una declaración no vinculante de la cumbre

Decenas de naciones, entre ellas Estados Unidos y China, pidieron una inteligencia artificial «segura, confiable y robusta» en una declaración de la cumbre emitida el 21 de febrero, criticada por ser demasiado genérica como para proteger al público. El comunicado, firmado por 86 países, no incluyó compromisos concretos para regular la tecnología de rápido desarrollo, sino que destacó varias iniciativas voluntarias y no vinculantes.

«La promesa de la IA solo se materializa plenamente cuando sus beneficios se comparten con la humanidad», señaló el comunicado, difundido por la cumbre de cinco días AI Impact Summit. Calificó la llegada de la IA generativa como «un punto de inflexión en la trayectoria de la evolución tecnológica». «Impulsar una IA segura, confiable y robusta es fundamental para generar confianza y maximizar los beneficios sociales y económicos», afirmó.

La cumbre —a la que asistieron decenas de miles de personas, incluidos los principales directores ejecutivos de empresas tecnológicas— fue la cuarta reunión mundial anual para debatir las promesas y los riesgos de la IA, y la primera organizada por un país en desarrollo. Entre los temas candentes se incluyeron los posibles beneficios sociales de la IA, como el descubrimiento de fármacos y las herramientas de traducción, pero también la amenaza de pérdida de empleos, los abusos en línea y el elevado consumo energético de los centros de datos.

Estados Unidos, sede de compañías líderes del sector como Google y OpenAI, creadora de ChatGPT, no firmó la declaración de la cumbre del año pasado, advirtiendo que la regulación podría frenar la innovación. «Rechazamos totalmente la gobernanza global de la IA», dijo el jefe de la delegación estadounidense en la cumbre el 20 de febrero. Estados Unidos firmó una declaración bilateral sobre IA con India el 20 de febrero, comprometiéndose a «impulsar un enfoque global de la IA inequívocamente favorable al emprendimiento y la innovación». Pero también suscribió la declaración principal de la cumbre, cuya publicación se esperaba originalmente para el 20 de febrero, aunque se retrasó un día para maximizar el número de firmantes, según informó el gobierno de India.

La codirectora ejecutiva del AI Now Institute criticó la falta de una declaración significativa, al afirmar que se trataba de «otra ronda de promesas voluntarias genéricas». «El hecho de que esta declaración haya recibido un respaldo tan amplio, especialmente de Estados Unidos, que se mantuvo al margen en París, te dice qué tipo de agenda es: una aprobada por la industria de la IA, no una que proteja de manera significativa al público», señaló.

La declaración de la cumbre del 21 de febrero adoptó un tono cauteloso sobre los riesgos de seguridad de la IA, desde la desinformación y la vigilancia hasta el temor a la creación de nuevos patógenos devastadores. «Sigue siendo importante profundizar nuestra comprensión de los posibles aspectos de seguridad», indicó. «Reconocemos la importancia de la seguridad en los sistemas de IA, las medidas voluntarias impulsadas por la industria, la adopción de soluciones técnicas y los marcos normativos apropiados que posibiliten la innovación».

En materia de empleo, enfatizó iniciativas de recapacitación para «apoyar a los participantes en la preparación para una futura economía impulsada por la IA». Y «subrayamos la importancia de desarrollar sistemas de IA energéticamente eficientes», dada la creciente demanda de recursos naturales por parte de la tecnología, añadió.

Un experto en informática y activista por la seguridad de la IA dijo que los compromisos «no son completamente inconsecuentes». «Lo más importante es que exista algún compromiso», afirmó. Los países deberían «basarse en estos acuerdos voluntarios para desarrollar compromisos legales vinculantes que protejan a sus pueblos, de modo que el desarrollo y el despliegue de la IA puedan avanzar sin imponer riesgos inaceptables», añadió.

Analistas habían señalado previamente que el enfoque amplio de la cumbre y las promesas vagas realizadas en las reuniones anteriores en Francia, Corea del Sur y Gran Bretaña harían improbables compromisos contundentes o acciones inmediatas.

La próxima cumbre de IA tendrá lugar en Ginebra en 2027. Mientras tanto, un panel de la ONU sobre IA comenzará a trabajar hacia una «gobernanza guiada por la ciencia». La Asamblea General de la ONU ha confirmado a 40 miembros para un grupo denominado Independent International Scientific Panel on Artificial Intelligence.

India ha aprovechado la cumbre para impulsar su ambición de alcanzar a Estados Unidos y China en el campo de la IA, entre otras medidas mediante la construcción a gran escala de centros de datos alimentados por nuevas plantas nucleares. Delhi prevé más de 200.000 millones de dólares en inversiones durante los próximos dos años, y los gigantes tecnológicos estadounidenses anunciaron una serie de nuevos acuerdos y proyectos de infraestructura en el país durante la cumbre.