Cumbre de Impacto de IA: ¿Nada nuevo a la vista?

La Cumbre de Impacto de la IA en India (India AI Impact Summit), realizada entre los días 16 y 20 de febrero, conllevaba la promesa de fortalecer una perspectiva del Sur Global a las discusiones sobre gobernanza de la inteligencia artificial (IA). El evento traía como principio la frase “bienestar para todas las personas, felicidad para todas las personas”, estampada en centenares de carteles de la Cumbre en Nueva Delhi, junto con la imagen del primer ministro Narendra Modi, quien evidentemente buscaba proyectar su propia figura con el encuentro.

Quienes pudimos acompañar las discusiones nos quedamos con la duda sobre qué se entiende por “bienestar” o “felicidad” y quiénes efectivamente se beneficiarán de ellas frente al avance de la IA. A pesar de la convocatoria alrededor de los principios (sutras) “personas”, “planeta” y “progreso”, el evento estuvo marcado por discursos tecnooptimistas y por la falta de diversidad –de género, sectores y perspectivas– en una agenda minuciosamente seleccionada por el gobierno local. Lo preocupante no es solamente el mantenimiento del tono, sino el tipo de resultado que lo acompaña: un modelo de cooperación internacional que promueve despliegue acelerado, pero que elude deliberadamente la pregunta por límites, responsabilidades y remedios.

Mientras se puso sobre la mesa un conjunto de principios para la cooperación internacional en materia de IA, la Cumbre habilitó a India inversiones de grandes empresas de tecnologías. Más importante, en un contexto geopolítico de securitización de la carrera tecnológica, abrió espacio para el establecimiento de acuerdos Sur-Sur en materia tecnológica, destacando la visita del presidente de Brasil y sus ministros al país.

A pesar de la importancia de tales movimientos en el actual escenario, los resultados se muestran limitados a compromisos voluntarios y declaraciones no vinculantes, siguiendo el modelo de cumbres anteriores. No hubo mención a los derechos humanos y se cerró cualquier espacio para discusiones regulatorias donde puedan tener mayor peso los movimientos de varios Estados que van en esta dirección. En su lugar, predominó un lenguaje de “innovación”, “confianza” y “capacidades”, que puede sonar neutral y positivo, pero que en la práctica invisibiliza el debate sobre obligaciones de transparencia, debida diligencia y reparación. Como de costumbre, la agenda de justicia y derechos quedó en manos de la sociedad civil, que tuvo poco espacio y escasa visibilidad en el evento oficial.

Una carrera sin frenos

La Cumbre fue la cuarta edición de una serie iniciada en Inglaterra en 2023, cuyo mandato se viene transformando a cada año. Pero, por si quedaban dudas, la Declaración Final del evento demuestra que, a pesar de las expectativas y la retórica nacionalista –que incluía referencias a elementos del hinduismo–, la primera Cumbre de IA realizada en el Sur Global no se diferenció en nada de sus antecesoras. Aunque cambió el lugar y la narrativa, se mantuvo la fórmula de un escenario de compromisos abstractos, en paralelo a un mercado de acuerdos e inversiones presentados como inevitables. Además de servir como palco para los empresarios de las grandes empresas de tecnología globales, que dominaron las noticias sobre el evento, su principal conclusión favorece a su agenda y negocios.

Según el texto, “las decisiones que tomemos ahora moldearán el futuro habilitado por la IA que heredarán las nuevas generaciones”. La afirmación deja poco espacio para la discusión sobre el rol que tanto las generaciones presentes como las futuras queremos que tenga la IA, pese a las crecientes evidencias de sus daños y los cuestionamientos a los efectos sociales a que ha estado sujeta.

No se trata aquí de ponernos en contra de la tecnología o de negar sus potenciales beneficios. Al contrario, fuimos desde América Latina hasta India con el propósito de fortalecer coaliciones y elaborar las bases para una IA justa, junto a docenas de organizaciones de todo el Sur Global. En distintos eventos paralelos, defendimos la importancia de los diálogos multilaterales sobre gobernanza de IA y planteamos la necesidad urgente de construir mecanismos globales que ayuden a garantizar que los sistemas de IA cumplan con estándares de derechos humanos. En otras palabras, que sirvan a las personas, al planeta y al progreso. Sin embargo, la distancia entre esos debates y la declaración final de la Cumbre, adoptada por 89 países, es patente y alarmante.

El texto, organizado según los grupos de trabajo temáticos que guiaron las discusiones, refuerza la noción de inevitabilidad de la IA y se dedica a promoverla tal cual es planteada por Silicon Valley, limitando con eso el espacio para cualquier discusión sobre los necesarios límites a su desarrollo y despliegue. Ejemplo de ello es la defensa de sistemas de IA eficientes a nivel energético, que borra completamente las preocupaciones por los impactos socioambientales de los centros de datos.

En lo que se refiere a la democratización de los recursos de IA, por su parte, se hace referencia a la Carta por la Difusión Democrática de la IA, también adoptada en la Cumbre, pero haciendo hincapié en su carácter no vinculante y voluntario. La Carta incluye guías importantes para la cooperación internacional en áreas como: la inclusión digital; la representatividad de idiomas y contextos subrepresentados en los modelos de IA; el estímulo a la apertura por medio de la adopción de estándares abiertos e interoperables; el desarrollo de habilidades en IA, entre otras. Sin embargo, refuerza como primer objetivo el aumento de las capacidades de IA sin ninguna consideración sobre sus impactos medioambientales, laborales y en derechos humanos.

El abordaje refleja contextos nacionales donde el discurso sobre soberanía tecnológica se presenta de manera contradictoria y ampliamente dependiente de desarrollos tecnológicos propietarios y extranjeros. Los anuncios de inversiones de las grandes empresas en India durante la Cumbre ilustran tal narrativa: alianzas con universidades para la oferta de modelos y asistentes de IA, y capacitación para el uso de herramientas comerciales e inversiones para la adopción de esta tecnología por los gobiernos son algunos ejemplos de alianzas establecidas en la ocasión. Paradójicamente, se invoca soberanía al mismo tiempo que se profundiza la adopción de modelos, asistentes y herramientas cuyo diseño, control y condiciones de uso permanecen fuera del alcance de los países que los incorporan.

La idea de soberanía tecnológica sin crítica al modelo establecido o perspectiva de derechos y sostenibilidad se reflejaba también en un espacio de exposiciones donde empresas locales se posicionaban junto a las Big Tech para promocionar sus negocios. Sistemas de IA para la vigilancia y uso militar se presentaban lado a lado de las versiones “educativas” de modelos comerciales de IA generativa. Afuera quedaron las voces que se oponen o defienden limitaciones al uso de este tipo de sistemas en tales entornos.

Hay camino por delante

A pesar de sus limitaciones, es necesario reconocer la importancia de la mención, en la Declaración Final, de los procesos multilaterales en curso y del respeto a la soberanía de los países. Ambos aspectos se muestran clave en un texto que logró unir a China y Estados Unidos como firmantes.

Por un lado, se valida un proceso en curso en el ámbito de Naciones Unidas que tiene como mandato dar un paso más en la definición de límites a usos de IA que no respetan derechos humanos. Cabe destacar que la agenda contó con distintos espacios de discusión con representantes del Panel Científico de IA y tuvo la presencia del Secretario General de Naciones Unidas y de su Oficina para las Tecnologías Digitales y Emergentes (ODED, por sus siglas en inglés). Por otro, se deja, correctamente, un margen para discusiones a nivel nacional que pueden reflejar mejor sus contextos y prioridades y donde otros sectores pueden actuar como contrapeso. Ese margen será decisivo allí donde existan instituciones capaces de resistir la presión combinada del discurso de securitización, de intereses nacionales de algunos países, y de los intereses comerciales que buscan presentar la adopción de IA como una obligación sin alternativas.

Hay que reconocer que tales conquistas se encuentran también limitadas por una arena internacional marcada por el ascenso del autoritarismo y el desmantelamiento de las instituciones multilaterales, en particular de derechos humanos. Sin embargo, representan una señal: el rol de la IA en el futuro de las nuevas generaciones sigue en disputa.

Igualmente relevante es el reconocimiento de la participación de múltiples partes interesadas en los debates sobre el tema. Es fundamental que eso no se traduzca en más espacio para mega empresarios de tecnología y se apunte a mecanismos de participación significativa de la sociedad civil, en línea con lo acordado en la Declaración de Sao Paulo.

La ocasión de la Cumbre, en ese sentido, habilitó la coordinación entre distintos actores académicos y de la sociedad civil del Sur Global con miras al debate que sigue. En un contexto en que las conversaciones siguen mayormente concentradas en pocos actores del Norte, tal coordinación es crítica para avanzar hacia estándares que permitan un futuro en que la IA efectivamente esté al servicio de la justicia, la equidad y el ejercicio de derechos.

Si la carrera de la IA sigue sin frenos, es urgente definir las reglas del tránsito antes de que el impacto sea contra una pared.