Ni destructora ni salvadora, lo que hay en medio del mito de la Inteligencia Artificial

Las promesas de las grandes empresas tecnológicas dedicadas al desarrollo de la inteligencia artificial han transitado de la utopía al apocalipsis: si antes decían que nos salvaría, hoy se nos advierte que podría terminar con la especie humana. Esta historia del «fin del mundo» ha adquirido recientemente un peso en la conversación pública sobre tecnología. Entre ambos extremos existe una diferencia mucho menor de lo que parece, ambas narrativas nos piden creer que la tecnología tiene una voluntad propia y que su futuro es, de alguna manera, inevitable. Ninguna de las dos cosas es cierta.

La inteligencia artificial no es una fuerza autónoma; es el resultado de decisiones humanas y por eso deberíamos leer con mucho más cuidado las historias que nos cuentan sobre ella. ¿La IA va a acabar con el mundo? La pregunta que más nos estamos haciendo hoy sobre la inteligencia artificial es la equivocada. Quizás deberíamos cambiar el enfoque y preguntarnos: ¿quiénes y qué intereses están detrás de su desarrollo, y qué futuro nos están invitando a imaginar?

Esta es una reflexión que Desde Derechos Digitales llevamos años abordando, mediante el estudio de estas dinámicas y la promoción de una gobernanza de la inteligencia artificial con enfoque de derechos humanos. A través de nuestras investigaciones, instancias de incidencia y columnas de opinión, hemos documentado cómo el despliegue tecnológico impacta directamente nuestras sociedades y por qué es indispensable exigir reglas democráticas y centradas en las personas.

Las tres capas del mito

1. La trampa de la máquina «humana»

La manera en que describimos una tecnología determina cómo entendemos su poder y, sobre todo, dónde colocamos la responsabilidad. La investigadora Danielle Zaror advierte sobre el error de hablar de la inteligencia artificial como un sujeto autónomo. Decimos con naturalidad que un modelo «alucina», «piensa», «aprende» o «decide», cuando lo que realmente hace es ejecutar operaciones estadísticas y predecir combinaciones a partir de volúmenes masivos de datos generados por seres humanos.  

Al atribuirle intención o agencia a un algoritmo, el efecto inmediato es difuminar la responsabilidad de quienes lo crean y financian. Detrás de esta narrativa, las corporaciones tecnológicas logran lavarse las manos sobre sus decisiones de diseño, la falta de controles de seguridad y los sesgos de sus productos. Incluso el Programa de las Naciones Unidas para el Desarrollo ha advertido sobre esta confusión: los algoritmos no “quieren” ni desean nada por sí mismos; cuando una tecnología genera daños, la responsabilidad recae en las personas e instituciones que decidieron cómo diseñarla y desplegarla.

Estamos frente a una infraestructura construida dentro de una estructura económica y política concreta, lo que significa que el futuro de la inteligencia artificial tampoco es inevitable ni está escrito.

2. El negocio detrás del pánico

Hay otra razón para mirar con cuidado el relato sobre la inteligencia artificial: hablar de lo que la IA será también tiene valor económico. ¿Por qué las mismas empresas que crean y venden inteligencia artificial son las primeras en salir a decir que su invento podría destruir a la humanidad? Diversos analistas e investigadores del sector tecnológico sostienen que esto no es una advertencia honesta ni un acto de culpa, es una estrategia de marketing.

Esta escenografía del riesgo extremo mantiene infladas las expectativas de inversión en un momento de incertidumbre sobre la viabilidad económica real del sector.

Un ejemplo reciente es OpenAI. Según documentos financieros reportados por Financial Times, la empresa proyecta ingresos de unos 36.000 millones de dólares en 2026 y 350.000 millones para 2030, pero también anticipa casi 280.000 millones de dólares de flujo de caja libre negativo acumulado entre 2026 y 2030, debido a sus enormes necesidades de infraestructura y cómputo. En septiembre de 2026, Reuters reportó que Nscale, una empresa de infraestructura para IA, había multiplicado sus ingresos en el primer semestre del año, pero también registraba pérdidas netas superiores a 1.000 millones de dólares.

En pocas palabras, nos encontramos ante una industria que quema miles de millones de dólares a diario y cuyo modelo de negocio aún no ha demostrado ser sostenible a largo plazo. En ese escenario de duda financiera, alimentar la narrativa de una «superinteligencia» es la mejor garantía para convencer a Wall Street de que esta tecnología es demasiado poderosa e indispensable como para dejarla caer.

3. La captura del debate y la respuesta desde el Sur

La siguiente pregunta que debemos hacernos con escepticismo (y sobre la cual ya hemos advertido en análisis previos desde Derechos Digitales) es: ¿por qué las mismas empresas que desarrollan inteligencia artificial participan hoy tan activamente en la conversación sobre cómo regularla? ¿Son reales sus intenciones al descubrir que crearon algo tan poderoso que ahora debe ralentizarse?

Cualquier marco regulatorio exige inversiones importantes en auditorías, infraestructura de seguridad y cumplimiento normativo; montos asumibles para las grandes multinacionales tecnológicas, pero comprometedores para quienes intentan ingresar al mercado. Cuando son los actores dominantes quienes marcan la pauta legislativa, nos podemos enfrentar a una estrategia diseñada para eliminar a la competencia a través de restricciones y barreras de entrada casi inalcanzables para competidores más pequeños como proyectos académicos, de sociedad civil, e iniciativas de código abierto.

Por otro lado, tal como advierte Timnit Gebru, investigadora en tecnología e inteligencia artificial y organizaciones de la sociedad civil a través de la alianza IA Ciudadana, una discusión regulatoria sobre escenarios ficticios desplaza la atención sobre los daños presentes (y urgentes para el Sur Global) que esta tecnología ya provoca: la integración de algoritmos en armamento militar, el aumento de la vigilancia masiva, la desinformación, la violencia de género, la precarización del trabajo y el desmesurado costo ambiental en energía y agua que requiere sostener los centros de datos.

Los debates sobre regulación de la IA implican arrebatarle el monopolio del debate a Silicon Valley. Una legislación justa no puede redactarse en despachos corporativos pensando en hipotéticas amenazas del futuro: debe construirse de forma abierta y democrática, con la participación efectiva de las múltiples partes interesadas: Estados, sociedad civil,  academia, comunidades afectadas, sector privado, comunidad técnica y personas trabajadoras que sostiene esta industria. Si permitimos que el futuro de la tecnología se decida entre ejecutivos y mercados financieros, terminaremos aceptando un marco legal diseñado para proteger monopolios y no para garantizar y proteger los derechos humanos.

Cuestionar el relato para recuperar el futuro

Desactivar la trampa del apocalipsis de la inteligencia artificial es una necesidad política. Mientras nos mantengan mirando al cielo esperando la llegada de una superinteligencia que nos destruya o nos salve, dejaremos de mirar a la tierra, donde se están tomando las decisiones que definen el acceso al trabajo, los recursos naturales, la privacidad y los derechos fundamentales de millones de personas.

Para cambiar el rumbo de esta discusión, es imprescindible que el debate se concentre en impactos reales y vigentes, dejando de lado el alarmismo que beneficia a las grandes empresas tecnológicas. Como hemos planteado desde Derechos Digitales en distintos espacios y procesos de incidencia donde se discute sobre gobernanza de la IA, esto requiere asumir un compromiso político que se traduzca en medidas concretas.

En primer lugar, necesitamos una regulación basada en derechos humanos donde el diseño de las leyes priorice la protección de la ciudadanía y el medio ambiente por encima de los intereses comerciales y las dinámicas del mercado. En segundo lugar, es indispensable contar con mecanismos efectivos de transparencia y rendición de cuentas, sustituyendo los esquemas de autorregulación voluntaria por marcos legales vinculantes, auditorías externas independientes y sanciones efectivas.

A su vez, la gobernanza de la IA debe incluir la participación directa y con poder de decisión de la sociedad civil, la academia y las comunidades afectadas. Por último, las políticas públicas deben abordar problemas concretos y situados en el contexto regional de América Latina y los países del Sur Global.

Exigir reglas democráticas para la inteligencia artificial es negarse a ser una audiencia pasiva frente a nuestro propio destino. Cuestionar el relato oficial es el primer paso para poner la tecnología al servicio del bien común.