En los últimos años ha existido una explosión en el uso de IA generativa a través de chatbots. Si bien esta tecnología tiene casos de uso útiles, también presenta problemas que afectan a los derechos humanos como pueden ser la pérdida de empleos, el impacto en el medio ambiente, la pérdida de privacidad, entre otros.

Gran parte de las aplicaciones que utilizamos a diario funcionan en sistemas centralizados y en los que miles de millones de personas interactúan con las plataformas de pocas empresas. Estas empresas suelen tener acceso a los datos, metadatos, documentos y comunicaciones de las personas que usan las plataformas. En el caso de las aplicaciones comerciales basadas en IA generativa, las principales empresas son las estadounidenses OpenAI, Google, Anthropic y xAI, junto con un número creciente de empresas chinas como DeepSeek, Alibaba o  Moonshot AI. Además, son conocidos los casos de empresas como Google, Meta o X que han cambiado los términos de uso de sus plataformas para recolectar información y entrenar futuros modelos de IA.

La popularización de los chatbots para acceder a información en internet como reemplazo de los buscadores tiene impactos en nuestra percepción de la realidad, además de implicar una mayor centralización de la información. Esto es problemático porque la realidad tiene matices, los modelos de IA tienen sesgos y las alucinaciones de la IA siguen siendo comunes. Además, puede cambiar cómo interactuamos con la web abierta. En lugar de visitar los sitios web para leer la fuente original de una noticia nos invita a leer resúmenes generados con IA.

Ahora, conocer los múltiples problemas que conllevan los modelos y la industria de la IA generativa no debería impedirnos utilizarla si la consideramos beneficiosa para nuestras actividades personales o profesionales.  Para esto debemos tener control sobre nuestros datos y no entregarlos a empresas que pueden abusar de ellos.

La arquitectura en la que funciona la IA, común también en otras plataformas en línea,  se basa en el almacenamiento y procesamiento remoto de información por terceros sobre los cuales poco se sabe. En Derechos Digitales defendemos la importancia de tener autonomía y control sobre nuestra información. El desarrollo de la IA en los últimos años nos ha hecho pensar que la única forma de acceder a ella es a través de una arquitectura centralizada. En esta columna se analiza la posibilidad de utilizar modelos de lenguaje abiertos para tener una IA autónoma y respetuosa de nuestros derechos.

Modelos abiertos y de pesos abiertos

Cuando utilizamos chatbots,   detrás de ellos funcionan grandes modelos de lenguaje (LLMs por sus siglas en inglés). Estos son sistemas de IA entrenados con cantidades masivas de datos que, a través de métodos estadísticos para predecir texto, son capaces de generar contenido coherente, responder preguntas y sostener conversaciones en lenguaje natural. Para este entrenamiento es necesaria una potencia de cómputo extraordinaria, en particular mediante unidades de procesamiento gráfico (GPUs, por sus siglas en inglés). Esta capacidad no solo está fuera del alcance de organizaciones pequeñas o medianas, sino que implica impactos ambientales significativos por su carácter masivo.

Los LLMs con los que funcionan aplicaciones como ChatGPT, Gemini, Claude y otras son propietarios y sus detalles de funcionamiento son secretos. Esto quiere decir que para utilizarlos es necesario recurrir al servicio de sus respectivas compañías y no es posible modificarlos para casos de uso específicos.

Por otro lado, están los modelos de código abierto. La Open Source Initiative (OSI), organización que creó la definición de código abierto para el software en los años 90, publicó en octubre de 2024 un concepto de código abierto en el ámbito de la IA. Según esta, un modelo de código abierto se puede usar, estudiar, modificar y redistribuir sin restricciones y para cualquier propósito, siempre que se publique el código fuente completo para entrenar y ejecutar el sistema. Además, debe haber información suficientemente detallada disponible sobre los datos de entrenamiento (su origen, cómo se obtuvieron y cómo se procesaron).

En la práctica, pocos de los modelos que se presentan como “de código abierto” cumplen realmente esa definición, ya que rara vez publican información sobre sus datos de entrenamiento. Más comunes son los modelos de pesos abiertos: publican el modelo ya entrenado y permiten crear modificaciones sobre él, pero mantienen en secreto el resto. Entre estos existen modelos permisivos, que se pueden usar sin límites y normalmente se publican con licencias de software de código abierto como  Apache o MIT. Por otro lado, están los modelos de pesos abiertos no permisivos, que tienen limitaciones sobre el uso comercial y la cantidad de usuarios.

Tanto los modelos de pesos abiertos como los de código abierto pueden utilizarse de manera local sin enviar datos a servidores de terceros. Sin embargo, en el caso de los de pesos abiertos, es importante notar que estos fueron entrenados con datos cuyo origen no conocemos y que evidentemente pueden tener sesgos que afectarán su desempeño también localmente.

Los modelos pequeños de lenguaje

Existen varios modelos de lenguaje de pesos abiertos disponibles para su descarga y uso. Estos modelos pueden ser LLMs o modelos pequeños de lenguaje (SLMs) y son provistos, entre otros, por empresas como DeepSeek o Alibaba (Qwen) en China, Mistral en Francia, así como por grandes tecnológicas estadounidenses como Google con Gemma o Meta con Llama.

Los LLMs de pesos abiertos están entrenados con más información y algunos tienen capacidades comparables a las de modelos propietarios como los que utilizan  ChatGPT, Claude o Gemini. Sin embargo, poder ejecutarlos en hardware propio es muy costoso y  poco realista para organizaciones pequeñas y medianas.

Los SLMs por su lado son modelos pequeños que tienen la capacidad de entender el lenguaje natural de las personas, pero manejan una cantidad más acotada de información. Lo interesante es que sus capacidades pueden mejorarse a través de técnicas como el RAG, destilación y fine-tuning . De esta manera, un SLM podría no saber tanto como un LLM, pero puede ser más rápido y tener un mejor desempeño sobre temas específicos.

El RAG (sigla en inglés de Retrieval-Augmented Generation, generación aumentada por recuperación) consiste en entregar a un modelo información adicional para poder realizar consultas. De esta manera, por ejemplo, periodistas de investigación podrían usar SLMs para revisar documentos sensibles sin necesidad de conectarse a internet.  Otro caso de uso podría ser facilitar el monitoreo de temas de interés, por ejemplo, con un chatbot que realice búsquedas en internet y luego ofrezca un resumen. Algo similar a lo que se hace a diario con chatbots comerciales.

Otra técnica para mejorar las capacidades de un modelo de lenguaje es la destilación, que consiste en utilizar un modelo pequeño (SLM) y entrenarlo con respuestas generadas por un modelo más grande sobre un tema concreto. Este proceso es análogo a la relación entre un profesor y sus estudiantes: el modelo grande actúa como mentor, transfiriendo su conocimiento al SLM, que luego puede operar de manera autónoma y eficiente en su área de especialización. Un ejemplo es el lanzamiento de DeepSeek-R1 en 2025, cuando DeepSeek no solo animó a la comunidad a destilar su modelo, sino que también compartió SLMs ya destilados de otros modelos como Qwen o Llama, facilitando el acceso a modelos especializados sin necesidad de recursos computacionales masivos.

La última opción, y la que más recursos necesita, es el fine-tuning, que consiste en entrenar un SLM con datos específicos de un área de conocimiento determinada. Por ejemplo, se podría entrenar un SLM para que conozca todas las leyes de un país y luego realizar consultas legales sobre ellas. A diferencia del RAG, con fine-tuning el modelo incorpora este conocimiento nuevo y no lo busca directamente en documentos. Si bien es probable que el modelo no requiera de GPUs para funcionar, sí serán necesarias para realizar el procedimiento de fine-tuning.

SLMs en la actualidad y el futuro

En la actualidad ya existen herramientas de software libre que permiten experimentar con SLMs. Por ejemplo, se pueden combinar herramientas como Ollama y OpenWebUI con modelos de pesos abiertos que, en su mayoría, se pueden descargar desde el sitio HuggingFace. Una organización o una comunidad podrían tener un chatbot propio, similar a ChatGPT, en el que se podrían realizar preguntas sobre documentos compartidos o desarrollar otros casos de uso.

Es importante que la comunidad técnica y de software libre explore las capacidades de ejecutar IA de forma autónoma. Mientras antes se haga este trabajo, mayor será la posibilidad de  ofrecer estas herramientas a la sociedad.

Un caso interesante de uso de SLMs, por demostrar que es posible utilizar IA en hardware de bajo costo, es el del programador Andrés Cufari, que combinó varios SLMs e implementó un contestador automático de llamadas para atender pedidos de una pizzería sobre un Raspberry Pi 5, una computadora muy pequeña que cuesta menos de USD 100. Algo relevante de esta solución es que no utiliza IA para todo, sino que la combina con pequeños programas que consumen pocos recursos y permiten resolver un problema puntual. 

No solo los programadores entusiastas de la IA local ven un futuro prometedor en SLMs. Una investigación de la Universidad de Stanford destaca que los SLMs ofrecen capacidades comparables a las de los LLMs en múltiples ámbitos, además de resaltar su mayor eficiencia energética como una ventaja clave.

Más allá de usar IA local, remota o híbrida, es importante tener un sentido crítico frente a la tecnología. No se trata de utilizar IA porque todo el mundo lo hace, se trata de entender el problema que queremos solucionar y cómo la IA nos puede ayudar. Pueden existir casos en los que utilizar IA no sea la mejor solución, otros en los que usar IA en la nube sea suficiente y otros en los que sea necesario utilizar IA local. La autonomía digital también pasa por poder decidir qué tecnologías usamos, para qué las usamos y cuánto control estamos dispuestos a ceder sobre nuestros datos.