¿Qué tan protegidos estamos en la era de la IA en Paraguay?
Sin reglas, se vienen los deepfakes, el robo de datos y la desinformación
La inteligencia artificial, conocida por las siglas IA, de repente parece estar en todas partes en Paraguay. En mayo, el secretario de Estado de los EE.UU., Marco Rubio, resaltó que el país podría convertirse en una gran potencia en el ámbito de la IA debido a la energía producida por sus hidroeléctricas —a pesar de la inminente crisis energética que enfrenta Paraguay.
A comienzos de este mes se supo que la multinacional de inteligencia artificial X8 Cloud, con sede en Estados Unidos, está en conversaciones para construir un centro de datos de 8.000 millones de dólares en Paraguay, lo que sería el más grande de su tipo en toda Latinoamérica. Un memorándum de entendimiento firmado con la estatal ANDE prevé un proyecto de 50 MW para inicios de 2026, con una ampliación a 500 MW en 2027.
Pero es menos conocido hasta qué punto la IA ya está siendo utilizada por el gobierno y las empresas paraguayas, e infiltrándose de forma constante en la vida cotidiana de la ciudadanía. ¿Qué implica esto para la privacidad, la seguridad y los derechos humanos?
Para aproximarse a una respuesta, The Paraguay Post conversó con representantes del Estado y de la sociedad civil para ofrecer un panorama de los riesgos y de las posibles medidas preventivas.
¿Cuál es el contexto de uso de la IA en instituciones públicas del Paraguay?
Margarita Rojas, del Ministerio de Tecnologías de la Información y Comunicación (MITIC), explica que la IA se utiliza para optimizar procesos, principalmente en la Dirección Nacional de Contrataciones Públicas (DNCP).
“La DNCP es la institución pública con mayor madurez en el uso de la IA. También hay otros usos en otras instituciones, pero todavía no hay una estrategia a nivel nacional. Lo que tenemos son esfuerzos aislados”, explicó Rojas. En el Portal Unificado de Información Pública se detallan las aplicaciones utilizadas por la DNCP para la automatización, la predicción y el análisis de datos.
Mariela Cuevas, de TEDIC, señala que la mayoría de las instituciones públicas se limitan a utilizar ChatGPT a iniciativa de funcionarios. El Portal de Información Pública, por ejemplo, en respuesta a una solicitud, afirma que en el Ministerio de Economía y Finanzas se están implementando de manera experimental aplicaciones como Copilot, Gemini y ChatGPT.
¿Cuáles son los riesgos del uso de la IA en el Estado sin un marco regulatorio?
Según el experto en ciberseguridad Luis Benítez, de la Sociedad Paraguaya de Inteligencia Artificial, el mayor riesgo radica en la pérdida de soberanía. “Desde los organismos multilaterales tenemos presión para que las instituciones del Estado adopten IA generativa. Esos funcionarios están entregando datos del Estado paraguayo a estos servicios”.
Para Cuevas, el mayor problema es la falta de transparencia en el desarrollo de esta tecnología. “Por los sesgos de los algoritmos, la IA agrava la desigualdad en una sociedad, porque se alimenta de datos provenientes de situaciones históricas injustas y de sistemas desiguales”.
En la misma línea, Rojas comenta que es un riesgo importante que los algoritmos estén entrenados en el norte global. “Todos los datos que alimentan esas herramientas provienen de los perfiles de esos países. Eso nos genera muchos problemas porque, como paraguayos, nuestra realidad es distinta. Nuestra sociedad es diversa; tenemos diferentes culturas indígenas”.
Respecto al manejo de información crítica que puede suponer un riesgo para la soberanía, Margarita Rojas expresa que los datos sensibles, cuyo almacenamiento por parte de compañías extranjeras podría comprometer la seguridad nacional, no se encuentran en la nube ni en Internet. “Esos datos se guardan a nivel local y son custodiados por cada institución responsable, como el Ministerio de Educación, el Ministerio de Salud, etc. Esos datos no alimentan esas bases de datos extranjeras”.
¿Cuál es el contexto de uso de la IA en el sector privado del Paraguay?
De acuerdo con Benítez, el sector financiero es uno de los rubros en Paraguay que encabeza el uso de IA. Para el especialista, el mayor riesgo que supone el uso desregulado de esta tecnología en el sector privado es la pérdida masiva de empleo.
Tanto Cuevas como Benítez coinciden en que un gran riesgo es la desregulación del uso de cámaras de reconocimiento facial, cuyos datos podrían alimentar servicios de IA sin el consentimiento de los ciudadanos.
Un ejemplo es un suceso ocurrido recientemente en un local de una cadena de minimercados, en el que, a raíz de un error del sistema de seguridad, un cliente sufrió maltratos al ser confundido con otra persona que habría cometido un robo en dicho lugar. ¿Cómo se trasladaría esta situación en una era en la que los deepfakes podrían ser moneda corriente en el debate público?
“Ciertas empresas monopolizan el negocio de cámaras de reconocimiento facial. Es un riesgo porque carecemos de una ley de protección de datos personales. Entonces, somos más vulnerables a este tipo de errores. Sin una legislación, no sabemos qué se hace con nuestros datos, para qué se usan, dónde se guardan y hasta qué fecha los conservan”, apunta Cuevas.
Benítez cree que el problema es aún mayor y de fondo. “Todas estas tecnologías están reconfigurando el poder, la economía y la civilización en sí. Los Estados no tienen forma de defenderse al permitir que las corporaciones privadas moldeen las relaciones de poder a nivel global. Hay autores que llaman a esto “tecnofeudalismo” y otros, “capitalismo de vigilancia”.
¿Existen ejemplos comparables en el sur global que Paraguay pudiera seguir para abordar estos riesgos?
Tanto Rojas como Benítez expresan que una respuesta podría ser un modelo como el de Chile, que cuenta con una Política Nacional de Inteligencia Artificial, y una organización, el Centro Nacional de Inteligencia Artificial (CENIA), con apoyo del Estado chileno, que está llevando a cabo el primer modelo de lenguaje colaborativo exclusivo para América Latina, Latam-GPT.
Cuevas sostiene que aún el mundo se encuentra en un punto de debate. “No me atrevería todavía a mencionar ningún país como referencia exitosa. Creo que un paso muy importante a nivel global es la discusión sobre cómo decodificar los lugares de desarrollo de esa inteligencia artificial. No se trata de satanizar la IA, sino de construir otra que esté al servicio de las personas. No puede ser que la tecnología sea la preocupación central, mientras que las personas sean apenas cuestiones periféricas que atender”.
¿Podría Paraguay desarrollar su propia IA a nivel local?
Rojas cree que sí. “Existe capacidad en el Estado para desarrollar su propia IA. Contamos con capacitaciones, becas y bootcamps para desarrollar IA local”.
Benítez tiene una opinión distinta. “Paraguay es muy reactivo ante la tecnología y ante toda tendencia que exista. Desde afuera nos dicen qué tenemos que hacer. Mientras tanto, Chile nos muestra un modelo proactivo que actúa previendo lo que se viene”, enfatiza Benítez.
Cuevas responde que, ahora mismo, eso no está ocurriendo. “Necesitamos una mayor igualdad y cambios en la lógica de generación del conocimiento. No podemos delegar el poder de decisión; eso sería dejar de lado la capacidad que tenemos de ejercer nuestros derechos y de pensar por nosotros mismos”.
¿Cuáles son los riesgos que podría suponer la IA para la democracia en Paraguay?
No podíamos finalizar este explicador sin preguntarnos cómo estos riesgos para la ciudadanía podrían afectar al sistema democrático de un país con una larga trayectoria de corrupción y autoritarismo.
Olga Caballero, directora ejecutiva y cofundadora de Alma Cívica, cree que la IA puede suponer un incremento de la desinformación, el refuerzo de sesgos y la incidencia en las decisiones de políticas públicas para avanzar contra enemigos políticos. Caballero es de la opinión de que la regulación de la IA no es suficiente para hacer frente a este riesgo. “Necesitamos una mayor alfabetización digital para que la ciudadanía pueda entender cómo usar estas plataformas de manera crítica y responsable, lo cual no implica no usarlas”.
Sin embargo, la IA también puede representar oportunidades para fortalecer la democracia en Paraguay, según Caballero. “La IA puede ser una herramienta para construir nuevas formas de fomentar la democracia y la participación ciudadana. Hay ejemplos de civic tech en el mundo, como el de Estonia. Hay ejemplos en el mundo donde la IA puede usarse para el servicio público y para responder a las necesidades de la población, siempre acompañada de la inteligencia artesanal y del algoritmo humano”.
Este material fue realizado en el marco del Programa por la Integridad de la Información— PIIN 2025 “El futuro de la información en la era de la IA” de La Precisa.