La película Mountainhead, obra del director de la serie Succession, Jesse Armstrong, es una sátira donde cuatro magnates tecnológicos se refugian en una cabaña mientras el mundo arde, producto del caos informativo que ellos mismos provocaron. La pregunta que atraviesa toda la trama no es cómo detener la crisis, sino cómo lucrar con ella. ¿Suena exagerado? En México podría ya no serlo.
La inteligencia artificial está redibujando los bordes de lo real, y en un país donde el periodismo de investigación coexiste con granjas de bots, donde las campañas políticas compran alcance digital como si fueran agua en el desierto, y donde las redes sociales funcionan como tribunales populares sin derecho a réplica, la IA no solo acelera la desinformación, la está perfeccionando.
Los llamados deepfakes ya no son juguetes de laboratorio. En 2024 vimos audios falsos de candidatos, “videos filtrados” editados con precisión quirúrgica y notas patrocinadas que se hacían pasar por periodismo independiente. Hoy, un video de 10 segundos manipulado puede hundir una trayectoria política de 10 años. Y lo más grave: ni la ley, ni el INE, ni los propios partidos están preparados para ese nivel de distorsión.
Lo más alarmante es que el uso de IA no parte del Estado, sino de intereses particulares: agencias, consultoras, actores políticos con recursos para modelar la conversación pública a su antojo. En este nuevo orden, el principio de “quien tiene la verdad gana” se ha invertido; ahora gana quien genera más contenido, no quien tiene razón.
La disyuntiva es clara: ¿cómo regulamos sin censurar? ¿Cómo protegemos la libertad de expresión sin dejar el campo libre a los mercenarios de la (des)información? Porque no se trata de controlar opiniones legítimas, sino de poner freno al uso doloso y deliberado de tecnologías para confundir, extorsionar o desacreditar.
Hay quien sostiene que toda regulación es peligrosa, que solo los autoritarismos quieren vigilar la conversación pública. Pero también hay que decirlo: en nombre de la libertad de expresión se están destruyendo reputaciones, instituciones y procesos democráticos. Y eso, lejos de fortalecer la pluralidad, nubla el debate.
México hoy carece de un marco normativo específico que regule el uso de la IA generativa en política. Las leyes electorales apenas se están actualizando con respecto a las redes sociales, mucho menos para tecnologías que simulan voces, rostros o testimonios. La Ley Olimpia ha sido un primer paso contra la violencia digital, pero resulta insuficiente ante los nuevos mecanismos de manipulación.
Aquí hago una propuesta para abrir el debate:
- Ley de Integridad Algorítmica: que obligue a etiquetar todo contenido sintético en campañas políticas, establezca sanciones cuando haya dolo, y exija transparencia en el uso de bots y publicidad dirigida.
- Observatorio Nacional de IA y Democracia: conformado por universidades, periodistas y sociedad civil, con atribuciones para auditar procesos electorales en el entorno digital y emitir alertas preventivas.
- Alfabetización digital como política de Estado: desde primaria hasta educación superior, incluso como parte de la formación de funcionarios, con enfoque en pensamiento crítico, verificación de información y ética digital.
La inteligencia artificial puede ser aliada de la democracia construyendo consensos, optimizando servicios públicos, amplificando voces marginadas, o su peor enemiga. Todo depende de las reglas, del contexto y, sobre todo, de la voluntad política.
Si dejamos que los algoritmos se encarguen de decidir qué es verdad y qué no, estaremos cediendo la democracia a quienes aprendieron a manipularla mejor. La libertad de expresión debe protegerse, sí, pero también debe protegernos, y para eso, necesitamos leyes, instituciones y ciudadanía a la altura del reto.
Porque en México la montaña de las fake news no está lejos, ya vivimos en ella.
