Ciudad de México a 10 diciembre, 2025, 14: 57 hora del centro.
Ciudad de México a 10 diciembre, 2025, 14: 57 hora del centro.

La violencia digital y la inteligencia artificial

postal PP horizontal Candelaria Ochoa

Actualmente, las redes sociales se han posicionado como importantes vías de comunicación. Plataformas como Facebook, X e Instagram, entre otras, nos han servido para expresar y compartir lo que hacemos, sentimos y pensamos. También las utilizamos para informarnos acerca de los sucesos locales, nacionales o internacionales. A través de ellas, además, seguimos las actividades de las personas que nos interesan, ya sea por vínculos afectivos o por afinidades políticas.

Así, las redes se han transformado en espacios de interacción entre personas y grupos. Y, aunque en sus inicios desempeñaron un papel destacado al comunicar lo que los medios tradicionales no abordaban, hoy en día su uso se ha generalizado convirtiéndolos en espacios paradójicos. Por un lado, ofrecen oportunidades para la comunicación; por el otro, se han vuelto escenarios peligrosos, propensos a la violencia, el racismo, el sexismo y el clasismo.

Por ello, considero que no debemos caer en extremismos respecto a la incorporación de las tecnologías digitales en la vida social. Si bien han representado una valiosa oportunidad para la comunicación, al mismo tiempo se han convertido en una amenaza para la vida privada.

En términos políticos, se han transformado en espacios y herramientas tecnológicas para democratizar la comunicación, incluso han dado lugar a la creación de nuevos lenguajes ad hoc. Por otro lado, comunicador@s que fueron vetados de los medios tradicionales o que consideraron que estos ya no respondían a sus inquietudes e intereses, han creado sus propios canales de comunicación, muchos de ellos con gran éxito. Ejemplo de ello son los youtubers o medios informativos como Sin Embargo, Julio Astillero y nuestro propio medio digital El Soberano, que difunden información de interés público a través de sus plataformas.

Una visión crítica, consciente y centrada es necesaria. La tecnología, por sí misma, no va a salvarnos de nada; sin embargo, tampoco podemos negar que, hoy por hoy, casi todas nuestras actividades están atravesadas por alguna forma de tecnología digital, muchas de ellas vinculadas a la Inteligencia Artificial (IA). Las personas estamos conectadas de manera permanente con la información que consideramos relevante; por ello, mientras sea de mayor calidad, mejor informadas estaremos.

Hoy, las nuevas tecnologías y la inteligencia artificial pueden facilitarnos el acceso a conocimientos científicos, pero las redes también operan en múltiples niveles que, para bien y para mal, nos afectan en nuestro día a día. Tal es su alcance que, los algoritmos de la inteligencia artificial “aprenden” sobre nuestros intereses y nos transmiten contenidos que bien pueden ser positivos o servir para reforzar las múltiples violencias que afectan nuestra autoestima y vida cotidiana, o incluso volvernos “adictos” a la consulta constante sobre nuestro quehacer.

Las discusiones políticas son parte de estos mecanismos tecnológicos y hacen uso de ellos, para difundir posiciones polarizadas, discursos fascistas, mentiras, racismos, misoginias y mucho machismo. Así como en su momento fueron una herramienta importante para difundir proyectos alternativos, hoy las derechas hacen uso para promover agendas de dominación y explotación social, ambiental y humana.

Un caso especialmente grave es el uso de este tipo de tecnología para producir material pornográfico falso, empleando las imágenes de mujeres -o incluso de menores de edad- que son presentadas actuando según los intereses de varones que las utilizan para difundir mensajes de desprestigio. Estas acciones, muchas veces, se dirigen contra mujeres que “incomodan” a figuras de poder o que se oponen a estructuras de dominación. Para evitar que la tecnología y la inteligencia artificial nos superen, es necesario imaginar redes sociales basadas en los principios de los derechos humanos; promover políticas de igualdad de género; erradicar y combatir las violencias contra las mujeres, las personas mayores, las niñas y los niños; y, sobre todo, construir redes que sitúen el debate político en el centro, con respeto, y que nos permita construir un mundo y sociedades más justas e igualitarias.

Además, estoy convencida que la IA puede generar mejores prácticas, tanto en la administración pública como de interacción humana, siempre que se utilice con ética y responsabilidad social. A través de las redes nos informamos; y, sobre todo, durante la pandemia de covid-19 y en el periodo posterior, estas plataformas se convirtieron en una fuente clave de información. Transformemos, entonces, las redes en verdaderos mecanismos digitales para comprender, analizar, cuestionar y acceder a información de calidad, con ética y compromiso social.

Sobre el autor

Comparte en:

Comentarios