Una veintena de empresas tecnológicas han anunciado su colaboración este año con el fin de enfrentar el desafío del contenido engañoso producido por la inteligencia artificial. Este grupo, encabezado por OpenAI, ha fijado como objetivo principal combatir la desinformación durante los procesos electorales que tendrán lugar en más de 50 países durante el 2024, los cuales abarcan aproximadamente la mitad de la población mundial.

El acuerdo fue revelado el viernes pasado, coincidiendo con el inicio de la Conferencia de Seguridad de Múnich. Entre los participantes se encuentran tanto desarrolladores de tecnología como diversas plataformas de redes sociales, incluyendo a gigantes como Google, Amazon, Meta, Microsoft, OpenAI, X (Twitter) y TikTok.

Este pacto voluntario reconoce que el rápido avance de la inteligencia artificial está generando nuevas oportunidades, pero también desafíos para el proceso democrático. En este sentido, se subraya que la proliferación de contenido engañoso podría comprometer la integridad de los procesos electorales.

Las empresas colaboradoras se centrarán en detectar y abordar imágenes, audios y videos cada vez más realistas generados por las nuevas herramientas de inteligencia artificial. Específicamente, se enfocarán en cualquier contenido que «falsifique o altere engañosamente la apariencia, la voz o las acciones de candidatos políticos, funcionarios electorales y otras partes interesadas».

Sin embargo, es importante destacar que estas empresas no se han comprometido a prohibir o eliminar los denominados «deepfakes». En cambio, proponen varios métodos para detectar y etiquetar este tipo de contenidos cuando se cree o distribuya en sus plataformas, como la implementación de marcas de agua o la opción de incrustar metadatos.