Detección de contenido y deepfakes generados por IA

Detección de contenido generado por IA

La tecnología ha avanzado rápidamente y la inteligencia artificial es ahora capaz de generar contenido diverso, desde textos hasta imágenes y vídeos. Es un hecho que se aproximan las elecciones en Estados Unidos en 2024 y se espera un gran volumen de publicaciones que podrían estar generadas por inteligencia artificial. Herramientas como DALL-E 3 o Midjourney tienen la habilidad de crear contenido multimedia con una facilidad sorprendente. Sin embargo, a medida que se expande la capacidad de la inteligencia artificial, surge la necesidad de controlar su uso, especialmente para prevenir noticias falsas.

¿Cómo combatir las fake news?

Para combatir la desinformación, necesitamos más que herramientas digitales. Se necesita el esfuerzo conjunto de varios sectores de la sociedad. Según el artículo de OpenAI, las empresas también deben formar parte de la solución. OpenAI, la compañía dirigida por Sam Altman, ha tomado la iniciativa en este sentido y trabaja para desarrollar soluciones para detectar y controlar los deepfakes.

OpenAI en la lucha contra las fake news

Recientemente, OpenAI se ha unido al Comité Directivo de la Coalición para la Autenticidad y la Procedencia del Contenido. Esta organización ha diseñado un estándar para identificar el origen de la información digital, que puede ser adoptado por creadores de software, fabricantes de cámaras y plataformas en línea. OpenAI ya ha comenzado a incorporar metadatos C2PA en las imágenes creadas y editadas por su herramienta DALL-E 3 en ChatGPT y la API de OpenAI.

Adopción de metadatos C2PA

Los metadatos C2PA aportan una capa adicional de seguridad a la información generada por las herramientas de OpenAI. Estos metadatos también se integrarán próximamente en los vídeos creados con la herramienta Sora. Aunque existe una multitud de formas de crear contenido falso, estos avances representan un paso significativo para detectar deepfakes, especialmente de cara a las venideras elecciones estadounidenses.

Compromiso de OpenAI

OpenAI no solamente pretende combatir la información falsa en línea con la adopción de metadatos, sino que también está comprometida con la educación en inteligencia artificial. En un artículo publicado en el blog de Microsoft, se anunció la creación del Societal Resilience Fund. Esta fundación tiene como objetivo proporcionar educación y comprensión sobre la moderna inteligencia artificial al público general.

Herramientas de OpenAI

Además, OpenAI está desarrollando otras herramientas para luchar contra la desinformación en línea. Estas incluyen marcadores de archivos de audio con señales invisibles difíciles de suprimir y detectores que puedan identificar si un contenido multimedia ha sido generado mediante herramientas de IA. Actualmente, OpenAI cuenta con el DALL·E Detection Classifier Access Program, que permite predecir si una imagen ha sido generada por DALL-E 3 y cuenta con una precisión del 98%.