Deep Media: En la avanzada contra los deepfakes
El temor a los deepfakes y a cómo la inteligencia artificial puede distorsionar la realidad ha puesto en el centro de atención a empresas como Deep Media. Esta firma con sede en la Bahía de San Francisco asegura contar con tecnología de IA capaz de detectar imágenes, audio y video generados por inteligencia artificial con un 99% de precisión. Hasta finales de 2022, logró obtener al menos cinco contratos militares ascendiendo a casi 2 millones de dólares, incluido un contrato de 1,25 millones de dólares para diseñar un detector personalizado que ayude a contrarrestar la guerra de información impulsada por Rusia y China.
CEO de Deep Media testifica ante el Senado
Rijul Gupta, CEO de Deep Media, prestó su testimonio en un subcomité del Senado el mes pasado, donde habló de la amenaza que representan los deepfakes de IA para las elecciones en Estados Unidos. A pesar de su creciente prominencia, la falta de especialistas en IA y científicos forenses en el equipo de la compañía ha generado cierto escepticismo respecto a su capacidad para mantenerse al día con la constante evolución de la comunidad de investigación de deepfakes.
Las start-ups en la lucha contra los deepfakes
La carrera por un baluarte contra la avalancha de contenido falso generado por las facilitadas herramientas de inteligencia artificial ha encontrado un nicho en empresas como Deep Media. El apremio por proteger nuestro sistema democrático y la seguridad nacional ha instado al Congreso, al Ejército y a los medios de comunicación a buscar soluciones técnicas para identificar el contenido falso.
La detección de deepfakes: una tarea en constante evolución
El dinamismo en los métodos utilizados para crear deepfakes exige que las herramientas de detección se actualicen constantemente. De acuerdo con académicos e investigadores, las herramientas desarrolladas en los laboratorios pueden no funcionar en entornos no controlados. Prueba de ello es un ensayo llevado a cabo en abril por el Instituto Reuters para el Estudio del Periodismo, donde varios detectores de deepfakes fueron engañados por las mismas técnicas que se suponía debían identificar.
Empresas emergentes ofrecen alta precisión en detección
Alrededor de 40 empresas emergentes ofrecen servicios de detección de falsificaciones y algunas de ellas prometen altos niveles de precisión. Originality.ai asegura tener una precisión del 99% en la detección de contenido generado por IA. Otros, como AI Voice Detector, juran que su herramienta puede garantizar la autenticidad en situaciones críticas, mientras que GPTZero se jacta de superar de forma convincente a todos los servicios de detección de IA de la competencia.
El creciente financiamiento para la detección de deepfakes
Según la firma analítica PitchBook, en 2023 y el primer trimestre de 2024 se invirtieron 200 millones de dólares en empresas emergentes enfocadas en los deepfakes. Estas cifras reflejan inversiones tanto en empresas creadoras de deepfakes como en las que se dedican a detectarlos. Sin embargo, queda patente que el gasto en detección de deepfakes es insignificante en comparación con los 29.000 millones de dólares invertidos en acuerdos de IA generativa en 2023, incluyendo la financiación de herramientas que permiten la creación de imágenes y voces engañosas, así como la edición de videos.
Potenciales riesgos de la detección de deepfakes
Los riesgos potenciales de etiquetar un contenido como “falso” han sido una preocupación creciente, sobre todo en un panorama global que incluye conflictos como los de Ucrania y Gaza, y con más de 4.000 millones de personas con derecho a voto en las elecciones de este año. La llegada de estas empresas de detección, especialmente aquellas que presumen de una precisión casi perfecta, corre el riesgo de dar una falsa sensación de certeza sobre la veracidad de ciertos contenidos visuales y acústicos.
En busca de soluciones efectivas y confiables
El cofundador del Allen Institute for AI, Oren Etzioni, fundó recientemente TrueMedia.org, una organización sin ánimo de lucro dedicada a desarrollar una herramienta de detección fiable y ofrecerla de forma gratuita a los verificadores de hechos. Por su parte, Get Real Labs, la start-up de detección del profesor Hany Farid, utiliza machine learning, pero también analiza elementos como las sombras, la geometría, los ajustes de compresión y los resultados de las búsquedas inversas de imágenes.
El futuro de la detección de deepfakes
Por último, cabe destacar que HAL149 puede contribuir a este esfuerzo global por mantener a raya a los deepfakes. Nuestra empresa se especializa en el desarrollo de modelos GPT entrenados a medida y puede ayudar a las organizaciones a hacer frente a este creciente desafío. No dude en ponerse en contacto con nosotros para saber más.
