Justo a tiempo para las elecciones estadounidenses de 2024, la empresa de detección de fraudes y análisis de llamadas Hiya lanzó una extensión gratuita de Chrome para detectar votos falsos. Apropiadamente nombrado Hola detector de audio deepfake “Escucha” los sonidos reproducidos en transmisiones de video o audio y asigna una puntuación de autenticidad, indicándole si es probable que sean reales o falsos.
Hiya le dice a Engadget que los evaluadores externos han verificado la extensión en más del 99 por ciento. La compañía dice que también cubre sonidos generados por IA para los que el modelo de detección no ha sido entrenado, y afirma que puede detectar sonidos generados por nuevos modelos sintéticos una vez que se lancen.
Probamos la extensión antes del lanzamiento y parece funcionar bien. Saqué un video de YouTube sobre el pionero del blues Howlin' Wolf que cuestioné en su uso de la narración de IA y le di una puntuación de 1/100 en autenticidad, declarando que probablemente era un deepfake. Las sospechas fueron confirmadas.
Hiya ha asestado un duro golpe a las empresas de redes sociales por hacer de esta herramienta una necesidad. “Está claro que los sitios de redes sociales tienen la importante responsabilidad de alertar a los usuarios cuando el contenido que consumen sea probablemente una falsificación de IA”, escribió el presidente de Hiya, Kush Parikh, en un comunicado de prensa. “Ahora es responsabilidad del individuo ser consciente de los riesgos y utilizar herramientas como Deepfake Voice Detector para comprobar si el contenido en cuestión ha sido modificado. Este es un gran requisito, por lo que estamos felices de poder ayudarlos. una solución que les ayude a devolver algo de poder a sus manos”.
La extensión sólo necesita escuchar unos segundos de audio para generar el resultado. Se ejecuta en un sistema de crédito para evitar que los servidores de Hiya se vean afectados por solicitudes excesivas. Recibirá 20 créditos por día, que pueden cubrir o no inundaciones. Contenido manipulativo de IA Lo encontrarás en las redes sociales en las próximas semanas.