La Búsqueda de Google está probando nuevas tácticas para frenar los deepfakes

La difusión en línea de fotografías falsas no consensuadas durante el último año, especialmente aquellas que representan a celebridades femeninas, ha presentado un desafío difícil para los motores de búsqueda. Incluso si alguien no está buscando ese material, la búsqueda de nombres específicos puede generar una cantidad sorprendente de enlaces a fotos y videos explícitos falsos de esa persona.

Google La compañía está tratando de abordar este problema actualizando sus sistemas de calificación, anunció la compañía el Entrada en el blog.

La gerente de producto de Google, Emma Higham, escribió en la publicación que las actualizaciones de clasificación están diseñadas para reducir el contenido completamente falso en muchas búsquedas.

Cuando alguien utiliza términos para buscar clips falsos no consensuados de individuos específicos, el sistema de clasificación intentará proporcionar “contenido no explícito y de alta calidad”, como artículos de noticias, cuando esté disponible.

“Gracias a estos cambios, la gente puede leer sobre el impacto de las fotografías falsas en la sociedad, en lugar de ver páginas que contienen fotografías falsas que en realidad no están aprobadas”, escribió Higham.

Higham dijo que las actualizaciones de clasificación ya han reducido la exposición a resultados de imágenes explícitos en búsquedas de imágenes falsas en un 70 por ciento.

Google también pretende degradar el contenido profundo explícito, aunque Higham señaló que puede ser difícil distinguir entre contenido real y consensuado, como escenas de desnudos de un actor, y material generado por inteligencia artificial, sin el consentimiento del actor.

Para ayudar a detectar contenido falso, Google ahora tiene en cuenta en sus clasificaciones si las páginas de un sitio han sido eliminadas de la búsqueda según las políticas de la empresa. Los sitios con una gran cantidad de eliminaciones debido a imágenes explícitas falsas ahora serán degradados en la búsqueda.

Además, Google está actualizando los sistemas que manejan las solicitudes para eliminar videos falsos inaceptables de la búsqueda. Se supone que los cambios facilitarán el proceso de pedido.

Cuando una víctima puede eliminar imágenes falsas de sí misma de una búsqueda en Google, los sistemas de la empresa intentarán filtrar todos los resultados relacionados con búsquedas similares sobre ella y escanear y eliminar duplicados de estas imágenes.

Higham reconoció que hay “más trabajo por hacer” y que Google seguirá desarrollando “nuevas soluciones” para ayudar a las personas afectadas por deepfakes inaceptables.

El anuncio de Google llega dos meses después La Casa Blanca invita a empresas tecnológicas Para detener la difusión de fotografías falsas explícitas.