Bing mejora la detección de pornografía falsa para frenar su propagación

microsoft Bing lo tiene ahora Más poder frotar inteligencia artificialLa compañía anunció una nueva asociación sin fines de lucro para evitar que aparezcan en el motor de búsqueda imágenes sexualmente explícitas, una forma de abuso de imágenes íntimas no consensuadas (NCII).

Colabore con la herramienta de defensa de víctimas NCII parada, Microsoft complementa su proceso de informes de usuarios con un enfoque más “centrado en las víctimas” que incluye El proceso de detección más profundoLa empresa explicó que StopNCII, una plataforma gestionada por una organización sin fines de lucro en el Reino Unido sofl La línea de ayuda sobre pornografía de venganza ofrece a las personas la posibilidad de crear huellas digitales y agregarlas (también conocidas como “hash”) a imágenes íntimas, que luego pueden rastrearse para eliminar las imágenes tal como aparecen en ciertas plataformas.

Basado en un proyecto piloto llevado a cabo durante agosto, el nuevo sistema de Microsoft explota la base de datos StopNCII para identificar instantáneamente imágenes íntimas y evitar que aparezcan en los resultados de Bing. Microsoft dice que ya ha “tomado medidas” sobre 268.000 fotografías explícitas.

Los hashtags StopNCII son utilizados por sitios de redes sociales como Facebook, Instagram, TikTok, Threads, Snapchat y Reddit, así como por plataformas como Bumble, Onlyfans, Aylo (propietario de varios sitios porno populares, incluido PornHub) e incluso Niantic, el programa aumentado. desarrollador de realidad detrás de Pokémon Go. Bing es el primer motor de búsqueda en unirse a la alianza de socios.

Google, que también lucha con contenido deepfake inaceptable, ha tomado medidas similares para abordar la aparición de deepfakes en los resultados de búsqueda, así como imágenes reales inaceptables. Durante el año pasado, la empresa Renueva tu orden de búsqueda sistema para Reducir el contenido artificial explícito en los resultados.La empresa explicó que sustituir los resultados que aparecen en la superficie con “contenido no explícito y de alta calidad”, como artículos de noticias. Google anunció que también está trabajando para agilizar el proceso de informes y revisión para ayudar a acelerar la eliminación de dicho contenido: la plataforma de búsqueda ya tiene un sistema similar a Eliminar fotos reales inaceptableso imágenes pornográficas falsas.

Pero aún no se ha unido a la campaña StopNCII ni ha utilizado su tecnología hash. Sophie Mortimer, directora de la línea de ayuda sobre pornografía de venganza, dijo: “Los motores de búsqueda son la puerta de entrada a través de la cual se pueden encontrar imágenes, por lo que esta medida proactiva de Bing pone en primer plano la seguridad de los directamente afectados”.

Microsoft tiene procesos de denuncia similares para abusos del NCII basados ​​en imágenes reales, así como políticas de conducta estrictas contra la extorsión íntima, también conocida como Chantaje sexualA principios de este año, Microsoft proporcionó a StopNCII su tecnología PhotoDNA, una herramienta de “huellas dactilares” similar que se ha utilizado para detectar y ayudar a eliminar material de abuso sexual infantil.

Cómo reportar imágenes íntimas usando StopNCII

Si cree que su foto (explícita o no) corre el riesgo de ser expuesta o manipulada por malos actores, puede agregar su huella digital a StopNCII para una detección futura. La herramienta no requiere que usted cargue ni almacene fotos o videos personales en el sitio. En cambio, las fotos se guardan en su dispositivo personal.

1. Visita Basta.

2. Haga clic en “Crear su estado” en la esquina superior derecha.

3. Navegue a través de indicaciones personalizadas, que recopilan información sobre el contenido de la foto o el video.

4. Luego, el sitio le pedirá que seleccione fotos o videos de la biblioteca de fotos de su dispositivo. Luego, StopNCII escanea el contenido y crea hashes para cada imagen. Luego, los hashes se envían a las plataformas participantes. No se compartirán fotos ni vídeos.

5. Guarde su número de caso, que le permitirá comprobar si su foto o vídeo ha sido descubierto en línea.

Si se han compartido imágenes íntimas suyas sin su consentimiento, llame a la línea directa 24 horas al día, 7 días a la semana de Cyber ​​​​Civil Rights Initiative al 844-878-2274 para obtener asistencia gratuita y confidencial. El sitio web del CCRI también incluye Información útil Y también una lista Recursos internacionales.