nuevo Google Apps Las directrices imponen restricciones a las aplicaciones de IA generativa que ofrecen herramientas sospechosas, como aplicaciones de “eliminación profunda” y aquellas que producen contenido gráfico.
el Actualización de la política de la App Storeanunciado el jueves, ordena a las aplicaciones de IA generativa y a sus desarrolladores que tomen precauciones integradas contra el contenido ofensivo, “incluido el contenido prohibido enumerado en los Términos de Google Play”. Contenido inapropiado Políticas y contenido que puedan explotar o abusar de los niños, y contenido que pueda engañar a los usuarios o permitir un comportamiento deshonesto”.
Los desarrolladores también deben proporcionar servicios dentro de la aplicación. Mecanismos de presentación de informes y denuncias Para los usuarios que encuentran contenido inapropiado y “prueban rigurosamente” sus modelos de IA, TechCrunch mencionado.
Las reglas se aplican a las aplicaciones que producen contenido generado por IA en “cualquier combinación de entrada instantánea de texto, audio e imagen”. Esto incluye chatbots, generadores de imágenes y aplicaciones de suplantación de voz que utilizan IA generativa. Las políticas no se aplican a aplicaciones que “solo alojan” contenido de IA o que contienen “herramientas de productividad” de IA, como el resumen de funciones.
Velocidad de la luz triturable
en tal vezGoogle ha anunciado que está devaluando los resultados de pornografía basados en inteligencia artificial (o “artificial”) en sus rankings de búsqueda internos, en un intento de abordar el creciente problema de la pornografía. Pornografía no consentida y deepfakes. La compañía también ha prohibido la publicidad en sitios web que crean, apoyan o comparan pornografía profunda.
La medida se produjo después de que circulara en las plataformas X y Meta una ola de deepfakes virales centrados en celebridades, incluidos anuncios gráficos para la aplicación de vestimenta impulsada por inteligencia artificial que presentaban fotografías del actor cuando era menor de edad. Jenna Ortega. Google ya estaba ofreciendo Miles de denuncias de víctimas De deepfakes sexuales y no consentidos, muchos de ellos han sido archivados Ley de derechos de autor de medios digitales (DMCA) Reclamaciones contra sitios web que publican sus imágenes.
Los expertos de la industria de la IA han emitido Múltiples advertencias Sobre la amenaza de la desinformación y el uso no consentido de formularios personales, incluidos estos últimos Carta abierta Acuñado por empleados de OpenAI y Google DeepMind. El grupo citó el riesgo potencial de “manipulación y desinformación” si los desarrollos de IA continúan sin regulación.
Siga las regulaciones de Google Play Store Orientación de la Casa Blanca sobre inteligencia artificial Lanzado a empresas de tecnología el mes pasado. El anuncio pedía a los líderes de la industria que hicieran más para prevenir la propagación de deepfakes, y Google respondió específicamente a un llamado para limitar las aplicaciones que “crean, facilitan, monetizan o difunden imágenes de agresión sexual”. Si eres víctima de abuso de deepfake, hay medidas que puedes tomar; Leer más Sobre cómo obtener apoyo.