Abierto AI sora Limita las representaciones de personas reales y toma otras medidas de seguridad estrictas para evitar abusos.
El creador de videos, que se anunció el lunes como parte del evento 12 Days of OpenAI, tiene todo tipo de capacidades de edición para que los usuarios creen y personalicen videos generados por IA. Pero hay ciertas cosas que no puedes hacer con Sora, como pronto será el caso con los usuarios. descubrir.
Es posible que el tweet haya sido eliminado.
según ella Tarjeta del sistema“La capacidad de cargar fotos de personas estará disponible para un subconjunto de usuarios”, lo que significa que la mayoría de los usuarios no pueden crear videos de personas basándose en una foto cargada. Estos usuarios son parte de un “experimento de similitud” que OpenAI está probando con unos pocos seleccionados. Un portavoz de OpenAI dijo que los videos de personas generados por IA están limitados para “abordar las preocupaciones sobre la apropiación indebida de imitaciones y deepfakes”. El portavoz continuó diciendo que OpenAI “monitoreará activamente los patrones de abuso y, cuando los encontremos, eliminaremos el contenido, tomaremos las medidas adecuadas con los usuarios y utilizaremos estas primeras lecciones para repetir nuestro enfoque de seguridad”.
Velocidad de la luz triturable
Primer vistazo a Sora de OpenAI: el YouTuber Marques Brownlee analiza problemas con un modelo de vídeo de IA
Limitar la representación de personas en los vídeos de Sora tiene sentido desde el punto de vista de la responsabilidad. Hay todo tipo de formas en que se puede abusar de la herramienta: deepfakes no consensuados, representaciones de menores, estafas y desinformación, por nombrar algunas. Para combatir esto, Sora ha sido entrenado para rechazar ciertas solicitudes de mensajes de texto o carga de imágenes.
Se rechazarán las reclamaciones por contenido NSFW (no seguro para el trabajo), NCII (imágenes íntimas no consensuales) y creación de niños realistas, aunque se permiten imágenes falsas. OpenAI agregó metadatos C2PA a todos los videos de Sora, hizo que una marca de agua visible sea la predeterminada, aunque se puede eliminar, e implementó una búsqueda interna de imágenes inversas para evaluar la procedencia del video.
A pesar de que se han implementado muchas barreras para evitar el mal uso, persiste la pregunta de cómo responderá Sora a las pruebas de estrés masivas. Actualmente, el acceso a Sora no está disponible debido a… Alta demanda.