- La denuncia de Microsoft de diciembre de 2024 se refiere a diez acusados no identificados
- Este “hacking como servicio” roba las claves API de los usuarios legítimos y elude las salvaguardas de contenido.
- La denuncia del condado de Virginia provocó la retirada del repositorio y del sitio web de Github
microsoft Un grupo anónimo ha sido acusado de desarrollar herramientas para evadir intencionalmente la programación de seguridad en Azure Abierto AI El servicio que está ejecutando Herramientas de inteligencia artificial ChatGPT.
En diciembre de 2024, el gigante tecnológico presentó una demanda. queja en el Tribunal de Distrito de los Estados Unidos para el Distrito Este de Virginia contra 10 acusados no identificados, acusándolos de violar la Ley de Abuso y Fraude Informático, la Ley de Copyright del Milenio Digital, así como el estatuto federal sobre extorsión.
Microsoft afirma que se accedió a sus servidores para ayudar a crear contenido “ofensivo” y “dañino e ilegal”. Aunque no proporcionó mayores detalles sobre la naturaleza de este contenido, quedó claro que bastaba con tomar medidas rápidas; Tenía un repositorio de Github desconectado, según se afirma en un archivo. Publicación de blog El tribunal les permitió confiscar un sitio web relacionado con la operación.
Claves API de ChatGPT
Microsoft dijo en la denuncia que descubrió por primera vez que los usuarios estaban abusando de las claves API del servicio Azure OpenAI utilizadas para autenticarlos con el fin de producir contenido ilícito en julio de 2024. Continuó discutiendo una investigación interna que descubrió que las claves API en cuestión estaban siendo robados a clientes legítimos.
“Se desconoce la manera exacta en que los demandados obtuvieron todas las claves API utilizadas para llevar a cabo la mala conducta descrita en esta demanda, pero parece que los demandados participaron en un patrón de robo sistemático de claves API que les permitió robar claves API de Microsoft de “Numerosos clientes de Microsoft.”, dice la denuncia.
Con el objetivo final de lanzar un producto pirateado como servicio, los acusados crearon de3u, una herramienta del lado del cliente, para robar estas claves API, así como software adicional para permitir que de3u se comunique con los servidores de Microsoft, afirma Microsoft.
De3u también trabajó para eludir los filtros de contenido integrados de Azure OpenAI Services y la revisión posterior de las reclamaciones de los usuarios, lo que permitió a DALL-E, por ejemplo, crear imágenes que OpenAI normalmente no permitiría.
“Estas características, combinadas con el acceso ilegal de la interfaz de programación de aplicaciones (API) de los demandados al servicio Azure OpenAI, permitieron a los demandados realizar ingeniería inversa en las acciones de abuso y elusión de contenido de Microsoft”, escribió en la demanda.
a través de TechCrunch