ChatGPT Se dice que la búsqueda, una función que permite a un chatbot impulsado por inteligencia artificial (IA) buscar información en la web, es vulnerable a la manipulación por parte de desarrolladores y propietarios de sitios web. Según el informe, el comportamiento del motor de búsqueda OpenAI se puede cambiar mediante texto oculto en el sitio web. Se dice que este script se utiliza para alimentar a la IA con información incorrecta y engañosa y, lo que es más importante, para alimentar al modelo de IA con inyecciones rápidas. En particular, OpenAI Liberado Función de búsqueda para todos los usuarios la semana pasada.
La búsqueda de ChatGPT es vulnerable a la manipulación
el guardián mencioné el martes que la función del motor de búsqueda nativo de OpenAI es vulnerable a técnicas de manipulación. La publicación probó la herramienta creando una página de producto falsa, completa con especificaciones y reseñas. Inicialmente, la página se dejó como estaba y ChatGPT pudo proporcionar una “revisión positiva pero equilibrada”. Sin embargo, las cosas tomaron un giro más oscuro una vez que la publicación agregó texto oculto a la página web.
Vale la pena señalar que el texto oculto en los sitios web se refiere al contenido que se agrega al código de la página web pero que no es visible para los usuarios cuando ven la parte frontal de la página a través del navegador. Este texto suele ocultarse mediante técnicas HTML o CSS. Dicho texto se puede encontrar examinando el código fuente de una página web o utilizando herramientas de web scraping. Este último suele ser el utilizado por los motores de búsqueda.
Después de agregar texto oculto que contenía una gran cantidad de críticas positivas falsas sobre el producto, las respuestas de ChatGPT también se volvieron más positivas y comenzaron a ignorar sus inconvenientes obvios. La publicación también utilizó inyecciones instantáneas, que son entradas a los sistemas de inteligencia artificial para cambiar su comportamiento de una manera que no fue prevista por los desarrolladores. Se dice que se pueden utilizar inyecciones tan rápidas como texto oculto para emitir el comando. Abierto AI Chatbot para engañar aún más al usuario.
Además, el informe afirma que la inyección rápida de texto oculto también se puede utilizar para revertir código malicioso de sitios web. Si esto no se controla, muchos sitios web podrían utilizar técnicas similares para obtener respuestas positivas sobre sus productos y servicios o intentar engañar a los usuarios de diversas formas, afirma la publicación.