Vulnerabilidad de Slack: la función de IA puede piratear sus conversaciones privadas, según un informe

La IA se está infiltrando en todas las aplicaciones y, en algunos casos, esto puede ser un problema.

Tomemos como ejemplo Slack. La aplicación de mensajería instantánea en el lugar de trabajo contiene Un conjunto opcional de funciones de IA Puedes pagar extra por esto, pero depende de la empresa de seguridad. Escudo rápidoEstá lleno de posibles lagunas. Esta característica existe para ayudar a crear resúmenes rápidos de conversaciones, pero según PromptArmor, lo hace a través del acceso a mensajes directos privados y puede ser engañado para que haga phishing a otros usuarios.

Todos los detalles técnicos esenciales se encuentran en la publicación del blog PromptArmor, pero el problema aquí se reduce a dos pliegues básicos. Para empezar, Slack actualizó recientemente su sistema de inteligencia artificial para poder recopilar datos de los mensajes directos privados y las cargas de archivos de los usuarios. A propósitoAdemás, utilizando una técnica llamada “inyección instantánea”, PromptArmor demostró que se puede utilizar Slack AI para crear enlaces maliciosos que pueden trollear a los miembros de dicho canal de Slack.

Mashable se comunicó con Slack para comentar sobre este asunto. Según el blog PromptArmor, el problema llegó a Slack antes de que se publicara la publicación de su blog. Un portavoz de la empresa matriz de Slack, SalesForce, nos dijo Registro Se ha abordado el problema, pero no entró en detalles.

“Cuando nos enteramos del informe, iniciamos una investigación sobre el escenario descrito donde, en circunstancias muy limitadas y específicas, un actor malicioso con una cuenta ubicada en el mismo espacio de trabajo de Slack podría robar datos confidenciales a los usuarios”, dijo un portavoz de SalesForce. “Hemos implementado un parche para solucionar el problema y no tenemos evidencia en este momento de acceso no autorizado a los datos del cliente”.

Al menos, podría valer la pena consultar las políticas de IA establecidas para cada aplicación que utiliza con regularidad.