¿Deberían las organizaciones considerar MLSecOps en su estrategia de ciberseguridad?

A medida que más y más organizaciones adoptan inteligencia artificial A medida que la IA y el aprendizaje automático se utilizan cada vez más para mejorar sus operaciones y obtener una ventaja competitiva, existe un interés creciente en la mejor manera de mantener segura esta poderosa tecnología. Y en el meollo de esta cuestión, hay Datos Estos datos se utilizan para entrenar modelos de aprendizaje automático, lo que afecta fundamentalmente su comportamiento y rendimiento a lo largo del tiempo. Como tal, las organizaciones deben prestar mucha atención a lo que hay en sus modelos y estar constantemente alertas a cualquier señal de algo adverso, como corrupción de datos.

Desafortunadamente, a medida que los modelos de aprendizaje automático han ganado popularidad, también lo ha hecho el riesgo de ataques back-end maliciosos en los que los delincuentes utilizan técnicas de envenenamiento de datos para alimentar los modelos de aprendizaje automático con datos comprometidos, lo que hace que se comporten de manera inesperada o maliciosa cuando se ejecutan con ellos. comandos específicos. Si bien estos ataques pueden tardar mucho tiempo en ejecutarse (a menudo requieren grandes cantidades de datos envenenados durante varios meses), pueden ser increíblemente destructivos cuando tienen éxito. Por esta razón, es algo contra lo que las organizaciones deben protegerse, especialmente en la fase fundamental de cualquier nuevo modelo de aprendizaje automático.