Desde simplificar procesos hasta automatizar procesos complejos, Amnistía Internacional Ha revolucionado la forma en que las organizaciones abordan las tareas; sin embargo, a medida que la tecnología se generaliza, las organizaciones descubren que la prisa por adoptar la IA puede tener consecuencias no deseadas.
A un informe Swimlane revela que, aunque la IA ofrece enormes beneficios, su adopción ha superado la capacidad de muchas empresas para proteger datos confidenciales. A medida que las empresas integran profundamente la IA en sus operaciones, también deben abordar los riesgos asociados con ella, incluidas las filtraciones de datos, las fallas en el cumplimiento y las fallas en los protocolos de seguridad.
La inteligencia artificial trabaja con Modelos de lenguajes grandes (LLM) Los cuales se entrenan utilizando extensos conjuntos de datos que a menudo incluyen información disponible públicamente. Estos conjuntos de datos pueden consistir en texto de fuentes como Wikipedia, GitHub y muchas otras plataformas en línea, que proporcionan un corpus rico para entrenar modelos. Esto significa que si los datos de la empresa están disponibles en línea, potencialmente pueden usarse para capacitar a los titulares de un LLM.
Procesamiento de datos y LLM generales.
El estudio reveló una brecha entre el protocolo y la práctica al compartir datos en grandes modelos de lenguaje público (LLM). Aunque el 70% de las organizaciones afirman contar con protocolos específicos para proteger el intercambio de datos confidenciales con LLM públicos, el 74% de los encuestados reconoce que las personas dentro de sus organizaciones todavía ingresan información confidencial en estas plataformas.
Esta discrepancia pone de relieve una grave deficiencia en la implementación y el cumplimiento por parte del personal de las medidas de seguridad vigentes. Además, hay un aluvión constante de mensajes relacionados con la IA que agotan a los profesionales, y el 76% de los encuestados está de acuerdo en que el mercado está actualmente saturado con exageraciones relacionadas con la IA.
Esta sobreexposición está provocando una forma de agotamiento de la IA: más de la mitad (55%) de los encuestados informaron que se sienten agotados por el enfoque constante en la IA, lo que sugiere que la industria puede necesitar cambiar su enfoque para promover la tecnología.
Curiosamente, a pesar de esta fatiga, la experiencia con las tecnologías de inteligencia artificial y aprendizaje automático (ML) se ha convertido en un factor decisivo en las decisiones de contratación. Un asombroso 86% de las organizaciones informaron que la familiaridad con la IA juega un papel importante a la hora de determinar la idoneidad de los candidatos. Esto muestra cuán arraigada está la IA, no solo en las herramientas de ciberseguridad sino también en la fuerza laboral necesaria para administrarlas.
En el sector de la ciberseguridad, la IA y las juntas empresariales han tenido un impacto positivo: el informe indica que el 89% de las organizaciones atribuyen a las tecnologías de IA la mejora de la eficiencia de sus equipos de ciberseguridad.