Las duras verdades de la prohijamiento de IA
Fusil Estado de la IA en los negocios El crónica reveló que si admisiblemente el 40% de las organizaciones han comprado suscripciones de Enterprise LLM, más del 90% de los empleados utilizan activamente herramientas de IA en su trabajo diario. Del mismo modo, la investigación de la seguridad armónica encontró que el 45.4% de las interacciones de IA sensibles provienen de cuentas de correo electrónico personales, donde los empleados están evitando por completo los controles corporativos.
Esto, comprensiblemente, ha llevado a muchas preocupaciones en torno a una creciente «posesiones de IA de sombra». Pero, ¿qué significa eso y cómo pueden los equipos de gobernanza de seguridad y AI exceder estos desafíos?
Póngase en contacto con Harmonic Security para obtener más información sobre el descubrimiento de la IA Shadow y hacer cumplir su política de uso de IA.
El uso de IA está impulsado por empleados, no comités
Las empresas ven incorrectamente el uso de la IA como poco que aparece de en lo alto en dirección a debajo, definido por sus propios líderes empresariales visionarios. Ahora sabemos que eso está mal. En la mayoría de los casos, los empleados conducen la prohijamiento de debajo en dirección a en lo alto, a menudo sin supervisión, mientras que los marcos de gobernanza todavía se están definiendo de en lo alto en dirección a debajo. Incluso si tienen herramientas sancionadas por la empresa, a menudo las evitan a valenza de otras herramientas más nuevas que están mejor ubicadas para mejorar su productividad.
A menos que los líderes de seguridad entiendan esta sinceridad, descubren y rigen esta actividad, están exponiendo el negocio a riesgos significativos.
Por qué defecto el obstrucción
Muchas organizaciones han tratado de enredar este desafío con una organización de «cercar y esperar». Este enfoque escudriñamiento restringir el paso a plataformas de IA conocidas y la prohijamiento de esperanza se desacelera.
La sinceridad es diferente.
La IA ya no es una categoría que se puede cercar fácilmente. Desde aplicaciones de productividad como Canva y Grammarly hasta herramientas de colaboración con asistentes integrados, la IA se entrelaza en casi todas las aplicaciones SaaS. Cercar una aparejo solo lleva a los empleados a otro, a menudo a través de cuentas personales o dispositivos de inicio, dejando a la empresa a ciegas a un uso existente.
Este no es el caso para todas las empresas, por supuesto. Los equipos de seguridad y gobernanza de IA de avance están buscando comprender de forma proactiva lo que los empleados están utilizando y para qué casos de uso. Buscan comprender lo que está sucediendo y cómo ayudar a sus empleados a usar las herramientas de la forma más segura posible.
Descubrimiento de la sombra ai como imperativo de gobierno
Un inventario de activos de IA es un requisito regulatorio y no es agradable de tener. Los marcos como la Ley de la UE AI exigen explícitamente a las organizaciones a ayudar la visibilidad de los sistemas de IA en uso, porque sin descubrimiento no hay inventario, y sin un inventario no puede tener gobernanza. Shadow AI es un componente secreto de esto.
Diferentes herramientas de IA plantean diferentes riesgos. Algunos pueden entrenar silenciosamente en datos propietarios, otros pueden acumular información confidencial en jurisdicciones como China, creando exposición a la propiedad intelectual. Para cumplir con las regulaciones y proteger el negocio, los líderes de seguridad primero deben descubrir el trascendencia completo del uso de la IA, alcanzar cuentas empresariales sancionadas y las personales no autorizadas.
Una vez armado con esta visibilidad, las organizaciones pueden separar casos de uso de bajo peligro de aquellos que involucran datos confidenciales, flujos de trabajo regulados o exposición geográfica. Solo entonces pueden hacer cumplir políticas de gobierno significativas que protejan los datos y permitan la productividad de los empleados.
Cómo ayuda a la seguridad armónica
La seguridad armónica permite este enfoque entregando controles de inteligencia para el uso de la IA de los empleados. Esto incluye el monitoreo continuo de la IA de la sombra, con evaluaciones de riesgos habitual para cada aplicación.
En punto de esperar en las listas de bloques estáticos, Harmonic proporciona visibilidad tanto en el uso de IA sancionado como no competente, luego aplica políticas inteligentes basadas en la sensibilidad de los datos, el papel del empleado y la naturaleza de la aparejo.
Eso significa que se puede permitir que un equipo de marketing ponga información específica en herramientas específicas para la creación de contenido, mientras que los equipos de medios humanos o legales están restringidos del uso de cuentas personales para la información confidencial de los empleados. Esto está respaldado por modelos que pueden identificar y clasificar la información a medida que los empleados comparten los datos. Esto permite a los equipos hacer cumplir las políticas de IA con la precisión necesaria.
El camino en dirección a delante
Shadow Ai está aquí para quedarse. A medida que más aplicaciones SaaS incrustan la IA, el uso no administrado solo se expandirá. Las organizaciones que no abordan el descubrimiento hoy no pueden dirigir mañana.
El camino a seguir es gobernarlo de forma inteligente, en punto de bloquearlo. Shadow AI Discovery le da a CISOS la visibilidad que necesitan para proteger los datos confidenciales, cumplir con los requisitos reglamentarios y capacitar a los empleados para exprimir los beneficios de productividad de forma segura.
La seguridad armónica ya está ayudando a las empresas a dar el próximo paso en la gobernanza de la IA.
Para CISO, ya no se proxenetismo de si los empleados están usando Shadow AI … es si puedes verlo.
