La expansión de los 'shadow agents' eleva el riesgo sobre los datos corporativos en EMEA
Una investigación de Veeam revela que el 67 % de las organizaciones de EMEA no puede rastrear por completo los flujos de trabajo autónomos de IA creados por empleados, mientras crece la presión sobre los equipos directivos por la gobernanza y la responsabilidad corporativa.
La rápida adopción de la inteligencia artificial está dando lugar a una nueva problemática para las organizaciones de EMEA: la proliferación de los denominados 'shadow agents' o agentes en la sombra. Una investigación de Veeam pone de manifiesto que las empresas están perdiendo visibilidad sobre determinados usos autónomos de la IA, al tiempo que estas herramientas comienzan a interactuar con información corporativa sensible.
El estudio señala que el 70 % de las organizaciones encuestadas admite que los flujos de trabajo automatizados de IA interactúan con datos corporativos sensibles sin una supervisión completa. Además, el 67 % afirma que los empleados están creando flujos de trabajo autónomos que los equipos de TI no pueden rastrear por completo.
La situación plantea un reto que va más allá de la implantación de nuevas herramientas de inteligencia artificial. Las organizaciones necesitan garantizar que los datos utilizados por los agentes sean fiables, seguros y resilientes, al tiempo que mantienen mecanismos adecuados de gobernanza y visibilidad. La falta de estos controles puede aumentar la exposición de información confidencial y los riesgos relacionados con el cumplimiento normativo.
La presión también está llegando a los órganos de dirección. Según el estudio, el 32 % de las organizaciones asegura que las crecientes exigencias relacionadas con la gobernanza de la IA y la responsabilidad corporativa ya están generando tensión o conflictos entre los directivos.
La proliferación de agentes de IA autónomos plantea nuevos retos para la gobernanza, la trazabilidad y la protección de los datos corporativos.
La gobernanza de la IA llega a los consejos de administración
El aumento de las obligaciones de cumplimiento está trasladando progresivamente la gobernanza de la inteligencia artificial desde los departamentos técnicos hacia los niveles más altos de las organizaciones. El 58 % de las empresas encuestadas está sujeto actualmente a nuevas leyes de responsabilidad corporativa, mientras que un 12 % considera que las responsabilidades individuales concretas están compartidas y poco claras.
Esta situación tiene un impacto directo sobre los equipos directivos. El 40 % de los encuestados afirma estar preocupado por la responsabilidad personal o sus consecuencias; el 39 % señala un mayor escrutinio por parte del consejo de administración; y el 37 % asegura que ha aumentado su estrés o ansiedad personal. Además, un 32 % afirma que esta situación ha generado tensión o conflictos con otros directivos.
No obstante, el incremento de la responsabilidad también está teniendo un efecto positivo para una parte de las organizaciones. El 45 % considera que ha contribuido a mejorar la alineación y el enfoque en los niveles de liderazgo.
“Los ejecutivos nunca habían tenido que prestar tanta atención a la gobernanza de los datos y a las normativas de ciberresiliencia”, afirma Tim Pfaelzer, director general y vicepresidente sénior para EMEA en Veeam. “Aunque el aumento del estrés y la tensión es completamente comprensible, si el resultado es una mejor alineación a nivel del consejo de administración, la organización estará mucho mejor posicionada para confiar en su gobernanza de los datos y de la IA en la era de los agentes autónomos. Una mayor alineación se traduce, en última instancia, en una mejor gobernanza, visibilidad y protección de los datos en toda la organización”.
Alemania y Reino Unido, entre los mercados con mayores desafíos
La investigación muestra diferencias significativas en la gestión de los agentes autónomos dentro de EMEA. Alemania presenta algunos de los indicadores más elevados: el 81 % de sus líderes reconoce que los flujos de trabajo automatizados interactúan con datos sensibles sin supervisión, mientras que el 79 % afirma que los empleados están creando flujos de trabajo en la sombra que los equipos de TI no pueden rastrear.
En Reino Unido, el 75 % de las organizaciones afirma carecer de una supervisión adecuada de los agentes de IA que interactúan con información sensible. En Oriente Medio y África, por el contrario, el 41 % de las organizaciones depende exclusivamente de proveedores globales de IA para todos sus casos de uso, un dato que, según el estudio, apunta al posible impacto del marco regulatorio europeo sobre las estrategias de gobernanza.
“Las organizaciones de EMEA todavía están adaptándose a la gobernanza en esta nueva era de agentes autónomos”, añade Pfaelzer. “Pero los datos demuestran que el sector está teniendo una conversación equivocada sobre la confianza en la IA. Intentar controlar miles de agentes autónomos uno a uno simplemente no es escalable. Para hacer que la IA sea segura a nivel empresarial, las organizaciones necesitan proteger, gobernar y comprender los datos de los que dependen estos agentes”.
La Ley de IA añade presión sobre las organizaciones
A los retos derivados de la proliferación de agentes autónomos se suma la evolución del marco regulatorio europeo. La Ley de IA de la Unión Europea ya ha comenzado a entrar en vigor y contempla nuevos plazos de cumplimiento que se extenderán hasta 2028.
La mayoría de los líderes encuestados, un 83 %, considera que la normativa tendrá un impacto positivo tanto en las organizaciones como en el entorno general. Sin embargo, persisten dudas sobre sus implicaciones prácticas. El 62 % teme que las ambigüedades o zonas grises de la legislación puedan generar riesgos de incumplimiento, mientras que el 63 % considera que podrían aparecer riesgos operativos o legales no deseados.
Las preocupaciones son especialmente elevadas en Reino Unido y Alemania. El 74,4 % de los encuestados británicos y el 73,6 % de los alemanes consideran que las ambigüedades de la normativa representan un riesgo de incumplimiento.
El estudio apunta así a un cambio en las prioridades de las empresas: a medida que los agentes autónomos se incorporan a los procesos corporativos, la gobernanza de los datos, la trazabilidad y la protección de la información pasan a ser elementos esenciales para controlar los riesgos asociados a la expansión de la inteligencia artificial.
