ISMS Forum presenta nuevas herramientas para mejorar la gestión de riesgos en sistemas de IA

Durante el III AI & Cyber Security Forum, celebrado el 11 de marzo en Madrid, la comunidad profesional de ISMS Forum dio a conocer tres iniciativas orientadas a ayudar a las organizaciones a gestionar los riesgos asociados a la inteligencia artificial y adaptarse a los nuevos marcos regulatorios.

La adopción de la inteligencia artificial en el tejido empresarial plantea nuevas oportunidades, pero también introduce retos relacionados con la seguridad, la gobernanza y la gestión del riesgo. En este contexto, ISMS Forum y su Grupo de Inteligencia Artificial (GIA) aprovecharon la celebración de la tercera edición del AI & Cyber Security Forum para presentar tres herramientas destinadas a facilitar la gestión de riesgos en el uso corporativo de esta tecnología.

Las iniciativas presentadas incluyen el Mapa de Riesgos del MIT, el Inventario de Servicios y Sistemas de IA y el Decálogo de Seguridad en la IA Agéntica, documentos que ya están disponibles en la web de la organización y que tienen como objetivo ayudar a las empresas a comprender y gestionar los desafíos que plantea la inteligencia artificial desde el punto de vista tecnológico y regulatorio.

Carlos Sáiz, vicepresidente de ISMS Forum, director del Data Privacy Institute y Partner and Head of Privacy, Risk & Compliance en Ecix Group, explicó que estas herramientas buscan proporcionar a las organizaciones una base práctica para abordar la adopción de la inteligencia artificial con criterios de seguridad, cumplimiento normativo y gestión del riesgo.

El evento también incluyó un debate entre Fernando Rubio, EMEA Technology Strategy CSA Manager en Microsoft, y Daniel Largacha, Global Security Operation Centre Director de MAPFRE, centrado en la evolución de los modelos de defensa ante amenazas cada vez más complejas y en la necesidad de reforzar la resiliencia activa de las organizaciones.

Con esta tercera edición, el AI & Cyber Security Forum se consolida como uno de los principales espacios de debate en España sobre los desafíos que plantea la inteligencia artificial desde el punto de vista de la seguridad, la gobernanza y la gestión del riesgo.

Entre las iniciativas presentadas destaca el Mapa de Riesgos del MIT, un trabajo que permite identificar y clasificar los riesgos asociados al desarrollo y uso de sistemas de inteligencia artificial. El documento consolida más de 1.600 riesgos identificados en distintas taxonomías internacionales y propone un modelo que facilita a las organizaciones diseñar controles, priorizar medidas de mitigación e integrar la IA en sus matrices corporativas de riesgo.

Otra de las propuestas es el Inventario de Servicios y Sistemas de IA, una herramienta que permite a las organizaciones registrar y supervisar el uso de inteligencia artificial dentro de sus procesos. Este inventario responde además a las exigencias del Reglamento Europeo de Inteligencia Artificial (AI Act), que establece la necesidad de que las empresas dispongan de un registro de sus sistemas de IA para mejorar la trazabilidad, la seguridad y el cumplimiento normativo.

La tercera iniciativa presentada fue el Decálogo de Seguridad en la IA Agéntica, un documento que aborda los nuevos desafíos derivados del desarrollo de agentes de inteligencia artificial capaces de actuar de forma autónoma y coordinarse entre sí. El texto propone diez principios orientados a reforzar la seguridad de estos sistemas y a garantizar su uso responsable en entornos empresariales.

El encuentro contó además con una destacada presencia institucional. Alejandro Las Heras, consejero delegado de la Agencia de Ciberseguridad de la Comunidad de Madrid, abordó el papel de la inteligencia artificial en la seguridad digital y repasó algunas de las iniciativas impulsadas por la comunidad autónoma para promover la ciberseguridad en el ámbito empresarial. Por su parte, Manuel Ruiz, subdirector general delegado digital del Área de Economía, Innovación y Hacienda del Ayuntamiento de Madrid, explicó cómo la administración municipal está abordando la transformación digital y la incorporación de la inteligencia artificial en los servicios públicos.

Con esta tercera edición, el AI & Cyber Security Forum refuerza su posición como uno de los principales espacios de debate en España sobre los retos que plantea la inteligencia artificial en materia de seguridad, gobernanza y gestión del riesgo.