Check Point Software advierte sobre los límites tecnológicos ante los deepfakes

Check Point Software alerta sobre la inviabilidad técnica de detectar deepfakes de forma fiable y en tiempo real tras analizar el anteproyecto de ley orgánica aprobado por el Consejo de Ministros. Una iniciativa que busca proteger los derechos al honor, la intimidad y la propia imagen frente a contenidos manipulados por inteligencia artificial, pero que, según la compañía, afronta importantes desafíos desde el punto de vista de la ciberseguridad.

Check Point Software Technologies  ha analizado el anteproyecto de ley orgánica aprobado por el Consejo de Ministros el 13 de enero con el objetivo de frenar la manipulación de imágenes y voces mediante contenidos generados por inteligencia artificial. La normativa pretende reforzar la protección de los derechos al honor, a la intimidad personal y familiar y a la propia imagen frente a la proliferación de deepfakes, tal y como informa la entidad en nota de prensa.

Desde la perspectiva tecnológica, la compañía advirtió de que la iniciativa se enfrenta a limitaciones significativas. En concreto, subraya que “la detección fiable de deepfakes sigue siendo extremadamente complicada” y que “aún no existe una solución automatizada capaz de identificar estos contenidos de forma segura y en tiempo real”. Este escenario se agrava por la evolución acelerada de estas técnicas, que “está reduciendo drásticamente la capacidad de distinguir entre contenidos reales y falsificados”, tanto para los usuarios como para las propias organizaciones.

Check Point considera que la ley se orienta principalmente a la protección de la reputación y los derechos fundamentales de las personas afectadas, un enfoque, determinan, “necesario y positivo”, pero que no aborda el problema desde su raíz técnica.

Eusebio Nieva, director técnico de Check Point Software para España y Portugal, señala: “La iniciativa del Gobierno responde a una preocupación real y creciente, pero es importante entender dónde nos encontramos desde el punto de vista tecnológico. Hoy por hoy, los deepfakes son extremadamente difíciles de identificar y, en muy poco tiempo, serán prácticamente indistinguibles de un contenido real”. “Actualmente no existe ninguna herramienta capaz de detectar deepfakes de forma fiable y en tiempo real, y todo apunta a que este reto irá a más”, añade Nieva.

Según Nieva, el horizonte tecnológico tampoco resulta alentador a medio plazo. “En un horizonte de dos o tres años, si no se producen avances disruptivos, la identificación tecnológica será todavía más compleja, lo que limita enormemente la capacidad de prevención”, explicó, poniendo de relieve el desfase entre el desarrollo normativo y las capacidades técnicas reales.

En este contexto, Check Point considera que la ley se orienta principalmente a la protección de la reputación y los derechos fundamentales de las personas afectadas, un enfoque, determinan, “necesario y positivo”, pero que no aborda el problema desde su raíz técnica. La compañía recordó que la difusión de vídeos manipulados que atribuyen mensajes falsos o conductas inexistentes a una persona pone de manifiesto un vacío legal y operativo, ya que “demostrar técnicamente que un contenido es falso puede resultar inviable”.

Para empresas y ciudadanos, la defensa frente a este tipo de amenazas no se apoya actualmente en la tecnología. “La realidad es que la defensa frente a los deepfakes no pasa hoy por una solución tecnológica, porque no existe”, afirma Eusebio Nieva. En su opinión, la protección se sustenta en “procedimientos, verificación manual y medidas organizativas, muchas de ellas ajenas a la tecnología, que permitan contrastar identidades, mensajes y contextos”.

El directivo concluye que la legislación puede facilitar la actuación cuando el daño ya se produjo, pero advirtió de que, mientras no exista una capacidad real de detección, “el problema seguirá siendo principalmente reputacional, legal y social, más que estrictamente de ciberseguridad”.