Consenso en el sector aeronáutico: la IA nunca podrá reemplazar al ser humano

El sector aeronáutico siempre ha sido pionero en la adopción de la innovación, con el objetivo prioritario de mejorar la seguridad de las operaciones. Los automatismos simplifican ya infinidad de tareas dentro y fuera de la cabina de vuelo, permitiendo gestionar grandes cantidades de información que facilitan la toma de decisiones. La inteligencia artificial (IA) predictiva es una herramienta que ayuda a estos profesionales en su desempeño, pero no puede tomar decisiones por sí sola ni actuar sin supervisión humana. Así se puso de manifiesto de forma unánime en el II Congreso Español de Seguridad Operacional Aeronáutica, coorganizado el pasado 30 de mayo en Madrid por Sepla (Sindicato Español de Pilotos de Líneas Aéreas), la Asociación Española de Derecho Aeronáutico y Espacial (AEDAE), Soluciona del Grupo Cobendai y el Real Aero Club de España (RACE).

El evento, que en su segunda edición ha puesto el foco en la conexión entre la IA y la seguridad operacional, ha reunido en Madrid a una veintena de expertos de diferentes subsectores de la aviación, desde las líneas aéreas o el colectivo de pilotos y de controladores aéreos hasta los reguladores, los organismos de gestión del tráfico aéreo o de la actividad aeroportuaria y la psicología aeronáutica. Todos ellos han coincidido en lo esencial: la IA puede ser una gran ayuda para el sector, y no aprovechar su enorme potencial sería una pérdida de oportunidad. Pero es básico tener claro cuáles deben ser sus ámbitos de aplicación y también cuáles son sus riesgos. Y no olvidar que, siempre, al final del proceso, ha de existir un humano que la supervise y tome las decisiones. “El medio en que nos movemos los pilotos es pura incertidumbre, cada vuelo es diferente y tenemos que afrontar nuevos eventos. Todos los procedimientos están muy definidos y regulados, pero algunas veces nos los tenemos que saltar, salirnos del patrón. Y podemos hacerlo gracias a nuestra preparación y experiencia, a nuestro instinto y nuestra capacidad de improvisar respondiendo a nuevas variables. Sin embargo, la IA generativa solo aprende de eventos pasados. Si surgiera un incidente nuevo, ¿qué decisión tomaría, y cómo sabemos que sería la correcta? Sustituir a un piloto en cabina por una IA pondría en peligro la seguridad operacional y de todos los pasajeros”, afirmó Fernando Miragaya, presidente de Sepla.

A lo largo de las diferentes mesas de debate fueron desgranándose otras ideas relevantes como el concepto de seguridad como prioridad absoluta. Los ponentes apuntaron que requiere una evolución, estar dispuestos a incorporar nuevas herramientas y que los avances tecnológicos siempre han de ir encaminados a incrementar esa seguridad, integrándose de una forma controlada y supervisada. “No hay muchos sectores con tantas garantías, regulación y supervisión para poder implantar cualquier tipo de nueva tecnología como el aeronáutico”, expresaban Montserrat Mestres y Marta Lestau, directora y directora de Seguridad de Aeronaves de la Agencia Estatal de Seguridad Aérea (AESA).

También se debatió sobre la regulación y la certificación de sistemas de IA, que supone un gran reto normativo y de supervisión: el desarrollo de las naves no tripuladas (drones) está permitiendo aprender de nuevos automatismos, nuevas formas de volar y de gestionar los vuelos. En esto coincidieron tanto las representantes de AESA como Jesús Romero, jefe de división de Seguridad Operacional de ENAIRE.

Otro caballo de batalla del sector es a nivel formativo y de pérdida de talento para afrontar su relevo generacional. “Hacen falta ingenieros, mecánicos, pilotos, y también especialistas en IA que tengan conocimientos aeronáuticos”. Sin embargo, se apuntó que las carreras técnicas y de ingeniería aeronáutica no tienen la demanda que necesitaría el sector y que “es fundamental impulsar la cultura aeronáutica, tener una cantera que garantice que el sector cubre sus necesidades futuras”, aseguraba José Manuel Hesse, decano del COIAE.

En cuanto a la escasez de pilotos comerciales, se apuntó la necesidad de reforzar la formación de nuevos profesionales, siempre desde la máxima de la calidad y la excelencia, “en esto no se pueden hacer concesiones”, destacaba el presidente de Sepla, entidad que comparte esta prioridad con el COPAC. Por otro lado, se subrayó que, al eliminar un piloto de cabina, desaparecería la transmisión de conocimiento del comandante, más experimentado, hacia copiloto, rompiendo esa importante relación de ‘mentoring’ y aprendizaje. “La aviación tiene un sistema redundante que ha demostrado claramente que funciona. Entonces, ¿por qué cambiarlo, tratando de eliminar a las personas de la ecuación fundamental de la seguridad?”.

En cuanto a la Inteligencia Artificial, la mesa asumió que el potencial de la IA ya se está utilizando en el mantenimiento predictivo de aeronaves y va a jugar un rol importante en la toma de decisiones, “pero siempre con una persona supervisándola”, subrayó Javier Gándara, presidente de la Asociación de Líneas Aéreas (ALA), quien considera necesario seguir trabajando conjuntamente para que la aviación comercial sea cada vez más segura, eficiente y sostenible.

En el ámbito del control aéreo, se afirmó que el análisis inteligente de datos es una ayuda esencial pero los controladores exigen “garantías de que cualquier herramienta que se implante no va a fallar en un momento crítico ni se va a inventar información falsa” cuando no encuentre lo que necesita, lo que algunos expertos del sector denominan “alucinaciones”, como explicó Alejandro Rodríguez, vicepresidente de Asociación Profesional de Controladores de Tránsito Aéreo (APROCTA).

Asimismo, José Sanz, experto en Gestión y Seguridad Aeroportuaria de IATA, y Mª Dolores Couso, responsable de Relaciones con Compañías Asistidas, apuntaron en su turno que la seguridad operacional también es fundamental todo lo que sucede en los aeropuertos y la asistencia en tierra de las aeronaves (handling): “Los aeropuertos son entornos hostiles donde confluyen aviones, vehículos, personas, tecnología… Y existe un sistema de reporte de todos los eventos que se producen en el intervalo de asistencia a la aeronave. La IA permite analizar estos reportes y establecer patrones, identificar riesgos, anticiparse a posibles eventos de seguridad operacional y extraer aprendizajes que se comparten con todos los trabajadores del aeropuerto, mejorando los sistemas de gestión de seguridad operacional aeroportuaria”.

Para Iván García Luengo, teniente coronel del Ejército del Aire, como por Juan Carlos Lozano, director técnico de la European Cockpit Association (ECA), la “IA también puede ser utilizada con fines maliciosos, ser víctima de ciberataques, y ser intervenida de forma que afecte al buen funcionamiento del sistema. Por eso, es vital que el ser humano mantenga el control sobre ella”.

Asimismo, frente a quienes defienden que la fase de crucero es menos crítica y podría admitir que la aeronave fuera tripulada por un solo piloto, el representante de la ECA recordó que muchos accidentes se producen en esta fase (como el del A330 de Air France que en 2009 se estrelló en el Atlántico, dejando 228 fallecidos), por lo que en ningún momento del vuelo se puede bajar la guardia. Lozano incidió en la importancia de llegar a acuerdos para poner límites éticos a la IA y trasladó la preocupación del colectivo de pilotos por que el regulador europeo considere que, en 2030, podrá tomar una decisión sobre la viabilidad de reducir el número de pilotos en cabina para ser sustituidos por una IA.

Entidades como AESA, ENAIRE, ECA, IATA, ALA, COIAE o APROCTA analizaron el potencial de la IA para facilitar la toma de decisiones, pero coincidiendo en que siempre debe de haber una persona al final del proceso

Al finalizar el congreso se entregaron dos premios honoríficos. A Isabel Maestre, exdirectora de AESA y actual directora de Prospectiva e Innovación de SENASA y presidenta de la asociación Ellas Vuelan Alto (EVA), por su destacada contribución y compromiso con la mejora continua de los estándares de seguridad en el sector aeronáutico; y a José Luis Rodríguez Castro, director de Sistemas de ENAIRE, por su importante labor en el despliegue de una red de antenas asequibles y eficaces, que ha sido reconocida y aceptada por la Unión Europea como un avance significativo en materia de vigilancia y tecnología aplicada a la aviación.