Cómo la mayoría de los fabricantes están adoptando la IA agentiva sin un plan de gobernanza

Los fabricantes avanzan a toda velocidad hacia la IA autónoma más rápido de lo que la mayoría es capaz de gobernarla en la actualidad. Un estudio empresarial reciente reveló que casi tres cuartas partes de las organizaciones prevén implementar la IA agentiva en un plazo de dos años, aunque solo una de cada cinco cuenta actualmente con un modelo de gobernanza lo suficientemente maduro como para gestionar sistemas que actúan por sí mismos. Esa brecha no es una simple nota al pie. Es el principal riesgo operativo de los próximos dos años para cualquier fabricante que instale sistemas de visión artificial en una línea de inspección.

La mayoría de los artículos sobre este estudio tratan esta brecha como una prueba de que la gobernanza va con retraso. Son menos los que explican lo que realmente se necesita para subsanarla, una vez que la IA en cuestión ya no se limita a resumir un informe, sino que decide si una pieza supera la inspección, si se autoriza el vuelo de una aeronave o si un robot debe actuar en función de lo que acaba de detectar.

En la inspección de fabricación, una decisión de visión por IA rara vez es solo un dato más. Puede desencadenar una acción mecánica, detener una línea de producción o dar el visto bueno a un componente que se dirige al montaje y que, finalmente, sale de la fábrica. Las consecuencias de una decisión errónea no son abstractas. Se traducen en piezas retiradas del mercado, aviones inmovilizados o un brazo robótico que actúa ante un falso positivo.

Por eso los reguladores no están esperando a que la tecnología madure antes de establecer límites al respecto. En estos momentos, dentro de un mismo sector se están desarrollando tres filosofías diferentes, y los fabricantes que operan a nivel transfronterizo se ven sometidos, en la práctica, a las tres a la vez.

En la Unión Europea, los sistemas de IA utilizados como componentes de seguridad de productos que ya requieren una evaluación de conformidad por parte de terceros —una categoría que incluye equipos de aviación y maquinaria industrial— se consideran de alto riesgo y conllevan obligaciones documentadas de gestión de riesgos a lo largo de todo su ciclo de vida.

En Estados Unidos, los reguladores de la aviación han sido explícitos sobre dónde se traza la línea. Cuando la FAA restableció parte de la autoridad de certificación tras años de supervisión más estricta, mantuvo el acuerdo deliberadamente parcial: la agencia y el fabricante se turnan ahora semanalmente para llevar a cabo las inspecciones finales de seguridad y expedir el certificado que autoriza la entrega y el vuelo de una aeronave. No se ha recuperado la plena autonomía sobre esa autorización.

Singapur ha optado por una tercera vía. En lugar de congelar un reglamento exhaustivo, sus reguladores han creado un modelo diseñado para evolucionar en ciclos de aproximadamente seis meses: publican una versión, aprenden de las implementaciones reales y la revisan antes del siguiente lanzamiento. El Consejo Nacional de IA del país ha señalado la fabricación avanzada como uno de los sectores que este marco debe regular en primer lugar.

Ninguno de estos enfoques es erróneo. Pero un fabricante que utilice el mismo sistema de inspección en instalaciones de la UE, EE. UU. y Singapur está, en la práctica, operando bajo tres definiciones diferentes de quién está autorizado a decidir qué.

Una respuesta práctica es dejar de tratar la autonomía de la IA como un único interruptor y, en su lugar, clasificar las decisiones en tres niveles. El primer nivel abarca las decisiones que la IA puede tomar por sí misma, normalmente decisiones de gran volumen y pocas consecuencias, en las que un error ocasional es menor y recuperable. El segundo nivel abarca las decisiones que siempre requieren la aprobación de un humano antes de que se lleve a cabo la acción, que es donde se sitúan hoy en día la mayoría de las decisiones de inspección críticas para la seguridad. El tercer nivel abarca las decisiones que siguen estando totalmente fuera del alcance de la IA, reservadas al juicio humano independientemente del grado de confianza que ofrezca el modelo.

Debajo de todo esto se esconde un obstáculo estructural. La mayoría de los sistemas informáticos industriales se diseñaron como capas de información unidireccionales. Los datos fluyen de abajo hacia arriba, desde el sensor hasta el panel de control, y una persona los lee. Una toma de decisiones automatizada responsable necesita lo contrario: un sistema que pueda enviar instrucciones de vuelta a la línea de producción, confirmar que se han llevado a cabo y registrar el intercambio para su auditoría. Muy pocas fábricas cuentan hoy en día con ese bucle bidireccional construido y validado, lo que limita silenciosamente la cantidad de tareas de los niveles segundo y tercero que pueden pasar con seguridad al primero.

Dijam Panigrahi es cofundador y director de Operaciones (COO) de GridRaster, plataforma de computación espacial para empresas industriales y fabricantes.

La responsabilidad civil es la otra limitación que frena la autonomía total más que cualquier restricción del modelo. Cuando un sistema de inspección basado en IA aprueba una pieza defectuosa o interpreta erróneamente la lectura de un sensor, el fabricante asume la responsabilidad legal, no el proveedor del software ni el propio modelo. Esa cuestión sin resolver de la responsabilidad, más que la mera capacidad técnica, es lo que impide a muchos fabricantes trasladar las decisiones del segundo nivel al primero.

También hay una admisión menos cómoda que vale la pena hacer con claridad. La fatiga por alertas es real y los cuellos de botella causados por los revisores humanos no se han resuelto. Inundar a los inspectores con cada señal de la IA en casos dudosos no garantiza la seguridad, sino que genera agotamiento y aprobaciones automáticas. El camino más sostenible consiste en reducir gradualmente lo que requiere revisión, utilizando datos de rendimiento validados para trasladar tipos de decisiones específicos y bien comprendidos del nivel dos al nivel uno solo después de que se hayan ganado esa confianza en producción, no en un laboratorio.

Se trata de un proceso más lento de lo que suele describir la mayoría de la cobertura sobre la IA agentiva, pero es el que los fabricantes realmente necesitan tener en cuenta.