Qué factores hay que tener en cuenta a la hora de implementar la IA
Adela de Toledo, Country Manager de Pure Storage Iberia
06/05/2024
A la hora de adoptar la inteligencia artificial las organizaciones se enfrentan a varios retos: la escasez de personal cualificado, el consumo energético, los problemas de la cadena de suministro y las limitaciones presupuestarias. Por ello, es fundamental que las compañías que se estén planteando implementar la IA inviertan en los recursos y las tecnologías adecuadas desde el principio.
Independientemente de estos desafíos, los beneficios y el valor de los casos de éxito de la IA no pasan desapercibidos. La mayoría de los sectores se encuentran todavía en la fase inicial de adopción, pero para preparar este cambio, debemos empezar a pensar en lo que se necesita para garantizar unos cimientos sólidos.
Para aumentar la probabilidad de éxito de la implementación de la IA, las organizaciones deben tener en cuenta:
- Accesibilidad de las GPU. Hay que evaluar y tener en cuenta las cadenas de suministro en cualquier proyecto de IA desde el principio. El acceso a las GPU es de vital importancia, ya que sin las GPU el proyecto de IA no va a tener éxito.
- Capacidad energética y de espacio. La IA y sus enormes conjuntos de datos generan auténticos desafíos para unos centros de datos ya de por sí sobrecargados, en especial todo lo relacionado al consumo energético. Hoy en día la implementación de la IA puede exigir una densidad energética de 40 a 50 kilovatios por cabina lo que supera con creces la capacidad de muchos centros de datos. El almacenamiento de datos flash puede ayudar a mitigar el problema, ya que es mucho más eficiente en cuanto a energía y espacio que el almacenamiento HDD y requiere menos enfriamiento y un menor mantenimiento que las unidades de disco duro tradicionales. Cada vatio asignado al almacenamiento reduce el número de GPU que pueden alimentarse en el clúster de IA.
- El reto de los datos. A diferencia de otros proyectos de datos que pueden ser más selectivos en cuanto a su procedencia, los relacionados con la IA utilizan conjuntos enormes de datos para entrenarse y sacar conclusiones con el fin de impulsar la innovación. La cuestión de la replicabilidad es algo que aún se intenta resolver, pero una mejor práctica para ayudar a entender los modelos y los conjuntos de datos muy grandes es introducir “puntos de comprobación” que garanticen que pueden revertirse a una etapa anterior, lo que permite retroceder de manera efectiva en el tiempo y, por lo tanto, facilita una mejor comprensión de las implicaciones de los cambios en los datos y los parámetros. Los aspectos éticos y de procedencia de los datos obtenidos de Internet para entrenar los modelos, todavía no se han estudiado ni abordado lo suficiente, y tampoco se ha analizado el impacto de (tratar de) eliminar datos seleccionados de un conjunto de datos vectoriales de LLM o RAG.
A medida que las organizaciones maduren en su proceso de adopción de la inteligencia artificial, desarrollen casos de uso específicos, ajusten los requisitos de su infraestructura, inviertan en competencias y tracen un rumbo claro para el ROI a corto o largo plazo, es muy posible que se acaben dando cuenta de que es muy difícil superar los retos por sí solas. Muchas de ellas necesitarán colaborar. Aquí es donde está la verdadera oportunidad para los proveedores de servicios de nube, los proveedores de servicios gestionados y el resto de especialistas que ofrecen soluciones y una infraestructura que ayuden a las organizaciones a alcanzar sus objetivos en cuanto a la IA.
