C136 - Automatización para la Industria 4.0

IA Tanto en Microsoft como en OpenAI somos conscientes de que la tecnología seguirá evolucionando, y ambos estamos firmemente comprometidos con el progreso y la mejora constantes. LA BASE PARA UNA IA RESPONSABLE Durante seis años, Microsoft ha invertido en un programa interdepartamental para garantizar que nuestros sistemas de IA sean responsables desde el diseño. En 2017, lanzamos el Comité Aether con investigadores, ingenieros y expertos en políticas para centrarse en los problemas de IA responsable y ayudar a elaborar los Principios de IA que adoptamos en 2018. En 2019, creamos la Oficina de IA Responsable para coordinar la gobernanza y lanzamos la primera versión de nuestro Estándar de IA Responsable, unmarco para traducir nuestros principios de alto nivel en una guía práctica para nuestros equipos de ingeniería. En 2021, describimos los componentes clave para hacer operativo este programa, incluida una estructura de gobierno ampliada, capacitación para equipar a nuestros profesionales con nuevas habilidades, y procesos y herramientas para respaldar la implementación. Y, en 2022, fortalecimos nuestro Estándar de IA Responsable y lo llevamos a su segunda versión. Esto establece cómo construiremos sistemas de IA a través de la utilización de enfoques prácticos para identificar, medir y mitigar los daños con anticipación, y garantizar que los controles estén diseñados en nuestros sistemas desde el principio. Nuestro aprendizaje del diseño y la implementación de nuestro programa de IA responsable ha sido constante y fundamental. Una de las primeras cosas que hicimos en el verano de 2022 fue contratar a un equipo multidisciplinar para trabajar con OpenAI, aprovechar su investigación existente y evaluar cómo funcionaría la tecnología más reciente sin que se le aplicaran medidas de seguridad adicionales. Al igual que con todos los sistemas de IA, es importante abordar los esfuerzos de creación de productos con una línea de base inicial que proporcione una comprensión profunda no solo de las capacidades de una tecnología, sino también de sus limitaciones. Juntos identificamos algunos riesgos ya conocidos, como la capacidad de un modelo para generar contenidos que perpetúan estereotipos, así como la capacidad de la tecnología para elaborar respuestas convincentes, aunque incorrectas desde el punto de vista de la realidad. Como en cualquier faceta de la vida, la primera clave para resolver un problema es comprenderlo. Gracias a estos conocimientos, los expertos en nuestro ecosistema de IA responsable tomaron medidas adicionales. Nuestros investigadores, expertos en políticas y equipos de ingeniería unieron fuerzas para estudiar los daños potenciales de la tecnología, crear canales de medición personalizados y perfeccionar estrategias de mitigación efectivas. Gran parte de este trabajo no tenía precedentes y, en parte, ponía en tela de juicio nuestra forma de pensar. Tanto en Microsoft como en OpenAI se avanzó rápidamente. Esto me hizo darme cuenta de la profundidad y amplitud de los conocimientos necesarios para avanzar en el estado del arte de la IA responsable, así como la creciente necesidad de nuevas normas, estándares y leyes. CONSTRUIR SOBRE ESTA BASE De cara al futuro, haremos aún más. A medida que los modelos de IA sigan avanzando, sabemos que tendremos que abordar nuevos interrogantes y cuestiones pendientes de investigación, eliminar lagunas de medición y diseñar nuevas prácticas, patrones y herramientas. Abordaremos el camino que tenemos por delante con humildad y el compromiso de escuchar, aprender y mejorar cada día. Pero nuestros propios esfuerzos y los de otras organizaciones afines no serán suficientes. Este momento transformador para la IA exige una perspectiva más amplia sobre el impacto de la tecnología, tanto positivo como negativo, y un diálogo mucho más amplio entre las partes interesadas. Necesitamos tener conversaciones significativas y comprometernos con la acción conjunta para definir los límites del futuro. 52

RkJQdWJsaXNoZXIy Njg1MjYx