España impulsa una coalición global para proteger a los menores ante la IA

La inteligencia artificial está transformando la forma en que los menores aprenden, se comunican e interactúan en el entorno digital. Con el objetivo de asegurar que esta evolución tecnológica se produzca con garantías para la infancia, España ha liderado la creación de la Coalición Internacional para los Derechos y la Protección de la Infancia en la Era de la Inteligencia Artificial, una iniciativa impulsada en el seno de las Naciones Unidas y respaldada inicialmente por diecisiete países y diversas organizaciones internacionales.

La propuesta, promovida por España con el apoyo de Francia, Kenia y la Unión Europea, se presentó durante el primer Diálogo de las Naciones Unidas sobre la Gobernanza de la Inteligencia Artificial, celebrado en Ginebra.

Representantes de los países y organismos internacionales que respaldan la creación de la Coalición Internacional para los Derechos y la Protección de la Infancia en la Era de la Inteligencia Artificial.

Durante el acto de presentación, el ministro para la Transformación Digital y de la Función Pública, Óscar López, destacó la necesidad de actuar de forma coordinada para proteger a los menores frente a los riesgos asociados a la IA. “No cometamos con la IA los mismos errores que con las redes sociales. Los derechos de los menores no pueden desaparecer en el mundo digital. Cada día, niños y adolescentes de todo el mundo acceden a sitios donde les pueden hacer daño. Es nuestro deber protegerles”, afirmó. Además, añadió: “Algunos milmillonarios han estado haciendo mucho dinero con los datos de nuestros niños. Esto debe terminarse. Es hora de que sean responsables”.

A la coalición se han adherido Austria, Brasil, Bulgaria, Canadá, República Checa, República de Corea, El Salvador, Estonia, Francia, Indonesia, Italia, Japón, Kenia, Luxemburgo, Marruecos y Países Bajos, además de España. También forman parte de la iniciativa organismos internacionales como UNICEF, UNESCO, la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos, la Unión Internacional de Telecomunicaciones, la Oficina de las Naciones Unidas para las Tecnologías Digitales y Emergentes y la Comisión Europea.

La coalición nace con el propósito de coordinar a gobiernos, organizaciones internacionales, empresas tecnológicas, sociedad civil, expertos en bienestar infantil y profesionales de la educación para garantizar que el desarrollo y despliegue de sistemas de inteligencia artificial respeten los derechos recogidos en la Convención sobre los Derechos del Niño.

El documento fundacional reconoce que la rápida expansión de la IA está modificando los entornos digitales en los que los menores estudian, socializan y acceden a la información. Aunque estas tecnologías ofrecen importantes oportunidades para el aprendizaje y la personalización educativa, también incrementan riesgos como la manipulación algorítmica, la exposición a contenidos perjudiciales, la difusión de noticias falsas, la creación de pornografía infantil mediante deepfakes o la segmentación de menores con fines comerciales.

Ante este escenario, los miembros de la coalición se comprometen a desarrollar sistemas de inteligencia artificial “seguros, fiables, dignos de confianza, respetuosos con los derechos de la infancia y con un enfoque centrado en las personas”. Asimismo, impulsarán el intercambio internacional de buenas prácticas y promoverán que la opinión de niños y adolescentes contribuya al diseño, despliegue y gobernanza de las tecnologías de IA que les afectan.

Para el ámbito educativo, la iniciativa supone un respaldo a la incorporación responsable de la inteligencia artificial en las aulas, fomentando herramientas que combinen innovación con garantías de privacidad, seguridad y bienestar para el alumnado.

El ministro recordó además que el primer informe del Panel Científico sobre IA confirma la exposición creciente de los menores a “algoritmos manipulativos, noticias falsas, pornografía y ciberacoso”, por lo que defendió la necesidad de avanzar hacia una gobernanza basada en estándares de seguridad desde el diseño, evidencia científica y supervisión humana.

En este contexto, España continúa impulsando diversas medidas para reforzar la protección digital de la infancia, entre ellas la prohibición en la Unión Europea de sistemas de IA destinados a generar deepfakes sexuales sin consentimiento y pornografía infantil, el desarrollo de una herramienta interoperable de verificación de edad, la futura Cartera Digital para acreditar la mayoría de edad en Internet y una legislación que limite el acceso de los menores de 16 años a las redes sociales, exija mayor transparencia algorítmica y refuerce la responsabilidad de las grandes plataformas digitales.