Nuevo plan de la UE para abordar los riesgos y las oportunidades de la IA avanzada para la ciberseguridad.

La Comisión Europea ha presentado un plan para abordar los riesgos y aprovechar las oportunidades que ofrece la inteligencia artificial (IA) avanzada en ciberseguridad.

Si bien la IA puede mejorar la seguridad, también puede utilizarse indebidamente para identificar vulnerabilidades, automatizar ataques y aumentar significativamente la magnitud y la velocidad de los incidentes cibernéticos. El nuevo plan reunirá a los países de la UE, la industria y las organizaciones a nivel europeo para reforzar la ciberseguridad de nuestro entorno digital frente a las vulnerabilidades que plantea la IA avanzada. 

Acciones clave

• Evaluación de modelos de IA: La Ley de IA exige que los modelos avanzados de IA sean evaluados y sus riesgos analizados antes de su introducción en el mercado de la UE. La Comisión ayudará a establecer una capacidad de evaluación de la UE para reforzar la evaluación por terceros de las capacidades y los riesgos de la IA a nivel mundial, apoyando la función reguladora de la Oficina de IA.
• Acceso a modelos avanzados de IA: Europa necesita condiciones claras y transparentes para acceder a los sistemas de IA más avanzados. La Comisión trabajará con la Agencia de la UE para la Ciberseguridad Definir un modelo europeo para el acceso estructurado a capacidades avanzadas de IA para la ciberseguridad, apoyando a las organizaciones públicas y privadas en el acceso a modelos avanzados de IA.
• Pruebas de IA para la ciberseguridad: La Agencia de Ciberseguridad de la UE y la Comisión Centro Común de Investigación Se creará una plataforma segura para probar la IA en ciberseguridad, incluyendo el uso de entornos simulados. Esto aportará conocimientos sobre el uso seguro de la IA a los operadores de sectores críticos.
• Reforzar la ciberseguridad de la UE y corregir las vulnerabilidades: La UE debe proteger su infraestructura crítica. De acuerdo con la normativa de ciberseguridad de la UE, las organizaciones deben intensificar las prácticas de ciberhigiene, las medidas de gestión de riesgos y los principios de seguridad desde el diseño. Asimismo, deben empezar a utilizar las capacidades de IA disponibles para corregir vulnerabilidades con mayor rapidez, así como para prevenir y responder a los ciberataques. La Agencia de Ciberseguridad de la UE les prestará asistencia en esta transición, incluyendo orientación, recomendaciones y buenas prácticas, además de una campaña para proteger el software crítico de código abierto.
• Ampliación de las capacidades europeas de IA para la ciberseguridad: La UE debe seguir invirtiendo en sus propias capacidades avanzadas de IA. Para ello, la Fábricas de IA y futuras gigafábricas infraestructura y la capacidad de capital tecnológico europeo, anunciada en El paquete de soberanía tecnológicaEstán disponibles. La Comisión también lanzará el Gran Reto de la UE sobre IA para la ciberseguridad, que reunirá a empresas, investigadores y organizaciones para desarrollar soluciones de IA para la ciberseguridad y apoyar el crecimiento del mercado de la UE.

El nuevo plan tiene como objetivo reforzar el marco de ciberseguridad de la UE. Se basa en las normas existentes de la UE, incluidas las Ley de IA,  Ley de Resiliencia Cibernética,  Directiva sobre redes y sistemas de información, y  Ley de Solidaridad Cibernética.

Para más información

Prensa

Hoja informativa (medidas de apoyo)

Plan de acción sobre ciberseguridad e inteligencia artificial

Inteligencia artificial

Comparte este artículo: