La Ley de IA de Europa entra en vigor

La primera ley integral de IA del mundo comienza a remodelar la forma en que se desarrolla, vende y utiliza la tecnología.

Un momento histórico para la ley tecnológica

El 1 de agosto de 2024, la Ley de Inteligencia Artificial de la Unión Europea entró en vigor, convirtiéndose en la primera ley integral del mundo dedicada a regular la inteligencia artificial. La legislación introduce un enfoque basado en el riesgo, clasificando los sistemas de IA en cuatro categorías según el nivel de amenaza que representan para los derechos fundamentales. Los funcionarios han descrito la ley como un intento histórico de equilibrar la innovación con la protección de los ciudadanos. Una vez aplicadas en su totalidad, las reglas afectarán a todas las empresas que desarrollen, vendan o utilicen IA dentro del mercado único de la UE.

Un marco basado en riesgos

La nueva ley clasifica las aplicaciones de IA en cuatro niveles. Los sistemas que se consideren un riesgo inaceptable están completamente prohibidos. Los sistemas de alto riesgo, como los utilizados en dispositivos médicos o en el reclutamiento, deben cumplir requisitos estrictos antes de poder implementarse. Las herramientas de riesgo limitado enfrentan obligaciones de transparencia más livianas, mientras que los sistemas de riesgo mínimo, como los filtros de spam, en gran medida no están regulados. Los partidarios argumentan que esta estructura escalonada ofrece claridad, mientras que los críticos advierten que puede frenar a las empresas más pequeñas que intentan lanzar nuevos productos.

Qué se prohíbe

La lista de prácticas prohibidas es la primera que entra en vigor en la práctica. Las autoridades han prohibido los sistemas de puntuación social que clasifican a los ciudadanos según su comportamiento, así como la inteligencia artificial que explota las vulnerabilidades de los niños o las personas discapacitadas. La identificación biométrica remota en tiempo real en espacios públicos está prohibida, con escasas excepciones en el caso de delitos graves. El software de reconocimiento de emociones en escuelas y lugares de trabajo también está descartado, lo que refleja preocupaciones sobre la vigilancia y la manipulación en los entornos cotidianos.

Territorio de alto riesgo

Se espera que los sistemas de alto riesgo se sometan a pruebas, documentación y supervisión humana rigurosas. Las empresas deben acreditar el cumplimiento mediante expedientes técnicos, evaluaciones de riesgos y sistemas de gestión de calidad. Si un producto causa daño, el desarrollador puede enfrentar reclamaciones de responsabilidad según las normas de seguridad de productos de la UE. La ley también exige que los proveedores registren sistemas de alto riesgo en una base de datos pública, lo que brinda a los reguladores e investigadores una visión más clara de cómo se utiliza la tecnología en todas las industrias.

Reglas para modelos generales de IA

La Ley introduce disposiciones específicas para los modelos de IA de uso general, incluidos modelos de lenguaje de gran tamaño, como los sistemas detrás de los populares chatbots. Los desarrolladores deben proporcionar resúmenes de los datos de capacitación, respetar las leyes de derechos de autor y cooperar con las autoridades nacionales. Las empresas cuyos modelos alcanzan un cierto umbral informático enfrentan deberes adicionales, que incluyen informar incidentes graves y hacer cumplir salvaguardias contra riesgos sistémicos. El objetivo, dicen los funcionarios, es garantizar que los modelos más poderosos no puedan socavar las elecciones, la salud pública o la estabilidad financiera.

Aplicación y alcance global

Las autoridades nacionales de vigilancia del mercado en cada país de la UE se encargarán de la aplicación diaria, mientras que una nueva Oficina Europea de IA coordinará la implementación gradual. La mayoría de las normas se aplicarán a mediados de 2026, y algunas obligaciones estrictas entrarán en vigor más adelante. Las sanciones por las infracciones más graves pueden alcanzar los 35 millones de euros o el 7% de la facturación anual global, lo que sea mayor. Muchos expertos prevén un fuerte efecto Bruselas, ya que las empresas extranjeras podrían adoptar las normas de la UE para seguir siendo competitivas en uno de los mercados más grandes del mundo.