Para promover el desarrollo y uso de una IA responsable, fomentar la innovación y facilitar la implantación de los requisitos para los sistemas de alto riesgo a las empresas, sobre todo de las pymes y startups, el 8 de noviembre del 2023 se publica en el BOE el Real Decreto 817/2023 por el que se crea un entorno controlado de pruebas en inteligencia artificial.

En este contexto, se publica la primera convocatoria del Sandbox de IA con la finalidad de realizar de un ensayo de los requisitos establecidos para los sistemas de alto riesgo en el Reglamento europeo de inteligencia artificial (capítulo III, sección 2).

Con esta iniciativa, se busca minimizar los costes de cumplimiento, especialmente para las pymes y startups, mediante la creación de un entorno que favorece la cooperación entre los ámbitos de la innovación y regulación. Se obtiene como resultado un informe que contiene buenas prácticas y conclusiones recabadas durante la experiencia, así como unas guías técnicas de implementación y supervisión basadas en la evidencia y la experimentación que se pondrán a disposición del público general a la finalización del mismo.

Los objetivos son:

• Aportar claridad sobre los requisitos establecidos en el reglamento y validar la aplicabilidad de las guías técnicas de implementación que se pondrán a disposición de toda la población.
• Transferir know-how sobre el cumplimiento de la ley a entidades que desarrollan soluciones de IA.
• Fomentar el desarrollo de sistemas de IA innovadores y confiables.
• Aumentar las capacidades y el conocimiento en materia de supervisión de Inteligencia Artificial, que luego será reutilizable por la Agencia Española de Supervisión de Inteligencia Artificial (AESIA).
• Evaluar el impacto del Reglamento y sus obligaciones en un entorno controlado, y proporcionar experiencia y aprendizaje práctico para apoyar el desarrollo de estándares, orientación y herramientas a nivel nacional y europeo.
• Influir en el desarrollo de los actos de ejecución del Reglamento de Inteligencia y los procesos de estandarización europeos sobre el Reglamento.
• Convertir a España en referente del desarrollo de IA responsable en la UE y en el mundo, apoyando la competitividad de nuestro tejido productivo y fomentando la creación de soluciones de IA responsables para retos sociales y económicos.

• 

  Presentarse a consumidores, empresas, y Administraciones Públicas como una organización innovadora, responsable y proactiva en el desarrollo de la Inteligencia Artificial ética.

• 

  Comprender mejor el Reglamento Europeo de IA y cómo puede afectar específicamente a su organización.

• 

  Participar en el Desarrollo responsable de productos y servicios de IA que puedan demostrar su valor para la economía y la sociedad.

• 

  Disponer de una consultoría de alto nivel, información y asesoramiento con el seguimiento de la SEDIA, así como de la AESIA y de otras agencias regulatorias responsables que ayudarán a la comprensión y el cumplimiento del Reglamento de Inteligencia Artificial. Proporcionar asimismo información sobre la propia experiencia, que servirá a las instituciones para su aprendizaje normativo y la comprensión de las debilidades, amenazas, fortalezas y oportunidades que presenta este

• 

  Contribuir a hacer de España una economía innovadora, competitiva y pionera en el desarrollo y despliegue de la IA responsable en el contexto de la UE.

  La participación en el Sandbox IA no implica que la entidad haya superado la evaluación de conformidad de su sistema de Inteligencia Artificial de alto riesgo, según la normativa europea u otras que sean aplicables.

Pueden acceder al texto de la convocatoria en el siguiente enlace. Las solicitudes con sistemas de IA de alto riesgo podrán presentarse desde el 23 de diciembre de 2024 hasta el 23 de enero de 2025.

Los participantes se seleccionarán mediante una convocatoria pública. Se seleccionarán hasta 12 sistemas de Inteligencia artificial de alto riesgo.

Serán elegibles los sistemas de inteligencia artificial enmarcados dentro del anexo I de convocatoria (correspondientes al anexo III del AI Act) y los sistemas regulados por alguna de las siguientes normas armonizadas de la Unión Europea:

1. Directiva 2006/42/CE del Parlamento Europeo y del Consejo, de 17 de mayo de 2006, relativa a las máquinas y por la que se modifica la Directiva 95/16/CE (refundición).
2. Reglamento (UE) 2017/745 del Parlamento Europeo y del Consejo, de 5 de abril de 2017, sobre los productos sanitarios, por el que se modifican la Directiva 2001/83/CE, el Reglamento (CE) nº 178/2002 y el Reglamento (CE) nº 1223/2009 y por el que se derogan las Directivas 90/385/CEE y 93/42/CEE del Consejo.
3. Reglamento (UE) 2017/746 del Parlamento Europeo y del Consejo, de 5 de abril de 2017, sobre los productos sanitarios para diagnóstico in vitro y por el que se derogan la Directiva 98/79/CE y la Decisión 2010/227/UE de la Comisión.

Los sistemas presentados deberán estar ya introducidos en el mercado o puestos en servicio, o que presente un grado de avance razonable, correspondiente a un TRL superior a 6, que permita su introducción en mercado o puesta en servicio en una fecha lo más cercana posible al inicio del plan de seguimiento poscomercialización, con el objetivo de valorar los riesgos que puede suponer en un futuro el desarrollo e implementación de los proyectos de inteligencia artificial.

Esta convocatoria va dirigida a ayudar sobre todo a las pymes y empresas emergentes en el cumplimiento de las obligaciones del Reglamento de inteligencia artificial para lo que en los sistemas de IA solicitantes deberá participar al menos una pyme o startup. Lo que permitirá analizar la mejor forma de implementar las obligaciones del reglamento para este tipo de entidades que normalmente cuentan con menos recursos.

Las entidades participantes dispondrán de un servicio de consultoría profesional ofrecido por el sector público, así como de expertos independientes que les asesorarán durante el proceso de adaptación de los sistemas de inteligencia artificial de alto riesgo.

Como resultado se obtendrán guías técnicas de implementación basadas en la evidencia y la experimentación, la guía de supervisión, buenas prácticas y recomendaciones y que una vez finalizado el Sandbox de IA serán publicadas para su difusión y conocimiento de las entidades. Convirtiendo a España en un referente del desarrollo de IA responsable en la UE y en el mundo, apoyando la competitividad de nuestro tejido productivo y fomentando la creación de soluciones de IA para retos sociales y económicos.

Durante este proceso se quiere validar tanto las obligaciones de los proveedores de los sistemas de IA de alto riesgo como la de los usuarios (denominado responsable del despliegue en el Reglamento).

Comenzando con una fase de capacitación para asegurar un mejor entendimiento de las obligaciones, el proveedor, de coordinación con sus colaboradores y usuarios (si los hubiera), desarrollará un plan de adaptación de su sistema de inteligencia artificial. Este plan será cordado con la SEDIA e incluirá las acciones y recursos necesarios que realizará el proveedor para la adaptación al Reglamento.

Durante el Sandbox IA, el proveedor deberá implementar las adaptaciones establecidas en el plan en su propio entorno, con una duración estimada de 6 meses. Esta etapa concluirá con una autoevaluación y declaración de cumplimiento de las obligaciones. Sin embargo, estas no tendrán efectos legales fuera del ámbito del entorno controlado de pruebas.

Posteriormente, el proveedor deberá presentar el plan de seguimiento posterior a la comercialización, con el objetivo de identificar los posibles riesgos.

La duración total aproximada será de 12 meses.