Carlos Balanza Nájera. Aranzadi LA LEY
El Club de los Miércoles, que organiza Aranzadi, celebró ayer una nueva edición en la que se debatió sobre la aplicación de los sistemas de Inteligencia Artificial en las administraciones públicas. Entre otras conclusiones, los expertos destacaron la diferencia que existe entre la Administración del Estado y el resto de las administraciones (autonómicas y sobre todo locales), en su nivel de preparación para implementar y aplicar estos sistemas.
El encuentro estuvo moderado por Javier Plaza, catedrático de Derecho Civil de la Universidad de Valencia. Como ponentes intervinieron Xavier Ribas, abogado especializado en Derecho de las TIC; dedicado a la protección de datos desde 1991 y socio del despacho Ribas&Asociados y Rubén Martínez Gutiérrez, director del Título de Experto en Contratación Pública, profesor titular de Derecho Administrativo y delegado de Protección de Datos de la Universidad de Alicante.
Los Sistemas de Inteligencia Artificial (IA) empiezan a jugar un papel más que relevante en la transformación de la Administración Pública para mejorar la eficiencia y calidad de los servicios públicos y, aunque ya contamos con una Ley Europea de IA, muchos aspectos jurídicos han quedado fuera de su regulación.
Estas son algunas de las principales conclusiones de los expertos:
- En el ámbito de las AAPP hay una gran influencia de la aplicación de la IA; una administración pública puede ser consumidor, usuario o responsable de los sistemas, pero también desarrollador de IA, como está ocurriendo en el ámbito tributario, lo cual genera muchas reticencias sobre si se están respetando las disposiciones de protección de datos, entre otras.
- El Reglamento UE no regula de forma global la IA, pero sí permite tener una normativa general y de prohibiciones, junto con unos mecanismos de control y supervisión de estos sistemas. Por su rango normativo será de obligado cumplimiento para todos los Estados miembros, aunque con distintos estadios de aplicación. Casi todos los sistemas de alto riesgo contemplados en el Reglamento recaen en el sector público. Es obligatorio registrar los sistemas de alto riesgo y hacer un análisis en los casos en que puedan entrar en dicha relación de supuestos de riesgos. Es muy importante dar mucha formación, tal y como exige el reglamento para que quienes usen los sistemas dentro de la administración conozcan los riegos que conlleva.
- Para potenciar estas herramientas en la contratación pública hace falta el uso del resto de la legislación comunitaria y nacional. Las AAPP pueden optar por modelos de compra pública de innovación, contrato de servicios (software a medida), desarrollo de tecnología con medios propios y posibilidad de reutilización, etc. Por otro lado, en el ámbito de la contratación, la IA puede ayudar a que los procedimientos sean más transparentes y a analizar el histórico de las contrataciones para hacer una adecuada previsión de gastos. Los sistemas de IA también pueden ayudar mucho en la fase de control de la ejecución del contrato.
En el caso de la aplicación de la IA en el ámbito contractual de la Administración del Estado va a ser relativamente sencilla su implantación, a diferencia de las CCAA y de las entidades locales. Concretamente, el sector público local no está preparado desde el punto de vista de sistemas de contratación electrónica ya que, por ejemplo, incluso se siguen haciendo notificaciones por email. Las administraciones locales deben comenzar preparándose con sistemas de automatización para que, sobre esa base, puedan experimentar con sistemas de IA para casos puntuales.
- ¿Qué riesgos se deben prevenir? Los riesgos pueden aparecer a lo largo de las distintas fases: en la de selección y contratación de la fuente de datos, el primer riesgo es que la fuente de datos a la que se acuda no esté actualizada o dé problemas en materia de protección de datos al tener su origen en fuentes abiertas, de dominio público, como, por ejemplo, Wikipedia. En la fase de diseño del modelo y del algoritmo, se deberá comprobar la ausencia de sesgos. Por ejemplo, en la fase de entrenamiento se deberá comprobar la legitimidad y la fiabilidad de los datos para evitar que el sistema tenga alucinaciones; en la fase de implantación, se deberá cuidar que el sistema se utilice para la finalidad para la que se creó y, por último, entrando ya en la fase de aplicación a un caso de uso, se debe comprobar que se ha utilizado adecuadamente.
- Respecto a la responsabilidad administrativa, en el supuesto de que los sistemas IA utilizados o desarrollados por las AAPP generen daños, es totalmente aplicable el marco normativo actual para indemnizar por los daños y perjuicios sufridos por parte de los administrados.
