"Para Patricia Valcarcel, la automatización de procedimientos, y especialmente la utilización de herramientas que implican uso de IA en el sector público, ha hecho que el núcleo duro o esencia última de decisiones administrativas antes tomadas enteramente por humanos, estén basadas en el uso de estas nuevas herramientas tecnológicas"
Por Antonio Arias. Fiscalización.es blog.- Comenzó el VII Congreso del Observatorio de la Contratación Pública.
La séptima edición se está desarrollando en el paraninfo de la Universidad de
Zaragoza, donde el equipo capitaneado por el catedrático de derecho
administrativo, José María Gimeno Feliú acoge a cuatrocientos expertos en
contratación procedentes de toda España atraídos por un exigente programa donde aborda el futuro del
sector, combinando la visión jurídica con las necesidades reales de gestión e
innovación en las políticas públicas.
En el mismísimo paraninfo de la Institución donde ahora
es Gerente Alfonso Peña -quien fuera presidente de la Cámara de Cuentas de
Aragón- y donde se recuerda la visita de Albert Einstein o la escultura en
mármol blanco de Ramón y Cajal preside la escalera de acceso, inauguró la
jornada la Rectora con los representantes institucionales del gobierno de
Aragón y del Ayuntamiento anfitrión.
Como
avanzaba la alcaldesa de Zaragoza, Natalia Chueca, en el acto de
presentación institucional del Congreso el 12 de septiembre, escucharemos más
de una veintena de mesas y medio centenar de ponentes de reconocido prestigio
pertenecientes a universidades, administraciones y empresas. Las convocatorias
de Chema Gimeno se llenan siempre porque tiene peculiaridades únicas en el
mundo de las grandes reuniones universitarias. Lleva muchos años convocando con
éxito congresos y seminarios (así éste
de 2019), respetado y querido por todos sus colegas y con una cercanía
única con los asistentes -responsables de contratación en todo tipo de
Administraciones Públicas- crea un magnífico ambiente de trabajo. Mi preferido es Panticosa. Además, involucra al sector
privado, tanto a sus especialista en el otro lado -contratistas, consultores,
laboratorios- que dan un cierto soporte a la financiación del Observatorio y
ayudan a que salgamos de la cueva, escuchemos de primera mano su
perspectiva y la realidad.
Comentaremos durante los próximos días en esta bitácora
los principales mensajes que nos dejaron los diversos paneles. No me resisto a
empezar por la mesa sobre el papel de la contratación pública ante los nuevos
escenarios. Retos tecnológicos y de políticas públicas, moderada por Beatriz Juliá (KALAMAN) con ponencias de Patricia Valcárcel,
Catedrática derecho administrativo de la Universidad de Vigo, de Juli Ponce, Catedrático derecho administrativo de la Universidad de Barcelona y de Marta
Cano, directivo de NTTDATA.
Me detendré ahora en la ponencia de Juli Ponce, que planteó
muchas reflexiones sobre los contratos públicos y la automatización, valorando
las posibilidades y límites de la inteligencia artificial en la contratación
pública.
La automatización de las funciones administrativas se
está convirtiendo en un apartado obligado en todas las reuniones de empleados
públicos. Sin ir muy lejos, el CCIL25 de
hace un par de semanas. Emplear sistemas algorítmicos con inteligencia
artificial es ya una realidad en diversos ámbitos, desde la concesión
o denegación del bono eléctrico, hasta la determinación de la incapacidad
temporal en la seguridad social, pasando por el ámbito tributario, como recordó
Juli Ponce.
Esta automatización no es desconocida en el ámbito de la contratación y ante su previsible
extensión futura –recordó Juli la nueva ministra no
humana encargada de contratación en Albania, como apuesta contra la corrupción –
lo que exije reflexionar sobre sus posibilidades, sus riesgos y sus
límites, tanto tecnológicos como jurídicos.
La reflexión, para el ponente, debe partir del
concepto y tipos de automatización (art. 41 Ley 40/2015, del Régimen
Jurídico de las Administraciones Públicas) y de IA, pues, a efectos
jurídicos, no es lo mismo una IA basada en reglas que otra simbólica o
estadística (de aprendizaje automático o generativa, por ejemplo), como tuvo
ocasión de exponer con detalle en el libro El Reglamento de Inteligencia Artificial de la Unión Europea de
2024, el derecho a una buena administración digital y su control judicial en
España, publicado hace unos meses entre elogios del sector. Así
lo ve José Ramón Chaves; también tenéis un resumen que puede consultarse en
abierto aquí,
así como la conversación que tuvo lugar en torno al mismo en el contexto de una
de las presentaciones realizadas, aquí,
donde se planteó, entre otras cuestiones, si existen límites (también
jurídicos) al reemplazo de humanos por máquinas, por supuesto incluyendo el
ámbito de la contratación pública.
Para la reflexión sobre la automatización y el uso de la
IA en la contratación del sector público entendió útil partir de los
beneficios que presenta la misma, así como de sus riesgos (incluyendo los
de violación de derechos y principios, como los de intimidad y protección de
datos, transparencia, debido a las black boxes y a la opacidad en el
caso de la IA simbólica o estadística – pero también en supuestos mucho más
sencillos, como el ya mencionado caso BOSCO o los “frameworks” opacos empleados
por la administración cántabra en las licitaciones, afortunadamente removidos
gracias a la lucha del señor Jaime García
Obregón, querella penal contra él incluida – interdicción de la
arbitrariedad o el de buena administración) y sus costes (entre
ellos, destacadamente, los ambientales, sin olvidar la afectación de empleos de
humanos, también en el sector público existente).
Desde este análisis ya puede abordarse, en su opinión, la
regulación de la IA para aprovechar sus beneficios y controlar y evitar sus
riesgos y costes. Desde luego, por un lado, la regulación europea, ámbito
en el que el Reglamento de 2024 sobre IA impacta también de manera relevante
sobre los contratos públicos. Asimismo, son de interés las cláusulas
contractuales tipo para la contratación de sistemas con inteligencia
artificial.
Por otro lado, debemos tener en cuenta la
legislación nacional, en lo que ahora interesa la española, que a nivel estatal
es muy escasa y claramente mejorable: “Lo que hemos puesto de
relieve con concretas propuestas regulatorias en un
reciente libro, incluyendo la reforma de la LCSP, que, por el momento
de su aprobación, no contempla específicamente el tema del que estamos
tratando”.
Hay un contexto doble que pidió no olvidar: la
automatización, en su caso con IA, en el desarrollo de la
contratación pública y, aspecto diferente, la contratación pública de soluciones
de automatización en el sector privado.
a) En el primer caso, la indudable utilidad de la IA
como soporte a las funciones administrativas(existiendo ya experiencias como el
uso de IA generativa por parte de la Diputación
de Girona) no debe confundirse con la automatización parcial de
ciertas tareas ni con la automatización total en la toma de la decisión
final, también en el ámbito de la contratación.
Si bien la automatización parcial de ciertas tareas tanto
en la preparación, en la adjudicación o en la ejecución del contrato pueden
contribuir a mejorar la gestión pública (evitando los riesgos y costes
aludidos), la automatización total, esto es la entrega de la decisión
administrativa a la máquina, debe venir condicionada por lo que hemos denominado reserva
de humanidad.
Juli Ponce“Si hay un doctorando en la sala, le recomiendo
un tema de tesis: Derecho público y empatía”
Para Ponce, la incapacidad de razonar como un humano (abductivamente también),
la falta de empatía y la necesidad de respetar el procedimiento debido suponen
límites tecnológicos pero también
jurídicos a las máquinas, vinculados a la buena administración en el
ejercicio de la discrecionalidad, entendida como un margen de apreciación
volitivo en la contratación pública, incluyendo también la aplicación de
conceptos jurídicos indeterminados con un halo de incertidumbre.
Entiende que entregar decisiones en estos ámbitos a las
máquinas es aumentar exponencialmente los riesgos de malas
administraciones y una aplicación elemental del principio jurídico de
precaución, en su vertiente social, exige evitarlo. Así, en la fase de
preparación de contratos, como es sabido, la LCSP señala en el artículo 28.1 la
necesidad e idoneidad del contrato y eficiencia en la contratación: “Las
entidades del sector público no podrán celebrar otros contratos que aquellos
que sean necesarios para el cumplimiento y realización de sus fines
institucionales”. Aquí, la automatización con IA puede desempeñar un papel de
apoyo, pero no puede decidir autónomamente sobre la necesidad.
En la fase de adjudicación de contratos, la LCSP en
su artículo 146 sobre aplicación de los criterios de adjudicación y en su
artículo 150 sobre la clasificación de las ofertas y adjudicación del contrato,
señala, como es sabido, que es posible “la valoración de los criterios cuya
cuantificación dependa de un juicio de valor”, así como que “se atenderá a los
criterios de adjudicación señalados en el pliego, pudiéndose solicitar para
ello cuantos informes técnicos se estime pertinentes”. Aquí la automatización,
con IA en su caso, puede contribuir a la elaboración de esos informes, pero no
debe decidir el juicio de valor. Advirtió el ponente que la llamada a no hacer
depender siempre y exclusivamente la adjudicación de los contratos en el
precio, de
la está siendo adalid el profesor Gimeno Feliu, como garantía de la buena
administración, puede implicar limitaciones al uso de la IA.” O, dicho en
otras palabras, hay que tener cuidado de que el uso de la IA no lleve a
reforzar aún más la adjudicación en base meramente al precio”.
Finalmente, en la fase de ejecución de contratos, la
LCSP señala en su artículo 279 sobre las causas de resolución que “Son causas
de resolución del contrato de concesión de obras, además de las señaladas en el
artículo 211, con la excepción de las contempladas en sus letras d) y e), las
siguientes:
…c) El rescate de la explotación de las obras por el
órgano de contratación. Se entenderá por rescate la declaración unilateral del
órgano contratante, adoptada por razones de interés público, por la que dé
por terminada la concesión, no obstante la buena gestión de su titular, para su
gestión directa por la Administración. El rescate de la concesión requerirá
además la acreditación de que dicha gestión directa es más eficaz y eficiente
que la concesional”
De nuevo la existencia de un juicio de valor, de un
margen de apreciación, de una operación volitiva vinculada a este concepto
jurídico indeterminado de “razones de interés público” ha de impedir su entrega
a la máquina, debiendo
quedar reservado para el humano que ocupe el órgano competente para tal
decisión.
Por último, glosó el ponente el papel de la
automatización y de la IA en el ámbito del control de la mala
administración y de la corrupción en la contratación, ya ensayada en diversos
supuestos, también puede ser de gran interés, siempre que se mantenga dentro de
los márgenes expuestos.
Terminó con unas breves palabras sobre la
contratación de la automatización y de la IA, especialmente respecto
al riesgo de opacidad. Existiendo ya experiencias en marcha en este ámbito,
como la del Ayuntamiento de Madrid para la automatización de funciones
urbanísticas,
con el lanzamiento de una consulta preliminar al mercado, se trata éste
de un ámbito limitadamente abordado por la LCSP actualmente vigente. La
misma lo hace desde la perspectiva de los respectivos contratos de
servicios y de suministro. En el primer caso, por defecto, salvo pliegos
en contra, estos contratos, que implican una automatización “a medida”,
conllevan la cesión de la propiedad intelectual o industrial (art. 308). En el
segundo, contrato de suministros, el art. 122 LCSP señala que los pliegos de
cláusula administrativas particulares pueden decidir que haya transmisión, pero
si no dicen nada, no existirá.
Alertó sobre la importancia actual de dichos plieguos.
“Téngase en cuenta la tensión que puede existir: si no hay cesión, existe
el riesgo de dependencia
tecnológica de la Administración de sus proveedor, de captura, pues,
al quedar en manos de contratistas para futuros mantenimientos y mejoras.
Asimismo, existe un evidente riesgo de opacidad, pues podría sostenerse
que no puede haber transparencia, por ejemplo del código fuente, aunque en
realidad consideramos que la aplicación del art. 4 LTAIBG afecta a los
contratistas (eso sí, de conformidad con el contrato, que debería arbitrar
posibles fórmulas contra la opacidad que no impliquen dañar a la propiedad
intelectual o industrial). “Pero si la transparencia, por ejemplo, del código
fuente, se pacta, ello afecta a contratista, que puede ser desincentivado en la
contratación con administraciones, además de que el contrato si se celebra se
encarecerá para éstas”.
Auditorías, también
Durante esa primera mesa de la mañana intervino la
profesora Patricia Valcárcel, Catedrática de Derecho administrativo de la
Universidad de Vigo, que enfatizó en la necesidad de implantar nuevas
formas de supervisión y auditoría adaptadas al entorno de los sistemas
tecnológicos complejos, por cuanto los mecanismos tradicionales no sirven en el
nuevo contexto algorítmico. Y ello por cuanto los mecanismos de supervisión y
auditoría tradicionales previos a la digitalización se centraban en el control
de procesos humanos, verificaciones de documentos físicos o registros
contables.
Para Patricia Valcarcel, la automatización de
procedimientos, y especialmente la utilización de herramientas que implican uso
de IA en el sector público, ha hecho que el núcleo duro o esencia última
de decisiones administrativas antes tomadas enteramente por humanos, estén
basadas en el uso de estas nuevas herramientas tecnológicas. Ante esto es
preciso garantizar la transparencia y explicabilidad de tales
decisiones a la ciudadanía y verificar que el sistema ha respetado los
parámetros legales que le vinculan.
En definitiva, se impone la hacer obligatorias
auditorías algorítmicas que constaten que cada sistema de IA respeta
aspectos tales como el propósito y finalidad del algoritmo, la calidad de los
datos con los que se entrena, la validez del modelo matemático que subyace al
mismo, o la robustez de los resultados que arroja.
En la compra de estos sistemas, sería importante que los
pliegos contractuales se incluyesen cláusulas que recordasen y concretasen la
necesidad de que el sistema de IA adquirido se someta a estas auditorías
periódicamente
Otra parte relevante de la intervención se centró en la
explicación de las previsiones sobre contratación de sistemas de IA que ha
introducido la Ley 2/2025, de 2
de abril, para el desarrollo e impulso de la IA en Galicia. Y de forma
particular la concepción que recoge el artículo 68 de dicha Ley de la
contratación pública como un instrumento estratégico para fomentar en el sector
público gallego el desarrollo y uso de sistemas de IA.
Miquel Roca presentado por Chema Gimeno
La Jornada de mañana terminó con la conferencia magistral
de Miquel Roca, patriarca del despacho profesional RocaJunyent y uno de los padres
de la Constitución Española. Pudimos escuchar una exposición llena de sentido
común, de ironía, de crítica social y demostrando la gran vitalidad de quien a
sus 85 años sigue siendo un extraordinario jurista. Mirad sino esta magnifica entrevista, de quien siempre s elevado el
nivel de la Política (si, con mayúsculas) y un negociador
de eterna sonrisa y modales conciliadores.
Don Miquel se manifestó orgulloso de hablar en el
paraninfo donde Einstein dio su conferencia hace poco más un siglo y bromeo
sobre lo bien que le venía su teoría de la relatividad ante el necesario
escepticismo para afrontar todas las nuevas necesidades y demandas de un Estado del bienestar que no puede seguir igual, porque
no hay dinero para financiarlo todo. En su opinión, hay que involucrar al
sector privado y eso pasa por las herramientas de contratación público-privada,
aceptando algo elemental, que las empresas deben tener un margen y no perder
dinero en esa colaboración.
Al terminar, los cientos de asistentes le han despedido
con un cariñoso y emocionante aplauso en el mismísimo aula escalonada que vio
pasar a Ramón y Cajal de estudiante y profesor.
Seguiremos informando …
