"Para Patricia Valcarcel, la automatización de procedimientos, y especialmente la utilización de herramientas que implican uso de IA en el sector público, ha hecho que el núcleo duro o esencia última de decisiones administrativas antes tomadas enteramente por humanos, estén basadas en el uso de estas nuevas herramientas tecnológicas"
Por Antonio Arias. Fiscalización.es blog.- Comenzó el VII Congreso del Observatorio de la Contratación Pública. La séptima edición se está desarrollando en el paraninfo de la Universidad de Zaragoza, donde el equipo capitaneado por el catedrático de derecho administrativo, José María Gimeno Feliú acoge a cuatrocientos expertos en contratación procedentes de toda España atraídos por un exigente programa donde aborda el futuro del sector, combinando la visión jurídica con las necesidades reales de gestión e innovación en las políticas públicas.
En el mismísimo paraninfo de la Institución donde ahora es Gerente Alfonso Peña -quien fuera presidente de la Cámara de Cuentas de Aragón- y donde se recuerda la visita de Albert Einstein o la escultura en mármol blanco de Ramón y Cajal preside la escalera de acceso, inauguró la jornada la Rectora con los representantes institucionales del gobierno de Aragón y del Ayuntamiento anfitrión.
Como avanzaba la alcaldesa de Zaragoza, Natalia Chueca, en el acto de presentación institucional del Congreso el 12 de septiembre, escucharemos más de una veintena de mesas y medio centenar de ponentes de reconocido prestigio pertenecientes a universidades, administraciones y empresas. Las convocatorias de Chema Gimeno se llenan siempre porque tiene peculiaridades únicas en el mundo de las grandes reuniones universitarias. Lleva muchos años convocando con éxito congresos y seminarios (así éste de 2019), respetado y querido por todos sus colegas y con una cercanía única con los asistentes -responsables de contratación en todo tipo de Administraciones Públicas- crea un magnífico ambiente de trabajo. Mi preferido es Panticosa. Además, involucra al sector privado, tanto a sus especialista en el otro lado -contratistas, consultores, laboratorios- que dan un cierto soporte a la financiación del Observatorio y ayudan a que salgamos de la cueva, escuchemos de primera mano su perspectiva y la realidad.
Comentaremos durante los próximos días en esta bitácora los principales mensajes que nos dejaron los diversos paneles. No me resisto a empezar por la mesa sobre el papel de la contratación pública ante los nuevos escenarios. Retos tecnológicos y de políticas públicas, moderada por Beatriz Juliá (KALAMAN) con ponencias de Patricia Valcárcel, Catedrática derecho administrativo de la Universidad de Vigo, de Juli Ponce, Catedrático derecho administrativo de la Universidad de Barcelona y de Marta Cano, directivo de NTTDATA.
Me detendré ahora en la ponencia de Juli Ponce, que planteó muchas reflexiones sobre los contratos públicos y la automatización, valorando las posibilidades y límites de la inteligencia artificial en la contratación pública.
La automatización de las funciones administrativas se está convirtiendo en un apartado obligado en todas las reuniones de empleados públicos. Sin ir muy lejos, el CCIL25 de hace un par de semanas. Emplear sistemas algorítmicos con inteligencia artificial es ya una realidad en diversos ámbitos, desde la concesión o denegación del bono eléctrico, hasta la determinación de la incapacidad temporal en la seguridad social, pasando por el ámbito tributario, como recordó Juli Ponce.
Esta automatización no es desconocida en el ámbito de la contratación y ante su previsible extensión futura –recordó Juli la nueva ministra no humana encargada de contratación en Albania, como apuesta contra la corrupción – lo que exije reflexionar sobre sus posibilidades, sus riesgos y sus límites, tanto tecnológicos como jurídicos.
La reflexión, para el ponente, debe partir del concepto y tipos de automatización (art. 41 Ley 40/2015, del Régimen Jurídico de las Administraciones Públicas) y de IA, pues, a efectos jurídicos, no es lo mismo una IA basada en reglas que otra simbólica o estadística (de aprendizaje automático o generativa, por ejemplo), como tuvo ocasión de exponer con detalle en el libro El Reglamento de Inteligencia Artificial de la Unión Europea de 2024, el derecho a una buena administración digital y su control judicial en España, publicado hace unos meses entre elogios del sector. Así lo ve José Ramón Chaves; también tenéis un resumen que puede consultarse en abierto aquí, así como la conversación que tuvo lugar en torno al mismo en el contexto de una de las presentaciones realizadas, aquí, donde se planteó, entre otras cuestiones, si existen límites (también jurídicos) al reemplazo de humanos por máquinas, por supuesto incluyendo el ámbito de la contratación pública.
Para la reflexión sobre la automatización y el uso de la IA en la contratación del sector público entendió útil partir de los beneficios que presenta la misma, así como de sus riesgos (incluyendo los de violación de derechos y principios, como los de intimidad y protección de datos, transparencia, debido a las black boxes y a la opacidad en el caso de la IA simbólica o estadística – pero también en supuestos mucho más sencillos, como el ya mencionado caso BOSCO o los “frameworks” opacos empleados por la administración cántabra en las licitaciones, afortunadamente removidos gracias a la lucha del señor Jaime García Obregón, querella penal contra él incluida – interdicción de la arbitrariedad o el de buena administración) y sus costes (entre ellos, destacadamente, los ambientales, sin olvidar la afectación de empleos de humanos, también en el sector público existente).
Desde este análisis ya puede abordarse, en su opinión, la regulación de la IA para aprovechar sus beneficios y controlar y evitar sus riesgos y costes. Desde luego, por un lado, la regulación europea, ámbito en el que el Reglamento de 2024 sobre IA impacta también de manera relevante sobre los contratos públicos. Asimismo, son de interés las cláusulas contractuales tipo para la contratación de sistemas con inteligencia artificial.
Por otro lado, debemos tener en cuenta la legislación nacional, en lo que ahora interesa la española, que a nivel estatal es muy escasa y claramente mejorable: “Lo que hemos puesto de relieve con concretas propuestas regulatorias en un reciente libro, incluyendo la reforma de la LCSP, que, por el momento de su aprobación, no contempla específicamente el tema del que estamos tratando”.
Hay un contexto doble que pidió no olvidar: la automatización, en su caso con IA, en el desarrollo de la contratación pública y, aspecto diferente, la contratación pública de soluciones de automatización en el sector privado.
a) En el primer caso, la indudable utilidad de la IA como soporte a las funciones administrativas(existiendo ya experiencias como el uso de IA generativa por parte de la Diputación de Girona) no debe confundirse con la automatización parcial de ciertas tareas ni con la automatización total en la toma de la decisión final, también en el ámbito de la contratación.
Si bien la automatización parcial de ciertas tareas tanto en la preparación, en la adjudicación o en la ejecución del contrato pueden contribuir a mejorar la gestión pública (evitando los riesgos y costes aludidos), la automatización total, esto es la entrega de la decisión administrativa a la máquina, debe venir condicionada por lo que hemos denominado reserva de humanidad.
Juli Ponce“Si hay un doctorando en la sala, le recomiendo un tema de tesis: Derecho público y empatía”
Para Ponce, la incapacidad de razonar como un humano (abductivamente también), la falta de empatía y la necesidad de respetar el procedimiento debido suponen límites tecnológicos pero también jurídicos a las máquinas, vinculados a la buena administración en el ejercicio de la discrecionalidad, entendida como un margen de apreciación volitivo en la contratación pública, incluyendo también la aplicación de conceptos jurídicos indeterminados con un halo de incertidumbre.
Entiende que entregar decisiones en estos ámbitos a las máquinas es aumentar exponencialmente los riesgos de malas administraciones y una aplicación elemental del principio jurídico de precaución, en su vertiente social, exige evitarlo. Así, en la fase de preparación de contratos, como es sabido, la LCSP señala en el artículo 28.1 la necesidad e idoneidad del contrato y eficiencia en la contratación: “Las entidades del sector público no podrán celebrar otros contratos que aquellos que sean necesarios para el cumplimiento y realización de sus fines institucionales”. Aquí, la automatización con IA puede desempeñar un papel de apoyo, pero no puede decidir autónomamente sobre la necesidad.
En la fase de adjudicación de contratos, la LCSP en su artículo 146 sobre aplicación de los criterios de adjudicación y en su artículo 150 sobre la clasificación de las ofertas y adjudicación del contrato, señala, como es sabido, que es posible “la valoración de los criterios cuya cuantificación dependa de un juicio de valor”, así como que “se atenderá a los criterios de adjudicación señalados en el pliego, pudiéndose solicitar para ello cuantos informes técnicos se estime pertinentes”. Aquí la automatización, con IA en su caso, puede contribuir a la elaboración de esos informes, pero no debe decidir el juicio de valor. Advirtió el ponente que la llamada a no hacer depender siempre y exclusivamente la adjudicación de los contratos en el precio, de la está siendo adalid el profesor Gimeno Feliu, como garantía de la buena administración, puede implicar limitaciones al uso de la IA.” O, dicho en otras palabras, hay que tener cuidado de que el uso de la IA no lleve a reforzar aún más la adjudicación en base meramente al precio”.
Finalmente, en la fase de ejecución de contratos, la LCSP señala en su artículo 279 sobre las causas de resolución que “Son causas de resolución del contrato de concesión de obras, además de las señaladas en el artículo 211, con la excepción de las contempladas en sus letras d) y e), las siguientes:
…c) El rescate de la explotación de las obras por el órgano de contratación. Se entenderá por rescate la declaración unilateral del órgano contratante, adoptada por razones de interés público, por la que dé por terminada la concesión, no obstante la buena gestión de su titular, para su gestión directa por la Administración. El rescate de la concesión requerirá además la acreditación de que dicha gestión directa es más eficaz y eficiente que la concesional”
De nuevo la existencia de un juicio de valor, de un margen de apreciación, de una operación volitiva vinculada a este concepto jurídico indeterminado de “razones de interés público” ha de impedir su entrega a la máquina, debiendo quedar reservado para el humano que ocupe el órgano competente para tal decisión.
Por último, glosó el ponente el papel de la automatización y de la IA en el ámbito del control de la mala administración y de la corrupción en la contratación, ya ensayada en diversos supuestos, también puede ser de gran interés, siempre que se mantenga dentro de los márgenes expuestos.
Terminó con unas breves palabras sobre la contratación de la automatización y de la IA, especialmente respecto al riesgo de opacidad. Existiendo ya experiencias en marcha en este ámbito, como la del Ayuntamiento de Madrid para la automatización de funciones urbanísticas, con el lanzamiento de una consulta preliminar al mercado, se trata éste de un ámbito limitadamente abordado por la LCSP actualmente vigente. La misma lo hace desde la perspectiva de los respectivos contratos de servicios y de suministro. En el primer caso, por defecto, salvo pliegos en contra, estos contratos, que implican una automatización “a medida”, conllevan la cesión de la propiedad intelectual o industrial (art. 308). En el segundo, contrato de suministros, el art. 122 LCSP señala que los pliegos de cláusula administrativas particulares pueden decidir que haya transmisión, pero si no dicen nada, no existirá.
Alertó sobre la importancia actual de dichos plieguos. “Téngase en cuenta la tensión que puede existir: si no hay cesión, existe el riesgo de dependencia tecnológica de la Administración de sus proveedor, de captura, pues, al quedar en manos de contratistas para futuros mantenimientos y mejoras. Asimismo, existe un evidente riesgo de opacidad, pues podría sostenerse que no puede haber transparencia, por ejemplo del código fuente, aunque en realidad consideramos que la aplicación del art. 4 LTAIBG afecta a los contratistas (eso sí, de conformidad con el contrato, que debería arbitrar posibles fórmulas contra la opacidad que no impliquen dañar a la propiedad intelectual o industrial). “Pero si la transparencia, por ejemplo, del código fuente, se pacta, ello afecta a contratista, que puede ser desincentivado en la contratación con administraciones, además de que el contrato si se celebra se encarecerá para éstas”.
Auditorías, también
Durante esa primera mesa de la mañana intervino la profesora Patricia Valcárcel, Catedrática de Derecho administrativo de la Universidad de Vigo, que enfatizó en la necesidad de implantar nuevas formas de supervisión y auditoría adaptadas al entorno de los sistemas tecnológicos complejos, por cuanto los mecanismos tradicionales no sirven en el nuevo contexto algorítmico. Y ello por cuanto los mecanismos de supervisión y auditoría tradicionales previos a la digitalización se centraban en el control de procesos humanos, verificaciones de documentos físicos o registros contables.
Para Patricia Valcarcel, la automatización de procedimientos, y especialmente la utilización de herramientas que implican uso de IA en el sector público, ha hecho que el núcleo duro o esencia última de decisiones administrativas antes tomadas enteramente por humanos, estén basadas en el uso de estas nuevas herramientas tecnológicas. Ante esto es preciso garantizar la transparencia y explicabilidad de tales decisiones a la ciudadanía y verificar que el sistema ha respetado los parámetros legales que le vinculan.
En definitiva, se impone la hacer obligatorias auditorías algorítmicas que constaten que cada sistema de IA respeta aspectos tales como el propósito y finalidad del algoritmo, la calidad de los datos con los que se entrena, la validez del modelo matemático que subyace al mismo, o la robustez de los resultados que arroja.
En la compra de estos sistemas, sería importante que los pliegos contractuales se incluyesen cláusulas que recordasen y concretasen la necesidad de que el sistema de IA adquirido se someta a estas auditorías periódicamente
Otra parte relevante de la intervención se centró en la explicación de las previsiones sobre contratación de sistemas de IA que ha introducido la Ley 2/2025, de 2 de abril, para el desarrollo e impulso de la IA en Galicia. Y de forma particular la concepción que recoge el artículo 68 de dicha Ley de la contratación pública como un instrumento estratégico para fomentar en el sector público gallego el desarrollo y uso de sistemas de IA.
Miquel Roca presentado por Chema Gimeno
La Jornada de mañana terminó con la conferencia magistral de Miquel Roca, patriarca del despacho profesional RocaJunyent y uno de los padres de la Constitución Española. Pudimos escuchar una exposición llena de sentido común, de ironía, de crítica social y demostrando la gran vitalidad de quien a sus 85 años sigue siendo un extraordinario jurista. Mirad sino esta magnifica entrevista, de quien siempre s elevado el nivel de la Política (si, con mayúsculas) y un negociador de eterna sonrisa y modales conciliadores.
Don Miquel se manifestó orgulloso de hablar en el paraninfo donde Einstein dio su conferencia hace poco más un siglo y bromeo sobre lo bien que le venía su teoría de la relatividad ante el necesario escepticismo para afrontar todas las nuevas necesidades y demandas de un Estado del bienestar que no puede seguir igual, porque no hay dinero para financiarlo todo. En su opinión, hay que involucrar al sector privado y eso pasa por las herramientas de contratación público-privada, aceptando algo elemental, que las empresas deben tener un margen y no perder dinero en esa colaboración.
Al terminar, los cientos de asistentes le han despedido con un cariñoso y emocionante aplauso en el mismísimo aula escalonada que vio pasar a Ramón y Cajal de estudiante y profesor.
Seguiremos informando …
No hay comentarios:
Publicar un comentario