"Los algoritmos de IA pueden ser programados para verificar la completitud y precisión de los documentos de contratación, garantizando que los documentos contengan toda la información necesaria y que sean coherentes y precisos"
Mi querido amigo Juan Carlos, en este post nos habla de un tema actual al que debemos prestar especial atención en las Administraciones Públicas, el uso de la Inteligencia Artificial. Por lo que se indica en el último párrafo del post podría pensarse que le he obligado a escribir en agosto. Pues, aunque no confirmo ni desmiento este hecho, creo que vale mucho la pena poder leer lo que nos cuenta.
En los primeros meses de este año recuerdo haber conversado con Victor Almonacid (cuya visión y pasión escrita en innumerables artículos sobre estos asuntos comparto) y también con mi compañero de profesión Esteban Umérez, (abducido como yo por las nuevas tecnologías) sobre lo asombrosamente rápido que en apenas unos meses se habían desplegado y desarrollado múltiples plataformas de inteligencia artificial y la tormenta perfecta que ello representaba con la denominada internet de las cosas (cualquier objeto puede transmitir información de diversa naturaleza a través de sensores en tiempo real) y el Big Data que permite consolidar, agregar y dividir datos procedentes de múltiples fuentes creando inmensos data sets.
Para quienes andáis un poco en las nubes,
en términos generales hablamos de inteligencia artificial (IA) para referirnos
a la capacidad de las máquinas y sistemas informáticos para aprender de su
propia experiencia y adaptar su comportamiento o sus respuestas, asemejándose
su funcionamiento a la inteligencia humana. En la base de la inteligencia
artificial están algoritmos matemáticos complejos, técnicas de aprendizaje
profundo o Deep Learning, procesamiento de lenguaje natural y reconocimiento de
imágenes, que impulsados por el aumento de capacidad de almacenamiento y
recursos de procesamiento computacional de los ordenadores permite el manejo de
grandes volúmenes de datos e información y que las máquinas puedan asumir
autónomamente tareas y procesos complejos para los cuales siempre se ha
necesitado la inteligencia humana.
En el ámbito público el ejercicio de las
potestades que se ejercitan está absolutamente regulado y protocolizado, priman
los intereses públicos sobre los privados y su actividad está regida -entre
otros-, por los principios de legalidad, eficiencia, transparencia e igualdad;
de tal manera que, de inicio, el ámbito público tiene un entorno ideal para el
uso intensivo de la IA en la mejora de la eficiencia de los procedimientos
administrativos. Eso, en el ámbito público en general, porque como ya habrás
adivinado, el ámbito específico de la contratación pública es terreno
especialmente abonado para el uso intensivo de la IA.
La IA y los errores
Para hacernos una idea, en un área que me
interesa particularmente, que es el de la mejora del diseño de los documentos
de contratación pública (legal desing), la IA ayuda a identificar y corregir
errores, a mejorar la claridad y la concisión, y a hacer que los documentos
sean más fáciles de entender para los licitadores, incrementando la participación
y la competencia. En definitiva, haciendo más eficiente el proceso.
La IA puede ayudar a diseñar plantillas
de documentos para solicitudes de propuestas, términos de referencia y otros
documentos de contratación. Estas plantillas consiguen estandarizar los
formatos y asegurar que se incluyan todos los detalles necesarios. Los
algoritmos de IA pueden ser programados para verificar la completitud y
precisión de los documentos de contratación, garantizando que los documentos
contengan toda la información necesaria y que sean coherentes y precisos.
Algunos sistemas de IA, como los basados
en procesamiento del lenguaje natural, pueden generar automáticamente
documentos o partes de los mismos, proporcionando asistencia en la redacción de
documentos, sugiriendo cambios para mejorar la claridad y la precisión, o para
garantizar que el lenguaje sea inclusivo y no sesgado.
La IA puede analizar los documentos de
contratación identificar áreas de mejora, y los términos que a menudo son
malinterpretados o que causan confusiones, o secciones que a menudo necesitan
ser modificadas. Esta información será utilizada para mejorar los documentos de
contratación en el futuro.
Por poner algunos ejemplos prácticos: el
Departamento de Defensa de los Estados Unidos utiliza la IA para revisar y
verificar los documentos de contratación, identificando áreas donde falta
información, o donde la información proporcionada es incorrecta o incoherente.
Esto ayuda a garantizar que los documentos de contratación sean precisos y completos
antes de ser enviados a los licitadores; la ciudad de Chicago
utiliza la IA para mejorar la claridad y la concisión de los documentos de los
procedimientos de contratación, ayudando a facilitar a los licitadores la
comprensión de los requisitos del contrato; por último, la ciudad de Londres
utiliza la IA para hacer que los documentos de los procedimientos de
contratación sean más fáciles de entender para los licitadores, aumentando como
consecuencia el número de licitadores que participan en los procedimientos de
contratación.
Sin perjuicio de las decisiones que el
legislador europeo y nacional adopte, es conveniente que desde ya, las
instituciones públicas vayan planteándose el establecimiento de directrices
orientadas a proteger los derechos de los ciudadanos en relación al uso de la
IA. De ordinario los ciudadanos, ¾también los contratistas¾, se sienten
desasistidos frente a las Administraciones Públicas en una relación ausente de
equilibrio. Quienes reclaman una respuesta sincera sobre los criterios que
inspiran la mayor parte de las actuaciones de la administración o la evaluación
de esas mismas actuaciones, raramente encuentran una respuesta. Y cuando la
obtiene, habitualmente esta respuesta es meramente formularia, carente de
solvencia lógica o se esconde en formatos inaccesibles que hacen imposible su
comprobación o verificación.
Y cuando no son los formatos son las
formas. Un ejemplo muy sencillo de lo que digo y de la posición de
desequilibrio del ciudadano frente a la administración nos lo recuerda el
abogado Diego
Gómez Fernández casi a diario con su cruzada (también la mía) contra
el abuso de la cita
previa obligatoria en la administración. Pues si así es el paisaje
común, no es difícil imaginar cómo el uso descontrolado de estas tecnologías y
la propia AI puede desequilibrar aún más la balanza y ahondar en la
injusticia ¾por inaccesibles e incomprensibles¾ de las actuaciones
administrativas.
Hace muy poco, en LinkedIn, Jacinto
Somoza nos recordaba en su mordaz estilo una
interesante reflexión en relación a los “hype” (reacción o
expectativa desmedida frente a una novedad) tecnológicos en los que se
entretienen las administraciones públicas sin ser capaces de haber resuelto lo
más básico y elemental para que siquiera esos “inventos”, resulten útiles y
sirvan algo más que para lograr un efímero titular pomposo a mayor gloria del
político de turno.
Puede que en el presente momento en el
uso de la IA haya algo de ese “hype” pero creedme, la IA es una realidad que
irremediablemente nos va a alcanzar a todos en todos los campos. En la relación
entre administración y ciudadanos también. Pensad que la IA va a permitir
gestionar todos los datos y la información. Todos. Y hacerlo prescindiendo de
la mano humana, al menos de entrada de la que intelectualmente incorpora nulo
valor en los procesos administrativos. Mi recomendación administraciones
públicas: si no lo habéis hecho ya, iros asomando poco a poco al uso de la IA.
Al menos para entender qué es lo que te ha pasado por encima.
Para que, en ese paso por encima, el
ciudadano no vea perjudicados sus derechos frente a la administración, es
necesario incorporar instrumentos del control respecto al uso de la IA. El
primer paso en el establecimiento de esos mecanismos es la información (Para
quien lo haya olvidado, información no es propaganda), la que permita a los
ciudadanos conocer en qué relaciones con la administración se usan estas
tecnologías, los algoritmos que se emplean, su explicación y la propia
información generada por su uso. Pero además de la transparencia, es mecanismo
necesario la rendición de cuentas en relación a su uso y en particular respecto
del cumplimiento preciso de los objetivos predeterminados para habilitarlo. Los
ciudadanos entonces podrán entender el alcance de estos sistemas de IA,
advertir en su caso las deficiencias del sistema y promover su
corrección.
Precisamente la exigencia de
transparencia y rendición de cuentas tiene un difícil encaje con el uso de
plataformas de inteligencia artificial privadas. Una convivencia que será muy
difícil de explicar. El desarrollo de plataformas de inteligencia artificial
(hay muchas inteligencias artificiales, quizás la más conocida de ellas sea la
denominada generativa, por ejemplo Chat GPT) es caro, muy caro. Al margen de la
alta especialización de recursos humanos, requiere el uso de los sistemas de
computación más avanzados e igual que ha ocurrido con los productos
informáticos en la “nube” estas exigencias sólo están al alcance de las grandes
corporaciones, todas ellas atentas a ofrecer sus plataformas de IA a las
administraciones públicas, grandes tenedoras de la gasolina que alimenta la IA,
los datos y la información. Y es aquí donde se deben establecer unas reglas
claras si no queremos abandonarnos a los intereses de estas grandes
corporaciones privadas y con ese abandono dejar en sus manos nuestros
derechos.
Los algoritmos que utilice la Administración
en cualquier plataforma de IA deberían ser abiertos y accesibles al público,
estableciendo obligatoriamente evaluaciones periódicas y públicas de su impacto
en los derechos fundamentales que incidan en la satisfacción del principio de
igualdad, transparencia y rendición de cuentas en la implementación de sistemas
de IA en los servicios públicos y cómo estos sistemas cumplen con los objetivos
de política pública. La divulgación pública y transparente de estos informes
permitirán a los ciudadanos, verificar la información facilitada en ellos,
comprobar el funcionamiento correcto de los sistemas, plantear sus dudas,
proponer modificaciones y evitar resultados indeseables del uso de estos
sistemas.
Un último apunte: la implementación de
los sistemas de inteligencia artificial, su desarrollo y mantenimiento puede
crear una capa de complejidad que perjudique su comprensión por los ciudadanos
y la identificación de las responsabilidades ante un eventual daño causado por
el incorrecto funcionamiento del sistema. Es necesario que, desde la
misma recopilación de datos, la generación del algoritmo y su
implementación, hasta su uso y aplicación el proceso, se haga de forma
transparente, de tal manera que se conozca en cada momento quién es responsable
de qué. De otro modo seremos siempre los ciudadanos los que de forma directa o
indirecta asumamos el costo de los daños causados por el mal funcionamiento de
estos sistemas.
Y no quiero alargarme más en este
escrito, que la pistola de la amistad que Pilar Batet me ha puesto en la sien
empieza a dejar marca. Escribo estas líneas con el placer de escribir para un
blog tan reputado y la amargura de ver el fuego devorar los montes de mi isla.
Por eso hoy a la sombra de un de pino, sabor agridulce.
No hay comentarios:
Publicar un comentario