viernes, 30 de agosto de 2019

Estatuto ético para la implantación de la inteligencia artificial y la robótica en la administración pública

Por Carles Ramió. EsPúblico blog.- Vamos a atrevernos a proponer un posible modelo de protoestatuto de ética en el sector público para la implantación de la inteligencia artificial y la robótica en el sector público. La idea es presentar este modesto borrador para incentivar la discusión e ir refinando con el tiempo un futuro estatuto público sobre valores y ética en la aplicación de la inteligencia artificial y de la robótica:

1.- Los algoritmos públicos deben ser aprobados por una comisión multidiciplinar que valore si responden a la ética y los valores públicos (igualdad, equidad por razón de raza, religión, género, etc.).

2.- Los procesos y el tipo de información con los que se entrenan los dispositivos de inteligencia artificial deberían ser también aprobados por una comisión multidisciplinar que valoren si responden a la ética y a los valores públicos.

3.- Los algoritmos y los dispositivos robóticos tienen que superar una prueba de estrés de ética pública en una fase piloto y conseguir la acreditación de una agencia pública independiente (europea, supraestatal o estatal).

4.- Los algoritmos, sus procesos de entrenamiento y los dispositivos robóticos deben ser evaluados cada cierto período de tiempo por una agencia pública independiente.

5.- Los cuatro puntos anteriores no deben generar una suerte de neoburocracia sino que, deben seguir procedimientos sólidos pero sencillos y fluidos.

6.- Los diseños de los algoritmos y los procesos de entrenamiento en el sector público deben ser transparentes y no blindados con patentes. Ciudadanos y organizaciones no gubernamentales deben tener la capacidad de evaluar externamente ambos procesos.

7.- Los dispositivos robóticos públicos que interaccionen con personas deberían ser fácilmente reconocibles como robots. Es un derecho ciudadano reconocer con facilidad si interacción con un servidor público humano o artificial. Hay que cuidar, en especial, a las personas más vulnerables (ancianos, niños, personas con discapacidades, etc.). Un robot debería tener un diseño agradable, pero evitando que puedan ser confundidos con las personas.

8.-Los dispositivos robóticos públicos que interaccionen con personas deben evitar, en su dimensión estética, discriminaciones por razón de género, raza, etc.

9.- Sería necesario una catalogación internacional de los distintos tipos de robots: robots sanitarios, de servicios sociales, educativos, policiales, de defensa, etc. La población debería poder reconocer con facilidad la especialización y los objetivos de cada dispositivo robótico.

10.-Asegurar la igualdad de acceso a todos los sectores sociales de los beneficios de la inteligencia artificial y de la robótica.

11.-Las fuerzas de seguridad del Estado deben implantar sistemas robóticos de vigilancia, de prevención y de lucha contra el delito que no vulneren la libertad de las personas. Los robots deberían limitarse a un uso de la fuerza coercitiva no agresiva (retener al presunto delincuente, pero no utilizar otro modo de violencia).

12.- Las fuerzas armadas deberían prohibir las máquinas que puedan matar de manera autónoma. Pero esto puede ser en la práctica una quimera. En todo caso es evidente, que los controles sobre los algoritmos y los sistemas de entrenamiento deberían ser muy estrictos.

13.- Impulsar con la máxima rapidez la implantación de la inteligencia artificial en los diagnósticos y prescripciones médicas. Los algoritmos sanitarios van a salvar millones de vidas y no hay que demorar este proceso para que se beneficien al máximo los contemporáneos.

14.-Respetar el rechazo a ser cuidado por un robot. Este principio va a quedar rápidamente obsoleto ya que si se diseñan buenos robots de cuidados sociales nadie los va a rechazar y habrá que evitar justo lo contrario: impedir que algunos ciudadanos caprichosos se nieguen a ser cuidados por robots que podrían ser más eficaces y eficientes para el sistema público. En este ámbito hay que avanzar lo más rápido posible (igual que en el caso de la sanidad) para que los ciudadanos actuales puedan beneficiarse de las ventajas de esta robotización.

15.-Cada vez que la Administración pública robotice un servicio público o una parte del mismo debería definir un conjunto de acciones complementarias para evitar la pérdida de lazos sociales.  La presencia de servidores públicos humanos en algunas partes del servicio deberá ser preservada o estimulada para que existan contrapesos emocionales.

16.- Los que favorezcan la interacción entre humanos en aquellos círculos o ámbitos sociales que sean más dependientes (por obligación o por devoción) de los dispositivos inteligentes y robóticos.

17.-Promover la investigación pública (universidades y centros de investigación) sobre inteligencia artificial y robótica. No puede ser que toda la innovación aplicada sobre la materia surja solo del sector privado y serían necesarios algunos contrapesos de carácter público.

18.-Definir de forma proactiva políticas de empleo y sociales que atenúen el impacto en el mundo laboral de la implantación de la inteligencia artificial y de la robótica.

19.- La Administración pública no se va a demorar en la implantación interna de la inteligencia artificial y de la robótica para mantener el empleo público. En todo caso ningún empleado público va a perder su puesto de trabajo público debido a esta dinámica. La robótica debe ser absorbida por el proceso natural de las jubilaciones y, en los casos que no se produzcan, apostar por la flexibilidad de las plantillas y por su movilidad para que los empleados públicos objeto de robotización puedan ser destinados a otras tareas.

20.-Las administraciones públicas deberían regular y aprobar con unos estándares muy rigurosos en los dispositivos de inteligencia artificial y robótica del sector privado que presta servicios universales de interés general (energía, telefonía, agua, transportes, servicios financieros básicos, etc.) y que, por tanto, no interaccionan con clientes sino con ciudadanos.

21.-Las administraciones públicas deberían regular y aprobar, con unos estándares de valores básicos, para que los dispositivos de inteligencia artificial y robótica del sector privado no atenten contra la dignidad humana.

22.- Los poderes públicos deberían vigilar y sancionar todas las plataformas sociales que mediante algoritmos manipulen a los ciudadanos y alteren la convivencia política. Hay que perseguir las fake news y los operadores que ofrecen de manera manifiesta una información sesgada. Es un tema delicado pero los sistemas democráticos deben poder defenderse de las agresiones interesadas o espurias que ponen en riesgo los cimientos de la democracia. 

23.- ¿Diseñar un marco regulativo para la inteligencia artificial y la robótica sexual?

24.- Es obvio que para poder preparar e implementar todas estas propuestas un país serio debería poseer con carácter inmediato de un ministerio para la inteligencia artificial. Diseñar un entramado institucional coordinado y complementario con las administraciones autonómicas y las grandes administraciones locales. Los pequeños municipios deberían en estos temas estar bajo la protección y auxilio de las diputaciones provinciales o de las comunidades autónomas.

1 comentario:

  1. Propongo añadir un punto de crear y usar un algoritmo e inteligencia artificial que analice y proponga la mejor opción para el desarrollo de algoritmos a nivel europeo o al menos nacional y que no veamos la creación, y gasto en 17 modelos de robots, uno por CCAA. Solo con inteligencia natural me parece que no lo vamos a conseguir, y con 1,2 billones de deficit y un 3 % de deficit estructural anual, menos

    ResponderEliminar