La inteligencia artificial (IA) ha interrumpido en nuestra sociedad de manera abrupta introduciendo nuevas formas de actuación en múltiples áreas de actividad. Resulta especialmente relevante regular su uso protegiendo y garantizando los derechos de los ciudadanos puesto que no podemos ignorar los riesgos que puede llegar a ocasionar la IA en aquellos casos de uso indiscriminado o negligente, es decir, por un mal funcionamiento de la misma.
En este contexto, observamos como la legislación poco a poco intenta adaptarse a esta nueva situación y más concretamente, a esta nueva tecnología que se arraiga en nuestra sociedad a gran velocidad. La Unión Europea, en particular, cuenta con un marco jurídico propio en materia de IA siendo la primera región en regular esta tecnología de forma vinculante a través del Reglamento Europeo de Inteligencia Artificial (RIA).
El objetivo principal de esta nueva regulación es la protección de los ciudadanos ante estos sistemas de tecnología innovadores y carentes de regulación ayudando así a un buen uso y funcionamiento de estos. Con todo esto, se aprueba un articulado basado en el riesgo como piedra angular que protege principalmente los derechos de las personas pero, que a la vez, trata de no obstaculizar el desarrollo tecnológico ni la investigación en la materia.
Así las cosas, el RIA se construye en base a una jerarquía de riesgos según los usos y las prácticas de los sistemas de inteligencia artificial determinando requisitos, obligaciones y prohibiciones según cada categoría:
| RIESGOS | ACTUACIONES U OBLIGACIONES |
| Riesgo inaceptable | Usos prohibidos |
| Riesgo alto | Usos de sistemas de IA con excepciones, requisitos y obligaciones |
| Riesgo limitado | Obligaciones de transparencia leves |
| Riesgo mínimo | Usos de sistemas de IA que pueden realizarse |
Y ¿cómo afecta la IA a las administraciones públicas? ¿es posible utilizar esta tecnología en la gestión diaria de cualquier entidad local? Pues bien, dentro de la multitud de áreas de actuación y de funciones que tienen encomendadas las administraciones públicas, a modo de ejemplo, podemos exponer algunos casos de posibles usos de sistemas de IA dentro de una entidad pública:
- Asistentes virtuales o de ayuda en webs o sedes electrónicas municipales, en materia de atención ciudadana.
- Programas de traducción de idioma. Los servicios de traducción también se han visto transformados con la llegada de la IA.
- Ciberseguridad. Los sistemas de inteligencia artificial también pueden contribuir a identificar y combatir los ciberataques y otras amenazas a través del análisis de grandes cantidades de datos que reciben continuamente, pueden llegar a reconocer patrones impidiendo así futuros ataques.
- Detección de desastres naturales. A través de la IA es posible la detección y prevención de determinados desastres naturales de tal manera que permita, a las autoridades competentes una preparación adecuada que reduzca sus consecuencias.
- Gestión de residuos. Es posible mejorar el servicio de gestión de residuos urbanos con el uso de herramientas o sistemas basados en IA de manera que sea más sencilla la recogida y tratamiento de residuos y pueda optimizarse el propio servicio de recogida de residuos creando rutas y horarios que sean más efectivos y eficaces para el municipio.
En consecuencia, es indudable que el uso de sistemas de IA contribuye a una mayor agilización y eficacia de los procesos, así como, en ocasiones, ayuda a una mayor precisión en las actuaciones administrativas, sin embargo, ¿podemos dejar en manos de la IA cualquier tipo de actuación administrativa o cualquier prestación de servicio? Es una cuestión clave que debemos plantearnos previamente a la implantación de cualquier sistema de IA dentro de la organización.
Cualquier uso de sistemas de IA tanto en el sector público como en el sector privado conlleva el cumplimiento de obligaciones (actualmente recogidas en el RIA) como evaluación y gestión de riesgos, conservación de registros o supervisión humana entre otras.
Sin embargo, especialmente relevante resulta esta última para el sector público puesto que, pese a que con la utilización de sistemas de IA no se precisa de intervención de persona física, ineludiblemente se requiere de supervisión humana.
Los responsables ante cualquier decisión tomada por un sistema de IA son las personas encargadas de la toma de decisión
Con todo ello, podemos concluir que, efectivamente, los sistemas de IA pueden utilizarse como asistentes o como apoyo para la toma de la decisión final en cualquier actuación administrativa, no obstante, la responsabilidad recae finalmente en el empleado u órgano administrativo que toma la decisión, es decir, quien firma el documento. Así las cosas, si bien es cierto que existe un amplio abanico de posibles usos de sistemas de IA para las administraciones públicas, debemos ser cautos en su utilización e implantación sin dejarlo todo a la decisión de las «máquinas».
Puede ampliar la información sobre este tema, accediendo a la Sección de Administración Electrónica de la Plataforma Corporativa de esPublico: un espacio de contenido especializado dedicado a facilitar la adaptación de las entidades locales a su actuación por medios electrónicos, así como a apoyar el proceso de transformación digital.
La Sección ofrece numerosos recursos explicativos, entre otros, guías didácticas, infografías interactivas, videotutoriales, diccionario de terminología digital, etc.
Puede acceder a la Sección de Administración Electrónica de esPublico, pulsando aquí.
