Miguel Á. Abad, comandante de la Guardia Civil: "Se delegan tareas en la IA, pero la responsabilidad no"

"El impacto de la IA en nuestras operaciones, pero también las limitaciones que tenemos a la hora de usar esta tecnología". Ese ha sido el título de la charla impartida por Miguel Ángel Abad, comandante de la Jefatura de Innovación Digital de la Guardia Civil, en el marco de VI Congreso Internacional de Inteligencia Artificial organizado por El Independiente.

En su intervención, Abad ha querido dejar claro que la IA no es algo nuevo, que haya aparecido de repente, y que su explosión actual está relacionada con avances y estudios acumulados a través de los años. La pregunta que lanzaba el comandante, al hilo de esto, era "qué ha cambiado para que la IA tenga ahora tanto impulso y notoriedad". Desde su punto de vista, ha habido dos aspectos fundamentales.

Por un lado, la mejora en la infraestructura tecnológica ha posibilitado la ejecución de procesos complejos. Y por otro, un cambio de paradigma de la IA como servicio, que ha llevado a la democratización de este tipo de sistemas, hasta entonces de uso limitado y especializado. Todo ello ha llevado, según ha detallado Abad, a que se haya producido un incremento normativo que, en el caso de la UE, puede ser contrario a la estrategia seguida por otros países.

Esto es de especial relevancia para un cuerpo como la Guardia Civil, en particular cuando el uso de la IA puede basarse en el ciberespacio que, como se sabe, no dispone de fronteras que permitan delimitar la aplicación normativa. En este sentido, Abad asegura que debemos ser conscientes que si bien la reglamentación fomenta la garantía de los derechos y libertades de los ciudadanos, éstos pueden verse afectados por terceros que, saltándose la normativa de aplicación, hagan uso de tecnologías IA alojadas en terceros países "no regulados".

Por último, el comandante ha hecho un pequeño repaso de los tipos de IA que podrían tener un impacto real en la Guardia Civil, como son en particular los sistemas de ayuda a la decisión, los sistemas predictivos y los sistemas generativos. Este último, considera, "puede llegar a cambiar el paradigma de la formación de nuestros agentes, potenciando su operatividad y minimizando su exposición al riesgo mediante el empleo de entornos simulados".

En cualquiera de los casos, Abad relata que desde el Instituto Armado entienden que el uso que se la da a la IA siempre estará en manos de las personas Y que su implementación debe ser resultado de un proceso más extenso y complejo relacionado con la transformación digital, esto es, la identificación de procesos para su posterior optimización y eficiencia.

Estos procesos, que pueden ser tanto internos como aquellos derivados de las relaciones con terceros, pueden verse optimizados mediante la implementación de técnicas de IA, si bien deben asegurarse de que esta optimización es real. Es decir, que para el comandante deberemos de dar respuesta al por qué lo implementamos (identificar las diferencias que tiene la implantación de la IA frente a otro tipo de tecnología) y al para qué (qué problema pretendemos resolver).

Con todo, Abad apunta que el principal reto al que se enfrenta la Guardia Civil es el de alinear la capacitación del personal y la gestión del cambio con los avances que se produzcan como consecuencia de la implementación de la IA en la organización. En este caso particular, entienden que la IA debe de reforzar las capacidades de sus agentes (personas) en determinadas circunstancias, no pretendiendo su sustitución en ningún caso. En ese sentido, ha señalado que "se delegan tareas en la IA, pero la responsabilidad no".