El Ministerio del Interior ha venido construyendo un ecosistema de vigilancia automatizada y con uso intensivo de IA en apoyo al cumplimiento de sus cometidos. Este ecosistema no ha sido acompañado por la debida regulación ni por criterios de transparencia proactiva que aporten confianza sobre su funcionamiento y su uso. No existe ninguna regulación relacionada con el uso policial de los sistemas recientemente adquiridos por el Ministerio del Interior. Por ejemplo, el Sistema de Reconocimiento facial automatizado, el sistema ShotSpotter (sistema que implica la colocación de micrófonos en las calles para que una IA detecte disparos) o inclusive un software de analítica de cámaras para “determinar conductas sospechosas que puedan advertir al policía antes de que se produzca el delito”.
También vale la pena destacar que ni en el Código del Proceso Penal o en la Ley de Procedimiento Policial contamos con ninguna regulación sobre admisibilidad o valoración de la prueba digital, ni con protocolos públicos sobre el uso de la IA adquirida por el Ministerio del Interior, ni con la formación de los actores judiciales en torno al funcionamiento de esta IA.
De la misma forma en que se destaca de forma específica la necesidad de abordar el emergente de la desinformación (Punto de acción 5 p. 34) debería destacarse expresamente la necesidad de elaborar marcos regulatorios el uso de la IA con fines de vigilancia policial como otra urgencia.

Desde el Datysoc proponemos agregar el siguiente punto de acción en Gobernanza | Línea 1.2 Marcos regulatorios | Acciones (Pág 33 y 34):

"Abordar los impactos del uso de la IA con fines de seguridad pública procurando un equilibrio entre, por un lado, la innovación en materia de seguridad pública y, por otro, los derechos civiles y políticos y sus garantías."