En diálogo con el programa Propuesta Joven por la FM 90.5, el decano de la Facultad de Derecho de la Universidad Atlántida, Dr. Leonardo Palacios consideró que “en el caso del reconocimiento facial, que se supone como una medida que tiene que apuntalar la seguridad de los vecinos y vecinas de Mar del Plata y de hecho lo difunden de esa manera, lo que no se está teniendo en cuenta es en qué medida esa decisión se imbricaría en un plan de seguridad integral, que es lo que se necesita finalmente”.

En tal sentido, sostuvo que “ni siquiera es un parche, es una medida para un problema que no tenemos”, agregando que “nos intentan vender algo para un problema que no tenemos, porque lo justifican como un sistema de reconocimiento facial que se va a usar en diferentes puntos de la vía pública para identificar prófugos de la Justicia, contrastandolo con una base de datos, que son los prófugos de la Justicia de la Argentina, que según se publicita en los medios son entre 35 mil y 40 mil personas, pero suponiendo que sean 40 mil prófugos, cuántos podríamos tener en Mar del Plata. Ese dato no lo sabemos, no saben cuántos prófugos de la Justicia puede haber y tampoco lo proyectan”.

Asimismo, el Dr. Leonardo Palacios cuestionó:“¿Qué sistema de control ciudadano, político o judicial nos presentan para poder aprobar este proyecto? Porque el informe del secretario de Seguridad dice que este es solo el proyecto para contratar el software como sí eso sólo bastara, pero hay que trabajarlo profundamente porque sí contratamos el software sin saber antes cómo lo vamos a controlar qué le vamos a decir a la empresa, cómo vamos a acceder a su base de datos. Otra cuestión es sí vamos a poder acceder a cómo la empresa diseña sus algoritmos de búsqueda de reconocimiento facial porque eso es parte de la información privada que cada empresa tiene y que la resguarda por patente, y sí no podemos acceder a esa información, a lo que algunos llaman la caja negra de los algoritmos, cómo lo vamos a poder controlar”.

Por otra parte, hizo hincapié en que “nos dicen que la información va a estar disponible y sí no se hace ninguna identificación se borra, pero quién nos asegura que se borre y en qué tiempo, mediante qué procedimiento. Se supone que no nos van a comparar con la base de datos del Registro Nacional de las Personas (Renaper) porque el primer uso es con la base de prófugos, pero igualmente podemos tener un dolor de cabeza porque el sistema puede fallar y de hecho hubo falsos positivos. Hubo un señor que estuvo seis días detenido, lo detuvieron en Retiro porque teóricamente le saltaba una causa de la cual estaba prófugo en Bahía Blanca, lugar en donde el hombre no había estado jamás en su vida. O sea que siempre puede haber un error o un falso positivo”.

Aseguró que “la información que dicen que se borra, en realidad, la están usando para que el sistema de aprendizaje automático aprenda a mejorar el comportamiento dinámico, que es la posibilidad que tiene de detectar un objeto en acción o sea que mientras una persona va caminando la puede identificar igual, entonces están usando esos datos para mejorar el sistema”.

Y agregó: “Con esa aplicación que se daba gratis para envejecer caras de fotos, por ejemplo, básicamente lo que estaban haciendo con nuestras fotos es entrenar estos sistemas para que el reconocimiento facial, no importe que pasen cincuenta años, nos pueda reconocer igual. Técnicamente es fantástico, pero el problema son los usos, a nadie de los que estaban mandando su fotito, le advertían que era para entrenar un sistema; y lo que va a ocurrir cuando nosotros pasemos por un lugar público, donde haya una cámara de reconocimiento facial, es que tampoco nos estarán advirtiendo que están entrenando un sistema de aprendizaje automático para una empresa, que le está facturando a la Municipalidad, es decir con nuestra plata. Por qué vamos a estar dando esos datos que son parte de nuestra privacidad y no estamos enterados que se usan para entrenar un sistema. Hay mucho trasfondo detrás de esta cuestión”.

Subrayó, además, que “el uso tiene que ser legítimo, necesario y proporcional , lo que no hay acá, en principio, es una necesidad, hay que discutir la legitimidad y no hay una proporcionalidad, porque sí proyectan cuántos prófugos de la Justicia hay en Mar del Plata se puede hablar, pero ese dato no lo sabemos, no hay estimaciones porque en realidad lo que interesa en estos proyectos parece que es más una cuestión de control de los ciudadanos, que no tenemos ningún problema con la Justicia, ni con el delito ni con nada que otra cuestión, o una cuestión de negocios o como se quiera pensar, pero efectivamente no se cumplen los parámetros de proporcionalidad para estas cuestiones”.

Finalmente, puntualizó que “hay errores todavía porque es un sistema en desarrollo y por eso necesitan tantas imágenes. Los principales errores se dan en mujeres y personas con características raciales diferentes a los europeos “casualmente”, con lo cual vemos, también, los sesgos que hay con los que se conforman estos sistemas de aprendizaje automático”, sentenciando que “la cuestión es para debatirla mucho más profundamente de lo que se viene haciendo hasta ahora”.