El Gran Hermano de la Municipalidad de las Condes

Señor Director:

Recientemente, Joaquín Lavín, alcalde de Las Condes, trajo a Chile un software para la identificación facial que funciona a través de 700 cámaras ubicadas en toda la comuna, y ha solicitado públicamente la información del Registro Civil para apoyar estos esfuerzos.

Sin dudar de las buenas intenciones de la municipalidad, su apuro por solucionar los problemas no da espacio a discutir las ramificaciones de la iniciativa.  Tampoco ha dado a conocer los detalles relevantes que permitan al público validar que este proyecto tecnológico sea implantado con el cuidado, pulcritud y salvaguardas que garanticen su buen funcionamiento.

Estas tecnologías ciertamente pueden proveer gran ayuda en Chile, pero hay temas éticos, de responsabilidad y operativos que atender.

Partiendo por el último, un doloroso ejemplo reciente es el caso Catrillanca: a las cámaras que contenían grabaciones que hubieran permitido auditar el actuar de Carabineros se les dio uso personal por parte de los uniformados y no hubo garantías de la custodia del material. Esto muestra que la tecnología no logra nada si las instituciones relevantes no han implantado los procesos y lineamientos para garantizar su utilidad y uso razonable.

Respecto a la ética existe un fuerte lazo con los aspectos técnicos: entender bajo qué circunstancias ambientales y operativas puede funcionar correctamente, la tasa de falsos positivos o negativos, sesgos raciales o de género en el proceso de reconocimiento y cómo reacciona a mecanismos usuales de evasión o engaño de sistemas automáticos, son solo algunos aspectos fundamentales que es necesario conocer para determinar nuestra disposición a usar esta tecnología y qué resguardos debemos tomar contra los vicios en su operación. Un ejemplo reciente de problemas en reconocimiento facial afectó al iPhoneX, el cual fallaba en distinguir una mujer asiática de otra, permitiendo desbloquear los teléfonos: esto, mas allá de ser un error fortuito, da un resultado no ético. Para prevenir lo anterior es importante entender los aspectos claves de su funcionamiento y determinar si cumple nuestros objetivos.

Finalmente, respecto a la responsabilidad es importante transparentar qué entidades tienen el control de los datos, qué responsabilidades le competen y su capacidad de cumplirlas. La reciente vulneración de la intranet de Carabineros nos muestra que si hubiesen tenido datos del Registro Civil como los solicitados por la municipalidad, estos no hubiesen sido resguardados correctamente, y queda por ver si otras instituciones tendrán tal capacidad.

Muchas veces nos embelesamos con avances tecnológicos como el reconocimiento facial y le damos un rol fundamental en la solución de nuestros problemas, pero recordemos que la tecnología no es magia, sino que funciona en base al conocimiento humano y es tan falible como sus creadores, por ello es importante entender sus fortalezas y debilidades para que su aplicación nos lleve a buen puerto.

De: Andres Villavicencio, Director de Operaciones de Unholster