¿Cómo mejorar los servicios que el Estado presta a la ciudadanía usando datos sin generar riesgos éticos o legales? Esa fue la pregunta central de la conversación que se desarrolló en torno al lanzamiento de la guía Formulación ética de proyectos de ciencias de datos, evento organizado por el proyecto Algoritmos Éticos, Responsables y Transparentes para presentar el documento desarrollado por la División de Gobierno Digital (DGD) y la Universidad Adolfo Ibáñez (UAI).
“El objetivo de la guía es orientar a los funcionarios y funcionarias públicos para que consideren y prevengan potenciales problemas éticos y legales a la hora de formular proyectos de inteligencia artificial, algoritmos y sistemas automatizados en general. Esta herramienta sirve, por ejemplo, para formular proyectos de perfilamiento de usuarios, un chatbot o un modelo predictivo, entre otras tecnologías”, explicó María Paz Hermosilla, directora del GobLab UAI al presentar el documento.
El encuentro ofreció con un nutrido panel de conversación compuesto por Heidi Berner, coordinadora de modernización del Estado, del Ministerio de Hacienda; Claudio Reyes, director de Datos de la División de Gobierno Digital; y Catherine Soto, profesional del Departamento de Modernización de Procesos de FONASA, quien ha estado trabajando con el proyecto Algoritmos Éticos utilizando la metodología que propone la guía.
“El uso de datos es relevante, para el Estado y para el diseño de políticas públicas, por eso el seguir cada uno de los pasos que otorga esta guía se convertirá en una buena práctica para hacer un uso correcto de la información de las personas”, comentó Heidi Berner.
Claudio Reyes destacó que el documento “es un elemento valioso y una gran contribución para completar la mirada global que existe actualmente sobre la gobernanza de los datos”.
Sector Social BID
El lanzamiento de la guía contó además con la participación de Diana Kruger, decana de la Escuela de Gobierno UAI; Kareen Schramm, coordinadora del área de política y estudios de la División de Gobierno Digital; y Cristina Pombo, asesora principal del Sector Social del BID quien estuvo a cargo de moderar el panel.
La guía Formulación ética de proyectos de ciencia de datos, ya disponible para descarga, presenta, en su capítulo 3, consideraciones legales y éticas sobre datos personales, transparencia y rendición de cuentas, y sesgos y discriminación; y en el capítulo 4 hay casos, riesgos y buenas prácticas aparejados a sistemas de reconocimiento y detección de eventos, predicción, personalización, soporte de interacción, optimización y razonamiento con estructuras de conocimiento.
Y si bien está pensada para el servicio público, también es útil para los desarrolladores privados, en particular para los proveedores del Estado, porque los ejemplos están ajustados a la realidad chilena y a la normativa vigente en el país.
Catherine Soto comentó en el panel cómo ha sido trabajar en concreto con esta metodología en FONASA, en el desarrollo de las bases de licitación de un servicio de inteligencia artificial para fiscalización: “La guía nos invitó a realizarnos preguntas y a revisar las consideraciones legales y éticas contenidas en el capítulo 3. Al hacer este ejercicio, por ejemplo, nos dimos cuenta de que estamos usando información personal y sensible de nuestros usuarios y prestadores, por lo cual al proveedor le estamos pidiendo que los datos se usen de forma anonimizada para asegurar su protección”.
Finalmente, Kareen Schramm invitó, desde la División de Gobierno Digital, a todos los innovadores públicos a descargar y usar la guía: “Es clave trabajar en la confianza de los ciudadanos y la guía es un gran aporte para mitigar y prevenir riesgos éticos desde el sector público. Por eso, invito a los funcionarios, funcionarias y también a los desarrolladores privados a descargar este documento, a que lo lean y conozcan los ejemplos que contiene para que puedan darle un buen uso”.
