He sido víctima de sesgo discriminatorio. Algunos sistemas migratorios sugieren a los agentes encargados de verificar información de los pasajeros, que hagan una doble verificación a personas por su nombre o aparaciencia física. Eso no es justo.
Es importante que los desarrolloradores de programas informáticos e ingenieros, sepamos construir soluciones digitales desde la perspectiva ética. Es ese sentido. un estudio de la Universidad de California, Berkeley, encontró que los algoritmos de IA utilizados para la evaluación de riesgos crediticios eran más propensos a negar préstamos a las personas de color que a los blancos. (Fuente: https://www.nber.org/papers/w26734). Este hallazgo confirma la capacidad que tiene una aplicación de proyectar hacia el futuro comportamientos del pasado sin tomar en cuenta otros factores.
Nuestras tecnologías hacen lo que nosotros le hemos indicado que hagan. Diseñamos soluciones tecnológicas sobre la base de unos criterios y ponemos en fujncionamiento algoritmos que deben cumplir los parámetros que nosotros le indicamos. Es por eso que en todo momento, el enfoque ético debe estar en nuestro proceso de creación. Sugiero los siguientes elementos prácticos para diseñar nuestros algoritmos:
- Equipo multidiciplinario. Debemos garantizar que los desarrolladores de software cuenten con expertos en ética, sociología y ciencias humanas que les permitan tener una perspectiva humana de todos sus desarrollos.
- Certificaciones y acreditaciones. Existen algunos marcos de trabajo y metodologías que permiten garantizar que le producto final, y sus versiones, puedan funcionar dentro de ciertos parámetros éticos.
- Normativas y regulaciones. Debemos revisar las diferentes normativas nacionales, regionales e internacionales que definen la forma en que se deben comportar los algoritmos a la hora de usar y gestionar datos de las personas.
Timnit Gebru, ex codirectora de ética de IA en Google, afirmó que “es necesario que tomemos medidas para abordar los sesgos en los algoritmos de IA. Debemos asegurarnos de que la IA se desarrolle y se use de manera justa y responsable.” Es nuestra decisión y nuestro deber, construir productos tecnológicos que respeten los derechos de los ciudadanos y permitan que no existan discriminaciones. Siempre tengamos presente que la tecnología, debe tener un rostro humano.
Sitios de referencia:
- Algorithmic Justice League: https://www.ajlunited.org/
- Data & Society Research Institute: https://datasociety.org/
