Como combatir los sesgos éticos en los algoritmos de inteligencia artificial (IA)

He sido víctima de sesgo discriminatorio. Algunos sistemas migratorios sugieren a los agentes encargados de verificar información de los pasajeros, que hagan una doble verificación a personas por su nombre o aparaciencia física. Eso no es justo.

Es importante que los desarrolloradores de programas informáticos e ingenieros, sepamos construir soluciones digitales desde la perspectiva ética. Es ese sentido. un estudio de la Universidad de California, Berkeley, encontró que los algoritmos de IA utilizados para la evaluación de riesgos crediticios eran más propensos a negar préstamos a las personas de color que a los blancos. (Fuente: https://www.nber.org/papers/w26734). Este hallazgo confirma la capacidad que tiene una aplicación de proyectar hacia el futuro comportamientos del pasado sin tomar en cuenta otros factores.

Nuestras tecnologías hacen lo que nosotros le hemos indicado que hagan. Diseñamos soluciones tecnológicas sobre la base de unos criterios y ponemos en fujncionamiento algoritmos que deben cumplir los parámetros que nosotros le indicamos. Es por eso que en todo momento, el enfoque ético debe estar en nuestro proceso de creación. Sugiero los siguientes elementos prácticos para diseñar nuestros algoritmos:

  1. Equipo multidiciplinario. Debemos garantizar que los desarrolladores de software cuenten con expertos en ética, sociología y ciencias humanas que les permitan tener una perspectiva humana de todos sus desarrollos.
  2. Certificaciones y acreditaciones. Existen algunos marcos de trabajo y metodologías que permiten garantizar que le producto final, y sus versiones, puedan funcionar dentro de ciertos parámetros éticos.
  3. Normativas y regulaciones. Debemos revisar las diferentes normativas nacionales, regionales e internacionales que definen la forma en que se deben comportar los algoritmos a la hora de usar y gestionar datos de las personas.

Timnit Gebru, ex codirectora de ética de IA en Google, afirmó que “es necesario que tomemos medidas para abordar los sesgos en los algoritmos de IA. Debemos asegurarnos de que la IA se desarrolle y se use de manera justa y responsable.” Es nuestra decisión y nuestro deber, construir productos tecnológicos que respeten los derechos de los ciudadanos y permitan que no existan discriminaciones. Siempre tengamos presente que la tecnología, debe tener un rostro humano.

Sitios de referencia:

Compartir:

Publicaciones relacionadas

La inteligencia artificial (IA) es un potenciador de la Administración Pública puede mejorar la vida de los ciudadanos. Es fundamental que los líderes de organizaciones

Continuar leyendo

La banca dominicana, y demás instituciones financieras, ha estado haciendo grandes esfuerzos para cumplir las normativas monetarias y aplicar las mejores prácticas para combatir acciones

Continuar leyendo

La inteligencia artificial (IA) se ha convertido en un instrumento esencial para optimizar procesos y enriquecer la experiencia del cliente. Esta tecnología revolucionaria no solo

Continuar leyendo

Las instituciones financieras, especialmente los bancos, comparten un objetivo común con todas las empresas: maximizar el valor para sus clientes y accionistas. En esta búsqueda,

Continuar leyendo