¿Cuáles son los límites éticos de la Inteligencia Artificial?

Una recomendación de película en Netflix, una sugerencia de álbum en Spotify y el precio de un alquiler en 5º andar: ¿qué tienen en común estas tres cosas? Todas están regidas por algoritmos.

Los algoritmos y otros mecanismos vinculados a la inteligencia artificial (IA) están cada vez más presentes en nuestras vidas, definiendo nuestras elecciones, orientando nuestros gustos y realizando un proceso de curaduría de lo que escuchamos, leemos, vemos, compramos y oímos. Pero más allá de recomendar esa nueva canción de Beyoncé, los algoritmos ya son responsables de determinar su calificación crediticia y, en algunos lugares, hasta la posibilidad de que alguien cometa un delito. Y es precisamente en estos temas delicados donde cabe la pregunta: ¿hasta qué punto es válida una decisión tomada por una IA? ¿Cuáles son sus límites éticos?

La tecnología es una creación humana. Parece una afirmación obvia, pero es necesario enfatizar este aspecto inmanente a cualquier tecnología. La tecnología empleada en la construcción de la IA no es neutra: está orientada por humanos y, si no observa principios claros, puede reproducir patrones de prejuicio y discriminación que son esencialmente humanos. Más que no ser neutra, la tecnología tampoco es imparcial; por eso, es necesario pensar en las implicaciones éticas y morales que las decisiones tomadas por la IA pueden tener en la vida de las personas.

Tenemos como ejemplo el COMPAS (Correctional Offender Management Profiling for Alternative Sanctions), un software utilizado por el sistema judicial del estado de Wisconsin, en Estados Unidos, para calcular el grado de peligrosidad de los delincuentes. Otros estados norteamericanos también utilizan softwares similares para ayudar en el proceso de toma de decisiones en procesos judiciales. En este caso, el sistema utiliza datos sobre el historial familiar, escolar y profesional, y crea una “nota” para los acusados.

La raza no es un criterio para el algoritmo, por lo tanto, todos los individuos son “iguales” y responden a las mismas preguntas. Pero es precisamente ahí donde comienzan las distorsiones: el contexto social y económico norteamericano hace que el sistema sea más riguroso y señale una mayor posibilidad de que los individuos negros reincidan en comparación con las personas blancas, algo que no es observable en la realidad (como muestra este artículo de Pública), pero que es explicable por el contexto social en el que viven las personas negras en EE. UU.

Es decir, en Estados Unidos, un individuo negro tiene mayor posibilidad de vivir en un área pobre y de tener parientes con antecedentes en el sistema penitenciario, pero eso no significa que, por ese historial familiar y condición económica, esté más propenso a cometer delitos que un sujeto blanco que no tiene ese historial familiar, pero que ha cometido delitos más graves o tiene una carrera mucho más extensa en el mundo del crimen. El algoritmo no es intencionalmente racista, pero las decisiones tomadas por él sí lo son.

‍

‍

Otro ejemplo de cómo los mecanismos de inteligencia artificial pueden influir directamente en la vida de miles de personas es el cálculo de la calificación crediticia (score bancario), un procedimiento realizado por las dos mayores agencias de crédito que operan en Brasil, Serasa Experian y Boa Vista SCPC. El score es una puntuación que determina las posibilidades de que el consumidor logre obtener un préstamo, financiamiento o incluso una compra a plazos en tiendas departamentales. Es posible consultar su score en el sitio web de Serasa Experian, pero, más importante que eso, el servicio deja claro cuáles son los criterios evaluados para realizar el cálculo.

Este es un principio de transparencia que no siempre es seguido por otras instituciones bancarias. Sabemos que existe una calificación interna, pero no conocemos cuáles son los criterios tomados en cuenta para realizar el análisis ni qué datos se utilizan para obtener ese “score interno”. Datos como el nivel de escolaridad, la raza y el domicilio pueden utilizarse de manera indebida y, de esa forma, generar distorsiones y conclusiones prejuiciosas sobre el consumidor. Y, en estos casos, la falta de transparencia en el proceso impide que sepamos cómo somos evaluados, lo que nos deja a merced de estos sistemas ocultos.

‍

‍

El contexto social debe tenerse en cuenta cuando utilizamos IA para tomar decisiones que influyen directamente en la vida de las personas. Y, sobre todo, estos procesos deben ser transparentes, auditables, confiables y, si es posible, validados por una supervisión humana. Sin embargo, para que esto ocurra, enfrentamos dos grandes desafíos: el primero es cómo traducir un conjunto de códigos para el público general y el segundo es cómo prevenir que los algoritmos tomen decisiones equivocadas, pero, en caso de que las cometan, ¿cómo evaluar y corregir esas distorsiones?

De este modo, se vuelve necesaria la discusión y la creación de una política de gobernanza y buenas prácticas dirigidas a la IA, algo similar a lo que se ha desarrollado con la recién aprobada Ley General de Protección de Datos (LGPD). Pero, para ello, la sociedad y los actores políticos también deben dirigir su atención a las posibles implicaciones de cómo se utilizarán estos datos y cuáles serán las consecuencias de las decisiones tomadas por algoritmos e IA.

Un buen ejemplo proviene de la Unión Europea, que este año lanzó un documento con directrices para la creación y el desarrollo de tecnologías de inteligencia artificial centradas en los humanos. El documento, que no tiene carácter legal, es fruto de una comisión creada especialmente para orientar el desarrollo de la inteligencia artificial en el bloque. El lema que guía las directrices es que el desarrollo de la tecnología de inteligencia artificial debe estar “centrado en los humanos”. Decir esto significa explicitar el carácter político y social de este conjunto de códigos, ya que se aplicarán en la sociedad y, por lo tanto, deben respetar los derechos humanos y no pueden cometer actos de discriminación ni prejuicio.

Humanizar la tecnología y sacarla del campo “neutro” parece ser un buen camino para el desarrollo de una IA y algoritmos más justos. Esto debe tenerse en cuenta desde la construcción misma de estas tecnologías, lo que implica también la diversidad de los equipos responsables, pero ese es tema para otro artículo. El informe en cuestión señala siete puntos como esenciales para la construcción de tecnologías de IA confiables y centradas en el ser humano:

·Agencia y supervisión humana

· Robustez técnica y seguridad

· Privacidad y gobernanza de datos

· Transparencia

· Diversidad, no discriminación y justicia

· Bienestar social y ambiental

· Rendición de cuentas

Estas siete directrices son principios rectores que buscan la construcción de mecanismos de IA socialmente responsables, éticos y que respeten la dignidad humana. No es posible calcular el impacto que las nuevas tecnologías tendrán en nuestras vidas, pero, de cualquier modo, debemos pensar en modelos éticos y responsables. Quién sabe si, en un futuro próximo, no crearemos una especie de código universal, al estilo de las Leyes de la Robótica creadas por Asimov, dirigido exclusivamente a la IA.