Los peligros del regreso de la fisonomía a partir de la tecnología de reconocimiento facial

Tras el escándalo de Cambridge Analytica y Facebook, más personas comenzaron a preocuparse y a cuestionar la seguridad de su información y su privacidad. Sin embargo, al mismo tiempo, se instalan cada vez más cámaras en espacios públicos, ya sea por motivos de seguridad o para la recolección de datos faciales, lo que ha llevado, por ejemplo, a la demanda contra ViaQuatro, la empresa responsable de la línea amarilla del metro de São Paulo, que recientemente instaló pantallas publicitarias con cámaras en las puertas del transporte público.

Por otro lado, el reconocimiento facial y el uso de la biometría se han implementado en diferentes sectores del mercado, desde el registro mediante selfis de Gol hasta los quioscos automatizados que realizan reconocimiento facial a partir del pasaporte electrónico. Incluso, establecimientos comerciales, como esta cafetería japonesa, están vendiendo cafés que se pagan con los datos de los clientes. Todo esto demuestra que los datos, ya sean generados a partir de nuestros hábitos en línea o constituyentes de nuestro propio ser (biometría, código genético, etc.), han resultado ser el verdadero nuevo petróleo: tanto por su valor de mercado como por su versatilidad para generar riqueza y productos.

Sin embargo, uno de los problemas planteados por el artículo de Jesse Emspak para el sitio Undark es cómo la combinación del reconocimiento facial ofrecido por los sistemas de inteligencia artificial podría estar promoviendo el resurgimiento de una pseudociencia conocida como fisiognomía. Como si no bastaran las noticias falsas y el problema de la posverdad, los investigadores señalan los peligros de rescatar esta pseudociencia que relaciona las características faciales de un individuo con posibles aspectos morales y de carácter.

“Los ordenadores modernos son mucho mejores escaneando detalles mínimos en la fisiología humana, como señalan los defensores de esta investigación reciente, y por eso las inferencias que apuntan son más fiables. Los críticos, sin embargo, sostienen que esto es una falacia. Hay poca evidencia de una conexión entre las características físicas de una persona y cualquier cosa como la predicción del comportamiento, afirman. Y, de cualquier modo, las máquinas solo aprenden lo que nosotros les enseñamos, y los humanos —rehenes de sesgos y prejuicios, desde el más evidente hasta el desconocimiento más sutil— son pésimos profesores”.

Emspak cita como ejemplo la investigación realizada por el profesor de ingeniería Xialon Wu, de la Universidad McMaster, junto con Xi Zhang de la Universidad Jiao Tong de Shanghái. El estudio se publicó como un artículo en ArXiv.org, en el cual los investigadores señalan la posibilidad de que un ordenador prediga quién podría ser condenado por un delito basándose simplemente en el escaneo de fotografías. Ante las críticas recibidas, los investigadores retiraron el estudio y Wu continuó investigando otra metodología de aprendizaje automático que podría utilizarse para inferir rasgos de personalidad en mujeres cuyas fotografías fueran asociadas a diferentes palabras como atractiva, cautivadora, dulce o imponente, según un grupo de jóvenes chinos.

Como señala Emspak, el resumen de esta investigación argumenta que el algoritmo solo aprendía, agregaba y luego “regurgitaba” las percepciones humanas, lo que significa que el programa estaría sujeto a cometer errores. Adicionalmente, los autores también dicen que sus evidencias empíricas apuntan a “la posibilidad de entrenar algoritmos de aprendizaje automático usando ejemplos de imágenes faciales para predecir los rasgos de personalidad y la propensión al comportamiento”.

Algo similar se planteó a principios de este mes, cuando Michal Kosinski y Yilun Wang, ambos de la Universidad de Stanford, lanzaron un avance de su estudio que sugiere que sería posible detectar si una persona es homosexual o no a partir de fotos usadas en sitios de citas. A pesar de que el estudio fue aprobado por la respetada publicación Journal of Personality and Social Psychology, debido a la presión popular, los evaluadores decidieron revisar el trabajo una vez más con un enfoque en el aspecto ético de la investigación.

Todas estas hipótesis planteadas por estos estudios, sin embargo, tienen un origen bastante antiguo, que data de la época de Mesopotamia. Pero fue a mediados del siglo XIX cuando el criminólogo italiano Cesare Lombroso recuperó esta pseudociencia para detectar delitos. Lombroso creía ser capaz de detectar criminales a partir de anomalías en la estructura facial; es decir, tener una asimetría en el rostro o una curvatura oblicua en la frente podría indicar que esas personas tenían algún tipo de deficiencia de carácter. Aunque sus ideas fueron abandonadas después de la Segunda Guerra Mundial, algunos científicos continuaron intentando establecer una conexión entre la apariencia del cuerpo y la mente.

“Muchos de estos estudios tratan sobre la percepción humana: si reaccionamos de forma diferente por lo que vemos, incluso si esa percepción es incierta. Otros buscan diferencias morfológicas entre humanos, buscando indicadores de rasgos como la agresividad, la introversión o la homosexualidad. Varios estudios, por ejemplo, han indicado que la relación entre la altura y la anchura del rostro —una métrica que puede verse afectada por niveles variables de testosterona— puede dar pistas sobre la tendencia de una persona a la agresividad.

Pero con el crecimiento de las bases de datos y el avance en la potencia de procesamiento de los ordenadores, algunos científicos y psicólogos han empezado a creer que las ‘redes neuronales’ —sistemas conectados en red que se utilizan en el aprendizaje automático— pueden analizar rasgos fisiológicos y psicológicos de forma menos sesgada que antes. Y si antes los científicos solo podían estudiar unos pocos factores al usar fotos de estudiantes, por ejemplo, y medir los rasgos de unas pocas docenas de personas, internet ha abierto infinitas posibilidades de muestras. Los programas de reconocimiento facial pueden tomar medidas de miles, incluso millones de personas usando fotos tomadas de internet, lo que les permite acceder a más datos y, con suerte, de mejor calidad”.

Aunque a primera vista pueda parecer algo increíble e incluso positivo para algunas personas, una de las críticas hechas a esta iniciativa es que se trata simplemente de mala ciencia escondida bajo argumentos matemáticos. Emspak argumenta que, en lugar de personas haciendo estas mediciones sin fundamento, la única diferencia es que ahora serían algoritmos, lo que no elimina los problemas éticos, de privacidad y los potenciales sesgos que pueden ser intencionales o no. De cualquier manera, estos sesgos terminan generando falsos positivos; es decir, conclusiones falaces como las que llevan a creer que, por ejemplo, las personas negras tienen mayor propensión a cometer delitos debido a la proporción de su presencia en la población carcelaria.

Lo que Emspak presenta a continuación es que, efectivamente, hay algunos científicos que defienden que existe una conexión entre algunas características físicas y el funcionamiento mental de una persona, especialmente si se tiene en cuenta la acción de la hormona testosterona y cómo actúa en la formación del rostro de una persona, por ejemplo. Al frente del laboratorio de investigación facial de la Universidad de Glasgow, Lisa DeBruine se describe como una psicóloga evolucionista, pero no oculta que hay varios problemas en su área de estudio. En el caso de las conclusiones hechas con respecto a la relación entre la altura y la anchura de un rostro, DeBruine dice que los estudios son confusos y desordenados, especialmente debido a las inconsistencias en cómo los humanos y las máquinas miden datos como la distancia desde la barbilla hasta la ceja o entre los pómulos.

“DeBruine fue una de las varias críticas del estudio de Kosinski, que buscaba entrenar a un ordenador para identificar quién era gay y quién era heterosexual basándose solo en el escaneo de los rostros de personas en sitios de citas, donde los usuarios indican claramente cuáles son sus orientaciones sexuales y preferencias. Kosinski argumentó que, a partir de dos fotos nuevas, una de un heterosexual y otra de un gay, el ordenador fue capaz de adivinar con una gran proporción de aciertos quién era gay. También probó el algoritmo en fotos de Facebook a las que el ordenador nunca había accedido, y pareció acertar de nuevo, al menos en el caso de los gays. El algoritmo pareció menos eficaz al identificar a los heterosexuales. (…)

En su artículo, Kosinski dijo que el ordenador se estaba centrando en ciertos aspectos físicos del rostro que son consistentes con la teoría de las hormonas prenatales, lo que sugiere que las personas son homosexuales porque estuvieron expuestas a diferentes niveles de andrógenos en el útero. ‘Los rostros de hombres gais y lesbianas tenían aspectos de género atípicos’, escribió el científico, ‘y previstos por la teoría de las hormonas prenatales’. Kosinski argumenta que esta teoría es ‘ampliamente aceptada’ como un modelo del origen de la homosexualidad”.

Sin embargo, como continúa Emspak, los críticos también señalaron varios otros problemas en la formulación de Kosinski, incluyendo diferentes conclusiones estereotipadas y una incapacidad para aceptar que la teoría de las hormonas prenatales no es tan absoluta como parece. En otras palabras, es posible que los ordenadores estén captando ciertos aspectos inciertos que, sin embargo, fueron señalados como capaces de definir un “grado de homosexualidad”.

Para Greggor Mattson, profesor de sociología del Oberlin College, la idea de que la exposición a la testosterona en el útero hace que las personas “se vuelvan” homosexuales depende mucho del apoyo en el estereotipo de que los hombres gais son necesariamente afeminados y que las lesbianas son mujeres masculinizadas, algo reforzado por el trabajo de Kosinski. Para Mattson, el problema no está en la programación y en la lógica computacional de la investigación, sino en la manera en que estos datos están siendo interpretados.

“De cualquier modo, incluso si realmente hubiera diferencias fisiológicas entre los rostros de criminales y no criminales en las fotografías analizadas por el ordenador, esto simplemente revela más sobre los estereotipos dentro del sistema criminal chino que sobre las personas en las fotos. Los críticos también notaron la falta de transparencia en el origen de esas fotos señaladas como de criminales condenados. (Wu dice que, en el estudio, algunas de las fotos son del departamento de policía de China, con quienes firmó un acuerdo de confidencialidad)”.

Los estudios posteriores de Wu sobre las reacciones ante los rostros de mujeres atractivas tienen un problema similar, sugiere Bjork-James. Puede ser un buen estudio sobre los estereotipos de los hombres chinos, dice, o incluso sobre el efecto que las mujeres intentan provocar en ellos, pero no dice nada respecto al comportamiento o la personalidad de dichas mujeres.

Más allá de China, también en Israel una startup llamada Faception está recuperando la fisonomía para identificar a pedófilos y terroristas mediante el uso de tecnología de reconocimiento facial combinada con el escaneo de ciertos rasgos físicos. Asimismo, Affectiva, una empresa con sede en Boston, ofrece un sistema de reconocimiento facial que afirma ser capaz de detectar las emociones ante los anuncios, brindando así apoyo a los profesionales de la publicidad y el marketing.

Para Jonathan Frankle, doctorando en el MIT y ex empleado del Centro de Privacidad y Tecnología de la Universidad de Georgetown, a menudo no se sabe cómo funcionan realmente estos algoritmos. “A diferencia de los códigos comunes, una red neuronal involucra nodos que están interconectados, con procesos que ocurren en paralelo. Una red neuronal no está simplemente ejecutando una serie de instrucciones en secuencia; en cambio, los nodos están conversando entre sí, dándose retroalimentación. Realmente no hay forma de rastrear cómo toman sus decisiones; nadie puede mirar una sola línea de código o una subrutina. Es efectivamente una caja negra”, escribe Emspak.

En otras palabras, resulta muy difícil decir cómo estos algoritmos llegan a la conclusión de que el rostro de una persona indica si es homosexual o no, como preveía el estudio de Kosinski. Según Emspak, cuando el investigador intentó crear una cara genérica que representara el rostro típico de un hombre gay, le puso gafas. Más allá del hecho de que no existe una correlación entre la homosexualidad y los problemas de visión, Kosinski justificó que el uso de gafas era un elemento que tenía más que ver con una elección de estilo entre los hombres gais. Es decir, el argumento del investigador, por sí solo, derriba la hipótesis de que los rasgos faciales son determinantes para indicar la orientación sexual de una persona.

“No saber lo que está haciendo una inteligencia artificial es particularmente preocupante cuando una startup anuncia que puede detectar amenazas, como dice Faception. Citando la necesidad de mantener el funcionamiento en secreto, el CEO de la empresa, Shai Gilboa, no dice exactamente cómo se diseñó el algoritmo ni qué tipo de datos están utilizando para entrenarlo. Lo que enfatiza es que los sistemas de Faception se basan en investigaciones sólidas y que no tienen sesgos. ‘Es muy importante desde el punto de vista ético’, dice, ‘hemos demostrado repetidamente que no hay mediciones de color o raza’”.

Affectiva, por otro lado, no dice que pueda detectar nada sobre rasgos innatos de la personalidad a partir de la estructura facial, solo estados emocionales de una persona. Además, la CEO Rana el Kaliouby comenta que su empresa se aseguró de entrenar sus inteligencias artificiales con personas de muchos países, utilizando a estas poblaciones como puntos de comparación (así, por ejemplo, una versión del software funcionando en China o en Brasil sería entrenada usando imágenes de personas de ese país).

Por último, tan difícil como el aspecto técnico de esta tecnología es el ámbito ético en torno a tal desarrollo. Del mismo modo que Kosinski utilizó fotos para sus estudios sin tener autorización, el investigador tampoco trabajó en asociación con ninguna organización que representara los derechos LGBTQ+. Emspak comenta cómo la GLAAD, por ejemplo, que es una de las organizaciones de derechos LGBTQ más prominentes en Estados Unidos, publicó un comunicado junto a la Campaña de Derechos Humanos repudiando los métodos del estudio de Kosinski.

En el caso de la investigación de Wu, las fotos de criminales condenados fueron proporcionadas por el departamento de policía chino, aunque no especificaron cuáles. De este modo, ambos estudios terminan planteando la cuestión de la privacidad de los datos, ya que estas empresas y gobiernos parecen estar filtrando dicha información sin autorización y, lo que es peor, para la confección de algoritmos discriminatorios.

“Pero es realmente una serie tenue de conclusiones culturalmente construidas las que están formando la base algorítmica del reconocimiento facial, lo cual es la parte más preocupante, según los críticos. ‘La psicología social tiene un serio problema de hombre cis, heterosexual y fluido en inglés (como muchas otras áreas), lo que definitivamente conduce a este tipo de estudios’, dijo DeBruine en un correo electrónico. ‘No puedo imaginar que el estudio [de Kosinski] hubiera llegado tan lejos si hubiera habido más diversidad entre las personas con influencia en ciertos puntos de este camino (colegas investigadores, comités de ética, editores, revisores, etc.)’”.

Por otro lado, Frankle se alegra de que estos estudios se estén realizando de forma pública. “Prefiero que esto se haga abiertamente por investigadores académicos que por empresas privadas que se lo venderán a alguna agencia de policía”, dice.

Afortunadamente, la mayoría de los expertos entrevistados por Emspak afirmaron que estos problemas no son imposibles de solucionar: bastaría con tener más diversidad en el campo de las ciencias de la computación, así como un mayor diálogo entre esta área y otras disciplinas. Para el profesor de comunicación de la Universidad de Buffalo en Nueva York, Mark Frank, también es necesaria un poco más de humildad y escepticismo. “El entendimiento de los científicos de la computación sobre cuestiones conductuales es tierno, esa es la palabra que usaré”, dijo en una entrevista. Esto se debe a que, como señala Frank, hay mucha más complejidad en el comportamiento humano que lo que están midiendo estos investigadores. Para el profesor de comunicación, cualquier conexión entre aspectos físicos y conductuales es mucho más sutil de lo que estos estudios parecen señalar.

Para el biólogo evolucionista Carl Bergstrom, de la Universidad de Washington, este tipo de investigación aún tardará mucho tiempo en perfeccionarse. “Realmente creo que existe esta noción muy antigua en el pensamiento humano de que nuestra apariencia externa refleja nuestra mente y nuestra moral”, afirma. Para Bergstrom, por lo tanto, no es sorprendente ver que este tipo de conclusión regrese de vez en cuando en un intento de reafirmarse y encontrar algún fundamento a partir de la lógica vigente de cada época; en nuestro caso, es en la ciencia y la tecnología donde este razonamiento busca una nueva afirmación.

‍