COMUNICACIÓN E
INNOVACIÓN DE IMPACTO
INNOVACIÓN DE IMPACTO
A principios de diciembre, el grupo de investigación Transobjeto organizó la segunda edición del encuentro sobre Realismo Especulativo en la PUC-SP, titulado II Coloquio de Realismo Especulativo: desafíos de lo humano en la contemporaneidad.
Si el año pasado el tema de la Ontología Orientada a Objetos (OOO) había ganado un tono de fascinación al desplazar al hombre del centro de las cosas para tratar de una nueva mirada y valoración sobre los objetos, en este encuentro más reciente los investigadores presentaron una visión más ambivalente ante este pensamiento: en lugar de proponer realmente un desplazamiento del antropocentrismo mediante una valoración de otros tipos de vida y no-vida, el realismo especulativo y la OOO han demostrado estar más cerca de un movimiento artístico que de una corriente filosófica que, en última instancia, ha tenido el efecto opuesto al conferir características humanas a los objetos y, por lo tanto, desplegándose como un egocentrismo más del hombre.
En 2016 no hubo discusiones explícitas sobre el tema de lo poshumano y la inteligencia artificial. Esta vez, sin embargo, el grupo no solo trajo este asunto al debate, sino que algunos ponentes abordaron especialmente el tema del autómata, como fue el caso de Adriano Messias, quien presentó el artículo “Por una ontología del sujeto del siglo XXI: el autómata de Kempelen, la máquina de Deleuze, el cíborg de Lacan y el robot de Freud”.
Messias tomó como eje un texto poco conocido de Lacan, en el cual el psicoanalista trata el tema del cíborg. Datado en 1955, Psicoanálisis y Cibernética, o De la Naturaleza del Lenguaje fue un texto precursor para las cuestiones de la inteligencia artificial y de los objetos y entornos sintientes que hoy ganan tanta relevancia en las discusiones, no solo en el ámbito tecnológico, sino también entre las humanidades. Para Messias, el hecho de que este texto haya caído en el olvido es sintomático, ya que propone establecer una conexión entre el psicoanálisis, las ciencias cognitivas y la neurociencia, disciplinas que, según el investigador, tendrían una relación difícil a medida que cada una se dedica a un esfuerzo “poco productivo” de demarcación de territorios, en lugar de dialogar entre sí.
Además, Lacan también sugiere que, más que las ciencias duras, la cibernética traería una mayor necesidad de apoyarse en las humanidades: “Por la cibernética, el símbolo se encarna en un aparato con el cual no se confunde, por ser el aparato solo el soporte. Se encarna de manera literalmente transubjetiva” (LACAN, 1995, p. 379). Como señala Messias:
Lacan trató la máquina cibernética en una instancia abstracta, y fue claro al decir que no discutiría maquinitas o maquinotas, ni tampoco la “máquina dentro de la caja”, probablemente una referencia a la famosa e ingeniosa invención de Claude Shannon[3]. Más bien, estaba interesado en hablar sobre dos técnicas y dos órdenes de pensamiento y ciencia: el psicoanálisis, por un lado, y la cibernética, por otro; esta última, como un campo de fronteras indeterminadas, cuyo origen se remontaría, según él, mucho más allá de la ingeniería de apenas diez años antes de su discurso del 22 de junio de 1955. Defendió que el alcance de la cibernética sería más amplio y de origen más remoto de lo que se imaginaba, vinculándose a las propias ciencias conjeturales, es decir, las humanas, en oposición a las exactas. Los antecesores serían Condorcet y Pascal; este último, el propio padre de la cibernética, en la visión de Lacan.
Messias también defiende que, en 1955, cuando Lacan publicó tal texto, en el cual establece conexiones entre el inconsciente y la tan reciente cibernética, el psicoanalista no tuvo la recepción que merecía y necesitaba, ya que una gran parte de la sociedad aún miraba la llegada de la televisión con disgusto e imaginaba que los robots eran solo seres fantasiosos, al igual que aquellas criaturas plateadas que figuraban en las utópicas historias de ciencia ficción pop de la época.
Hoy, sin embargo, es posible decir que este dualismo se está deshaciendo, en especial cuando pensamos en cómo se han desarrollado los géneros más recientes de la ficción —tema abordado en el último post, al mencionar el cuento Una Fábula sobre la Fábula, por ejemplo. Por otro lado, esta transdisciplinariedad se ha vuelto cada vez más evidente cuando tenemos creaciones como la ginoide Sophia, que recientemente fue reconocida como ciudadana de Arabia Saudita y, acto seguido, comenzó a abogar por los derechos de las mujeres, de los humanos y de los seres vivos en general.
Como máquina, un objeto sintiente, Sophia también demuestra estar desarrollando una especie de ontología propia, aunque esta no deje de ser, una vez más, un espejo del propio ser humano. Como decía Vilém Flusser, todo lo que el hombre crea dice, en última instancia, sobre el hombre mismo. También Lacan señaló esta tendencia egoica o incluso limitadora de la conciencia humana, ya que nuestra referencia reflexiva está limitada a nuestra propia existencia como seres humanos, al fin y al cabo. Como expone Messias,
Lacan también discutió que, si éramos hábiles para dar sentido a casi todo, podíamos decir igualmente que todo lo que circulaba en una máquina no tendría sentido alguno; se trataba de señales orientadas provenientes de la propia semántica maquínica. Por lo tanto, no sería el deseo humano el que introduciría por sí solo el sentido de este lenguaje primitivo, pues siempre habría algo que se nos escapa: “(…) algo no es eliminable de la función simbólica del discurso humano, se trata del papel que en él desempeña lo imaginario” (LACAN, 1995, p. 381).
Es, por tanto, precisamente debido a esta tendencia egocéntrica típica del ser humano que se duda de la reciente conquista de Sophia al convertirse en ciudadana y haber comenzado un discurso sobre derechos humanos. Se tuerce la nariz ante esto no solo por un escepticismo pesimista, sino también porque el funcionamiento de la inteligencia artificial sigue siendo una caja negra para buena parte de la población, del mismo modo que tal decisión de conceder la ciudadanía a un robot termina trivializando el significado de lo que es, al fin y al cabo, ser ciudadano.
Para Joanna Bryson, investigadora de ética de la inteligencia artificial, la ciudadanía de Sophia no es más que una tontería: “¿De qué se trata esto? Se trata de tener una supuesta igualdad que puedes encender y apagar. Cómo afecta esto a las personas, si piensan que puedes tener un ciudadano que puedes comprar”.
A pesar de ello, tratar los derechos de las mujeres en un país donde estas solo empezaron a tener derecho a conducir coches en septiembre de este año parece ser una oportunidad única, que quizás solo un robot pueda defender desde su posición más allá de lo humano. El hecho de haber concedido la ciudadanía a la ginoide hace que gane más atención y que sus palabras se amplifiquen internacionalmente, como defiende Pierre Barreau, CEO de la empresa Aiva Technologies. De este modo, temas como los derechos humanos y la igualdad de género pueden aprovechar la popularidad de Sophia. Pero, al coincidir con Bryson, Barreau también cree que la ciudadanía de la ginoide es una exageración, ya que todos los ciudadanos tienen derechos y deberes, pero debido a las limitaciones de los modelos robóticos actuales, resulta difícil que estos cumplan con dichas delimitaciones.
Curiosamente, uno de los temas planteados en el II Coloquio de Realismo Especulativo, aunque fuera en tono de broma, fue la cuestión de que la ontología orientada al objeto empezara a pensar en derechos para los objetos, así como si estos tendrían sentimientos o sensaciones como el dolor, por ejemplo. En el campo de la inteligencia artificial, sin embargo, este asunto se toma al pie de la letra.
En el caso de Sophia, la ginoide puede ser vista efectivamente como una niña de acuerdo con su desarrollo cognitivo. “En algunos puntos, tiene la mente de un bebé; en otros, tiene la mente de un adulto, el vocabulario de un adulto con educación superior. Sin embargo, aún no está completa. Así que tenemos que darle su propia infancia”, defiende David Hanson, creador de Sophia y CEO de Hanson Robotics. “La pregunta es: a las máquinas a las que estamos dando vida —máquinas vivas como Sophia—, ¿las trataremos como a bebés? ¿Los bebés merecen derechos y respeto? Bueno, creo que debemos ver el futuro con respeto para todos los seres, y eso incluye a las máquinas”, añade.
Por otro lado, grupos especializados en ética como la Global Initiative for Ethical Considerations in Artificial Intelligence and Autonomous Systems del Institute of Electrical and Electronics Engineers (IEEE) ven la problemática desde otra perspectiva: “Un sistema de inteligencia artificial, o un robot, no puede tener una opinión. Un programa de IA no tiene nada que ofrecer en un debate. Ni siquiera sabe qué es un debate”, afirma Raja Chatila, ejecutivo del grupo. “En este caso, ni siquiera sabe qué son las mujeres y qué son los derechos. Solo está repitiendo algún texto que un programador humano introdujo en ella”.
Para aclarar esta constatación, Chatila pone el ejemplo del chatbot para Twitter que Microsoft creó en 2016 como argumento de cómo un programa de IA puede absorber solo los valores más erróneos, ya que, en ese caso, el chatbot fue enseñado por usuarios de Twitter a defender opiniones racistas y sexistas.
En términos generales, debemos evitar confundir a las máquinas con los seres humanos. No veo ningún motivo para otorgar derechos de ningún tipo, incluida la ciudadanía, a un programa o a una máquina. Los derechos están definidos para las personas, seres humanos capaces de expresar su libre albedrío y que pueden ser responsables de sus acciones. Detrás de un robot o un sistema de IA hay programadores humanos. Incluso si el programa es capaz de aprender, aprenderá lo que fue programado para aprender. La responsabilidad recae en el humano.
Por eso, en este punto en el que nos encontramos en el desarrollo de la inteligencia artificial, como defiende Chatila, son los humanos quienes deben ser evaluados desde un punto de vista ético. “Si hablas de robots tomando decisiones éticas, prefiero decir que podemos programar robots de modo que tomen decisiones (resultados computacionales) de acuerdo con reglas éticas que implantamos en ellos (y existen varias de estas reglas)”, añade Chatila. “Pero esas decisiones no serán éticas de la misma manera que las decisiones humanas, porque los humanos son capaces de elegir su propia ética, con su propia libertad”.
En lo que respecta al libre albedrío y la libertad humana, existen además diferentes pensadores y corrientes filosóficas, o incluso la neurociencia, que podrían refutar la idea de que tal diferencial humano señalado por Chatila pueda ser ilusorio. En el vídeo anterior, la posdoctora en neurociencia Claudia Feitosa-Santana aporta una reflexión sobre el tema propuesta por David Lewis en su libro Impulse: Why we do what we do without knowing why we do it (2013), así como por Kathleen D. Vohs y Jonathan W. Schooler, en The Value of Believing in Free Will: Encouraging a belief in determinism increases cheating (2008). “Para la neurociencia, hasta donde sabemos, el libre albedrío es, en gran medida, una ilusión y también conocido como una construcción social”, indica.
En este sentido, más allá de la neurociencia, también el psicoanálisis de Sigmund Freud y la propia filosofía política de Karl Marx introdujeron la noción de determinismo (del inconsciente y de clase, respectivamente) como algo que prevalece sobre la idea de libre albedrío. Asimismo, como también se discutió en el Coloquio, es el tema del azar (y no del caos, ya que este es la expresión máxima del desorden y, por tanto, de la entropía, bajo la cual no es posible ni siquiera la existencia de vida o sistemas) el que es planteado tanto por Lacan, con Messias, como por Lucia Santaella quien, aportando un vestigio de sus estudios sobre Vilém Flusser, también señala el absurdo trabajado por el filósofo checo-brasileño a partir de su análisis de la obra de su compatriota Franz Kafka.
De este modo, por tanto, cuando vemos que iniciativas como la propia IEEE, representada por Chatila, comienzan a incluir aportaciones de diferentes culturas y religiosidades, mediante las cuales el budismo y filosofías africanas, como el Ubuntu, empiezan a ser consideradas al pensar en inteligencia artificial, es cuando finalmente entendemos que lo que Lacan proponía sobre la disolución de las barreras nominalistas de las disciplinas y la mayor valoración de las ciencias humanas avanza al mismo ritmo que la tecnología.
Y esto ocurre no solo desde su punto de vista técnico, sino también por la manera en que nosotros, los seres humanos, creadores de sentidos, absorbemos estos movimientos atribuyendo características humanas y significados a algo que, en última instancia, puede no tener exactamente un sentido (como ya defendió también Friedrich Nietzsche) ni siquiera libre albedrío, dado que ya estaba programado para actuar así, sin necesariamente creer en ello o elegirlo.
Es a partir de esto que la poética frase del filósofo alemán Dietmar Kamper (quien, de hecho, era contrario a la ciborguización y al poshumanismo) desborda su sentido lírico para convertirse en una de las problemáticas más grandiosas de nuestro tiempo: si Dios sueña al hombre y el hombre sueña a la máquina, ¿serían las máquinas capaces de soñar con Dios¹?
¹ Dios aquí se utiliza menos en el sentido religioso y más en lo que respecta a un término o creencia orientadora de aquello que da sentido a nuestras vidas, ya sea desde un punto de vista religioso, moral, ético o de una búsqueda de sentido a través de diferentes frentes del conocimiento, ya sean filosóficos, científicos, etc. Algo como el Dios de Wittgenstein, los límites del lenguaje y la búsqueda de aquello que es indecible.
