COMUNICACIÓN E
INNOVACIÓN DE IMPACTO
INNOVACIÓN DE IMPACTO
La semana pasada vi la charla TED de la socióloga especializada en tecnología Zeynep Tufekci, la cual recibió un título que me inspiró para nombrar este texto: Estamos construyendo una distopía solo para hacer que la gente haga clic en publicidad.
Tufekci habla sobre cómo estamos usando distopías como 1984 de George Orwell para tratar el tema de la privacidad, la vigilancia y las grandes corporaciones hoy en día, cuando esta obra, escrita en 1948, ya no tiene sentido dentro de nuestro contexto actual, dado que no trataba exactamente del mismo tipo de control hacia el que nos estamos encaminando en este momento.
La socióloga advierte que el problema no reside en la inteligencia artificial en sí y que es muy poco probable que tengamos un tipo de IA que se vuelva contra nosotros, tal como temen los titulares que hacen referencia a la película Terminator. Para ella, lo preocupante es el uso de la potencia de la inteligencia artificial, el big data y el aprendizaje automático por parte de grandes empresas como Facebook y Google.
La autora del libro Twitter and Tear Gas: The Power and Fragility of Networked Protest (2017) señala que tanto los programadores como los analistas de datos ya han perdido la noción de lo que está ocurriendo con los algoritmos que ellos mismos crearon. Son miles de líneas, miles de informaciones que ya han escapado al control de su análisis debido a la gran masa de datos que se está manipulando allí.
Aun así, esta tecnología se ha aplicado, por ejemplo, en Facebook, cuando en las elecciones estadounidenses de 2012 y 2016, la red social realizó un experimento en el que los usuarios podían hacer clic para confirmar si ya habían votado para elegir al nuevo presidente o no. Sin embargo, algunos usuarios tenían acceso a esta recopilación con la información de cuáles otros de sus amigos ya habían confirmado su voto. Como consecuencia de esto, 270 mil personas más fueron influenciadas a votar en un país donde el voto no es obligatorio.
Trazando perfiles
En otro caso, como cita Tufekci, un programador le contó que había creado una IA capaz de analizar publicaciones en redes sociales, como Twitter, donde lograba ver el tipo de contenido y de mensaje que los usuarios estaban publicando y, así, hacer un prediagnóstico de quiénes ya estaban mostrando un comportamiento maníaco incluso antes de ser diagnosticados clínicamente. Las predicciones, como comenta la socióloga, tuvieron una precisión muy alta.
Del mismo modo, Tufekci da un ejemplo de cómo programar publicidad en línea de acuerdo con el perfil de los usuarios. ¿Cómo se crean estos perfiles? A partir de la información que compartimos conscientemente en las redes sociales y aquella que no sabemos que las empresas también mantienen archivada, como es el caso de las publicaciones que borramos, pero que Facebook mantiene en su base de datos y utiliza también para analizar tu perfil, como indica la socióloga. Además de esto, varias otras empresas especializadas en el área recopilan datos más simples, como nuestro historial de navegación, hasta otros más oscuros para revenderlos a quienes están interesados en transformar esa información en un perfil de segmentación publicitaria.
En este sentido, Tufekci plantea la suposición de una empresa que quiera anunciar pasajes a Las Vegas. Puede dirigirse a las personas que hicieron una búsqueda de pasajes a Las Vegas o puede dirigirse a personas que poseen un perfil que demuestra ciertos comportamientos e impulsos, como adicción al juego o compulsión por las compras, explorando así esas características y disfunciones personales para vender sus productos y servicios. La cuestión, entonces, ya no tiene que ver con la tecnología en sí, sino con la moralidad detrás de ella y de su aplicación.
¿Hacking the system?
También la semana pasada, el 21/11, un fab lab francés fue vandalizado e incendiado después de haber sido conocido como una “institución notoriamente peligrosa debido a su difusión de la cultura digital”. Según los autores del acto, el fab lab La Casemate era resultado de las acciones de la administración municipal, con la intención de “satisfacer a startups hambrientas de dinero y a geeks abriendo fab labs en barrios de moda. Estos dispositivos de apariencia extremadamente heterogénea tienen como objetivo acelerar la aceptación y el uso social de tecnologías de este tiempo desastroso nuestro”.
En su artículo Al analizar el caso, el abogado francés Jean-Baptist Soufron argumenta que esta no es la primera vez que las personas actúan de forma violenta contra las computadoras. De 1979 a 1983, en Francia, existió un comité conocido como CLODO, que tenía la intención de “liquidar” o “subvertir” las computadoras, colocando bombas e incendiando edificios de empresas de tecnología.
En aquel momento, cuenta Soufron, los responsables declararon a los medios franceses que ellos eran “trabajadores del área de procesamiento de datos y, por consiguiente, estaban bien posicionados para hablar sobre los peligros actuales y futuros del procesamiento de datos y las telecomunicaciones”. Según ellos, “la computadora es la herramienta preferida de los dominantes. Se utiliza para explotar, para registrar, controlar y reprimir”.
Más tarde, en 1984, un grupo belga llamado Communist Combattant Cells (CCC) bombardeó y destruyó la sede de varias empresas de tecnología en Alemania y Bélgica. En Londres, un grupo llamado Angry Brigade intentó hacer lo mismo y otras acciones similares, como indica Soufron, también ocurrieron en Asia, América del Sur y Estados Unidos.
El abogado francés insiste en recalcar que es muy fácil llamar a estos grupos neoluditas, cuando, en realidad, a diferencia de los luditas originales, que rompían máquinas porque supuestamente les quitaban sus empleos, estas personas tienen otro enfoque para sus acciones.
En 1983, el CLODO concedió una rara entrevista a una publicación inglesa, en la que dio la siguiente explicación: “No es ni retrógrado ni una novedad. Mirando al pasado, vemos solo esclavitud y deshumanización, al menos si volvemos a ciertas sociedades llamadas primitivas. Y aunque no compartimos los mismos ‘proyectos sociales’, sabemos que es una estupidez intentar algo y [querer] volver atrás en el tiempo”.
Es decir, es como si estas herramientas fueran “perversas desde su origen”, como por ejemplo cuando consideramos que “la mayoría de los sectores informatizados son los ejércitos, y que el 94% del tiempo de uso de las computadoras de civiles se emplea para administración y contabilidad”. De acuerdo con este dictamen del año 1983, “si los microprocesadores generan desempleo, en lugar de reducir el tiempo de trabajo de un empleado, es porque vivimos en una sociedad brutal, y eso de ninguna manera es un motivo para destruir microprocesadores”.
Nueva crítica antitecnológica
Soufron recuerda entonces que desde ese mismo año, 1983, una película llamada Juegos de guerraya establecía la relación entre hackers, terrorismo y violencia. Al insistir en este tema, escribe el abogado, “parece que la política digital, las protestas y la violencia solo ocurren en un tipo de mundo virtual, y que pertenecen a una zona gris en la que los valores morales están distantes y confusos”.
Soufron recuerda entonces que desde ese mismo año, 1983, una película llamada Juegos de guerraya establecía la relación entre hackers, terrorismo y violencia. Al insistir en este tema, escribe el abogado, “parece que la política digital, las protestas y la violencia solo ocurren en un tipo de mundo virtual, y que pertenecen a una zona gris en la que los valores morales están distantes y confusos”.
Como explica Soufron, el vocabulario utilizado allí, que aún permanece como referencia lingüística al tratar al hacker “bueno” como white hat y al hacker “malo” como black hathace parecer que el escenario es mucho más adecuado al imaginario de, por ejemplo, El Señor de los Anillos que del Manifiesto Comunista. “Y desde el seminal libro de 1984 escrito por Steven Levy, Hackers: Heroes of the computer revolution, el mundo digital ha estado fascinado por estas nuevas historias, que dicen ser capaces de romper las reglas de la sociedad. Sus líderes siempre quieren presentarse a sí mismos como revolucionarios. Siempre empezaron en garajes. Siempre son ex-hackers. Todos ellos quieren cambiar el mundo”, señala Soufron.
Pero, para el abogado, parece que esto ya no es así. Después de haber lanzado piedras a un autobús de Google (acto criticado por el teórico Douglas Rushkoff y también por el propio Soufron), estos nuevos opositores de la tecnología parecen estar cuestionando qué es realmente revolucionario o profético en una industria que se basa en un capitalismo anticuado, monopolios, microtrabajo, regulaciones estatales y que tiene al dinero como principal guía.
“Así como rechazan el mito del hacker, también llaman a un lugar de renombre como el MIT ‘templo de la tecnocracia’ —las personas que se sientan sorprendidas, ofendidas o impactadas por esta descripción deben recordar la forma en que Aaron Swartz fue llevado al suicidio después de haber sido maltratado por esa institución”, escribe Soufron.
Por último, el abogado termina su texto afirmando que la violencia debe ser, ciertamente, condenada, pero que este acto más extremo es solo una respuesta al impulso de una “religión del progreso y la tecnología que ha sido vendida como un futuro ineludible para todos”.
Soufron comenta que los miembros del CLODO nunca fueron atrapados, pero que terminaron siendo eliminados de la agenda porque un nuevo relato sobre una supuesta revolución de la transición digital había ganado mayor protagonismo. A pesar de esto, Soufron no cree que exista una nueva historia por contar:
“A medida que las promesas de esta entonces considerada revolución fallan ahora en cumplirse, es previsible que las personas vuelvan a protestar realmente y a ser verdaderamente violentas como resultado. No es sorprendente que, después de 20 años de oscuridad, la gente esté empezando a recordar esto. Con el impacto negativo de la industria digital siendo sentido de forma cada vez más fuerte por los ciudadanos, las acciones no se limitarán a ex grandes profesionales de la tecnología hablando en conferencias de élite, o a los artículos indignados de investigadores de ciencias sociales financiados por empresas tecnológicas. La tecnología no es neutral y no existe ningún mundo virtual”.
El círculo vicioso de la distopía
Sin embargo, es esta misma narrativa antitecnológica y anticorporativa la que viene siendo contada por la ciencia ficción distópica. Si el cyberpunk de los años 80 traía historias anticorporativas, pero usando la tecnología y la figura del hacker como un nuevo héroe que es criticado por estos nuevos revolucionarios y por el texto de Soufron, ¿en qué queda la “verdadera oposición” en este contexto del siglo XXI?
Lo que vemos en el imaginario de la cultura pop actual son empresas como Netflix utilizando los mismos algoritmos resaltados por Tufekci para crear series y películas que responden a los anhelos de búsqueda y consumo cultural planteados a partir de los hábitos de sus usuarios —y esto viene desde House of Cards hasta Stranger Things e incluso Black Mirror.
Aunque originalmente fue un producto de Channel 4, fue al llegar a Netflix que la serie Black Mirror recibió un nuevo impulsode popularidad e influencia en el imaginario popular, y con ello también un nuevo rumbo en sus narrativas. La serie siempre hizo un análisis crítico e incluso pesimista de las tendencias tecnológicas, pero esta vez cayó en un vórtice de negatividad y previsibilidad narrativa en el que el propio lema de la serie es más bien señalar las posibilidades de aplicación de la tecnología y sus posibles (y no únicos) desenlaces desastrosos, sugiriendo que algo catastrófico sucederá inevitablemente debido a la tecnología, cargado además de un tono subliminalmente moralista.
Por otro lado, tenemos también el caso de la serie Mr. Robot, que conquistó no solo el gusto de quienes trabajan en el área de seguridad de la información y pudieron identificarse con esa narrativa, sino que también se ganó el aprecio de los fans de la ciencia ficción cyberpunk sin ser necesariamente una obra de ciencia ficción stricto sensu.
En las últimas temporadas, vimos en la figura de Elliot no solo el estereotipo del hacker revolucionario, sino que también tuvimos la oportunidad de ver que, dentro de esas mismas corporaciones criticadas por los grupos post-CLODO, existen personas jugando a dos bandas y que esa revolución puede no ser tan sencilla como hackear un sitio web, sino que puede implicar mucha violencia, tal como ocurrió en La Cotemade y como la serie representó a partir de la muerte del personaje Susan Jacobs, por ejemplo.
En otras palabras, cuando Tufekci habla de distopía, la socióloga se refiere a cómo los algoritmos aplicados a la publicidad están creando un contexto distópico para las poblaciones debido a la forma inmoral en que esta tecnología puede utilizarse al dirigirse a un público de manera poco ética, basada únicamente en un objetivo de rentabilidad.
Por otro lado, mi lectura y mi expectativa ante el título de su charla TED era entender cómo los algoritmos están reconociendo precisamente esos perfiles ávidos de distopías y, de este modo, las empresas productoras de contenido, como es el caso de Netflix, se aprovechan de este mindset para reforzar un pensamiento que no necesariamente es preciso, pero que alimenta un prejuicio construido desde hace mucho tiempo por la propia ciencia ficción distópica.
Y así caemos en un círculo vicioso, en el que no solo tenemos una desvalorización del génerodebido al empobrecimiento de las narrativas, así como también vemos una industria cultural basada en el miedo (véase comentario del futurista Tiago Mattos sobre la nueva películaSingularidad), porque el miedo, al fin y al cabo, vende.
La pregunta que queda, entonces, es si esta estrategia no termina siendo también otro desdoblamiento de la posverdad, ya que ofrecemos aquello que se quiere ver y oír, pero que no necesariamente "es". Las comillas aquí funcionan como una sugerencia de respuesta a la pregunta, puesto que cuando tratamos de ficción, no hablamos de verdad o mentira, sino quizás de verosimilitud en algunos géneros. En otras palabras, lo que se quiere decir al establecer esta comparación es que el arte pasa a hacerse bajo demanda, un encargo que nosotros, los nuevos mecenas transformados en suscriptores de los servicios de streaming, queremos, aunque quizás solo el algoritmo sepa decirlo. Es lo que queremos ver y oír, pero tal vez no lo que necesitamos.
En este punto, el texto de Soufron nos aporta una mirada distinta, más allá del simplismo neoludita de la crítica contra las corporaciones tecnológicas. Más que tejer un comentario unilateral y plano contra estas empresas, grupos como el CLODO o actos como el ataque al fab lab La Casemade demuestran que el problema es mucho más complejo que el miedo a que las máquinas nos quiten el empleo o a que los robots se vuelvan contra nosotros y destruyan a la humanidad.
Ante esto, tal vez ni siquiera la cultura pop esté logrando traducir satisfactoriamente este contexto, ya sea por el miedo a no conquistar a una audiencia sedienta de catástrofes o por la enorme complejidad del tema.
