¿Pueden las tecnologías de vigilancia de China llegar a Occidente?

Poco después de que los episodios de la tercera temporada de Black Mirror se estrenaran en octubre de 2016, nos sorprendió la noticia de que una tecnología muy similar a la propuesta en el episodio Nosedive se estaba implementando en China; es decir, los llamados créditos sociales y cómo cada persona, según su puntuación social, tendría beneficios o contratiempos en el acceso a servicios que van desde el transporte hasta la financiación.

Aunque en aquel entonces estaba en fase embrionaria, más recientemente ya contamos con ejemplos de contenidos que presentan testimonios de ciudadanos chinos que tuvieron dificultades para comprar un billete de avión debido a esta puntuación implementada en el sistema nacional, del mismo modo que, el año pasado, un informe de Wiredreveló que los ciudadanos con créditos Zhima bajos debían pagar más para alquilar una bicicleta, una habitación de hotel o incluso un paraguas. A pesar de tratarse de una iniciativa privada relacionada con Alibaba, una de las empresas más grandes de China, y de que estos indiquen no tener ninguna relación con el gobierno, tal proyecto no deja de seguir los planes ya vislumbrados por el gobierno chino en 2014.

Ante esto, la última edición de la revista The Economist planteó la siguiente cuestión: ¿acaso esta tendencia asiática también ha tenido eco en Occidente? Con la facilidad cada vez mayor para acceder a información personal, como ya sabemos por el caso de Facebook, ¿por qué el Estado no tendría también esa misma capacidad de adquirir información de la población?

En China, las cámaras de seguridad con reconocimiento facial ya han logrado ayudar en la detención de un hombre que fue identificado entre 50 000 personas en un concierto. También allí, un periodista que utilizó Twitter para publicar comentarios negativos sobre el gobierno vio reducidos sus créditos sociales. Incluso después de que se le ordenara publicar una disculpa, el gobierno lo juzgó deshonesto y, por ello, ya no se le permite comprar propiedades, por ejemplo. Ahora, imagine si, aquí en Brasil, usted empezara a tener dificultades para alquilar un apartamento o conseguir un préstamo porque compartió un meme de Temer en Facebook o WhatsApp.

‍

“Bajo gobiernos autoritarios como el de China, el monitoreo digital ha convertido una vigilancia estricta en una vigilancia aterradora y omnisciente. Especialmente en la región occidental de Xinjiang, el gobierno chino ha aplicado inteligencia artificial (IA) y monitoreo masivo para crear un panóptico del siglo XXI e implementar un control total sobre millones de uigures, una minoría musulmana local. En las democracias occidentales, la policía y las agencias de inteligencia están utilizando las mismas herramientas de vigilancia para resolver y detener delitos, así como para prevenir el terrorismo. Estos resultados son efectivos, pero profundamente preocupantes”. The Economist

‍

Entre la libertad y la opresión, sin embargo, existe también un sistema que busca el consentimiento de los ciudadanos, a pesar de que estos datos se recopilan con mucha facilidad y se producen de forma masiva. En el reportaje, la redacción de The Economist recuerda que, en la época del colapso de Alemania Oriental en 1989, los alemanes se sorprendieron al descubrir que el servicio de seguridad Stasi tenía un gran número de informantes trabajando para ellos. Hoy, con un sistema de vigilancia que también ha pasado por la revolución digital, son nuestros propios teléfonos móviles, navegadores y sensores los que comparten esa información con el gobierno, la cual el Estado puede recopilar, interpretar o incluso hackear; por ejemplo, para lograr una campaña electoral exitosa en las redes sociales.

Mientras que Trump habría adquirido datos más profundos sobre el comportamiento de los usuarios de Facebook para la personalización de su campaña electoralen Brasil ya tenemos el caso de los perfiles falsos y bots en redes sociales que caldearon los debates hace cuatro años, en las últimas elecciones. Para The Economist, las mismas tecnologías que un día permitieron hackear al Estado ahora pueden volverse contra nosotros mismos, ya que ahora también están al alcance del gobierno (y de las corporaciones), algo que antes estaba reservado a pequeños grupos de subcultura.

‍

“Xinjiang es una pesadilla extremista que las nuevas tecnologías hacen posible: una vigilancia racista. Al temer la insurrección y el separatismo, los gobernantes chinos han reforzado técnicas de control totalitario —incluida la detención masiva de uigures para su reeducación— con tecnologías digitales. En parte de las calles de la provincia hay postes con cámaras de seguridad cada 100-200 metros. Estas graban el rostro de cada conductor y el número de matrícula. Los teléfonos móviles de los uigures deben ejecutar un software espía creado por el gobierno. Los datos asociados a sus documentos de identidad no se limitan solo al nombre, sexo y ocupación, sino que incluyen detalles de familiares, huellas dactilares, grupo sanguíneo, información de ADN, antecedentes penales y un ‘estatus de confianza’. Todo esto y más alimenta la Plataforma Integrada de Operaciones (IJOP) y un sistema basado en inteligencia artificial para generar una lista de sospechosos para su detención”.

‍

A pesar de ello, se cree que este tipo de totalitarismo es muy difícil de aplicar más allá de la provincia de Xinjiang, ya que allí se trata solo de una minoría identificada y no de toda la población de un país. No obstante, dicho modelo ha servido de inspiración para otros Estados, desde Rusia hasta Ruanda y Turquía. Pero incluso en los gobiernos llamados liberales, como en Estados Unidos, ya existen ejemplos de iniciativas similares a la de Xinjiang. En algunas ciudades estadounidenses, la policía ya ha utilizado software de predicción de delitos basado en historiales. Además, como señala el reportaje de The Economist, no es raro escuchar historias de policías estadounidenses que han usado bases de datos confidenciales para obtener información comprometedora sobre periodistas, exnovias y otras personas.

Por lo tanto, ¿cómo encontrar el equilibrio entre libertad y seguridad? Para la revista, debemos empezar por garantizar que el mundo digital, al igual que el mundo real, tenga espacios en los que las personas puedan disfrutar de privacidad.

‍

“Los ciudadanos de las democracias liberales no esperan ser investigados sin una buena razón ni que sus casas sean registradas sin una orden judicial. Del mismo modo, el teléfono móvil en el bolsillo de una persona debe ser tratado como un archivador de documentos en casa. Así como los archivadores pueden cerrarse con llave, la criptografía no debe reducirse. Una segunda prioridad es limitar hasta qué punto se conserva la información de los ciudadanos, restringir el número de personas que tienen acceso a ella y castigar a quienes la utilicen de forma inadecuada. En 2006, la Unión Europea publicó un requisito para que las empresas de telefonía móvil conservaran los metadatos de sus consumidores durante solo dos años. La ley fue anulada por el Tribunal de Justicia de la Unión Europea en 2014. El mal uso de datos policiales debería ser un delito penal por el cual las personas sean castigadas, no un ‘error’ que se absuelve con una disculpa pública”.

‍

Por último, la publicación también señala la necesidad de supervisar el uso de la inteligencia artificial: dado que los sistemas de predicción de delitos utilizados por la policía son imprecisos —ya que solo son capaces de reconocer patrones de hurtos y robos en lugar de asesinatos—, es necesario establecer límites sobre hasta qué punto son realmente decisivos en la acción policial. Asimismo, la tecnología de reconocimiento facial todavía produce muchos “falsos positivos”, del mismo modo que la inteligencia artificial ha sido programada de forma sesgada: al ser capaz de reconocer patrones en las bases de datos proporcionadas, la IA termina resaltando el gran número de personas negras detenidas y, por tanto, asocia la etnia con posibles delitos de manera tendenciosa e imprecisa.

De este modo, The Economist concluye el reportaje afirmando que vigilancia y transparencia deben ser palabras y conceptos que vayan de la mano. Así como recientemente un proyecto de ley en California propuso que las agencias policiales revelaran qué equipos de vigilancia han estado utilizando, qué datos se están recopilando y cómo se están usando, también deben realizarse nuevas consultas y plantearse propuestas por parte de los propios ciudadanos para no ser tomados por sorpresa cuando la combinación de tecnología y vigilancia se salga de control y convierta el contexto nacional en un escenario orwelliano.

Algunos ejemplos de proyectos que utilizan tecnología para vigilar las decisiones y movimientos del gobierno:

Beta, el bot feminista
Operación Serenata de Amor
‍PegaBot

‍

‍