Entre el “Gran Hermano”, HAL 9000 y el camarote de los Hermanos Marx: Las distopías extremas de la ciudad futura (Smart City).

El cine ha mostrado visiones distópicas de la ciudad futura, como en el caso de Los Angeles en la película Blade Runner.

Utopía era el mundo perfecto concebido en la ficción por Tomás Moro y cuya denominación, hizo fortuna para acabar representando inspiradores horizontes ideales para la sociedad. Por el contrario, las distopías muestran escenarios negativos en los que se manifiestan con crudeza los temores existentes en una comunidad.

La Smart City ya no es una utopía sino una realidad (aunque incipiente) pero también cuenta con sus distopías, que expresan los miedos de nuestra sociedad sobre la ciudad futura. En ellas, aparecen pesadillas basadas en la Tecnología y en la Participación, que son las claves subyacentes de las Smart Cities.

Esas distopías nos invitan a formularnos preguntas. ¿Se convertirá la tecnología en el instrumento de control de un “Gran Hermano” para anular la libertad y subyugar a los ciudadanos?, ó ¿llegará un grado de automatismo (inteligencia artificial)  que elimine el albedrío de los seres humanos como sucedió con la computadora HAL 9000 de la odisea espacial de Kubrick?, o en otra línea ¿la participación ciudadana podría conducir a un caos organizativo, como en Babel, originando situaciones inmanejables como la que representaron los Hermanos Marx en su conocido camarote de “Una noche en la ópera”?

Las tres cuestiones (aparición de una oligarquía tecnológica, pérdida del albedrío humano y descontrol organizativo) tienen que ver con la toma de decisiones. Son futuros indeseables, pero es positivo reflexionar sobre ellos, ya que las distopías son avisos a navegantes y es responsabilidad de todos trabajar para evitarlas.

Cuando Tomás Moro publicó en 1516 su libro Utopía dio nombre a toda una serie de paraísos idílicos cuya existencia ficticia pretendía orientar el rumbo de nuestras sociedades hacia escenarios mejores. El género literario que elucubraba sobre comunidades perfectas y organizaciones sociales ideales era antiguo (Platón ya lo practicó), pero Moro, de forma involuntaria, también puso en funcionamiento la creación imaginaria de distopías como anverso oscuro a  las utopías.

Las distopías avisan de esos infiernos futuros a los que podemos caer abocados si no somos capaces de reaccionar ante esas advertencias. La Ciencia Ficción ha expresado reiteradamente esos recelos. Los conocidos libros de Aldous Huxley (Un mundo Feliz, editado en 1932), George Orwell (1984, publicado en 1949) o Ray Bradbury (Fahrenheit 451, de 1953) son, entre otros, muestra de ello. También el cine ha presentado escenarios distópicos con ciudades carentes de energía, pobladas de extraños seres, gravemente segregadas y con dificultades de convivencia. Solo hay que pensar en la ciudad de Los Angeles presentada en Blade Runner o en Gotham City.

La Smart City también tiene sus distopías, aunque no estén formuladas literariamente.

El debate principal se centra alrededor de la toma de decisiones urbanas. En un primer acercamiento podemos discernir entre las decisiones “técnicas-objetivas” (como por ejemplo encender la iluminación pública en función del tráfico o activar el riego de zonas verdes  según la meteorología del momento) y las decisiones “subjetivas” (por ejemplo respecto a configuración formal de espacios, o a estrategias urbanas de asignación de usos, de zonas peatonales, etc.). Pero no siempre esta separación resulta nítida. Imaginemos un “edificio inteligente” que decide automáticamente cerrar sus ventanas para ahorrar energía cuando a los inquilinos les apetece, motiva y emociona lo contrario, es decir dejar que el sol entre en el interior, aún contraviniendo la objetividad y la eficiencia, o cuando puede haber desacuerdo entre ellos, porque una parte de los usuarios desean tomar el sol y mientras que el resto lo rechaza.

La tensión entre la decisión automatizada, “objetivable”, y la que tiene en cuenta las opiniones y subjetividades de los ciudadanos, acompaña el camino que va recorriendo la Smart City para convertirse en el modelo futuro de gestión urbana. Tecnología y Participación son las claves subyacentes de las Smart Cities y por ello son también las causas que alimentan las distopías de la ciudad futura.

Se advierten tres temores fundamentales: el que desconfía de la aparición de una oligarquía tecnológica, el que recela de la anulación del albedrío humano y el que teme el caos organizativo y el conflicto.

Ciertamente, existen voces que advierten de los temores sobre la utilización interesada de la tecnología por parte de una élite oligárquica para subyugar al resto de la sociedad, un riesgo que puede abocar en escenarios como el del Gran Hermano orwelliano. (Distopía tecnológica).

También se encuentran voces que señalan los peligros de un excesivo automatismo tecnológico de las decisiones (en línea con la inteligencia artificial), como el demostrado por la rebelde computadora HAL 9000 de la odisea espacial de Kubrick. (Distopía tecnológica).

Igualmente escuchamos las voces de los detractores de la máxima participación de los individuos, avisando de los riesgos de una excesiva intervención ciudadana en la toma de decisiones, que podrían ser tomadas arbitrariamente o generar contradicciones irresolubles, llegando a provocar parálisis en las actuaciones y conflictos sociales. En definitiva, un caos menos gracioso que el producido en el famoso camarote alocado que los Hermanos Marx mostraron en su película “Una noche en la ópera” de 1935. (Distopía participativa).

Logotipo del reality show televisivo “Gran Hermano”.

La distopía “Gran Hermano”: la tecnología como instrumento de control y subyugación social. (Distopía tecnológica)

En su novela 1984, George Orwell nos presentaba al “Gran Hermano” (Big Brother), el omnipresente líder gobernante que controlaba completamente el “Imperio de Oceanía”. Inspirado en una tecnología incipiente, Orwell describe la ubicuidad del dictador al que no se le escapaba ningún detalle de sus “súbditos”. La vigilancia excesiva, la manipulación de informaciones, la invasión de la intimidad y en definitiva la falta de libertad de pensamiento y acción de la sociedad, caracterizaba esa “distopía”. Estos argumentos alimentan algunos de los temores que la sociedad proyecta hacia un futuro altamente tecnológico.

La ciudad futura, la Smart City futura, con sus fuertes bases tecnológicas, se ha convertido en uno de los objetivos de ciertos pensadores que advierten de los riesgos de una tecnología excesivamente invasiva.

Nuestro comportamiento está generando una “identidad digital”, paralela a nuestra identidad física, que puede llegar a caracterizarnos con una fidelidad sorprendente. Generamos datos e informaciones que pueden ser utilizados de muchas maneras (alguna de las cuales puede ser muy negativa). Esta identidad digital no se forja solamente con la definición de unos perfiles en las redes sociales y que, con nuestro consentimiento, pueden ser conocidos y compartidos por muchas personas (aunque la publicación de retazos de nuestras vidas puede quedar también expuesta incluso para quienes no deseamos). La identidad digital está construida con más materiales que escapan de nuestro control. Debemos ser conscientes del rastro que dejan nuestros hábitos de compra y conducta (identificados, por ejemplo, a través del uso de tarjetas de crédito o de las bases de datos de grandes empresas e instituciones). Entre los ingredientes de esa identidad paralela, también se encuentran las referencias “secretas” que abren puertas a nuestra situación bancaria, fiscal, patrimonial, sanitaria, etc. Incluso también nuestro smartphone puede “colaborar”, indicando (y transmitiendo) los movimientos que realizamos en tiempo real, acciones que pueden ser observados por las cada vez más extendidas cámaras de video-vigilancia que abundan en nuestras ciudades (que, por otra parte, también nutren otro debate entre seguridad y libertad)

Nuestra legislación recoge una ley sobre Protección de Datos, consciente del riesgo que conlleva que toda esa información no sea utilizada debidamente. Pero su amparo no abarca todos los campos que pueden afectarnos porque, entre otras cosas, muchas de nuestras actuaciones son abiertamente compartidas (quizá con cierta despreocupación inconsciente).

Pero no solamente nos vemos afectados individualmente. Más allá de la identidad digital de cada persona, la tecnología también ha fundamentado la globalización como un fenómeno que caracteriza  nuestro mundo. Todos nos vemos influidos por situaciones que pueden ocasionarse muy lejos de nuestros lugares habituales, pero que acaban por afectarnos. Solo tenemos que pensar en cómo se ha originado la grave crisis económica que nos atenaza o recordar términos popularizados por ella (por ejemplo “prima de riesgo”, “fondos de inversión” o “mercados financieros internacionales”). En este contexto se habla de “invisibles” mercados que dominan a su antojo los vaivenes de la economía, y por lo tanto de nuestra existencia. Estos mercados no son entes etéreos sino que están formados por oligarquías que aprovechan las posibilidades que ofrece la tecnología para gobernar de la forma menos democrática posible los destinos de la sociedad.

La intención de George Orwell era denunciar los totalitarismos de su época y para ello se servía de la naciente tecnología. Orwell desconocía los extraordinarios avances que la tecnología iba a conseguir (publicó su novela en 1949) pero intuía las posibilidades y los riesgos que conllevaba. Toda esa información en manos de una élite dominante (sin ética ni escrúpulos) podría perpetuar una oligarquía que subyugara a la población en una representación distópica indeseable.

Imagen de “2001 Odisea en el espacio” de Stanley Kubrick. El “interior” de HAL 9000 se refleja en el casco del astronauta que pretende desconectarla.

La distopía “HAL 9000”: El temor a la esclavitud tecnológica y a la anulación del albedrío humano. (Distopía tecnológica)

La inteligencia artificial (IA) sigue avanzando en manos de científicos y tecnólogos. El horizonte que otorga a las máquinas la capacidad de razonamiento humano genera intensos debates, con una importante componente ética.

En 1968, Stanley Kubrick, en la obra “2001 Odisea del espacio”, popularizó los miedos que había expresado Arthur C. Clarke en su novela corta “El centinela” (en la que se basó el guión de la película). En ella, HAL 9000 es la computadora que controla la nave espacial Discovery, una computadora dotada de una alta dosis de inteligencia artificial que se enfrenta a la tripulación.

El debate sobre la tecnología viene de lejos y presenta muchos matices. En ocasiones, la tecnología aparece como catalizador de todos los buenos deseos de la humanidad (por ejemplo con la mirada que, ya en 1624, ofreció sir Francis Bacon en su libro “Nueva Atlántida”). Bacon imaginó máquinas que contribuían a crear una sociedad perfecta. Pero también la tecnología ha sido observada como consecuencia de la locura humana (en este caso sirve como ejemplo el “Frankenstein” de Mary Shelley de 1818, en la que la autora advertía de los males que pueden derivarse de una errónea dirección de la ciencia).

Pero la alarma creció con la aparición de los “robots”. Un robot es una entidad mecánica artificial basada en un sistema electromecánico que le permite realizar labores, en competencia con las humanas, pero de forma mucho más eficaz que nosotros y con un variable aunque importante grado de autonomía. El término robot procede de la literatura de Ciencia Ficción. Concretamente, del libro del autor checo Karel Capek, quien publicó la obra (de teatro) R.U.R. (Rossum's Universal Robots) que fue estrenada en 1921. Capek, buscando un término para identificar a los nuevos seres que aparecían en su obra, desechó su intención inicial de denominarlos labori (del latín, labor, trabajo), para acabar aceptando la sugerencia de su hermano Josef: "roboti". La palabra robota significa literalmente, en checo y otras lenguas eslavas, trabajo o labor y figuradamente "trabajo duro". En la obra de Capek, los robots llegan a desarrollar propósitos propios, en la línea de la inteligencia artificial, poniendo en peligro a los seres humanos que los crearon. Aunque en la actualidad, la autonomía de la voluntad de los robots no llega a ser como la preconizada por autores como Capek, estas máquinas son una realidad en nuestra sociedad y su existencia, y sobre todo sus posibles evoluciones, genera un debate permanente.

En las Smart Cities, la automatización del análisis y la toma de decisiones urbanas a través de medios tecnológicos programados, dando lugar al "funcionamiento inteligente", son defendida por quienes ven en ello la oportunidad de eliminar muchas de las arbitrariedades e ineficacias que ocurren en la ciudad. Pero hay muchas voces que alarman sobre lo arriesgado del camino.

La distopía que surge en la órbita de la ciudad del futuro ahonda en esta cuestión, presentando una ciudad automatizada que puede llegar a convertirse en un organismo independiente, capaz de perjudicar (involuntariamente o no) los intereses de los humanos que la pueblan. La controversia sobre la Inteligencia Artificial tiene otros derroteros más amplios, pero en su concreción urbana se centra en la toma decisiones que no consideren la complejidad del ser humano y sus circunstancias. Esto puede originar una ciudad en la que el culto a la eficiencia faculte para, por ejemplo, desechar cuestiones culturales, artísticas o incluso espirituales, tan importantes en el desarrollo humano, una ciudad en la que pueda llegarse a anular nuestro albedrío, convirtiendo a los seres humanos en esclavos de una “entidad” superior.

Imagen de “Una noche en la ópera”, película de 1935 en la que los Hermanos Marx nos ofrecieron el divertido caos de su famoso camarote.

La distopía “camarote de los Hermanos Marx”: temores sobre el caos organizativo. (Distopía participativa)

Entre los instrumentos que definen las Smart Cities, se encuentra un conjunto heterogéneo de infraestructuras tecnológicas (muchas de ellas digitales) capaces de actuar coordinadamente. Entre los nodos fundamentales de este sistema, también se incluyen las propias personas, que gracias a su equipamiento tecnológico habitual (dispositivos móviles) son capaces de integrarse digitalmente.

Como hemos visto anteriormente, los ciudadanos son una fuente extraordinaria de datos de muy variado carácter y que proporcionan una inestimable ayuda para configurar la Smart City. Pero, además, más allá de los datos, la tecnología está permitiendo la aparición de unos nuevos ciudadanos, los Smart Citizens (etiqueta exitosa aunque discutible), que reclaman un mayor papel social, no sólo como fuente de información, sino como agentes activos. Los Smart Citizens son ciudadanos comprometidos con su entorno, y desean ser parte fundamental de las ciudades inteligentes, tanto de forma individual como coordinada, pudiendo analizar, generar información, predecir, actuar o prevenir y, sobre todo, implicarse en la toma de decisiones a través de la participación interactiva (con la ayuda tecnológica).

La irrupción de los Smart Citizens puede ser revolucionaria para nuestras ciudades, pero no está exenta de controversias.

Primero porque la tecnología puede originar una fuerte segregación social entre esos Smart Citizens y las personas que no deseen o no puedan integrarse en el sistema (discapacitación digital). Esto ha abierto un debate sobre la exclusión de ciudadanos que se convierten así en elementos marginales incapaces de participar en el cuerpo social. Debe tenerse en cuenta que uno de los objetivos de las Smart Cities es fomentar las ciudades accesibles desde este punto de vista.

En esta línea, para Saskia Sassen, creadora del concepto de Ciudad Global, y  galardonada con el premio Príncipe de Asturias de Ciencias Sociales 2013, “las ciudades globales forman redes que concentran el poder de decisión y nuevas relaciones entre territorio, autoridad y derechos, diluyendo así el papel de las fronteras; son generadoras de grandes desigualdades y segregación social debido, entre otras causas, a las diferencias en el acceso a las tecnologías de la información", tal como recoge el acta del jurado del premio.

Pero también se advierte otro riesgo, producto de la propia participación ciudadana. Ya existen voces que advierten que la profusión de participación individual puede generar problemáticas diversas. Por ejemplo la dificultad de gestionar una cantidad ingente de datos que pueden ser de difícil interpretación, o la falta de consenso por un exceso de alternativas individuales, que desembocaría en la imposibilidad de seleccionar una de ellas. Igualmente advierten del riesgo de la manipulación de datos o de la toma de decisiones arbitrarias e ineficaces por desconocimiento de las circunstancias, generalmente complejas que caracterizan a la ciudad.

La ciudad actual no es un proyecto de definición colectiva directa. Es un producto sofisticado desarrollado por unos agentes sociales muy especializados (públicos y privados) que recogen, en mayor o menor medida, las aspiraciones de toda la sociedad.  La participación ciudadana en los procesos urbanísticos actuales es poco más que testimonial y suele ser utilizada exclusivamente para la defensa de intereses (económicos) de los particulares. Los intentos de potenciar esa participación en otros ámbitos de la ciudad han sido por lo general fracasados. Ciertamente la tecnología ha abierto campos insospechados y puede posibilitar la canalización del pensamiento individual, pero todavía está por demostrar que su realidad funcione adecuadamente (y que los individuos estén dispuestos a asumir esa responsabilidad)

El camino se va recorriendo, pero la hipótesis de un caos organizativo es vista por algunos pensadores como otro escenario distópico en el que la incapacidad para tomar una decisión o la apuesta por una opción escasamente mayoritaria puede generar parálisis de actuación o conflictos entre partes enfrentadas.

Cuando los Hermanos Marx nos mostraron su famoso, caótico y divertido camarote en la película “Una noche en la ópera” de 1935, pusieron a disposición del imaginario colectivo la metáfora de las situaciones desordenadas, que no conducen a ningún fin, en las que la heterogeneidad de los protagonistas impide la unidad de criterio y cada participante se centra exclusivamente en su cometido, una situación en la que es imposible conseguir una organización mínimamente aceptable.