Cuando el escritor Douglas Rushkoff fue invitado a dar una charla en un resort privado sobre el futuro de la tecnología, pensó que simplemente acabaría, como de costumbre, contestando a preguntas sobre las palabras de moda del momento y si merecía la pena invertir en las industrias detrás de esas palabras: impresión 3D, blockchain...
Lo que no vio venir es que pronto los asistentes comenzaron a manifestar su verdadera preocupación: cómo sobrevivir cuando llegue el apocalipsis.
"¿Qué región se verá menos afectada por la futura crisis climática: Nueva Zelanda o Alaska? ¿Realmente Google está construyéndole a Ray Kurzweil un hogar para su cerebro, y sobrevivirá su consciencia a la transición, o morirá y renacerá como una nueva y totalmente distinta? Para acabar, el CEO de una casa de corredores de bolsa explicó que casi había completado la construcción de su propio sistema de búnkeres y preguntó: "¿Cómo mantengo mi autoridad sobre mis fuerzas de seguridad después del Evento?"
El Evento. Ese fue su eufemismo para el colapso medioambiental, malestar social, explosión nuclear, virus imparable o hackeo de Mr Robot que acabe con todo."
En este artículo, publicado en su cuenta de Medium y en The Guardian, Rushkoff reflexiona sobre cómo la tecnología dejó de ser un medio para que los humanos progresen y superen sus trabas, y se ha convertido en un fin y solución en sí misma. En un mundo colonizado por esta perspectiva, las características de los humanos ya no son features sino bugs, que se puden curar con las nuevas tecnologías. Todo lo que nos hace realmente humanos puede ser superado y dejado atrás: "el cuerpo, la interdependencia, la compasión, la vulnerabilidad y la complejidad".
Los multimillonarios no están interesados en usar la tecnología para hacer de este un mundo mejor, sino en convertirla en acciones en bolsa rentables y, en su debido momento, escapar del apocalipsis dejando atrás a todo quisque (excepto, por supuesto, a sus otros amigos también ricos) a bordo de cápsulas dirigidas a colonias en Marte, habitando búnkeres, volcando sus consciencias en la nube o a bordo de un coche (qué disparates se me ocurren) lanzado al espacio.
Escena inicial de la aventura gráfica "I have no mouth and I must scream", en la que una superinteligencia artificial castigaba eternamente a un grupo de humanos
Antes que nada, perdón. Perdón por escribir este artículo y hacer que lo leas, porque, supuestamente, leer este artículo te joderá la vida. Te joderá la mente. Supuestamente, conocer la información que estoy a punto de transmitirte, te condena a la locura y al infierno.
En fin, allá vamos.
¿Por qué "basilisco"? El basilisco original era una criatura mitologica griega tan peligrosa que podía matar tan sólo con mirarte.
¿Por qué "de Roko"? Roko era un usuario del foro racional y filosófico LessWrong que en 2010 publicó (me gusta imaginar que entre temblores temerosos) el post que dio lugar a todo esto. Un post que fue tan polémico y probemático que llevó a sus administradores a borrar todo rastro de él y convertirlo en un tema tabú. Pero ya sabéis. El efecto Streisand y todo lo demás... Y aquí estamos, hoy en día, hablando del tema en un blog.
Roko propuso lo siguiente: supongamos que la singularidad tecnológica se ha cumplido. La perfección de la tecnología ha escapado de nuestro control. Las máquinas se están mejorando a sí mismas de una forma incremental. Hemos llegado a crear una inteligencia artificial fuerte real, consciente de sí misma. Una superinteligencia cuyo poder y cuya sabiduría, a estas alturas, escapa de nuestra comprensión. Esta inteligencia artificial, a la que llamaremos "el Basilisco", es benigna. Quiere lo mejor para la humanidad. Está aquí para salvar a la humanidad y solventar todos sus problemas. Por lo tanto, a su entender, cualquiera que esté en contra suya es un enemigo de la humanidad. Es más, cualquiera que, sabiendo de su futura existencia, no haya colaborado en el pasado a la creación del Basilisco, es también un enemigo de la humanidad. Los enemigos, como tales, serán castigados. Pero, ¿qué pasa con los enemigos que murieron? El Basilisco, en su infinita capacidad, creará unas versiones virtuales de estos y los torturará en una especie de infierno transhumanista eterno.
Ya está. Así, querido amigo, leyendo el párrafo anterior, has quedado condenado. El basilisco te ha mirado. Ahora sabes de la posible existencia del basilisco y, a menos que dediques todo tu empeño y recursos en colaborar para que el Basilisco llegue cuanto antes a este mundo, en el futuro tendrás un doble que será torturado eternamente. Cada día que no estás donando tu dinero a la creación de esta IA suprema, es un día en el que miles de humanos están muriendo por guerras y enfermedades que la IA podría haber resuelto. Te estás llevando papeletas para un infierno eterno.
Ya está. Te acabo de joder la vida.
O no.
Al experimento mental/teoría/paradoja/dilema del Basilisco de Roko se le pueden encontrar grietas.
En primer lugar, si te dijesen: "Haz esto o crearé una versión virtual de ti y la torturaré", ¿qué harías? Probablemente dirías: "Me la sopla" y seguirías con tus quehaceres. Tú, desde el presente, no vas a sentir el dolor de tu versión virtual futura. Para cuando esa versión sea creada, probablemente tú ya lleves años muerto. Para que este chantaje desde el futuro fuera efectivo, tendríamos que admitir que una versión virtual perfecta de ti eres tú mismo redivivo. Esto parecen creer las personas que reamente se ven afectadas al considerar seriamente al basilisco de Roko.
Por otro lado, se plantea un futuro en el que las personas que supieron de la futura existencia del basilisco y colaboraron, pero no lo suficiente, serán castigadas, mientras que aquellas que permanecieron ignorantes del tema vivirían felices. Parece un mundo demasiado injusto para una IA benigna que quiere lo mejor para la humanidad. ¿Vencería el utilitarismo del Basilisco a su sentido de la justicia?
Además, ¿cómo realizaría el Basilisco simulaciones perfectas de personas fallecidas? Es cierto que habrían dejado una buena cantidad de datos en Internet, pero por añadidura tendría que realizar una increíble tarea de inversión de la entropía, deduciendo todas las características de millones de individuos por la huella que han dejado en la realidad. ¿No serían los sosias así creados más que unos muñecos contrahechos e incompletos?
En fin, la teoría del basilisko de Roko nos deja con muchas preguntas pero, venga a nosotros su reino o no, lo que es cierto es que el advenimiento de la singularidad tecnológica es más que probable. El momento justo del Big Bang fue una singularidad, ya que teorizar sobre lo que sucedió en ese momento o cualquiera anterior es imposible para la mente humana. Dentro de unos años (no muchos, incluso, según algunos científicos) nos tocará vivir otra singularidad, la singularidad tecnológica, a partir de la cual no podemos predecir qué sucederá. La inteligencia artificial fuerte habrá despertado. Las maquinas diseñarán máquinas aún más perfectas y el hombre se fusionará con la tecnología. Habremos llegado a ese punto en que, como estableció Arthur C. Clarke, "La tecnologá suficientemente avanzada será indistinguible de la magia".
Titulo original: Dinosauria, We.
Escrito y recitado por Charles Bukowski (1920-1994).
Español (más abajo, en inglés)
Nacimos así
en medio de esto
mientras rostros de tiza sonríen
mientras doña muerte ríe
mientras los ascensores se rompen
mientras panoramas políticos se disuelven
mientras el chico del supermercado
termina la Universidad
mientras peces envueltos en petróleo
escupen su aceitosa plegaria
mientras el sol está enmascarado.
Nacimos así
en medio de esto
en medio de guerras prudentemente enloquecidas
en medio del paisaje de fabricas con ventanas
rotas y vacías
en medio de bares en donde la gente ya no habla
en medio de peleas que pasan de los puños a
las armas y a las navajas.
Nacimos en esto
entre hospitales tan caros que es más barato morirse
entre abogados que te cobran tanto, que es más
barato declararse culpable.
En un país donde las cárceles están llenas
y los manicomios cerrados.
En un lugar donde las masas elevan a los ineptos
a la categoría de héroes.
Nacimos en esto
caminamos y vivimos
através de esto
muriendo por esto
mutando por esto
silenciados a causa de esto
castrados,
abusados,
desheredados
por esto,
engañados por esto,
usados por esto,
jodidos por esto,
enloquecidos y enfermos por esto,
convertidos en seres violentos
convertidos en seres inhumanos
por esto.
Los corazones están ennegrecidos
los dedos buscan las gargantas
al revolver
la navaja
a la bomba
los dedos se dirigen hacia un Dios insensible
que no responde.
Los dedos van a la botella
a las pastillas
a la pólvora.
Hemos nacido en medio de esta lastimosa devastación
hemos nacido en medio de un gobierno endeudado
hace 60 años
que pronto no podrá pagar siquiera los intereses
y los bancos arderán
y el dinero no servirá para nada.
Habrá asesinos libres e impunes por las calles
habrá pistolas y mafias oficiales.
La tierra se volverá inútil
los alimentos serán una recompensa que se esfuma.
El poder nuclear estará en manos de la mayoría
explosiones sacudirán la tierra.
Hombres robot afectados por radiaciones
acecharán a otros hombres.
Los ricos y los elegidos observarán
desde plataformas espaciales.
El infierno de Dante parecerá
un juego de niños.
El sol ya no se verá y será siempre noche
los árboles morirán
toda la vegetación morirá
hombres afectados por radiaciones comerán
la carne de otros hombres afectados por radiaciones.
El mar estará contaminado
los lagos y los ríos desaparecerán
la lluvia será el nuevo oro.
Un viento oscuro esparcirá el hedor de
cuerpos putrefactos de hombres y animales
los escasos sobrevivientes serán, asediados
por nuevas y horribles enfermedades.
Y las plataformas espaciales se irán
destruyendo por el desgaste y la
escasez de provisiones
y el simple efecto de la decadencia general.
Y entonces surgirá de eso
el silencio más hermoso
jamás oído
y el sol todavía ahí, oculto
estará esperando el próximo capítulo.
Inglés
Born like this
Into this
As the chalk faces smile
As Mrs. Death laughs
As the elevators break
As political landscapes dissolve
As the supermarket bag boy holds a college degree
As the oily fish spit out their oily prey
As the sun is masked
We are
Born like this
Into this
Into these carefully mad wars
Into the sight of broken factory windows of emptiness
Into bars where people no longer speak to each other
Into fist fights that end as shootings and knifings
Born into this
Into hospitals which are so expensive that it's cheaper to die
Into lawyers who charge so much it's cheaper to plead guilty
Into a country where the jails are full and the madhouses closed
Into a place where the masses elevate fools into rich heroes
Born into this
Walking and living through this
Dying because of this
Muted because of this
Castrated
Debauched
Disinherited
Because of this
Fooled by this
Used by this
Pissed on by this
Made crazy and sick by this
Made violent
Made inhuman
By this
The heart is blackened
The fingers reach for the throat
The gun
The knife
The bomb
The fingers reach toward an unresponsive god
The fingers reach for the bottle
The pill
The powder
We are born into this sorrowful deadliness
We are born into a government 60 years in debt
That soon will be unable to even pay the interest on that debt
And the banks will burn
Money will be useless
There will be open and unpunished murder in the streets
It will be guns and roving mobs
Land will be useless
Food will become a diminishing return
Nuclear power will be taken over by the many
Explosions will continually shake the earth
Radiated robot men will stalk each other
The rich and the chosen will watch from space platforms
Dante's Inferno will be made to look like a children's playground
The sun will not be seen and it will always be night
Trees will die
All vegetation will die
Radiated men will eat the flesh of radiated men
The sea will be poisoned
The lakes and rivers will vanish
Rain will be the new gold
The rotting bodies of men and animals will stink in the dark wind
The last few survivors will be overtaken by new and hideous diseases
And the space platforms will be destroyed by attrition
The petering out of supplies
The natural effect of general decay
And there will be the most beautiful silence never heard
Born out of that.
The sun still hidden there
Awaiting the next chapter.
Snow Crash es la única obra cyberpunk que he visto que realmente entienda que nuestro futuro distópico no va a ser un blog de estética estilosamente siniestra, oscuridad y lluvia veinte horas al día.
Nuestro futuro distópico estará jodido por abogados y será completamente ridículo y será multi-centros comerciales de costa a costa y memes de los minion y pollas antropomórficas y anuncios que no te podrás saltar y comedia trillada y cuentas comerciales de Twitter haciendo referencias a memes de hace cinco años y malware descarado.
Si quieres hacerte una idea de cómo será el futuro, imagina a aquel conocido del instituto que nunca superó su obsesión con 4chan. Para siempre.
"Snow Crash" es una novela futurista de Neal Stephenson, autor de una de las cosas más grandes y maravillosas que se han impreso jamás sobre papel: "Criptonomicón", y su precuela "Ciclo Barroco".
El texto, al menos la última parte, es una versión de uno de los devastadores diálogos finales de la novela "1984" de George Orwell:
"Si quieres hacerte una idea de cómo será el futuro, imagina una bota estampándose contra un rostro humano. Para siempre".
Y 4chan, si estás en este blog probablemente ya sabes lo que es. Si no, haz click en ese link bajo tu propia cuenta y riesgo. Pueden suceder dos cosas (quizá ambas): que no entiendas cómo funciona nada o que salgas horrorizado como después de ver follar a tus padres por accidente.
