¿Existe un código moral en un mundo virtual?

Desde los juegos olímpicos hasta el biohacking, siempre nos hemos visto impulsados a superar nuestros límites. Con la inteligencia artificial prometiendo cambiar nuestra relación con la realidad, ¿qué significa realmente ser humano?

Un experimento mental famoso en la filosofía del siglo XX es conocido como la "máquina de las experiencias". Supongamos que pudieras conectarte a un dispositivo y experimentar los mayores placeres que puedes llegar a imaginar. Por ejemplo, podrías vivir la vida de un ganador del premio Nobel, de un gran artista que disfruta de la admiración del público y de la crítica, de un rabino sagrado, o lo que sea que tengas ganas. Puedes experimentar los momentos más elevados de la vida y ninguna desventaja, toda la ganancia y nada de dolor.

O por lo menos, tendrás la experiencia de esa vida. Nada de eso ocurrirá en la realidad, pero lo más importante es que no serás capaz de reconocer la diferencia.

Si esto te suena conocido es porque seguramente has escuchado por lo menos parte de tus clases básicas de filosofía y has escuchado las ideas del filósofo norteamericano Robert Nozick, o has visto una oscura película de Hollywood llamada Matrix.

La "máquina de las experiencias" era una forma de argumentar que en la vida hay algo más que el placer. Más precisamente, apunta a un principio moral conocido como hedonismo ético. El hedonismo, en este sentido, es más sustancial que aumentar el tamaño de tu bebida y tus papas fritas. Es la idea de que el placer (y evitar el dolor) se encuentra en el eje mismo de lo que es bueno o malo.

La "máquina de las experiencias" era una forma de argumentar que en la vida hay algo más que el placer.

Esto puede sonar demasiado superficial para ser un manifiesto genuino de vida. Pero si te detienes y lo piensas, el principio tiene cierta fuerza intuitiva. A fin de cuentas, cuando nos enfrentamos a una decisión difícil y queremos hacer lo correcto, a menudo tratamos de averiguar qué hará feliz a más personas y causará menos dolor. De hecho, así es también como funcionan muchas políticas públicas aceptables.

Entonces, ¿por qué la "máquina de las experiencias" resultó tan molesta para muchas personas? Por cierto, no se trata de que el placer sea algo que se debe evitar. Y en realidad no podemos decir que esos placeres sean reales. Son suficientemente reales para nosotros, y si hablamos sobre la experiencia subjetiva del placer, ¿qué diferencia hay si son realmente reales?

Tal vez, el problema con el placer subjetivo no es tanto con el placer mismo como con la subjetividad. En la "máquina de las experiencias" no hacemos nada, sino que más bien experimentamos muchas cosas. Es decir, no le debemos nada a nadie, nadie nos debe nada, y nada de lo que hacemos (o parecemos hacer) tiene ningún efecto sobre los demás. En cierto sentido fundamental, estamos solos. Y eso parece importante.

Después de todo, cualquier animal suficientemente complejo puede experimentar placer o dolor. Sólo los humanos pueden construir complejas redes éticas de confianza, reciprocidad, amor, respeto, celos y traición.

Es difícil defender la causa de que los placeres "falsos" no son realmente placenteros. ¿Pero una responsabilidad ética simulada? Eso no es ser humano, es ver una película sobre la condición humana.

Blues del algoritmo

En cierto sentido, la "máquina de las experiencias" trasciende los límites de nuestra forma humana finita. Podemos hacer cualquier cosa, ser cualquier cosa, y no estar limitados por nuestras circunstancias físicas. Pero en un sentido más profundo, la "máquina de las experiencias" limita seriamente nuestros poderes humanos. En verdad, los elimina. En realidad no hacemos nada y no somos, en ningún sentido verdadero, humanos.

Pero, ¿qué sucede cuando la tecnología nos ayuda a superar nuestros límites físicos para hacer más en el mundo y entre nosotros?

La idea de que la tecnología expande el alcance de nuestra responsabilidad ética no es algo nuevo. Los líderes militares pueden lanzar misiles que causan devastación en el otro lado del globo. El cyberbullying (el acoso a través de los medios digitales) puede tener consecuencias catastróficas, y prácticamente cualquiera puede hacerlo desde la comodidad de su propio hogar.

Pero ahora parece que estamos entrando a un nuevo mundo todavía más temerario, donde no sólo nos armamos con nuevas e ingeniosas herramientas y artilugios espantosos. Muchas de las mentes geniales de Silicon Valley o Tel Aviv aspiran nada menos que a transformarnos a nosotros mismos para superar nuestros límites humanos.

Está el biohacking, donde alteramos nuestros cuerpos físicos para liberar nuevas capacidades. Estas iniciativas van desde la ingesta de sustancias que prometen mejorar la función cognitiva hasta la implantación de microchips que pueden editar nuestros genes.

Luego está la promesa de vivir potencialmente nuestras vidas en realidad virtual, tal vez múltiples realidades virtuales…

Al vivir en una sociedad que disfruta de un buen café, la mayoría difícilmente pueda oponerse a las sustancias que mejoran la capacidad cognitiva. Pero todos deben saber que estas nuevas tecnologías presentan una maraña de problemas morales. ¿Acaso los padres pueden ser capaces de elegir la composición genética de sus hijos? ¿Las sociedades virtuales merecen los derechos y protecciones de las comunidades del mundo físico?

Estas serán preguntas urgentes antes de que podamos darnos cuenta. Pero no perdamos de vista el bosque ético a causa de los árboles tecnológicos. Quiero dar un paso atrás y sugerir un marco para pensar en lo que estamos haciendo cuando alteramos nuestros cuerpos y mentes: ¿Cuándo nuestra tecnología nos hace menos humanos en lugar de más humanos?

La inteligencia artificial y el poder de micro-procesamiento no sólo prometen ayudarnos a alcanzar nuestras metas de forma más eficiente. A medida que automatizamos más nuestra toma de decisiones y delegamos nuestra toma de decisiones éticas al algoritmo, nos arriesgamos a convertirnos en espectadores en una vida de la cual ya no tenemos control.

A medida que automatizamos más nuestra toma de decisiones y delegamos nuestra toma de decisiones éticas al algoritmo, nos arriesgamos a convertirnos en espectadores en una vida de la cual ya no tenemos control.

Dicho de otra manera, una de las razones para tener en mente la cuestión de "qué nos debemos unos a otros" es, bueno, tratar de responderla. Pero hay otra razón más sutil: una vez que esta pregunta deja de tener sentido, tal vez hemos perdido lo que significa ser humanos. En ese punto, nos convertimos más en agentes Smith que en agentes morales, prisioneros de nuestra tecno-utopía.

Estamos muy obsesionados con cuestiones tales como si es permisible volver a empalmar el código genético de nuestra descendencia para que sean más rápidos, fuertes, inteligentes y que tengan mayor sincronización cómica. Pero si bien estos problemas son serios, no podemos perder de vista el hecho de que estos atributos son sólo un medio para lograr los fines que nos proponemos. Una persona con extremidades biomecánicas mejoradas no es menos persona, incluso si físicamente es infinitamente más poderosa.

La pregunta verdaderamente fundamental que va a la esencia del ser humano es cuáles son realmente las metas que nos fijamos y si debemos seguir fijándonos esas metas. ¿Qué ocurre si la verdad es que una gran responsabilidad conlleva un gran poder? Después de todo, ¿qué fuerza de voluntad tiene un elefante? ¿O un cohete espacial? No importa cuán poderosas sean, estas no son entidades que tengan la dignidad de una persona.

Y una vez que entregamos nuestra responsabilidad al algoritmo… bueno, ¿quién puede estar seguro?

Esto no debe entenderse como tecno-pesimismo. No podemos predecir con precisión lo que depara el futuro, y menos aún las increíbles oportunidades que traerá la tecnología en el mundo físico a medida que exploramos experiencias virtuales. Pero necesitamos proteger nuestra fragilidad humana para definir nuestras metas y aplicar nuestros valores online y offline, en la realidad virtual y en nuestras situaciones domésticas más mundanas.

Foto: Unsplash.com, ThisisEngineering RAEng