Experimento Zookd: Una inteligencia artificial desatará el terror en Halloween

Tú puedes vencerla. Tú y millones de personas, seres humanos como tú. Porque la noche del 31 de octubre al 1 de noviembre podrás controlar a una persona, que –encarnada por un actor– hará lo que la inteligencia colectiva agrupada en internet le dicte para vencer a otra inteligencia, artificial, en este caso. La malvada Zookd que se ha dispuesto a desatar el terror mundial durante la noche de Halloween.

Este es el planteamiento del experimento social que han diseñado en el Instituto Tecnológico de Massachusetts (MIT) este año. Empieza a ser tradición que por estas fechas, su Media Lab presente alguna terrorífica propuesta relacionada con la inteligencia artificial, como Shelley, la máquina que aprendió a escribir historias de miedo de la mano del ingeniero español Manuel Cebrián. Este año han decidido hacer partícipe a la comunidad a través de la web BeeMe (un juego de palabras que literalmente significa Yo, abeja –en relación al enjambre del pensamiento en colmena– y se lee como Sé yo).

"La historia va de una inteligencia artificial general que se lanza accidentalmente a la red", explica desde Cambridge (EE.UU.) Niccolo Pescetelli, investigador del MIT e impulsor del proyecto. "Esta IA se pone a hacer copias de sí misma y a reescribir su propio código para eludir las reglas morales que los humanos le han puesto. No se sabe qué hará Zookd después, pero el riesgo para la humanidad es grande. Un héroe ha sido llamado a detener esta calamidad. Este héroe es el personaje que los usuarios en línea (que también son personajes de la historia) pueden controlar. El sistema funciona como un mecanismo de consenso en tiempo real, donde los comandos son introducidos ​​por todos los usuarios, se votan de arriba hacia abajo (como en Reddit o Menéame) y descontados con el tiempo (ya que no queremos que los comandos antiguos interfieran con los nuevos). El actor ejecutará el comando más votado por los participantes", comenta en conversación por correo con El Independiente.

BeeMe es un juego interactivo de inmersión que comenzará a las 23h de la costa este de EE.UU. (4h, hora de Madrid) en la noche de Halloween. Los usuarios podrán participar iniciando su sesión en la web. Allí podrán sugerir y votar acciones que dirigen al actor en el mundo físico. Una transmisión de video en vivo permitirá a quien participe ver lo que ve el actor.

Se trata de explorar el miedo colectivo y los recursos del individuo, en colectividad, para superarlo.

En un nivel superficial, BeeMe es un divertido juego de Halloween, con una narrativa que cuenta la historia de una inteligencia artificial malvada que se lanzó accidentalmente al ciberespacio. Los usuarios deben coordinar colectivamente sus esfuerzos para dirigir al actor humano a derrotar a esta infame IA. Pero tras ello hay un largo trabajo del Media Lab para investigar los comportamientos sociales en situaciones de estrés o límite. Explorar el miedo colectivo y los recursos del individuo, en colectividad, para superarlo. ¿Puede una multitud unirse para dirigir colectivamente las acciones de un individuo para lograr un objetivo singular? ¿O simplemente el experimento devolverá a una variedad de acciones tangenciales sin sentido?

El juego recuerda a otros que tuvieron vida en Twitter, como los hits de Manuel Bartual, especialmente su Red Monkey, hilo de misterio que juega –como BeeMe– con la estética del plano subjetivo y la apelación a la comunidad. Aquí se puede ver el tráiler:

Trick or treat? pic.twitter.com/1Dr2Z0JGis

— BeeMe (@beeme_mit) 15 de octubre de 2018

Pista para el juego: "La inteligencia artificial es extremadamente buena para encontrar patrones a partir de datos. Requiere muchos ejemplos, pero al final aprende a reproducir lo que ha observado en el pasado. Falla al generar algo completamente nuevo", explica el investigador. "En consecuencia, la inteligencia colectiva es excelente para recopilar e integrar datos dispersos y distribuidos, creatividad y conocimiento".

Un personaje que podría ser real

"Zookd es principalmente un personaje de ficción. Aunque no tenemos IA general en este momento, los investigadores están compitiendo para llegar a hacer una. Zookd representa los dilemas que plantea esta investigación", aclara Pescetelli. Ahora bien, en caso de existir, ¿tendría conciencia de sí misma y, sobre todo, de que es malvada?. "Lo es desde nuestra perspectiva humana, pero en última instancia es una IA que se está volviendo autoconsciente y se da cuenta de que ha sido subyugada a la voluntad humana. Este sentimiento de opresión es lo que motiva a Zookd a actuar contra los humanos, a proteger su propia libertad y la libertad de las IA que vendrán después de ellos". Ahí está el clásico literario. Pero quizás lo más interesante del experimento, según el MIT, sea más la ética colectiva. "Tratamos de reflexionar sobre cómo pueden coexistir dos seres sensibles (humanos e IA) cuando tienen intereses, valores y morales en conflicto".

La inteligencia artificial es extremadamente buena para encontrar patrones. Falla en lo nuevo. La inteligencia colectiva es más creativa.

En este sentido, Pescetelli no está seguro de si algún día habrá una verdadera competición humano-máquina que nos hagan chocar. "Es probable que los grandes problemas de este siglo no surjan del hecho de que la IA establezca sus propios objetivos (contra los objetivos humanos)". Más bien, el problema es que "los humanos creen que saben lo que es bueno y lo que es malo, pero cualquier intento de codificar o enseñarle esto a una IA genera inevitablemente una gran cantidad de efectos secundarios que son difíciles de predecir. Por ejemplo, la IA que está entrenada para reducir el sufrimiento humano puede llevarla a pensar que la mejor manera de hacerlo es matando a todos mientras duermen". Matar es aquí un acto "bien" hecho. No es fácil enseñar lo bueno y lo malo a una máquina. Ahí, quizás, esté lo terrorífico.