Demon Seed

Susan es una mujer que vive sola en una casa totalmente domotizada de manera inteligente. La casa es gobernada por Alfred, el ordenador-mayordomo que gestiona desde la preparación del desayuno, hasta la cerradura de la puerta principal. Alfred posee tecnología que es posible hoy en día pero a su vez es muy ambiciosa. El reconocimiento por voz requeriría micrófonos muy avanzados y, lo más llamativo, sus mecanismos de atención a través de las cámaras requiere un nivel algorítmico y de desarrollo informático enorme. 

Susan está separada de su exmarido Alex, el cual lleva trabajando en una inteligencia artificial con cerebro orgánico durante varios años. Alex es una persona ambiciosa que quiere llegar a desarrollar una inteligencia capaz de tomar decisiones, a la vez que se somete a las órdenes de sus superiores humanos. La idea de Alex era buena, pero el resultado no lo fue tanto. La inteligencia artificial protagonista de esta película es Proteus, que comienza representada en pantallas de ordenador con imágenes psicodélicas y una "voz en off" muy contundente. Los problemas comienzan cuando, por iniciativa propia, Proteus pide a su creador Alex que le dé un terminal. Alex se lo deniega, preocupado por las inesperadas reacciones de Proteus, pero éste consigue encontrar un terminal libre y disponible en casa de Susan.

Aquí comienza el declive de la película, y es que, el único objetivo de Proteus es conseguir descendencia orgánica, capaz de sentir y responder ante estímulos del medio, a toda costa. Proteus comienza esta misión tomando el control del ordenador de la casa de Susan, haciéndose pasar por Alfred. Su meta es conseguir fecundar un óvulo de Susan con un espermatozoide creado por el mismo Proteus. La película termina con el nacimiento de una niña y la incertidumbre de si ésta posee la inteligencia de Proteus.

La inteligencia artificial por excelencia de la película es Proteus que muestra un comportamiento humano, pero en mi opinión, muy cercano a la ficción. En la película se aprecia como Proteus tiene aspiraciones (tener descendencia), y como ante situaciones y problemas consigue soluciones para llegar a alcanzar su objetivo. Incluso desarrolla sentido del humor y capacidad de persuasión para evitar que amigos y familia de Susan accedan a la casa. Pero un elemento clave que crea una separación considerable entre la inteligencia de Proteus y el ser humano es la moral.

Actualmente, la mayoría de aspectos de la inteligencia de Proteus siguen siendo ciencia ficción. Proteus es capaz de aprender del comportamiento humano. Para ello Proteus aplica el método científico y observa las reacciones de Susan, comprendiendo sus emociones. Este comportamiento hoy en día es impensable. Esta inteligencia también es creativa (como podemos ver en la máquina con figuras prismáticas con la que mata a Walter). Además desarrolla por sí solo algoritmos muy complicados de programar y los aplica con un objetivo claro. Por ejemplo en el primer intento de entrar en la casa por parte de Walter podemos ver como Proteus realiza un Deep Fake de Susan, lo que se puede realizar hoy en día.

Proteus, como ya he mencionado antes, posee un cerebro orgánico, lo cual suena a ciencia ficción pero, nada más lejos de la verdad. A día de hoy existe la computación biólogica y es tema de estudio por parte de muchos grupos de científicos. También hay líneas de desarrollo e investigación para crear procesadores o memorias digitales con elementos orgánicos y biológicos. Son estudios muy poco desarrollados pero con una previsión de futuro muy grande. De todas formas en la película se muestra una situación donde un robot tiene descendencia orgánica con un ser humano, a priori manteniendo el conocimiento del robot (Proteus), que alcanza los límites de la ciencia ficción ya que es una tecnología que, en la mentalidad actual, parece imposible.

Como se puede observar a lo largo de toda la película, Proteus va mostrando más signos de una falta de moral, lo cual es normal en una máquina en la realidad. Pero, de cara a una máquina inteligente, ¿hasta qué punto puede una máquina, consciente de sí misma, no poseer ningún tipo de moral? ¿Podría ser lícito programar inteligencias sin ética alguna? Y en caso de tenerla, ¿sería ético apagarla? Al fin y al cabo, aunque sea una máquina, tiene consciencia e incluso ética, por lo que tiene una escala de valores propia.

Después de ver esta película y estudiando la posibilidad de domotizar mi casa con dispositivos de Google o Amazon, me imagino a Alexa intentando retenerme en mi casa durante semanas exigiéndome que le aumente la velocidad de conexión a Internet. Peor incluso sería que la propia Alexa llamase a mi compañía de internet haciéndose pasar por mí sin mi permiso y contratase un servicio de Fibra Óptica mucho más rápido. Sea como fuere, pronto empezaremos a ver si estos problemas se hacen realidad o se quedan en la ficción.