METNITE

Portada móvil

Este texto corresponde al primer premio del IX concurso científico-literario dirigido a estudiantes de 3º y 4º de ESO y de Bachillerato, basado en basado en la novela de Kazuo Ishiguro, Klara y el Sol, organizado por la Escuela de Máster y Doctorado de la Universidad de La Rioja.
Texto de Javier Morales Palomoalumno de 1º Bachillerato del Colegio Escuelas Francesas de Sevilla.

TEXTO POR JAVIER MORALES PALOMO
ILUSTRADO POR MANU GIL
ARTÍCULOS
INTELIGENCIA ARTIFICIAL | ROBOTS | TECNOLOGÍA
10 de Noviembre de 2022

Tiempo medio de lectura (minutos)

Cuando interrumpió la comunicación supo que aquel sería el día más difícil de su existencia.

La aplicación «Ciberintuición», de razonamiento inconsciente, con la que le habían actualizado recientemente le permitía intuir los problemas que tendría que afrontar.

—Termina el desayuno —dijo Bott. Era la tercera vez que insistía.
—Tráemelo a la partida —respondió Nicolás—. Estoy terminando.
—Pasas mucho tiempo en el metaverso. Deberías vivir en la realidad de vez en cuando.
—¿Qué realidad, Bott? Esta es mi mejor realidad.
—Tendré que notificárselo a tus padres en la comunicación de la semana que viene…
—¿Qué comunicación, Bott? Como mucho hablarás con el humanoide de mi madre. ¡Como siempre!
—Tus padres están muy ocupados, Nicolás. Pero te quieren mucho. Si envían a su humanoide para hablar conmigo, es porque no pueden hacer otra cosa. Ya sabes que su trabajo es muy importante.
—Sí, para ellos. Me concibieron artificialmente, me cuidó Andrea, el humanoide que estaba antes que tú y hasta el año que viene te ocuparás tú de mí.

Bott no comprendía algunas de las reacciones emocionales de Nicolás ni de otros humanos, aunque tampoco había tenido mucho contacto con ellos. Nicolás había sido su objeto de trabajo durante los últimos diez años, poco después de su construcción, y seguiría siéndolo durante, al menos, el siguiente.

Bott era un robot de cuidado personal ya obsoleto. Había tenido varios cambios de sistema operativo y su software inicial había recibido tantas actualizaciones —especialmente en lo que a seguridad se refiere: nadie quería ver un humanoide con comportamientos extraños con sus tutelados— que, en ocasiones, su procesador no parecía funcionar correctamente. La arquitectura de su hardware no iba a poder soportar muchos más cambios en el software. Podía decirse que Bott era un robot viejo. Aunque aún pudiera dar mucho servicio.

Hacía mucho tiempo que la arquitectura informática inspirada en la plasticidad de las neuronas —esa capacidad de adaptación flexible a las situaciones cambiantes, de aprendizaje de las propias experiencias— se había materializado en nuevas máquinas. Ya no se trababa de ordenadores conectados al cerebro de algún mamífero o de intentar reproducir el funcionamiento neuronal con una cantidad ingente de ordenadores. Atrás habían quedado los trabajos pioneros de Wiesel y su equipo o el proyecto internacional Blue Brain, entre otros, que habían abierto nuevos horizontes e iniciado el camino hacia los actuales humanoides. Sin embargo, a pesar de esas semejanzas entre humanoides y humanos, existían diferencias abismales en su comportamiento. Tal vez la necesidad de ser social, pensar en conjunto, empatizar con los demás y sus situaciones tenía que ver con esto. Los robots vivían en un mundo digital paralelo al humano.

Sin duda, la posibilidad de aprender de las propias vivencias, de establecer la experiencia en el centro del aprendizaje, había reducido estas diferencias. Aunque aún quedaba algo. ¿Qué?

Las actualizaciones de software a que era sometido regularmente ampliaban su espectro de comprensión del procesamiento y reacciones humanas, aunque aún había aspectos que le costaba entender. Nicolás tenía todo lo que necesitaba: alimento, cobijo, cuidados, diversión… Es verdad que pasaba la mayor parte del tiempo en «Metnite», su conexión personal al metaverso. Pero para eso estaba él, para ocuparse del joven.

Tampoco había gran diferencia entre sus padres biológicos y él, que, con su trabajo perfecto de cuidado y asistencia, mantenía a Nicolás en buen estado y correcto desarrollo. Al fin y al cabo, estaba programado para eso, mientras que sus padres trabajaban mucho y era natural que dedicaran el poco tiempo que les quedaba a descansar. Eran humanos.

Los humanos, por lo menos algunos, actuaban prácticamente igual que los humanoides que se ocupaban de su cuidado: recogían y analizaban grandes volúmenes de información, tenían capacidad de aprender y de adaptar su respuesta al medio, pero, aun así, en ocasiones, presentaban reacciones fuera de toda lógica, como si el procesado de tanta información estuviera afectado por algún malware. Él tenía instalado un software de inteligencia artificial básico, pero suficiente para su cometido. Y aun así no era capaz de entender algunas respuestas humanas. Algunas veces las máquinas tenían comportamientos más inteligentes que las personas. ¡Quizá fuera esta una de las diferencias entre ellos!

Muchas respuestas y acciones humanas eran sorprendentemente erróneas, especialmente esa capacidad tan humana de ir en contra de sus propios intereses y no actuar para solucionarlo. Por ejemplo, las relativas a comportamientos que potenciaban la crisis climática; ¡incomprensible! O Nicolás perdiendo una y otra vez al tres en raya; pero ¡cómo no se daba cuenta del algoritmo! Por no citar el desacertado planteamiento del grupo de Nicolás en el colegio cuando el profesor de matemáticas propuso analizar la teoría de juegos con el dilema del prisionero; ¡absurdo! Pero muy humano.

En una ocasión, Bott tuvo acceso a un archivo con un texto en el que se cuestionaban todos los principios sobre los que había sido programado. Trataba sobre la deshumanización del ser humano. ¿Deshumanización del ser humano? ¿Cómo podía plantease esto? ¿Es que acaso también los humanos podían tener dañadas sus memorias RAM o su CPU?

En el documento, Kafka, seguramente un humano por cómo se explicaba, expresaba su «angustia al ver cómo los valores adoptados por generaciones anteriores iban quedando sin vigencia». ¿A qué se referiría con angustia? ¿Y por qué la pérdida de esos valores podía preocuparle? ¡Al fin y al cabo a él le actualizaban periódicamente! En el mismo archivo, otro supuesto humano, Bauman, afirmaba sin dudarlo que «el individualismo marca las relaciones y las transforma en precarias, transitorias y volátiles».

El individualismo, el alejamiento entre personas, la ficción de relaciones personales que se establecían entre individuos que vivían más tiempo en el metaverso que en su propia realidad física, habían creado una cultura egoísta y narcisista donde se había perdido todo rastro de empatía

En el software de los humanoides de cuidado personal se extremaba la seguridad frente a todo tipo de ciberataque para evitar que un hackeo pudiera comprometer la actuación del robot. Entonces, ¿por qué los mismos que diseñaban esas aplicaciones actuaban en contra de sus mismos principios? Robar, matar, dañar… Bott no acababa de entender algunas diferencias entre el comportamiento que se les imponía a los humanoides y al que algunos humanos mostraban.

Sus sensores de sonido captaron una melodía que procedía del exterior. Los cambios de capacitancia que las ondas sónicas produjeron en sus circuitos digitales encontraron instantáneamente el archivo en su base de datos musical. Los padres de Nicolás le habían ampliado el espectro para que incluyera todas las melodías de las que se tenía registro o noticia desde el inicio de la humanidad y le habían dado instrucciones de que instruyera a su hijo en música y que todos los días escuchara alguna melodía, saltándose si fuera preciso los sistemas de recomendación, para que incluyera clásica. La que sonaba ahora era una de sus favoritas, la Suite Nº 3 en re mayor de J. S. Bach. Había múltiples aplicaciones para componer piezas musicales, pero nunca hasta ese momento habían causado tanta emoción en los humanos como algunas otras compuestas también por humanos.

—Nicolás, es la hora del deporte.
—Venga ya, Bott, no me toques las narices. Espera un poco.
—Nicolás, el ejercicio físico es necesario para los humanos. Francamente, ¡en eso los humanoides tenemos una cierta ventaja!
—¿Qué toca hoy, Bott?
—Pádel. El humanoide que viene hoy es uno de los mejores de la ciudad.
—Sí, hasta que juguemos un día que llueva. Verás entonces.
—Nicolás… Creo que está actualizado con la última versión del Sistema de Posicionamiento Galileo 500. Su precisión con la pala es espectacular. Es un sistema específico para deporte desarrollado por la Agencia Espacial Europea y puesto en servicio el año.
—Me gusta más jugar con Fran. Falla más, pero es más divertido. Además, esto de donde pongo el láser pongo la pelota… No sé, es muy aburrido. Siempre gana.
—Podemos formatearle para que falle un poco. Todo depende de lo que priorices: el ejercicio o la diversión.
—A veces me parece que tienes sentido del humor y todo. Por cierto, ¿los humanoides nunca hacéis nada que no debáis?
—A los humanoides nos programan para hacer lo que debemos hacer. Nuestro software no nos permite actuar de otro modo.
—¡Anda, igual que mis padres, que parece que están programados para trabajar! Recuerdo que mi padre me contó una vez que siendo niño vio una película antigua sobre una guerra en la galaxia, en la que un robot de lenguaje leyó un mensaje codificado en un idioma con alguno de sus múltiples traductores, pero, aunque quería desvelar el contenido del mensaje a sus amigos rebeldes, su software no se lo permitía. Así que tuvieron que formatearlo para que fuera capaz de comunicar el mensaje.
—Sí, recuerdo esa película. Muy interesante el planteamiento de los robots que salen. Esta noche podemos verla.
—Perfecto. Pero habrá que verla en dos dimensiones, ¿no? No tienes la versión envolvente.
—No, Nicolás. Tiene que ser en el plano.
—Vale. Pues encarga unas palomitas para mí y un poquito de aceite para ti —dijo Nicolás con guasa.

Tras recoger su pala se dirigió a Bott con mofa.

—¿Y no podrías instalarme un ojo láser? Así estaríamos igualados el robot y yo.
—Láser no, pero uno más preciso, sí. Hoy los implantes inteligentes permiten cosas asombrosas.
—Un amigo de mi madre tiene implantado un dispositivo que parece un tatuaje y cuando da la mano a alguien puede trasmitirle información. ¿Te imaginas? Le das la mano a alguien y sabe quién eres, dónde vives, en qué trabajas. ¡Imagínate lo que sacarán con ese sistema todo tipo de entidades comerciales!
—Míralo por el lado bueno. Las posibilidades de comunicación son también mejores.
—¿Y no crees que eso nos hace más robots?
—Siempre habrá una gran diferencia entre vosotros y nosotros. Además, no te olvides de que muchos humanos son reacios a implantarse dispositivos inteligentes.
—Ojos digitales, implantes de estimulación nerviosa, interfaces cerebro—computadora, chips en el esqueleto… Cada vez nos parecemos más a los humanoides.
—No olvides que todo eso empezó como aplicaciones para medicina y ahora se han diversificado muchísimo como apoyo a la comunicación entre personas. A nosotros nos crearon ya con esa tecnología. Con lo único que hay que tener cuidado es con la seguridad de los dispositivos. Si te hackean un implante sensible pueden hacerte mucho daño. En cierto modo yo soy un gran implante. No puedo estar en contra de su uso. La IA es como cualquier invención o desarrollo humano, según el uso que le des resultará positivo o negativo.

Cuando volvieron de la hora de deporte y entraron en el apartamento, sus padres estaban dentro; sonrientes, complacientes, complacidos. Nicolás se sobresaltó.

—Hola, Nicolás. Tenemos buenas noticias para ti. El curso que viene irás a la Universidad de Pekín; una de las mejores del mundo.
—¿A Pekín? ¿Por qué? Yo estoy bien aquí, con Bott.
—No te preocupes, te daremos una línea directa con nuestro humanoide. Podrás hablar con él cuando quieras.
—Y… ¿podré llevarme a Bott?
—No. Allí tendrás la última maravilla en humanoides. Un humanoide coreano de última generación.
—¿Y qué pasará con Bott?
—A este seguramente le reprogramarán, aunque ya es un poco antiguo. No sé si soportará más actualizaciones. Quizás lo vuelvan a valores de fábrica y lo reconvertirán en cualquier cosa.

Cuando escuchó aquello, Bott registró una leve subida de tensión en sus circuitos. Nuevos procesamientos se producían en su CPU; nunca antes los había apreciado. «Quizá sea fruto de las actualizaciones», pensó. Quizá Kafka y Bauman tuvieran razón.

Súbitamente, Bott fue consciente de que expresaba nuevas formas de procesar su información. Hasta ahora había tenido capacidad de analizar las situaciones que se producían en su entorno, de escrutar y examinar los estímulos de su ambiente que captaba digitalmente, pero nunca había procesado la información de una manera tan alejada de la lógica como en aquel momento. Nunca en aspectos que le concernían a él y a su futuro. Llevaba diez años cuidando de Nicolás, pero siempre lo hacía desde la razón de que ese era el objetivo para el que había sido programado; nunca había siquiera esbozado la necesidad de seguir junto a su joven tutelado.

Repentinamente comprendió que estaba llegando al fin de su vida útil. Y por segunda vez en su existencia la lógica que su software le imponía no coincidió con el surtidor de nuevas expectativas que manaban de su CPU.

Recordó los fallos del sistema que, hace años, tuvo el humanoide de Alexandra, prima de Nicolás, cuando en una de las pocas reuniones familiares en las que coincidieron empezó a tener lapsus de memoria y a no reconocer a los miembros de la familia, manifestando actitudes casi agresivas hacia ellos. Al día siguiente, el humanoide fue entregado en un centro de recogida de basura informática. Pensó en él mismo. Hasta ahora no había tenido errores de ese tipo, pero…Y brusca, violentamente, fue consciente de su propia obsolescencia.

La autoconciencia que había adquirido Bott, le daba más cualidad de ser humano.

—Quizá, lo más adecuado sea hablar con Nicolás y hacerle ver que lo mejor es que vaya a esa universidad y acepte el nuevo androide —procesó Bott—. Yo ya estoy viejo. —Su deber programado prevalecía sobre sus nuevas reflexiones.

Cuando sus padres se hubieron ido, Nicolás sintió una gran tristeza. No estaba de acuerdo con el trato que iban a darle a Bott.

Bott tampoco aprobaba aquel proceder. Había cuidado durante diez años a Nicolás. Había suplido la falta de dedicación que sus padres habían tenido con él, prácticamente desde su nacimiento. Había reemplazado el abandono y el descuido que había sentido por parte de sus padres en aras del progreso de sus carreras. ¿Quién era más humano? ¿Se estaba produciendo una humanización de los robots y simultáneamente una deshumanización de los humanos? El individualismo, el alejamiento entre personas, la ficción de relaciones personales que se establecían entre individuos que vivían más tiempo en el metaverso que en su propia realidad física, habían creado una cultura egoísta y narcisista donde se había perdido todo rastro de empatía. Y, sin embargo, él, un pedacito de silicio, poliuretano y cobre estaba sintiendo apego por el propósito de su trabajo. ¿Serían deepfakes aquellos pensamientos?

¿Serían producto de algún malware de IA que le hubiera infectado? Lo que estaba viviendo, ¿sería el producto de una visión creada por RGAs?

—Vendrás conmigo, compañero —dijo Nicolás mirando a Bott. Esa tarde no sintió la necesidad de volver a su metaverso.

 

https://shop.principia.io/catalogo/intrepidas-1-4/
«Intrépidas», la serie de tebeos sobre pioneras de la ciencia

 

Deja tu comentario!