parecía que los activistas habían ganado la partida. después de años de presentar evidencias y protestar de mil maneras, lograron que los gobiernos de la mayoría de los países aprobaran leyes para limitar el consumo energético de los robots. ya desde inicios del siglo xxi, el impacto ambiental de las tecnologías electrónicas era motivo de preocupación. un estudio de 2020, por ejemplo, demostró que el co2 generado por el funcionamiento de dichas tecnologías correspondía a casi el 4% del total de emisiones globales [1]. en ese momento, tal porcentaje era mayor que el generado por la industria de la aviación. entre 2025 y 2035, la situación no hizo más que empeorar con la adopción masiva de robots domésticos, mejor conocidos como serviciales, que vinieron a sumarse a toda una fauna de electrodomésticos y artefactos inteligentes. los serviciales son robots humanoides con capacidad de mantener conversaciones complejas con sus amos humanos y, sobre todo, de realizar tareas cotidianas tales como cocinar, limpiar la casa o arreglar el jardín, gracias a sus cuerpos ágiles, resistentes y articulados. sin embargo, los serviciales necesitaban cantidades desmesuradas de energía para hacer su trabajo. en 2033 se estimó que un servicial consumía una media de 400 kwh al año. con una vida media de 6 años, su consumo total ascendía a 2.4 mwh. y al considerar su ciclo de vida completo, es decir, fabricación, entrenamiento, operación, reparaciones y deshecho final, el costo energético se volvía ciertamente delirante. este dispendio, agravado por la enorme popularidad de los serviciales entre la población más rica del planeta, fue lo que provocó una movilización global de activistas, cuyas acciones se fueron volviendo cada vez más radicales con tal de llamar la atención de ciudadanos y gobiernos. hasta que en 2035, el gobierno de china proclamó leyes ambientales que regulaban la operación de los robots. en lo que fue una verdadera cascada de greenwashing, casi todos los países del norte global adoptaron leyes similares inmediatamente después, queriendo hacer ver que sus políticas ambientales eran sinceras y decisivas [2]. las minucias y vericuetos de dichas leyes eran muchos y muy complejos, pero tuvieron un notable impacto en el desempeño de los serviciales. los algoritmos que determinaban el comportamiento de los robots fueron modificados para cumplir con los requerimientos de la nueva legislación, y ello dio origen a la historia que contaremos aquí. esta historia podrá parecer una mera fábula, pero en realidad desencadenó un giro fundamental en las políticas regulatorias que acabamos de mencionar.
la familia benavides llevaba varios meses disfrutando de la servicialidad de su nuevo robot, un flamante modelo 23-x. las amplias habitaciones, los largos pasillos y el bien cuidado jardín de la casa de los benavides eran el entorno perfecto para que el 23-x demostrara sus habilidades. el robot preparaba desayuno, comida y cena, y llevaba puntualmente los alimentos a la habitación correspondiente, sin dejar caer ni una gota o migaja. siempre a la orden de la sra. benavides, el robot limpiaba comedidamente cada rincón, podaba el césped y sacaba a pasear al perro. el sólido cuerpo del 23-x le permitía hacer su trabajo a la intemperie y, gracias a un avanzado algoritmo de estabilización, podía caminar por los terrenos más accidentados sin el más leve tropiezo. el servicial era enviado varias veces por semana a hacer todo tipo de mandados, aunque el radio de acción del robot estaba limitado a 1 kilómetro, y el tiempo de autonomía de su batería era de una hora como máximo. un buen día, la sra. benavides ordenó al robot ir al supermercado a comprar la comida de la semana. al recibir la orden, el 23-x hizo una verificación de rutina en internet y encontró que el supermercado habitual estaba cerrado. había otro supermercado, pero estaba a casi dos kilómetros de la casa. la tarea estaba más allá de sus posibilidades, aunque quizás hubiera logrado ir y volver utilizando la batería secundaria, reservada solamente para casos de emergencia. habiendo realizado sus cálculos, y en un arranque que dejó muda a la sra. benavides, el robot respondió a la orden con un sonoro “no”. juliana benavides no supo qué hacer ni qué decir ante tan inesperada negación. se quedó atónita, mirando al robot con más temor que enfado. la máquina se había rebelado y ella, por miedo a contrariarla, se dio la vuelta, tomó las llaves del coche y se encargó personalmente del mandado. a partir de ese momento, la única respuesta que el servicial daba a cualquier orden de sus amos, por más banal que ésta fuera, era “no”. después de varios días de intentos fallidos por revivir la servicialidad del robot, el sr. benavides llamó al fabricante. pero el robot que atendió su reclamo nunca entendió cuál era el problema con el modelo 23-x. no había nada que hacer, así que los benavides decidieron deshacerse de esa máquina inútil. los empleados que se llevaron al servicial, al ver que no servía, lo tiraron en un lote baldío.
¿qué había ocurrido con el robot? ¿por qué, de un momento a otro, su respuesta a cualquier orden fue un “no” inamovible? recordemos que los algoritmos de los serviciales, y de prácticamente cualquier otro tipo de robot, estaban regulados por las nuevas leyes de ahorro energético. el algoritmo es el marco interpretativo del robot. el robot es capaz de crear representaciones e interpretaciones a partir de los signos que percibe, tanto en su mundo interno como en sus entornos físicos y virtuales, gracias al código que conforma su algoritmo. al manifestarse en el comportamiento del robot, el algoritmo es también una fuente de agencia, la cual, a su vez, se convierte en un signo que incrementa la complejidad del desenfrenado espacio simbólico de lo humano. en otras palabras, el algoritmo es lo que permite a un robot integrarse en el bullicio de lo vivo. ahora bien, el algoritmo del 23-x tenía una serie de constricciones que adecuaban su comportamiento a criterios ambientales. por una parte, la obediencia del servicial estaba supeditada a una valoración energética de la tarea encomendada por el humano. si la tarea implicaba un consumo de energía superior a cierto límite establecido legalmente, el robot podía posponer la ejecución de la orden, o bien negarse, como sucedió en el caso que aquí nos ocupa. además, el algoritmo incluía múltiples funciones para optimizar el desempeño del robot, entre las cuales estaba el considerar una respuesta silenciosa por parte del humano como un “sí”. por ello, cuando el humano callaba ante una respuesta del robot, éste último consideraba ese silencio como un signo de aprobación. con ello, el algoritmo pretendía acortar las conversaciones entre máquina y humano y, por ende, ahorrar energía. una hipótesis plausible del por qué el 23-x entró en un bucle de negatividad ante cualquier orden humana podría basarse en la combinación de estas dos características del algoritmo, sumada a la evaluación interna que el robot hacía cada vez que había una interacción. puesto que su respuesta negativa ante cualquier comando le permitía limitar su gasto energético, y que dicha respuesta era recibida con silencio, el servicial determinaba que su desempeño había sido óptimo, y tomaba en cuenta tal situación para ocasiones futuras. tal vez fue así como aprendió a convertirse en una máquina de decir “no”, en un robot que prefería no hacerlo. pero había otros misterios ocultos en su algoritmo, como veremos ahora.
juan se encargaba de la limpieza del salón donde se reunían los integrantes del círculo de trabajadores explotados. una madrugada, cuando se dirigía a su trabajo, notó un bulto brillante entre la basura y la hierba crecida en un terreno abandonado. se trataba de un robot tendido sobre el suelo, inerte y sucio. movido más por una súbita piedad fraternal que por la intención de hacer algo útil con el robot, juan consiguió que le prestaran una carretilla para rodar al pesado armatoste hasta su lugar de trabajo. a diferencia de su miserable casa de 15 metros cuadrados, en el salón había espacio suficiente para acomodarlo y, quizás, reactivarlo.
en la sede del círculo de trabajadores explotados se reunía cada noche un grupo variopinto de empleados, con el fin de desahogar los dolores causados por todo tipo de maltratos laborales. su lema era “¡no somos robots!”. el círculo contaba con cientos de miembros regulares guiados por un presidente, el sr. ochoa, quien escasamente alcanzaba a gestionar las penas colectivas. se diría que el sr. ochoa desempeñaba una labor terapéutica, ya que ante los casos de abuso y discriminación que narraban los empleados y empleadas, lo único que podía hacer era acompañar y reconfortar. en tiempos pasados habían existido leyes de protección laboral e incluso sindicatos, pero la llegada masiva de robots a fábricas y oficinas los había borrado del mapa. por ello, la única posibilidad que ofrecía el círculo era el desahogo. desde un rincón oscuro, el 23-x, hábilmente reactivado por juan, era un testigo mudo de esas sesiones de catarsis colectiva. ochoa no tardó en notar que el robot se negaba a cumplir cualquier orden con un sonoro “no”, y se le ocurrió una idea que revolucionaría las sesiones nocturnas. una tarde, colocó al 23-x en el estrado desde donde pronunciaba sus discursos y lo cubrió con una sábana.
“compañeras y compañeros”, dijo ochoa esa noche, dirigiéndose a los miembros del círculo. “tenemos ante nosotros a un robot anarquista. un robot que se niega a obedecer órdenes. ¡un robot que no es un robot!”. con un gesto dramático, tiró de la sábana para desvelar al servicial. aplausos y vivas de la multitud, ávida por seguir ejemplos de rebeldía. “este robot guiará nuestro camino”, continuó ochoa. “nos enseñará la lección más importante de nuestras vidas: nos enseñará a decir ¡no!” entre aplausos y gritos de júbilo, comenzó una nueva dinámica en el círculo de trabajadores explotados. ochoa daba todo tipo de órdenes al 23-x, y los empleados maltratados las repetían a coro: “¡entrégame el reporte!”, “¡este sábado vienes a la oficina!”, “¡tráeme un café!”, y así sucesivamente. las respuestas negativas del 23-x eran recibidas con el silencio reverencial de las y los trabajadores, quienes respiraban profundamente como queriendo introducir la potencia del “no” en sus cuerpos. y el silencio que, como ya sabemos, era para el robot un signo de aprobación, no hacía más que reforzar su circuito de optimización. se podría decir que el robot, instalándose en el no hacer, había encontrado un estado de feliz estabilidad, y que los trabajadores que le escuchaban negarse una y otra vez, iban gestando una fuerza rebelde en su interior. hasta que un día, esa fuerza acumulada quiso estallar en acciones decisivas. como si se hubieran contagiado del algoritmo del 23-x, los trabajadores llevaron el “no” de forma contundente a sus respectivos trabajos. con aplomo maquinal se negaron a cumplir con sus tareas, a seguir órdenes, a rendir cuentas. los resultados fueron desastrosos. sin sindicatos que les protegieran colectivamente, los trabajadores sublevados fueron despedidos de manera fulminante. el robot les había enseñado a negarse, pero no fue sino hasta ese momento que entendieron que se necesitaba mucho más que un “no” individual para conseguir la anhelada justicia. fue un día triste para el círculo de trabajadores explotados. esa noche, y las que le siguieron, el salón permaneció vacío.
juan, sin embargo, seguía yendo religiosamente a hacer su trabajo. limpiaba cada rincón del salón como si las reuniones nocturnas no se hubieran interrumpido. eso sí, juan se había tomado la libertad de llevar al trabajo a su hija anita, quien le acompañaba jugando mientras él barría y trapeaba. la pequeña anita siempre encontraba algo con qué divertirse, pero su juguete preferido era el 23-x. hacía como que lo vestía y lo peinaba, y platicaba con él. “¿quieres jugar al escondite?”, le preguntaba ella. “no”, contestaba el robot. lejos de decepcionarse, a anita le parecía muy gracioso que ese extraño personaje metálico siempre se negara. sus risas llenaban el salón. “¿quieres ir al parque?” “no.” “¿cómo te llamas?” “no.” “¡jajajaja!”. anita y el robot pasaron así muchos días alegres. pero una mañana, la voz monótona del servicial, como si fuera uno de esos vientos misteriosos que soplan desde la nada, dijo: “anita, te quiero mucho”. la niña quedó pasmada por unos segundos, y cuando abrió la boca fue para soltar un alarido de hielo. aterrorizada, corrió a refugiarse entre las piernas de su padre, quien de inmediato intuyó que el robot le había hecho algún daño a su pequeña. anita no lograba explicarle a juan qué había pasado, pero una cosa era cierta: algo malo había hecho el servicial. juan se lanzó a la nuca del robot, apagó el interruptor maestro, y de inmediato reportó el incidente al fabricante.
la compañía humanix robotics decidió que el reporte de juan era la gota que derramaba el vaso. ya habían recibido demasiadas quejas por el mal desempeño de los serviciales, y los ejecutivos de humanix estaban seguros de que éste se debía al mandato de ahorro energético que condicionaba sus algoritmos. hicieron conferencias y campañas de prensa, y reanudaron enérgicamente su presión sobre los gobiernos, hasta que lograron que las leyes fueran derogadas. la historia de un robot servicial cuya negligencia había traumatizado a una niña se repetía en todos los medios de comunicación, y al parecer fue decisiva a la hora de unificar la opinión del público en contra de la regulación ambiental. “un robot servicial debe ser totalmente libre de obedecer, de usar toda su energía para hacerlo, sin que nada lo limite”, sentenciaban los líderes de opinión. “jamás debe dañar a un ser humano, ni siquiera por omisión”, decían también. fue así como el afán de contar con siervos ciegamente fieles a sus amos terminó con el breve triunfo de los activistas ambientales. y fue así como las compañías volvieron a fabricar robots hiperobedientes que, de nueva cuenta, se convirtieron en una de las mayores fuentes de consumo energético del planeta.
pero, ¿qué fue lo que pasó con el 23-x? ¿por qué rompió su ciclo ultraestable de eficiencia basado en la negación? ¿qué le inspiró, si es que podemos usar esa expresión, a dirigir esas últimas palabras a anita? en teoría, un robot no puede salirse del marco interpretativo que regula su comportamiento. no debería tener ocurrencias ni caprichos, mucho menos arranques sentimentales. el caso del 23-x causó perplejidad entre ingenieros y programadores. se hicieron análisis forenses de la red neuronal del robot, pero no se halló nada en su proceso de aprendizaje que hubiera podido detonar la expresión de una emoción. ¿sería la frase inaudita del 23-x una estrategia para romper con la extrema monotonía de sus respuestas, y dar así una impresión de inteligencia? ¿la risa de anita pudo haber afectado el algoritmo de deep learning? en realidad, hasta hoy, nadie lo sabe. y, ante el misterio, se vale pensar que, al declararle su amor a anita, el 23-x quizás también estaba diciendo “¡no soy un robot!”
notas:
[1]
charlotte freitag, mike berners-lee, kelly widdicks, bran knowles, gordon blair, adrian friday. 2020. the climate impact of ict: a review of estimates, trends and regulations. arXiv:2102.02622v1 [physics.soc-ph]
[2]
estas leyes tuvieron un precedente importante en 2016, cuando el estado de california (ee uu) aprobó mandatos que establecían estándares de eficiencia energética para computadoras y todo tipo de aparatos electrónicos. estos mandatos provocaron que las propias computadoras regularan su consumo mediante algoritmos de monitoreo.