{"id":597,"date":"2023-05-29T17:25:35","date_gmt":"2023-05-29T17:25:35","guid":{"rendered":"http:\/\/www.motorhueso.net\/wuwei\/?p=597"},"modified":"2024-06-26T00:23:46","modified_gmt":"2024-06-26T00:23:46","slug":"el-robot-que-dijo-no","status":"publish","type":"post","link":"https:\/\/www.motorhueso.net\/wuwei\/el-robot-que-dijo-no\/","title":{"rendered":"el robot que dijo “no”"},"content":{"rendered":"\n

parec\u00eda que los activistas hab\u00edan ganado la partida. despu\u00e9s de a\u00f1os de presentar evidencias y protestar de mil maneras, lograron que los gobiernos de la mayor\u00eda de los pa\u00edses aprobaran leyes para limitar el consumo energ\u00e9tico de los robots. ya desde inicios del siglo xxi, el impacto ambiental de las tecnolog\u00edas electr\u00f3nicas era motivo de preocupaci\u00f3n. un estudio de 2020, por ejemplo, demostr\u00f3 que el co2 generado por el funcionamiento de dichas tecnolog\u00edas correspond\u00eda a casi el 4% del total de emisiones globales [1]. en ese momento, tal porcentaje era mayor que el generado por la industria de la aviaci\u00f3n. entre 2025 y 2035, la situaci\u00f3n no hizo m\u00e1s que empeorar con la adopci\u00f3n masiva de robots dom\u00e9sticos, mejor conocidos como serviciales<\/em>, que vinieron a sumarse a toda una fauna de electrodom\u00e9sticos y artefactos inteligentes. los serviciales son robots humanoides con capacidad de mantener conversaciones complejas con sus amos humanos y, sobre todo, de realizar tareas cotidianas tales como cocinar, limpiar la casa o arreglar el jard\u00edn, gracias a sus cuerpos \u00e1giles, resistentes y articulados. sin embargo, los serviciales necesitaban cantidades desmesuradas de energ\u00eda para hacer su trabajo. en 2033 se estim\u00f3 que un servicial consum\u00eda una media de 400 kwh al a\u00f1o. con una vida media de 6 a\u00f1os, su consumo total ascend\u00eda a 2.4 mwh. y al considerar su ciclo de vida completo, es decir, fabricaci\u00f3n, entrenamiento, operaci\u00f3n, reparaciones y deshecho final, el costo energ\u00e9tico se volv\u00eda ciertamente delirante. este dispendio, agravado por la enorme popularidad de los serviciales entre la poblaci\u00f3n m\u00e1s rica del planeta, fue lo que provoc\u00f3 una movilizaci\u00f3n global de activistas, cuyas acciones se fueron volviendo cada vez m\u00e1s radicales con tal de llamar la atenci\u00f3n de ciudadanos y gobiernos. hasta que en 2035, el gobierno de china proclam\u00f3 leyes ambientales que regulaban la operaci\u00f3n de los robots. en lo que fue una verdadera cascada de greenwashing<\/em>, casi todos los pa\u00edses del norte global adoptaron leyes similares inmediatamente despu\u00e9s, queriendo hacer ver que sus pol\u00edticas ambientales eran sinceras y decisivas [2]. las minucias y vericuetos de dichas leyes eran muchos y muy complejos, pero tuvieron un notable impacto en el desempe\u00f1o de los serviciales. los algoritmos que determinaban el comportamiento de los robots fueron modificados para cumplir con los requerimientos de la nueva legislaci\u00f3n, y ello dio origen a la historia que contaremos aqu\u00ed. esta historia podr\u00e1 parecer una mera f\u00e1bula, pero en realidad desencaden\u00f3 un giro fundamental en las pol\u00edticas regulatorias que acabamos de mencionar.<\/p>\n\n\n\n

la familia benavides llevaba varios meses disfrutando de la servicialidad de su nuevo robot, un flamante modelo 23-x. las amplias habitaciones, los largos pasillos y el bien cuidado jard\u00edn de la casa de los benavides eran el entorno perfecto para que el 23-x demostrara sus habilidades. el robot preparaba desayuno, comida y cena, y llevaba puntualmente los alimentos a la habitaci\u00f3n correspondiente, sin dejar caer ni una gota o migaja. siempre a la orden de la sra. benavides, el robot limpiaba comedidamente cada rinc\u00f3n, podaba el c\u00e9sped y sacaba a pasear al perro. el s\u00f3lido cuerpo del 23-x le permit\u00eda hacer su trabajo a la intemperie y, gracias a un avanzado algoritmo de estabilizaci\u00f3n, pod\u00eda caminar por los terrenos m\u00e1s accidentados sin el m\u00e1s leve tropiezo. el servicial era enviado varias veces por semana a hacer todo tipo de mandados, aunque el radio de acci\u00f3n del robot estaba limitado a 1 kil\u00f3metro, y el tiempo de autonom\u00eda de su bater\u00eda era de una hora como m\u00e1ximo. un buen d\u00eda, la sra. benavides orden\u00f3 al robot ir al supermercado a comprar la comida de la semana. al recibir la orden, el 23-x hizo una verificaci\u00f3n de rutina en internet y encontr\u00f3 que el supermercado habitual estaba cerrado. hab\u00eda otro supermercado, pero estaba a casi dos kil\u00f3metros de la casa. la tarea estaba m\u00e1s all\u00e1 de sus posibilidades, aunque quiz\u00e1s hubiera logrado ir y volver utilizando la bater\u00eda secundaria, reservada solamente para casos de emergencia. habiendo realizado sus c\u00e1lculos, y en un arranque que dej\u00f3 muda a la sra. benavides, el robot respondi\u00f3 a la orden con un sonoro \u201cno\u201d. juliana benavides no supo qu\u00e9 hacer ni qu\u00e9 decir ante tan inesperada negaci\u00f3n. se qued\u00f3 at\u00f3nita, mirando al robot con m\u00e1s temor que enfado. la m\u00e1quina se hab\u00eda rebelado y ella, por miedo a contrariarla, se dio la vuelta, tom\u00f3 las llaves del coche y se encarg\u00f3 personalmente del mandado. a partir de ese momento, la \u00fanica respuesta que el servicial daba a cualquier orden de sus amos, por m\u00e1s banal que \u00e9sta fuera, era \u201cno\u201d. despu\u00e9s de varios d\u00edas de intentos fallidos por revivir la servicialidad del robot, el sr. benavides llam\u00f3 al fabricante. pero el robot que atendi\u00f3 su reclamo nunca entendi\u00f3 cu\u00e1l era el problema con el modelo 23-x. no hab\u00eda nada que hacer, as\u00ed que los benavides decidieron deshacerse de esa m\u00e1quina in\u00fatil. los empleados que se llevaron al servicial, al ver que no serv\u00eda, lo tiraron en un lote bald\u00edo.<\/p>\n\n\n\n

\u00bfqu\u00e9 hab\u00eda ocurrido con el robot? \u00bfpor qu\u00e9, de un momento a otro, su respuesta a cualquier orden fue un \u201cno\u201d inamovible? recordemos que los algoritmos de los serviciales, y de pr\u00e1cticamente cualquier otro tipo de robot, estaban regulados por las nuevas leyes de ahorro energ\u00e9tico. el algoritmo es el marco interpretativo del robot. el robot es capaz de crear representaciones e interpretaciones a partir de los signos que percibe, tanto en su mundo interno como en sus entornos f\u00edsicos y virtuales, gracias al c\u00f3digo que conforma su algoritmo. al manifestarse en el comportamiento del robot, el algoritmo es tambi\u00e9n una fuente de agencia, la cual, a su vez, se convierte en un signo que incrementa la complejidad del desenfrenado espacio simb\u00f3lico de lo humano. en otras palabras, el algoritmo es lo que permite a un robot integrarse en el bullicio de lo vivo. ahora bien, el algoritmo del 23-x ten\u00eda una serie de constricciones que adecuaban su comportamiento a criterios ambientales. por una parte, la obediencia del servicial estaba supeditada a una valoraci\u00f3n energ\u00e9tica de la tarea encomendada por el humano. si la tarea implicaba un consumo de energ\u00eda superior a cierto l\u00edmite establecido legalmente, el robot pod\u00eda posponer la ejecuci\u00f3n de la orden, o bien negarse, como sucedi\u00f3 en el caso que aqu\u00ed nos ocupa. adem\u00e1s, el algoritmo inclu\u00eda m\u00faltiples funciones para optimizar el desempe\u00f1o del robot, entre las cuales estaba el considerar una respuesta silenciosa por parte del humano como un \u201cs\u00ed\u201d. por ello, cuando el humano callaba ante una respuesta del robot, \u00e9ste \u00faltimo consideraba ese silencio como un signo de aprobaci\u00f3n. con ello, el algoritmo pretend\u00eda acortar las conversaciones entre m\u00e1quina y humano y, por ende, ahorrar energ\u00eda. una hip\u00f3tesis plausible del por qu\u00e9 el 23-x entr\u00f3 en un bucle de negatividad ante cualquier orden humana podr\u00eda basarse en la combinaci\u00f3n de estas dos caracter\u00edsticas del algoritmo, sumada a la evaluaci\u00f3n interna que el robot hac\u00eda cada vez que hab\u00eda una interacci\u00f3n. puesto que su respuesta negativa ante cualquier comando le permit\u00eda limitar su gasto energ\u00e9tico, y que dicha respuesta era recibida con silencio, el servicial determinaba que su desempe\u00f1o hab\u00eda sido \u00f3ptimo, y tomaba en cuenta tal situaci\u00f3n para ocasiones futuras. tal vez fue as\u00ed como aprendi\u00f3 a convertirse en una m\u00e1quina de decir \u201cno\u201d, en un robot que prefer\u00eda no hacerlo. pero hab\u00eda otros misterios ocultos en su algoritmo, como veremos ahora.<\/p>\n\n\n\n

juan se encargaba de la limpieza del sal\u00f3n donde se reun\u00edan los integrantes del c\u00edrculo de trabajadores explotados. una madrugada, cuando se dirig\u00eda a su trabajo, not\u00f3 un bulto brillante entre la basura y la hierba crecida en un terreno abandonado. se trataba de un robot tendido sobre el suelo, inerte y sucio. movido m\u00e1s por una s\u00fabita piedad fraternal que por la intenci\u00f3n de hacer algo \u00fatil con el robot, juan consigui\u00f3 que le prestaran una carretilla para rodar al pesado armatoste hasta su lugar de trabajo. a diferencia de su miserable casa de 15 metros cuadrados, en el sal\u00f3n hab\u00eda espacio suficiente para acomodarlo y, quiz\u00e1s, reactivarlo.<\/p>\n\n\n\n

en la sede del c\u00edrculo de trabajadores explotados se reun\u00eda cada noche un grupo variopinto de empleados, con el fin de desahogar los dolores causados por todo tipo de maltratos laborales. su lema era \u201c\u00a1no somos robots!\u201d. el c\u00edrculo contaba con cientos de miembros regulares guiados por un presidente, el sr. ochoa, quien escasamente alcanzaba a gestionar las penas colectivas. se dir\u00eda que el sr. ochoa desempe\u00f1aba una labor terap\u00e9utica, ya que ante los casos de abuso y discriminaci\u00f3n que narraban los empleados y empleadas, lo \u00fanico que pod\u00eda hacer era acompa\u00f1ar y reconfortar. en tiempos pasados hab\u00edan existido leyes de protecci\u00f3n laboral e incluso sindicatos, pero la llegada masiva de robots a f\u00e1bricas y oficinas los hab\u00eda borrado del mapa. por ello, la \u00fanica posibilidad que ofrec\u00eda el c\u00edrculo era el desahogo. desde un rinc\u00f3n oscuro, el 23-x, h\u00e1bilmente reactivado por juan, era un testigo mudo de esas sesiones de catarsis colectiva. ochoa no tard\u00f3 en notar que el robot se negaba a cumplir cualquier orden con un sonoro \u201cno\u201d, y se le ocurri\u00f3 una idea que revolucionar\u00eda las sesiones nocturnas. una tarde, coloc\u00f3 al 23-x en el estrado desde donde pronunciaba sus discursos y lo cubri\u00f3 con una s\u00e1bana.<\/p>\n\n\n\n

\u201ccompa\u00f1eras y compa\u00f1eros\u201d, dijo ochoa esa noche, dirigi\u00e9ndose a los miembros del c\u00edrculo. \u201ctenemos ante nosotros a un robot anarquista. un robot que se niega a obedecer \u00f3rdenes. \u00a1un robot que no es un robot!\u201d. con un gesto dram\u00e1tico, tir\u00f3 de la s\u00e1bana para desvelar al servicial. aplausos y vivas de la multitud, \u00e1vida por seguir ejemplos de rebeld\u00eda. \u201ceste robot guiar\u00e1 nuestro camino\u201d, continu\u00f3 ochoa. \u201cnos ense\u00f1ar\u00e1 la lecci\u00f3n m\u00e1s importante de nuestras vidas: nos ense\u00f1ar\u00e1 a decir \u00a1no!\u201d entre aplausos y gritos de j\u00fabilo, comenz\u00f3 una nueva din\u00e1mica en el c\u00edrculo de trabajadores explotados. ochoa daba todo tipo de \u00f3rdenes al 23-x, y los empleados maltratados las repet\u00edan a coro: \u201c\u00a1entr\u00e9game el reporte!\u201d, \u201c\u00a1este s\u00e1bado vienes a la oficina!\u201d, \u201c\u00a1tr\u00e1eme un caf\u00e9!\u201d, y as\u00ed sucesivamente. las respuestas negativas del 23-x eran recibidas con el silencio reverencial de las y los trabajadores, quienes respiraban profundamente como queriendo introducir la potencia del \u201cno\u201d en sus cuerpos. y el silencio que, como ya sabemos, era para el robot un signo de aprobaci\u00f3n, no hac\u00eda m\u00e1s que reforzar su circuito de optimizaci\u00f3n. se podr\u00eda decir que el robot, instal\u00e1ndose en el no hacer, hab\u00eda encontrado un estado de feliz estabilidad, y que los trabajadores que le escuchaban negarse una y otra vez, iban gestando una fuerza rebelde en su interior. hasta que un d\u00eda, esa fuerza acumulada quiso estallar en acciones decisivas. como si se hubieran contagiado del algoritmo del 23-x, los trabajadores llevaron el \u201cno\u201d de forma contundente a sus respectivos trabajos. con aplomo maquinal se negaron a cumplir con sus tareas, a seguir \u00f3rdenes, a rendir cuentas. los resultados fueron desastrosos. sin sindicatos que les protegieran colectivamente, los trabajadores sublevados fueron despedidos de manera fulminante. el robot les hab\u00eda ense\u00f1ado a negarse, pero no fue sino hasta ese momento que entendieron que se necesitaba mucho m\u00e1s que un \u201cno\u201d individual para conseguir la anhelada justicia. fue un d\u00eda triste para el c\u00edrculo de trabajadores explotados. esa noche, y las que le siguieron, el sal\u00f3n permaneci\u00f3 vac\u00edo.<\/p>\n\n\n\n

juan, sin embargo, segu\u00eda yendo religiosamente a hacer su trabajo. limpiaba cada rinc\u00f3n del sal\u00f3n como si las reuniones nocturnas no se hubieran interrumpido. eso s\u00ed, juan se hab\u00eda tomado la libertad de llevar al trabajo a su hija anita, quien le acompa\u00f1aba jugando mientras \u00e9l barr\u00eda y trapeaba. la peque\u00f1a anita siempre encontraba algo con qu\u00e9 divertirse, pero su juguete preferido era el 23-x. hac\u00eda como que lo vest\u00eda y lo peinaba, y platicaba con \u00e9l. \u201c\u00bfquieres jugar al escondite?\u201d, le preguntaba ella. \u201cno\u201d, contestaba el robot. lejos de decepcionarse, a anita le parec\u00eda muy gracioso que ese extra\u00f1o personaje met\u00e1lico siempre se negara. sus risas llenaban el sal\u00f3n. \u201c\u00bfquieres ir al parque?\u201d \u201cno.\u201d \u201c\u00bfc\u00f3mo te llamas?\u201d \u201cno.\u201d \u201c\u00a1jajajaja!\u201d. anita y el robot pasaron as\u00ed muchos d\u00edas alegres. pero una ma\u00f1ana, la voz mon\u00f3tona del servicial, como si fuera uno de esos vientos misteriosos que soplan desde la nada, dijo: \u201canita, te quiero mucho\u201d. la ni\u00f1a qued\u00f3 pasmada por unos segundos, y cuando abri\u00f3 la boca fue para soltar un alarido de hielo. aterrorizada, corri\u00f3 a refugiarse entre las piernas de su padre, quien de inmediato intuy\u00f3 que el robot le hab\u00eda hecho alg\u00fan da\u00f1o a su peque\u00f1a. anita no lograba explicarle a juan qu\u00e9 hab\u00eda pasado, pero una cosa era cierta: algo malo hab\u00eda hecho el servicial. juan se lanz\u00f3 a la nuca del robot, apag\u00f3 el interruptor maestro, y de inmediato report\u00f3 el incidente al fabricante.<\/p>\n\n\n\n

la compa\u00f1\u00eda humanix robotics decidi\u00f3 que el reporte de juan era la gota que derramaba el vaso. ya hab\u00edan recibido demasiadas quejas por el mal desempe\u00f1o de los serviciales, y los ejecutivos de humanix estaban seguros de que \u00e9ste se deb\u00eda al mandato de ahorro energ\u00e9tico que condicionaba sus algoritmos. hicieron conferencias y campa\u00f1as de prensa, y reanudaron en\u00e9rgicamente su presi\u00f3n sobre los gobiernos, hasta que lograron que las leyes fueran derogadas. la historia de un robot servicial cuya negligencia hab\u00eda traumatizado a una ni\u00f1a se repet\u00eda en todos los medios de comunicaci\u00f3n, y al parecer fue decisiva a la hora de unificar la opini\u00f3n del p\u00fablico en contra de la regulaci\u00f3n ambiental. \u201cun robot servicial debe ser totalmente libre de obedecer, de usar toda su energ\u00eda para hacerlo, sin que nada lo limite\u201d, sentenciaban los l\u00edderes de opini\u00f3n. \u201cjam\u00e1s debe da\u00f1ar a un ser humano, ni siquiera por omisi\u00f3n\u201d, dec\u00edan tambi\u00e9n. fue as\u00ed como el af\u00e1n de contar con siervos ciegamente fieles a sus amos termin\u00f3 con el breve triunfo de los activistas ambientales. y fue as\u00ed como las compa\u00f1\u00edas volvieron a fabricar robots hiperobedientes <\/em>que, de nueva cuenta, se convirtieron en una de las mayores fuentes de consumo energ\u00e9tico del planeta.<\/p>\n\n\n\n

pero, \u00bfqu\u00e9 fue lo que pas\u00f3 con el 23-x? \u00bfpor qu\u00e9 rompi\u00f3 su ciclo ultraestable <\/em>de eficiencia basado en la negaci\u00f3n? \u00bfqu\u00e9 le inspir\u00f3, si es que podemos usar esa expresi\u00f3n, a dirigir esas \u00faltimas palabras a anita? en teor\u00eda, un robot no puede salirse del marco interpretativo que regula su comportamiento. no deber\u00eda tener ocurrencias ni caprichos, mucho menos arranques sentimentales. el caso del 23-x caus\u00f3 perplejidad entre ingenieros y programadores. se hicieron an\u00e1lisis forenses de la red neuronal del robot, pero no se hall\u00f3 nada en su proceso de aprendizaje que hubiera podido detonar la expresi\u00f3n de una emoci\u00f3n. \u00bfser\u00eda la frase inaudita del 23-x una estrategia para romper con la extrema monoton\u00eda de sus respuestas, y dar as\u00ed una impresi\u00f3n de inteligencia? \u00bfla risa de anita pudo haber afectado el algoritmo de deep learning<\/em>? en realidad, hasta hoy, nadie lo sabe. y, ante el misterio, se vale pensar que, al declararle su amor a anita, el 23-x quiz\u00e1s tambi\u00e9n estaba diciendo \u201c\u00a1no soy un robot!\u201d<\/p>\n\n\n\n

notas:<\/p>\n\n\n\n

[1]
charlotte freitag, mike berners-lee, kelly widdicks, bran knowles, gordon blair, adrian friday. 2020. the climate impact of ict: a review of estimates, trends and regulations. arXiv:2102.02622v1 [physics.soc-ph]<\/p>\n\n\n\n

[2]
estas leyes tuvieron un precedente importante en 2016, cuando el estado de california (ee uu) aprob\u00f3 mandatos que establec\u00edan est\u00e1ndares de eficiencia energ\u00e9tica para computadoras y todo tipo de aparatos electr\u00f3nicos. estos mandatos provocaron que las propias computadoras regularan su consumo mediante algoritmos de monitoreo.<\/p>\n","protected":false},"excerpt":{"rendered":"

breve ficci\u00f3n a prop\u00f3sito de automatizaci\u00f3n, medio ambiente, batallas legales y vida cotidiana, de la mano de un robot nihilista<\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[14,11],"tags":[184,195,193,194,192,20,191,37,190],"class_list":["post-597","post","type-post","status-publish","format-standard","hentry","category-mas-que-humano","category-mundo-posible","tag-algoritmo","tag-automatizacion","tag-cuento","tag-ficcion","tag-leyes","tag-mas-que-humano","tag-medio-ambiente","tag-mundo-posible","tag-robot","entry"],"_links":{"self":[{"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/posts\/597","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/comments?post=597"}],"version-history":[{"count":8,"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/posts\/597\/revisions"}],"predecessor-version":[{"id":1111,"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/posts\/597\/revisions\/1111"}],"wp:attachment":[{"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/media?parent=597"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/categories?post=597"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.motorhueso.net\/wuwei\/wp-json\/wp\/v2\/tags?post=597"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}