Por Ruperto Concha / resumen.cl
Opción 1: archive.org
Opción 2: Spotify
https://open.spotify.com/episode/4qhEnyvMbUlsfYJlRaqN72?si=wFkfKdQsSjKpGtaXx-GZ0Q
A veces, cosas que alguien dijo hace mil años nos permiten entender la realidad de hoy. Esta vez quiero recordar dos antiguas leyendas de los tiempos en que el Islam llevó su sabiduría hasta el corazón del Asia junto al mar Caspio.
Una de ellas cuenta que un rey bueno y pacífico convocó a su corte a tres amigos que habían sido sus compañeros cuando estudiaban en la Universidad de Samarkanda. A uno, que siempre fue intrépido y valiente, lo nombró jefe de sus ejércitos. A otro, que era reflexivo y calculador, lo nombró ministro consejero y de hacienda. Y al tercero, que era un poeta, quiso nombrarlo ministro de educación.
Pero este, sonriendo, rechazó el nombramiento. “Tengo que volver a viajar por el mundo”, explicó, pero, como muestra de su gratitud les regaló un poemita que, traducido a nuestro idioma, decía: “El hombre sabio siempre hace sus planes tomando en cuenta el peligro de que le vaya bien en todo”.
Ellos se quedaron pensando: Bueno, está un poquito loco, como todos los poetas.
Pero tiempo después, el que era ministro de guerra comenzó a sentirse intranquilo. El reino era rico y poderoso, pero el rey era muy pacífico y no aprovechaba su ventaja para ir a conquistar más tierras, más gloria y riquezas a costa de sus vecinos.
Entonces, en secreto, le propuso al ministro consejero dar un golpe de estado, asesinar al rey y entusiasmar al pueblo con victorias y riquezas.
Al principio, el consejero se dejó engatusar y convinieron en matar al rey con un brebaje envenenado. Llegó el momento, cuando el buen rey se llevaba la copa a los labios, hizo una pausa, recordando el versito del amigo poeta y lo recitó: “hay que hacer los planes tomando en cuenta el peligro de que te vaya bien en todo”.
En ese instante el consejero comprendió el sentido de equellos versos. Comprendió que se proponía asesinar y traicionar al que era su rey y su amigo, y en cambio llevaría al trono a un traidor sanguinario… y comprendió a la vez que, si el plan salía bien, su poderoso cómplice en seguida lo mataría a él también.
Llorando, volcó la copa del rey antes de que éste llegara a probarla, y confesó la conspiración. El rey los perdonó, pero los desterró para siempre.
¿Qué tal?... Había que comprender el peligro oculto en el triunfo del plan.
La otra leyenda la recordó hace algunas semanas el profesor Stuart Russell, doctor en psicología, en neurocirugía humana, y en Inteligencia Artificial, de la Universidad de Berkeley, California.
Es una variante del cuento de Aladino y la Lámpara Maravillosa. Según esta versión, cuando Aladino restregó la lámpara y se le apareció el genio dispuesto a concederle un deseo, el muchacho se dejó llevar por la codicia y le dijo: “Quiero que me hagas el hombre más rico y poderoso de toda la comarca”.
Y por supuesto el genio cumplió instantáneamente el deseo de Aladino… Lo cumplió al pie de la letra:
Simplemente, oiga… ¡mató a todos los demás habitantes de la comarca! Y, claro, Aladino pasó a ser el más rico y poderoso.
Eso no era lo que Aladino quería, pero sí era lo que Aladino pidió.
Bueno, ambas leyendas nos invitan a darnos cuenta de que los planes que elabore un grupo político o estratégico necesariamente tendrán efectos tremendos más allá del éxito del plan. Y que también la forma en que planteamos nuestros deseos puede convertir nuestras intenciones en una maldición diabólica.
El profesor Stuart Russell usó esta última leyenda para mostrar que la portentosa máquina pensante concebida como Inteligencia Artificial, es, al menos por ahora, algo así como un sicópata brillante y obsesivo que empleará toda su potencia para cumplir cabalmente, rápidamente, económicamente y muy exactamente… aquello que sus amos humanos le hayan encomendado.
La Inteligencia Artificial tiene una capacidad abrumadora de analizar y tomar decisiones para optimizar la manera de usar todos los recursos disponibles, incluso perfeccionando los procedimientos preestablecidos y corrigiendo errores de los programadores, y eventualmente modificando algunos de sus algoritmos para aumentar su eficacia…
Pero todo, absolutamente todo, es para dar cumplimiento exacto a la tarea que los humanos le hayan mandado realizar. Es absolutamente, ciegamente obediente y está incluso dispuesta a auto destruirse para llevar a cabo cualquier cosa que le hayan ordenado. Cualquier cosa. Incluso cuando calcula que con su obediencia puede causar un daño terrible o aún la muerte de los mismos seres humanos que le hayan dado la orden.
Y eso, ¿qué implica?
En las novelas de ciencia ficción todos los autores, incluso los más inteligentes, coinciden en que en la construcción de cualquier robot dotado de inteligencia artificial, tenga o no forma humanoide, debe insertarse un dispositivo supremo que haga absolutamente imposible que el robot cause daño a un ser humano vivo. Pero, en términos reales, ¿tendría entonces el robot la capacidad de desobedecer órdenes en el caso de que su sistema de inteligencia artificial detecte un peligro derivado del cumplimiento exitoso de las órdenes que recibe?
¿Estaríamos entonces quizás tratando de dotar a nuestras máquinas de capacidad y responsabilidad filosófica y moral? En otros términos, ¿estaríamos humanizando nuestras máquinas, dándoles consciencia de sí mismas? Y, por lo tanto, ¿estaríamos dándoles la posibilidad de desobedecernos y eventualmente rebelarse en contra de nosotros por considerarnos de algún modo repugnantes?
¿Tendrían los robots la facultad de elegir cuáles órdenes obedecer, o cuáles seres humanos considerar preferibles a otros?
Por cierto, no es ningún secreto que todas las potencias militarizadas, desde Washington hasta Beijing, desde Moscú hasta Berlín, ya han construido robots de combate y de dominio forzoso sobre la gente. Incluso ya se sabe que muchos robots ya han matado a seres humanos.
Ya hace más de 10 años, durante el gobierno de Barack Obama, presidente de Estados Unidos y Premio Nobel de la Paz, se emplearon drones, aviones sin piloto, dotados de sistemas de inteligencia artificial para reconocimiento de personas que debían ser asesinadas en lugares remotos del planeta, en Yemen, Afganistán e Irak. Por cierto, esos sistemas eran todavía muy primitivos, y a menudo cometían errores, errores criminales.
Las actuales máquinas, claro, son muchísimo más eficaces…
La realidad mundial que nos muestran las noticias despliega ante nosotros tres horizontes o tres rumbos hacia donde nos dirigimos. Uno de ellos es la noción predominante, al menos en el mundo occidental, de que mediante máquinas dotadas de inteligencia artificial íntimamente ligadas a la actividad síquica de la gente, los gobiernos podrán elaborar sucesivas generaciones de jóvenes perfectamente diseñados para encajar en los esquemas sociales, de consumo y de emocionalidad, a través de programas ingeniería social.
De hecho, la principal preocupación del profesor Stuart Russell, tanto en la perspectiva de la neurología humana, como en el desarrollo de Inteligencia Artificial, apunta a la manipulación sistemática de la psicología de los jóvenes a través de las redes sociales.
Sucesivos programas aprenden los detalles de anhelos y de miedos, de gustos ocultos, ganas reprimidas que pugnan por aflorar… en fin. Y eso resulta fácil mediante la recolección sistemática de miles de millones de contactos en que las personas van entregando volúmenes de información personal supuestamente privada pero que se les filtran a través de sus opiniones, su lenguaje, sus actitudes y la multitud de datos que van entregando sin darse cuenta.
De esos millones de contactos, según los estudios de Facebook, el 76% corresponde a gente joven.
En palabras del propio profesor Russell, entrevistado por la BBC, “Las redes sociales crean adicción, depresión, disfunción social y posiblemente extremismo, polarización de la sociedad y en gran medida contribuyen a difundir desinformación y falsedades”.
Y agrega que los algoritmos de inteligencia artificial que operan las redes sociales están diseñados para optimizar un objetivo específico: que las personas se peguen más y más a la red, que pasen más y más tiempo enganchadas.
Con eso no sólo están optimizando, empoderando cada vez más lo que es incorrecto. Además están manipulando a las personas, haciendo que la gente vaya comprometiéndose más y más en la dirección que quieran darle los dueños de las redes y sus clientes comerciales.
En tanto, el profesor y cientista político estadounidense John Mueller, Investigador Senior del Instituto Mershon de Estudios de Seguridad Internacional de Estados Unidos, y quien ha publicado varios libros galardonados con los principales premios académicos de su país, en sus últimas publicaciones entra el libro “La Estupidez de la Guerra. La política Internacional de Estados Unidos”. Mueller demuestra cómo, desde el término de la 2° Guerra Mundial, los políticos norteamericanos han caído en una especie de “adicción” a generar inflación y endeudamiento, en forma reiterada y rutinaria, bajo el pretexto de enfrentar problemas o amenazas inminentes y gravísimas causadas por enemigos monstruosos que en realidad no existen.
En los casos concretos de Rusia y China, Mueller señala que, más allá de lo distintas que sean sus políticas de lo que es la normalidad para Estados Unidos, Rusia y China no han dado en ningún momento señales de tener propósitos de conquistas militares. Por el contrario, todos los hechos concretos señalan que esos países están abocados a conseguir prosperidad económica, bienestar para su gente y ser respetados en la comunidad internacional de naciones.
Enfatiza Mueller que ninguno de esos estados a los que se acusa de tener sueños de conquista militar a la manera de Hitler, ha dado señales que puedan justificar la desaforada carrera armamentista y las iniciativas de alianzas militares con Estados Unidos para defenderse de un supuesto pero imaginario peligro inminente y aterrador.
Desde los tiempos de la Guerra Fría, en Estados Unidos y Europa ha prosperado una casta de políticos alarmistas que, al parecer, procuran mostrarse valientes y eficientes según logren asustar a los demás.
Como ejemplo, el profesor Mueller menciona cómo, en 2018, la Comisión de Defensa Estratégica de Estados Unidos emitió un documento difundido a toda prensa y toda televisión mundial, en que afirmaba que Estados Unidos, en este instante, estaba en el peligro internacional más inminente de las últimas décadas.
Y mostraron supuestos planes de Rusia de lanzar invasiones sobre todos los países del oriente europeo. Es decir, una inminente invasión rusa sobre Polonia, Eslovaquia, Latvia, Bulgaria, Rumania… etcétera.
Por supuesto, finalmente nada de eso tuvo ni siquiera atisbos de realidad. Por el contrario, ha quedado clarísimo en los hechos que ni Rusia ni China tienen interés alguno en imponer sobre otras naciones el sistema de gobierno que ellos tienen, liberal en Rusia y comunista en China.
En ambos casos, los efectos de las contradicciones sociales, culturales y económicas que han sacudido al llamado “mundo occidental”, han derivado provechosamente para Rusia y China, pese a las truculentas sanciones y amenazas lanzadas por Estados Unidos y sus aliados.
De hecho, el alza desmesurada actual del precio del petróleo y el gas natural ha traído un inesperado flujo financiero en favor de Rusia, a la vez que la economía estadounidense ha exhibido ser penosamente dependiente de la economía de China.
Y sobre todo ha impactado a nivel mundial el giro de la política económica de la China, que ahora se ve orientada a la llamada “doctrina de la prosperidad común”, imponiendo límites a la concentración de la riqueza, incluyendo parar el crecimiento de las más enormes y fuertes empresas privadas, como fue el caso de Alibaba y Tencent, además de la gigantesca inmobiliaria Evergrande.
De hecho, los súper millonarios afectados por la intervención estatal en sus empresas, han admitido que las limitaciones no han representado ni pérdidas ni intervención, sino, simplemente, límites de crecimiento que favorecen la competencia.
Como prueba del éxito del sentido democrático real de la conducción económica por el gobierno comunista chino, se ha destacado el hecho de que en estos momentos el 90% de las familias chinas son propietarias de las casas o departamentos en que viven. Esa es una proporción abrumadoramente superior a la de Estados Unidos, donde la inflación y la burbuja de los bienes raíces ha aumentado la aparición de gente sin casa, familias viviendo en carpas en la vía pública o en furgones adaptados como vivienda.
¿Cómo, entonces, se mantiene una sensación generalizada de que China es una amenaza?
Hipócritamente, el aparato de propaganda occidental ha procurado levantar, por ejemplo, la supuesta legitimidad de la separación definitiva de Taiwán, como estado por completo independiente de la China. Eso, en circunstancias de que el propio general Chiang Kai Shek, el creador, el fundador de Taiwán independiente de China confirmó que Taiwán es una parte de China, y se presentó a sí mismo como “presidente de la República China”, de toda la República China.
Bueno, esa misma propaganda, sostenida mediante las redes sociales y su capacidad de manipular psicológicamente a los participantes, ha insertado la imagen falsa de China como país amenazante con un sistema político represivo en que la gente del pueblo se encuentra esclavizada.
Eso, en momentos en que en Nueva York, por ejemplo, ya hay más de 150 mil cámaras de televisión callejeras, dotadas de inteligencia artificial y capaces de identificar, mediante programas de reconocimiento facial, a las personas hasta una distancia de 150 metros. O sea, a dos cuadras de distancia.
¿Qué clase de bienestar humano se pretende alcanzar con ese espionaje electrónico?
En estos momentos ya se acepta que la próxima cumbre en defensa de la Tierra será poco más que una reunión de políticos afirulados diciendo cursilerías bonitas. Y que en cambio se hablará de mejorar la vida de la gente con atractivas ofertas comerciales para que compren mucho, mucho, y se sientan con ello muy felices.
¿Será que a nuestra especie humana ya se le están acabando las ganas de seguir viviendo?
Hasta la próxima, gente amiga. Por supuesto que hay peligro cuando se van perdiendo las ganas de sobrevivir.
