La tregua inteligente

0
295
Encabezado de la columna

El señor Elon Musk (sobre quien cul­ti­vo el sano hábi­to de des­con­fiar) y un gru­po de cien­tí­fi­cos al fren­te de labo­ra­to­rios infor­má­ti­cos publi­ca­ron una car­ta abier­ta difun­di­da el 22 de mar­zo pasa­do soli­ci­tan­do “fre­nar” por seis meses el ver­ti­gi­no­so desa­rro­llo de la inte­li­gen­cia arti­fi­cial (IA) que, des­de que la empre­sa Ope­nAI, finan­cia­da por Micro­soft, lan­za­ra el ChatGPT (que va por su ver­sión .4) hace un año, des­bo­có a la com­pe­ten­cia, que se dio a una carre­ra fre­né­ti­ca por supe­rar­se unos a otros sin con­trol alguno.

La car­ta, difun­di­da urbi et orbe por los medios, advier­te acer­ca de serios ries­gos para la vida y la civi­li­za­ción. Así, en gene­ral. En la car­ta no espe­ci­fi­can ries­gos con­cre­tos.

Esta tre­gua de seis meses ser­vi­ría, según las ver­sio­nes de varios labo­ra­to­rios, para acor­dar un mar­co éti­co que fije cier­tos lími­tes a la des­me­su­ra infor­má­ti­ca.

Un solo ejem­plo bas­ta­rá para intuir los ries­gos.

En una de las pla­ta­for­mas de inte­li­gen­cia arti­fi­cial ya es posi­ble crear una níti­da ima­gen de, por ejem­plo, un can­di­da­to a pre­si­den­te dicien­do con su voz exac­ta que con­do­na­rá todas las deu­das ban­ca­rias de los tra­ba­ja­do­res si gana las elec­cio­nes. Obvia­men­te este can­di­da­to podrá salir a los medios a des­men­tir esas decla­ra­cio­nes que nun­ca fue­ron rea­li­za­das por él, sino por el holo­gra­ma o arti­fi­cio téc­ni­co que creó la IA. Pero al cru­ce ya sal­drán otras decla­ra­cio­nes y, entre la rec­ti­fi­ca­ción ofi­cial y las dis­tin­tas ver­sio­nes, la gen­te que­da­rá des­con­cer­ta­da. Ya no sabrá qué ni a quién creer. Si en for­ma natu­ral ten­de­mos a des­con­fiar de las pro­me­sas polí­ti­cas, ima­gí­nen­se el caos que podría oca­sio­nar esto un día antes de las elec­cio­nes, con imá­ge­nes que pare­cen reales cru­zán­do­se con las ver­da­de­ras sin que poda­mos dis­cri­mi­nar feha­cien­te­men­te cuál es la ori­gi­nal y cuá­les son las de labo­ra­to­rio. La ver­dad del can­di­da­to y las fic­cio­nes de los labo­ra­to­rios paga­dos por la opo­si­ción con­ver­ti­rán a la opi­nión públi­ca en una nue­va torre de Babel con­cep­tual. No se podría dis­tin­guir el lími­te de la reali­dad que nues­tra men­te nece­si­ta para emi­tir jui­cios. La vota­ción esta­ría vicia­da en prin­ci­pio, ya que la volun­tad del votan­te esta­ría des­via­da por intere­ses y manio­bras extra­ñas a la libre deci­sión que se nece­si­ta para esco­ger un repre­sen­tan­te genuino.

Todo el sis­te­ma repre­sen­ta­ti­vo demo­crá­ti­co, tal y como se cul­ti­va en Occi­den­te, cae­ría en un colap­so del que nada ni nadie podría sal­var­lo. Este ver­da­de­ro desas­tre polí­ti­co lle­va­ría nece­sa­ria­men­te al des­or­den, a la anar­quía, y a quién sabe qué otras con­se­cuen­cias nefas­tas para la socie­dad. Esto ya está sos­pe­cha­do des­de hace unos años: que las redes socia­les, debi­da­men­te mani­pu­la­das, gene­ran con­fu­sión en el elec­to­ra­do e incli­nan la volun­tad hacia uno u otro candidato/a de acuer­do a la can­ti­dad de dóla­res que se des­ti­nan a estas “cam­pa­ñas para­le­las.”

Hay voces dis­cor­dan­tes entre los pen­sa­do­res que reac­cio­na­ron fren­te a la noti­cia. Hay quie­nes vati­ci­nan el fin de una demo­cra­cia “for­mal” que se fue con­vir­tien­do en una tram­pa para una socie­dad que le ha per­di­do con­fian­za pero que, como no se sabe con qué reem­pla­zar­lo, resig­na­da­men­te lo sigue sos­te­nien­do. Tal vez la IA ven­ga a pro­du­cir una revo­lu­ción pací­fi­ca denun­cian­do las fallas socia­les antes que apa­rez­can.

Si ya se ha lle­ga­do al bor­de del pre­ci­pi­cio sin la IA (no olvi­de­mos que la pri­me­ra ver­sión del ChatGPT tie­ne menos de un año), aho­ra esta intru­sión de la IA en el ámbi­to polí­ti­co podría gene­rar estra­gos. Y esto, para dar sólo un ejem­plo. Pero hay cien­tos de daños que podrían ade­lan­tar­se con este nue­vo cam­po de la infor­má­ti­ca recien­te­men­te inau­gu­ra­do. Como todo ins­tru­men­to, tam­bién la IA podría apor­tar nume­ro­sos bene­fi­cios, aun­que hay una duda que per­sis­te: el ins­tru­men­to es una pie­za o recur­so que está a dis­po­si­ción de la des­tre­za huma­na para mane­jar­lo, para bien o para mal, pero es un ser humano quien deci­de este dile­ma éti­co. Con la IA suce­de algo para­do­jal. Ya no hay un suje­to cons­cien­te mani­pu­lan­do un obje­to para tal o cual uso. El obje­to se ha con­ver­ti­do en suje­to. La IA toma deci­sio­nes inde­pen­dien­tes de quien pre­ten­de mane­jar­la. La IA, que es decir la téc­ni­ca, se ha inde­pen­di­za­do de su crea­dor. Es Fran­kens­tein; rom­pió las ata­du­ras con su crea­dor, y no sabe­mos lo que hará con el mun­do.

Artículo anteriorLa otra guerra de los mundos
Artículo siguienteLa escupidera de Bormann
Alejandro Bovino Maciel es un escritor y médico psiquiatra egresado de la Universidad Nacional de Buenos Aires. Nació en 1956 en Corrientes, Argentina, y actualmente se desempeña también como docente en la Universidad del Cono Sur de las Américas, ubicada en Asunción, Paraguay. Entre sus libros publicados se incluye la nouvelle infanto-juvenil “La Bruja de Oro” (publicada en Paraguay y ya en su cuarta edición), la novela sobre la última dictadura cívico-militar argentina “Culpa de los Muertos” (editada por la Editorial Rubeo de Barcelona en 2007), y “Dictaduras Correntinas” (publicado por Librería de la Paz en 2022), entre muchos otros.