Black Mirror i la intel·ligència artificial

La intel·ligència artificial es refereix a sistemes o màquines que imiten la intel·ligència humana per executar tasques. Aquestes màquines compten amb diverses capacitats “humanes” així com el raonament, l’aprenentatge, la creativitat i la capacitat de planejar. Per considerar una autèntica intel·ligència artificial, l’artefacte hauria de ser capaç d’improvisar, aprendre i resoldre problemes adaptant-se a cada situació o, fins i tot, comptar amb un raonament lògic. Aquest tema està estretament relacionat amb la sèrie Black Mirror, una sèrie distòpica creada per Charlie Brooker que mostra el costat més “fosc” de la tecnologia i com aquesta afecta i pot alterar les vides humanes. Hi ha un capítol en concret d’aquesta sèrie anomenat "Be Right Back" que tracta aquest tema.

Resum

Ash, la parella de Martha, mor, i ella el troba molt a faltar. És per aquest motiu que després d’assabentar-se del seu embaràs i sentir-se completament sola, es descarrega un programa que imita a Ash per sentir que encara està al seu costat. Aquest programa, en un principi, no convenç a Martha, però al necessitar la seva companyia, es va acostumant fins a arribar a sentir que es tracta d’ell de veritat. El programa va cada vegada millorant fins a oferir-li l’oportunitat de tenir una representació física seva en persona, fet que Martha accepta immediatament. En aquest punt tot sembla anar bé, però a ella li comença a molestar que, per molt que s’hi assembli, no sigui ell de veritat, així que decideix deixar a la versió artificial de la seva parella a les golfes.

Conseqüències de la intel·ligència artificial

Inicialment el programa que imita a Ash no podria ser considerat intel·ligència artificial atès que es tracta d’un programa que cerca, recopila i utilitza tot allò que Ash va escriure a través d'Internet al llarg de la seva vida, però no actúa de manera autònoma. La veritable intel·ligència artificial entra en joc quan el programa evoluciona i ambdós protagonistes mantenen una conversa fluida i natural per trucada. El programa se centra tant a imitar al noi que arriba un punt en què Martha (o fins i tot l'espectador) pensa que el mort ha tornat en vida, fins i tot la màquina li expressa en un moment: “parles de mi com si no hi estigués”, quan realment no hi és, només és una còpia de l’Ash real.

El que va començar com una prova acaba esdevenint un problema (fins i tot hi ha un moment en el qual a Martha se li trenca el mòbil i es desespera per no poder comunicar-se amb el fals Ash).

Quan el programa evoluciona i li envien un robot amb forma humana a la noia, ella s’emociona. Una vegada més, la intel·ligència artificial li ha nuvolat la realitat fent-li creure que es tracta de l’Ash real. Així i tot, Martha, al cap d’un temps, es comença a adonar que unes emocions artificialment fingides mai podran substituir la seva parella: no té registre de la seva resposta sexual, no dorm, no sagna quan es talla... Comença fins i tot a mostrar diferències evidents amb l’Ash real: no li rebat res, i quan la noia el fa saltar per un precipici no mostra cap sentiment, com es pot veure en aquest diàleg:

"Martha: Salta.

Ash: Què? Allà baix? Mai he expressat indicis suïcides o d’auto lesió.

Martha: Sí, però tú no ets tú, veritat?

Ash: És una pregunta difícil, la veritat:

Martha: Només ets unes quantes capes de tú. No tens cap passat, ets nomes un reflexe de coses que ell va fer sense pensar, i no és suficient.

Ash: Va. Només vull complaure’t.

Martha: Complau-me saltant. Fes-ho.

Ash: D’acord, si estàs completament segura.

Martha: Ho veus, Ash tindria por. No hagués cedit tan fàcil, hagués plorat, hagués..."

Diàleg del capítol traduït al català

El robot comença a plorar i ella és incapaç de fer-lo saltar. Aquest fet demostra que tot i que només es tracta d’una resposta simulada per part d’una màquina, la intel·ligència artificial pot tenir una gran influència en la presa de decisions dels humans.

L’any 1950, Alan Turing va proposar al seu article Maquinària artificial i intel·ligència una qüestió relacionada amb aquest tema: poden pensar les màquines. Per revelar-la va proposar un experiment en el qual un humà i una màquina mantenien una conversa. Per passar aquest test, la màquina ha de mantenir una interacció verbal sense mostrar diferència entre ella i un humà. Una persona analitzant la conversa de 5 minuts ha de quedar convençuda que no es tracta d’un programa durant, almenys, un 30% del temps. En el cas de “Be Right Back” l'androide passaria aquesta prova, atès que a simple vista sí que és igual que els humans. Encara que passés el test, es pot observar que el robot no arriba a pensar exactament igual que una persona real.

En aquest capítol el robot no sembla arribar a adquirir consciència. Ell sap que és un robot i el que ha de fer i el que no, per a ell Martha és la seva administradora, però únicament fa el que està programat per fer, sense pensar per ell mateix. La consciència que pot semblar tenir és, al cap i a la fi, una recopilació i una còpia de la consciència digital que va deixar Ash a Internet. Es tracta d’un cos sintètic que no respon a una identitat psicològica.

Els androides intel·ligents són creats normalment amb l’objectiu de resoldre un problema o, en qualsevol cas, amb una finalitat positiva. És per això que les màquines poden arribar a superar a les persones en molts aspectes. Poden arribar a ser de molta utilitat en vàries situacions. Uns robots intel·ligents podrien, per exemple, acomplir tasques perilloses pels humans (exploracions, mineria…). També podrien resoldre algunes de les nostres necessitats (assistents digitals, per exemple).

Els inconvenients, en canvi, també són grans. En poder substituir a persones per certs treballs, fet que portaria a l’atur a molta gent. A més, es tracten de màquines que no tenen barrera moral i que, per tant, no tenen límits establerts, fet que sense un control pot resultar molt perillós.

Per una altra banda, alguns experts també alerten que la persona afectada per la mort no arribaria mai a avançar i a adaptar-se a un món sense la presència del seu estimat.

De la distopia a la realitat

El 2015, Roman Mazurenko va morir atropellat, així que la seva millor amiga Eugenia Kuyda va recopilar els seus missatges de text, fotografies i altra informació i els va entregar a la companyia de software Luka en la qual ella mateixa hi treballava, especialitzada en la creació de bots. Aquesta empresa va llançar l’anomenat Romanbot, un programa que li permetia interactuar amb el seu amic mort.

Tot i que va ajudar a la noia a passar el dol, molts amics i familiars de Mazurenko van descriure l'experiència com a estressant i depriment, a més de sentir que, tot i que s’hi semblava, el bot no arribava a ser idèntic a l’humà.