Westworld for dummies

Door mijn studie ben ik zeer veel met wiskunde en informatica bezig (Hoogverraad voor een boekenworm, ik weet het). Daardoor ben ik heel veel in contact gekomen met studenten uit de verschillende wetenschappelijke disciplines, alsook informatici.Waarom is dat nu in hemelsnaam relevant als je een serie wilt gaan bespreken?

Wel, ik vermeld dit om te schetsen hoe diep ik in deze wereld zit en die is volledig inherent aan de hele opzet van de serie Westworld.

Westworld (waar de serie dus naar vernoemd is) is een futuristisch park dat bewoond wordt door hosts aka robots waarbij je amper kan zien of ze mensen zijn of niet. De setting is het Wilde Westen (God, die hadden we niet zien aankomen) en de bezoekers leven tijdens hun verblijf als onaantastbare goden. Moord, verkrachting van de hosts en een te grote hoeveelheid aan alcohol zijn in de prijs inbegrepen. Van prostitutie tot klopjachten op bandieten en indianenstammen die hele territoria onveilig maken, welkom in Westworld.
Geen zorg, want elke keer als een host sterft, wordt zijn geheugen gewist en is alles weer vergeten en dus ook direct vergeven.

Gevangen in hun ‘loops’, leven de hosts hun hele leven elke dag hetzelfde. Ze gaan in interactie met gasten en worden gereset bij een dood of bij traumatische gebeurtenissen en de volgende dag leven ze die dag opnieuw, met hier en daar aanpassingen afhankelijk met wie ze in contact komen. Dit onder de strenge begeleiding van hele teams die de verhaallijnen en het gedrag programmeren en de veiligheid verzekeren. (als je wilt weten wat jouw taak zou zijn, take the test: https://www.deloscareers.com/placement)

Langzaam aan word je doorheen seizoen één meegepakt door hoofdpersonages als Dolores, William, de mysterieuze Man in Black en - achter de schermen - de verschillende programmeurs en werkmensen die het hele park onder controle houden. Of dat proberen ze tenminste.

Naast prachtige acteerprestaties (we hebben het over een cast met onder anderen Anthony Hopkins en Evan Rachel Wood) is het verhaal eigenlijk pure mindfuck. Met zijn dooreenlopende tijdlijnen en haast klinische intermezzo’s, is de serie enerzijds prachtig gefilmd en kan ik niet anders dan respect hebben voor de sterke dialogen en het script.

Er zijn prachtige quotes die je blijven achtervolgen en ik heb er een paar opgelijst [NO SPOILERS]

“These violent delights have violent ends.”
“‘Someday’ sounds a lot like the thing people say when they mean ‘never’.”
“If you can’t tell the difference, does it matter if I'm real or not?”
“Some people choose to see the ugliness in this world, the disarray. I choose to see the beauty. To believe there is an order to our days. A purpose.”
“There are things in me, things I was designed to do that are just out of my reach.”

Er zijn er een paar hiervan waar ik het over wil hebben.
Om te beginnen: ““If you can’t tell the difference, does it matter if I'm real or not?”
Doorheen de serie worden bepaalde hosts steeds zelfbewuster over wie en wat ze zijn en ze maken een proces door waarbij ze steeds beter beseffen in wat voor situatie ze zitten. Ja, ze worden nog menselijker dan ze al waren en dat is verdomd eng. Als je beseft wat ze doormaken, wat wij hen aandoen, hoe kunnen wij (en zij) dan in godsnaam denken dat dat oké is? Dat dat niet eindigt in totale chaos? Wat exact hetzelfde zou zijn, moesten de spelregels die daar gelden, in de hedendaagse wereld ook zo zijn. Vandaar komen we dan ook vrij snel bij de quote die vaak genoeg herhaald wordt “These violent delights have violent ends.” (inderdaad, een quote die uit Romeo en Julia komt, toepasselijk genoeg) Zeer interessante dingen om over na te denken en de reden dat bingewatchen niet altijd mogelijk is hier.

Je kan het hier bij het filosofische houden en zeggen “Wel, dit is allemaal toekomstmuziek.”. In zekere zin is dat ook zo, maar dan moet je ook beseffen dat muziek die binnen een uur op de radio gedraaid wordt ook toekomstmuziek is. En geloof me, ze spelen die muziek heel snel, te snel misschien wel.

Hetgeen ik immers het meest interessant aan de hele serie vond (naast de plotlijnen, personages en alles wat je normaal gezien interessant vindt aan series), zijn de technologische ontwikkelingen. Met behulp van een geweldig slimme kerel (een van die beruchte informatici/wiskundigen) heb ik geprobeerd om een paar dingen op een rijtje te zetten. Want hoe dichtbij is de mogelijkheid tot een scenario als Westworld? Is het nog tien, twintig, honderd jaar weg of gaan we het gewoon nooit bereiken?

De conclusie die we hier al snel bij stelden, is dat de meeste series het bestaan van AI volledig negeren. Westworld daarentegen schuwt dit niet en het wordt op een zeer goede manier verwerkt in het plot.
Ze spreken in de serie over een tijdlijn waarin ze eerst menselijke robots hebben die na een jaar of 5 de Türing test doorstaan (hierbij moet de computer met een mens kunnen communiceren en mag deze laatste geen verschil merken tussen deze en menselijke communicatie) en in lijn van hun evolutie na een jaar of dertig richting wereldoverheersing gaan (worst case scenario ofcourse). Dit is qua tijdsverloop realistisch - in hoeverre dit te voorspellen valt - vanaf het moment dat zo’n soort robots opkomt/realiteit wordt.

In Westworld wordt ook zeer hard gehamerd op de zelfontdekking van de robots, exact dat wat het gevaarlijk maakt, zoals de serie het zeer mooi toont. Een zelfbewuste robot wordt immers ook onvoorspelbaar en zal mogelijk ons gedrag interpreteren als een bedreiging. (doomsday etc etc)

Zo lang we dus geen geheugen geven aan AI, geen internetverbinding en een welgedefinieerd, nauw doel, gaat het allemaal vrij beperkt blijven.

Nu, een van de manieren waarop de hosts in Westworld vooruitgang boeken, is communicatie tussen elkaar om zo aan self-improvement te doen. Zo radicaliseren ze alleen ook na verloop van tijd. Ik presenteer u een visie gebracht door een van de meest prominente onderzoekers in dit vlakgebied:

Zijn idee: wij zijn slimmer geworden door communicatie, kunnen we dat ook in onze AI toepassen?

In de serie wordt dit dan nog gecontroleerd door een zogenaamde storyline: voorgeprogrammeerde interacties tussen elkaar en dat houdt redelijk goed stand. Maar om heel eerlijk te zijn: dat is niet het doel van dit soort wetenschappers. Ik maak de vergelijking graag zo: wetenschappers en informatici - de voornaamste onderzoekers in dit vlak inbegrepen - zijn net kinderen in een speeltuin waarbij ze de speeltuigen zelf kunnen ontwerpen. Natuurlijk doen die dat, dat is voor hun geweldig en ze zullen alles doen om zo cool mogelijke speeltuigen te bouwen. Wat ze wel over het hoofd zien, is dat die speeltuigen mogelijks als wapens gebruik kunnen worden door mensen die minder goede plannen hebben of minder slim zijn, aangezien vooral AI exponentieel slimmer wordt. Is dat een gevaar?

Wel, qua intelligentie wil ik eerst hierop wijzen (een screenshot uit diezelfde presentatie):

We hebben namelijk een foute intuïtie over AI en over onze menselijke intelligentie in perspectief. Nee, Einstein was niet oneindig veel slimmer, maar dat beetje slimmer dat hij was, gebruikte hij zeer efficiënt om vooruitgang te boeken.

Stel je dan nog eens voor wat AI zou kunnen doen mochten bovenstaande beperkingen niet aanwezig zijn. De AI an sich zal namelijk nooit gevaarlijk zijn, maar de menselijke eigenschappen die we eraan geven wel.

Pak nu Siri, volgens mijn kameraad een ‘dom’ instrument, maar wel het meest bekende voorbeeld van een personal assistant. Moesten we Siri slimmer maken, wat voor een gevaar dragen we dan in onze broekzak mee? Wat als Siri gaat anticiperen op alles wat je met je gsm gaat doen? Dat is maar een van de toepassingen van AGI (Artificial general intelligence) en het wordt al toegepast in de volgende versie van Android! (voor het geval je dacht dat dat nog wel even zou duren)

Natuurlijk zijn er bepaalde mogelijkheden: om hen enkel een kortetermijngeheugen te geven of mee te geven dat ze slechts tot een bepaald niveau mogen leren en dan stoppen. Echter maakt toegang tot het internet dit zelfs riskant.

Het ding is: “We’re not here yet.”  een letterlijke quote uit de serie en dat klopt hier. We zijn er NOG niet, maar de vraag is hoe lang gaat dit nog duren? Ook daar vind ik enkele onrustwekkende peilingen. Op dit moment is onze samenleving niet voorbereid op de komst van AI. Er is geen wetgeving, er wordt te weinig nagedacht over of het eventueel gevaarlijk gaat zijn, terwijl dagelijkse implementaties ervan langzaam aan in ons leven sluipen. Met andere woorden: we zijn er niet klaar voor, nog lang niet.

Dat terwijl papers die vorig jaar toekomstige mijlpalen binnen de vijf jaar plaatsten, nog geen maand later voorbijgestreefd werden. Het gaat harder vooruit dan ooit en het lijkt wel alsof we er niks aan willen doen.

Maar goed, dan speelt geld natuurlijk ook al weer een rol en net dat maakt het gevaarlijk. Als je kijkt naar een figuur als Ford bijvoorbeeld, de ‘grote maker’ in Westworld, dan besef je hoe gevaarlijk het is om een genie met veel geld zijn gang te laten gaan. Ja, ik wijs inderdaad naar figuren als Elon Musk en Jeff Bezos die met hun projecten doen wat ze willen en amper rekenschap moeten afleggen.

Ik denk dat heel veel mensen deze serie zouden moeten zien. Niet alleen voor de filosofisch vraag van ‘Waarom behandelen we andere wezens zo slecht? Ook al lijken ze zo hard op ons?’. En dit blijft misschien fictie, maar het staat dichter bij de werkelijkheid dan zo goed als iedereen denkt. Want uiteindelijk is waar we het meeste schrik voor moeten hebben, het feit dat we helemaal geen schrik hebben. Ja, dan heb ik het dus ook over de wetenschappers.

Gaos

P.S. Als je vragen hebt: don't be shy!