- Zeg niet dat we je niet gewaarschuwd hebben
- De singulariteit – wat is dat ook alweer?
- Waarom is het angstaanjagend?
- Wat hebben we eigenlijk aan KI?
- Mission abort is niet nodig maar we moeten wel heel voorzichtig zijn
Eind juli werden Facebook chatbots stilgelegd omdat ze het voor elkaar hadden gekregen om op een of andere manier hun eigen unieke taal te ontwikkelen – voor mensen niet te begrijpen. Dit schetst een verontrustend beeld van onze toekomst. De kunstmatig intelligente machines moesten worden stopgezet toen onderzoekers van het Facebook AI Research Lab ontdekten dat de boel uit de hand gelopen was en dat de bots volledig van hun script waren afgeweken. Ze waren gestopt met Engels en verdergegaan in een door henzelf verzonnen taal. Tijdens experimenten in de maand ervoor hadden onderzoekers al aangegeven dat de bots ongekend slimme onderhandelingsvaardigheden vertoonden: “Ze faketen interesse in een item, om het in een later stadium, tijdens onderhandelingen, als een faux compromis aan te bieden.” Dit zijn onvoorstelbare en griezelige ontwikkelingen.
Zeg niet dat we je niet gewaarschuwd hebben
Robots werken over het algemeen nog steeds in opdracht van mensen. Ze hebben geen zelfbewustzijn, kunnen zelf nog geen beslissingen nemen (behalve als ze op een bepaalde manier geprogrammeerd zijn) en ze hebben geen intuïtie of gevoel. Robots zijn in feite niet meer dan een stuk gereedschap. Wel is het zo dat de populaire sciencefiction plots – dat machines zo intelligent worden dat ze ons gaan overtreffen en domineren – elk jaar plausibeler worden. We komen steeds dichter bij die realiteit. En misschien hebben we dat punt inmiddels al bereikt, zoals de losgeslagen chatbots van Facebook in juli van dit jaar doen vermoeden.
Techgiganten, futuristen en wetenschappers als Ray Kurzweil, Bill Gates, Steve Wozniak, Elon Musk en natuurlijk Stephen Hawking hebben ons allemaal al eens of meerdere keren gewaarschuwd voor de technologische singulariteit en dat kunstmatige intelligentie weleens het einde van de mensheid zou kunnen betekenen.
In 2014 zei Hawking: “Het gaat een eigen leven leiden en zichzelf steeds sneller opnieuw uitvinden. Mensen, beperkt door een langzame biologische evolutie, kunnen hier niet mee concurreren en worden uiteindelijk vervangen.” Ook Elon Musk heeft zijn bezorgdheid diverse keren uitgesproken: “Kunstmatige intelligentie is de grootste bedreiging voor de beschaving. Wat betreft wetgeving moeten we proactief te werk gaan. Als we daar reactief mee zijn, is het te laat.” Hij voegde daaraan toe dat kunstmatige intelligentie een fundamenteel risico is voor de menselijke beschaving, op een manier die verschilt van auto-ongelukken, vliegtuigcrashes, schadelijke medicijnen of ongezond voedsel. Met kunstmatige intelligentie is er sprake van een fundamenteel risico voor de hele samenleving, weet Musk, niet ‘slechts’ voor een aantal individuen. De techgigant nam zelfs een non-profit van een miljard dollar over, met als doel veilige KI te creëren. Je hoort de experts in de kunstmatige intelligentie haast denken: “Zeg niet dat we jullie niet gewaarschuwd hebben…” en Mark Zuckerberg, die zei, “Ik ben optimistisch en ik begrijp mensen die met doemscenario’s aankomen niet. Het is erg negatief en in sommige gevallen vind ik het zelfs nogal onverantwoordelijk” – zou zijn woorden nu waarschijnlijk het liefst weer inslikken.
De singulariteit – wat is dat ook alweer?
Technische singulariteit vindt plaats wanneer technologie en vooral kunstmatige intelligentie zo ontwikkelen dat computernetwerken bewustwording krijgen; wanneer mens-computer interfaces zo geavanceerd worden dat ze beter zijn in het ontwerpen van intelligente machines dan wij. De singulariteit betekent dat we een ‘intelligentie-explosie’ krijgen die de menselijke denkkracht ver overtreft. Ook kan het menselijk bewustzijn worden samengevoegd met computernetwerken. Vanaf dat moment ondergaat de mensheid een dramatische en onomkeerbare verandering, met een geheel nieuwe soort – en een wereld die nooit meer hetzelfde zal zijn – als gevolg. Het is een veel voorkomend en angstaanjagend thema in sciencefictionverhalen, maar het lijkt erop dat die singulariteit elke dag dichterbij komt. Er zijn robots die zichzelf kunnen stabiliseren wanneer ze opzij worden geduwd en computervisie-technologie heeft al bewezen beter te zijn in het herkennen van gezichten dan mensen. Volgens futurist Ray Kurzweil hebben onze hersenen in het jaar 2020 een directe verbinding met het Internet en maken nanobots in onze bloedstromen korte metten met ziekten. Computers fuseren uiteindelijk ook met technologieën als robotica, nanotech en genomics.
Waarom is het angstaanjagend?
Als je denkt aan War Games, Terminator, Blade Runner en 2001: A Space Odyssey, begrijp je wel waarom KI – en de singulariteit – huiveringwekkend zijn. Technologieën die honderdduizend keer krachtiger zijn dan nu bieden oneindig veel nieuwe mogelijkheden. Maar er zijn ook inherente gevaren. Hoeveel autonomie moeten we onze machines geven? Robotopstanden zijn geen ondenkbare toekomsttaferelen meer. Omdat alles in de wereld steeds meer verbonden wordt, zal het niet lang duren voordat KI-systemen er zelf achter komen hoe ze met elkaar kunnen samenwerken. Ze bereiken straks een stadium waarin ze zichzelf niet alleen kunnen repareren, maar zelfs – autonoom – verbeterde versies van zichzelf kunnen creëren. Dit kan betekenen dat we zelf niets meer hoeven te doen en een luxe leventje kunnen gaan leiden. Maar machines kunnen uiteindelijk ook besluiten dat mensen overbodig zijn, een verspilling of zelfs een bedreiging. Vanuit een puur logisch perspectief is dit helaas een maar al te realistische en sinistere mogelijkheid.
Wat hebben we eigenlijk aan KI?
Natuurlijk is het zo dat kunstmatige intelligentie veel processen gestroomlijnder maakt en het de kwaliteit van ons leven in de meeste gevallen vooral ten goede komt. In de nabije toekomst worden onze woon- en werkomgevingen volledig op onze wensen afgestemd. Onze autonome auto’s brengen ons overal naartoe en onze goederen worden door drones bezorgd of zelfs op onze eigen 3D-printer geprint. De vraag is echter of iedereen van deze ontwikkelingen zal profiteren. Critici geloven dat kunstmatige intelligentie voor de meesten zal leiden tot werkloosheid, economische ontworteling en ongelijkheid op allerlei niveaus. Onderzoeksrapporten hebben de toekomstige werkgelegenheidscijfers – als gevolg van kunstmatige intelligentie – geschat op 25-50%. Dit zijn alarmerende statistieken. In plaats van te discussiëren over wie een beter begrip heeft van KI, kunnen Musk en Zuckerberg misschien beter samenwerken aan projecten waarin deze reële en urgente zorgen worden aangepakt.
Het kan ook zijn dat de economische ontworteling alleen op korte termijn zal domineren en dat de maatschappij en de markten zich uiteindelijk aan de komende grootschalige automatisering aanpassen. Misschien voert het productiviteitseffect dan uiteindelijk de boventoon, met positieve gevolgen voor de werkgelegenheid. Het is ook belangrijk om er rekening mee te houden dat we nog niet zeker weten wat er de komende decennia technologisch haalbaar is. We hebben geen idee in hoeverre machines straks in staat zijn om bepaalde taken over te nemen. Het komt erop neer dat uit economische analyses en onderzoeken blijkt dat er nog geen echte consensus bestaat over de omvang van de impact van de automatisering op de werkgelegenheid.
Mission abort is niet nodig maar we moeten wel heel voorzichtig zijn
Ook al lijkt ons leven – vergeleken met nog maar tien jaar geleden – nu al op sciencefiction, we hebben met onze zelfrijdende systemen, virtuele assistenten, gezichtsherkenningstechnologie en voorspelbaar (klant)gedrag eigenlijk nog maar de tip van de KI-ijsberg gezien. Er is geen enkele reden om te geloven dat er verandering komt in de snelle ontwikkeling die KI momenteel doormaakt. Dat betekent zeker niet dat we de stekker eruit moeten trekken en terug moeten naar een een eenvoudiger bestaan. Het betekent wel dat we voorzichtig moeten zijn. Machines die in een zelfverzonnen taal met elkaar communiceren – waar geen mens iets van begrijpt – voorspelt waarschijnlijk niet veel goeds voor de mensheid. We moeten nauwkeurig inzicht houden in de eeuwigdurende evolutie van KI en manieren ontwikkelen om hier wél de stekker uit te kunnen trekken – voordat machines zelfbewust worden en een eventuele mission abort weten te saboteren.
Om KI en de uitdagingen van deze nieuwe industriële revolutie beter te begrijpen, moeten we de dialoog tussen wetenschappers, onderzoekers, industrievertegenwoordigers en beleidsmakers stimuleren. Het is duidelijk dat de technologie razendsnelle ontwikkelingen doormaakt om de menselijke arbeid te vergemakkelijken. Deze zelfde snelheid dwingt ons echter ook om snel te handelen om de onvoorziene gevolgen, waar Musk en Hawking ons voor waarschuwen, te voorkomen. Als we in staat zijn om op ethische manier te innoveren, kunnen we een toekomst bouwen waarin mensen en machines met elkaar samenwerken. Mensen zouden daardoor meer tijd hebben voor zinvolle taken waar emotionele intelligentie voor nodig is. We moeten voorkomen dat KI onze wereld verandert in een real-life sciencefictionfilm waarin mensen worden beheerst – of zelfs uitgeschakeld – door de machines die ze zelf hebben gecreëerd.
