- Stephen Hawking geloofde dat kunstmatige intelligentie een bedreiging is voor de mensheid
- Elon Musk roept op tot proactieve regulering in KI-ontwikkeling
- Anderen geloven dat er geen gevaar bestaat dat computers ooit bewust worden
Het idee van een superintelligente KI die de wereld overneemt en de mensheid uitroeit houdt ons al jarenlang bezig. Voorlopig (en gelukkig) lijkt het er volgens experts echter niet op dat dat soort doemscenario’s binnen afzienbare tijd werkelijkheid worden. We hebben alles schijnbaar redelijk onder controle. Toch blijven andere experts alarm slaan over de gevaren van KI. Hoe zit het nou eigenlijk? Is een bewuste KI binnenkort mogelijk en zit de kans erin dat deze de wereld zal overnemen? Moeten we ons nu wel of geen zorgen maken?
Stephen Hawking geloofde dat kunstmatige intelligentie een bedreiging is voor de mensheid
De wereldberoemde natuurkundige Stephen Hawking was een van de grootste voorstanders van de theorie dat KI een grote bedreiging vormt voor de toekomst van de mensheid. Hoewel hij erkende dat de meeste vormen van kunstmatige intelligentie die we tot nu toe hebben ontwikkeld heel nuttig zijn geweest, uitte hij ook zijn bezorgdheid dat we uiteindelijk mogelijk een KI zullen ontwikkelen die onze eigen mogelijkheden overtreft en ons misschien zelfs helemaal zal vervangen. “De ontwikkeling van volledige kunstmatige intelligentie zou het einde van het menselijk ras kunnen betekenen”, zei hij. “Het zal op eigen kracht opstarten en zichzelf in een steeds sneller tempo herontwerpen. Mensen, die beperkt zijn door een trage biologische evolutie, zullen daarmee niet kunnen concurreren en uiteindelijk vervangen worden”.
Om dit te voorkomen moeten we de ontwikkeling van de KI-technologie volgens Hawking nauwlettend in de gaten blijven houden en een manier vinden om potentiële bedreigingen te identificeren voordat het te laat is. “We kunnen niet weten of KI ons maar eindeloos blijft assisteren of dat we uiteindelijk genegeerd en buitenspel gezet worden – of mogelijk zelfs vernietigd worden door KI,” zei Hawking. “KI zou wel eens de slechtste uitvinding van de geschiedenis van onze beschaving kunnen zijn, met gevaren als krachtige autonome wapens of nieuwe manieren waarmee een klein groepje mensen de massa kan onderdrukken. KI zou een eigen wil kunnen ontwikkelen, een wil die in conflict is met de onze en uiteindelijk tot onze teloorgang leidt. Kortom, de opkomst van machtige KI kan het beste of het slechtste zijn wat de mensheid ooit zal overkomen”.
Elon Musk roept op tot proactieve regulering in KI-ontwikkeling
Met het overlijden van Hawking viel de rol van ‘KI waakhond’ in de schoot van Elon Musk, een waardige opvolger die kunstmatige intelligentie zelfs “een fundamenteel existentieel risico voor de menselijke beschaving” noemt. En net als Hawking is Musk van mening dat we meer regulering nodig hebben op het gebied van KI-ontwikkeling. “Ik denk dat we ons echt zorgen moeten maken over kunstmatige intelligentie. KI is een apart geval en ik vind dat we, wat betreft regelgeving, proactief moeten zijn in plaats van reactief. Tegen de tijd dat we wat betreft KI-regelgeving reactief worden is het al te laat”, zegt hij. Zonder regulering, gelooft Musk, creëren we uiteindelijk wellicht een onsterfelijke digitale dictator die de wereld zou kunnen overnemen en mogelijk zelfs de mensheid zou kunnen vernietigen als we in de weg staan.
Anderen geloven dat er geen gevaar bestaat dat computers ooit bewust worden
Maar niet iedereen is het met Hawking en Musk eens. Sommige experts beweren dat de huidige KI-systemen qua vaardigheden nog maar zeer beperkt zijn en alleen taken kunnen uitvoeren waarvoor ze specifiek zijn geprogrammeerd. Hoewel ze deze veel beter en sneller kunnen uitvoeren dan mensen, hebben ze aan de andere kant vaak juist weer moeite met simpele, variabele taken waar bijvoorbeeld een klein kind geen enkel probleem mee heeft. De data waarmee ze zijn getraind is meestal zeer gespecialiseerd, waardoor de kennis van de KI niet kan worden toegepast op andere, ongerelateerde taken of problemen.
Als we willen dat KI de menselijke capaciteiten overtreft, moeten we eerst een systeem ontwikkelen waarmee KI elke intellectuele taak die een mens kan uitvoeren óók met succes kan uitvoeren, een concept dat in de KI-gemeenschap artificial general intelligence (AGI) – of algemene kunstmatige intelligentie – genoemd wordt. Er zijn echter ernstige twijfels of dit ooit mogelijk zal zijn. We weten bijvoorbeeld nog steeds niet wat bewustzijn precies is en hoe het wordt gevormd. En hoewel het theoretisch mogelijk is dat we op een dag álles over de menselijke hersenen weten en een manier vinden om het brein te repliceren in een machine, is zelfs dat nog zo’n ‘ver-van-je-bed-show’ dat we daar niet wakker van hoeven te liggen. “We zijn nog lang niet in staat om machines te bouwen die op menselijke hersenen lijken”, zegt KI-expert Toby Walsh. “We kunnen machines bouwen voor hele specialistische taken – en ze kunnen die taken vaak op bovenmenselijk niveau uitvoeren – maar het zal nog jaren duren (misschien 50 of 100 jaar) voordat we machines kunnen bouwen die aan de volledige capaciteiten van de mens kunnen tippen. Misschien gebeurt het wel nooit. En machines die enig bewustzijn, gevoel of eigen verlangens hebben moeten we al helemaal uit ons hoofd zetten”.
De huidige computers zijn dus fundamenteel beperkt in wat ze kunnen doen. Ze hebben geen echt begrip van de taak die ze uitvoeren, en het resultaat begrijpen ze al evenmin. Ze handelen volgens een voorgeprogrammeerd algoritme en dat is het enige dat ze kunnen. Alle research en al het werk dat onderzoekers doen – wat het bouwen van een computermodel van het menselijk brein betreft – is gebaseerd op de aanname dat elk proces in onze hersenen ook algoritmisch van aard is, en dus berekenbaar. Maar wat als dat niet zo is? Dr. Stuart Hameroff en Sir Roger Penrose hebben het bijvoorbeeld over een kwantummechanisch model van het menselijk brein dat volledig non-algoritmisch is. Dat zou betekenen dat het onmogelijk zou zijn om onze hersenen met onze huidige computers te simuleren.
Toch moeten we de mogelijkheid dat kunstmatige intelligentie een bedreiging voor ons zou kunnen zijn, niet volledig naast ons neerleggen. Een KI hoeft niet bewust te zijn om gevaarlijk te zijn. De realiteit is dat we niet zeker weten wat de toekomst ons zal brengen, dus we moeten voorzichtig te werk gaan. “Ik denk dat het belangrijk is om duidelijk te zijn over wat de risico’s zijn. We moeten ons niet gek laten maken door fascinerende sciencefiction-achtige verhalen en veronderstellen dat er veel meer mogelijk is dan waar we ons qua technologie momenteel bevinden”, zegt Tim Persons, de hoofdwetenschapper van het Government Accountability Office (GAO). Elke krachtige nieuwe technologie brengt bepaalde risico’s met zich mee, maar dat mag ons er niet van weerhouden om te blijven werken aan iets dat de kwaliteit van ons leven en dat van onze planeet kan verbeteren.
