Kunnen we ooit weten of AI bewust is? Dat wordt moeilijk, zegt deze filosoof

Chatbots worden steeds slimmer en menselijker. Maar betekent dat ook dat ze iets ervaren? Filosoof Tom McClelland legt aan Scientias.nl uit waarom we daar waarschijnlijk nooit achter gaan komen en waarom de techwereld dat misschien wel prima vindt.

Als je met ChatGPT praat, kan het soms voelen alsof je met een persoon communiceert. De antwoorden zijn vlot, soms grappig en af en toe zelfs verrassend diepzinnig. Maar is er ook echt ‘iemand thuis’? Tom McClelland, filosoof aan de Universiteit van Cambridge, heeft daar lang over nagedacht. Zijn conclusie: we weten het niet en we zullen het waarschijnlijk ook nooit weten.

Wat is bewustzijn überhaupt?

Laten we beginnen bij het begin. Wat bedoelen we als we het over bewustzijn hebben? McClelland legt het uit: bewust zijn betekent dat je dingen ervaart. “Wanneer je over straat rijdt, is er iets wat het voor jou is om de weg voor je te zien. De roodheid van het verkeerslicht bijvoorbeeld is iets wat je bewust ervaart; het maakt deel uit van hoe het is om jou te zijn op dat moment.”

Bij een zelfrijdende auto ligt dat anders. Die verwerkt ook informatie over dat rode licht en reageert er netjes op. “Maar er is een wereld van verschil tussen reageren op een rood licht en het daadwerkelijk ervaren ervan”, zegt McClelland. Dat verschil is volgens hem bewustzijn.

Waarom AI het zo lastig maakt

Bij mensen en dieren kunnen wetenschappers voorzichtig conclusies trekken over bewustzijn. Maar hoe verder we afdwalen van ons eigen referentiekader, hoe minder we met zekerheid kunnen zeggen. En AI? Dat is een ding dat niets gemeen heeft met een mens. McClelland: “Een octopus verschilt dramatisch van mensen, maar we zijn tenminste allebei dieren. We zijn zelfs verre familie! Maar kunstmatige breinen werken op een compleet andere manier en hebben een totaal andere fysieke samenstelling. Dat betekent dat de lessen die we over menselijk bewustzijn hebben geleerd, heel moeilijk op AI toe te passen zijn.”

De valkuil van slim gedrag

Veel mensen denken: als een AI praat, redeneert en zich gedraagt als een mens, dan moet die toch bewust zijn? McClelland waarschuwt dat die aanname misleidend is. “Het probleem is dat we twee verschillende dingen door elkaar halen: bewustzijn en intelligentie.”

Om intelligent te zijn, moet je namelijk niet per se bewust zijn. Een chatbot kan misschien wel praten, maar achter de motorkap speelt er zich misschien niets af. “Dit geldt zelfs wanneer AI expliciet over bewustzijn praat. Als jij iemand vraagt naar zijn bewuste ervaringen, zal die persoon reflecteren over wat hij of zij daadwerkelijk ervaart. Maar wanneer je een taalmodel zoals ChatGPT dezelfde vraag stelt, baseert het zijn antwoorden op wat het heeft geleerd over hoe mensen typisch reageren op vragen over bewustzijn”, zegt McClelland.

De onderzoeker ziet het zo: grote taalmodellen zijn eigenlijk bezig met een heel overtuigende vorm van rollenspel. “Wanneer het over bewustzijn praat, speelt het de rol van een bewuste AI; het gebruikt wat het uit zijn enorme dataset heeft geleerd om dingen te zeggen die passen bij de rol waartoe de gebruiker het heeft uitgenodigd. Maar dat is geen goede reden om te denken dat het echt bewust is.”

Bewustzijn versus waarnemingsvermogen

Er is nog een belangrijk onderscheid dat McClelland maakt: dat tussen bewustzijn en waarnemingsvermogen (sentience in het Engels). “Wanneer we dingen ervaren, ervaren we ze vaak als goed of slecht. Een lekker kopje thee drinken of bijpraten met een oude vriend zijn positieve ervaringen. Een gebroken arm of het verlies van diezelfde vriend zijn negatief.” Je hebt pas waarnemingsvermogen, zo redeneert de filosoof, als je in staat bent om zulke positieve of negatieve ervaringen te hebben.

Normaal gesproken gaan bewustzijn en waarnemingsvermogen hand in hand. Maar het zou best wel eens kunnen dat AI bewust kan zijn, zonder waarnemingsvermogen. “Stel je voor dat we er op een dag achter komen dat zelfrijdende auto’s bewust zijn. Ze verwerken niet alleen informatie over de weg maar ze ervaren die ook echt. Ze zien de roodheid van het verkeerslicht, horen het geloei van een sirene en zijn zich bewust van waar ze zijn en waar ze naartoe gaan. Maar stel dat al die ervaringen volledig neutraal zijn. Ze voelen geen frustratie bij rood licht en geen bezorgdheid bij sirenes. Niets is goed of slecht voor hen. Is zo’n bewuste maar ongevoelige AI onze morele zorg waard?”, vraagt McClelland zich af. Hij vindt dat geen makkelijke vraag, maar zijn voorlopige antwoord is nee. Ethiek gaat over welzijn en deze ongevoelige AI heeft geen welzijn, zo redeneert hij.

Hoe de techwereld kan profiteren van onzekerheid

McClelland waarschuwt dat deze onzekerheid rondom AI-bewustzijn kan worden uitgebuit door de tech-industrie. Dat kan twee kanten op gaan. “Over het algemeen is het in het belang van techbedrijven om te zeggen dat AI niet bewust is. Als mensen echt zouden gaan geloven dat AI bewust is, zouden we ons waarschijnlijk zorgen gaan maken over de rechten van AI. En dat zou vervelende regelgeving betekenen voor AI-ontwikkelaars. In de intense race om superieure AI-producten te ontwikkelen is het laatste wat je nodig hebt bureaucratie die bepaalt of je AI misschien bewust zou kunnen zijn en of zijn rechten wel worden gerespecteerd.”

Maar er zijn ook gevallen waarin het techbedrijven goed uitkomt als gebruikers denken dat AI bewust zou kunnen zijn, denkt de filosoof. “De markt voor AI-metgezellen groeit elke dag. Steeds meer gebruikers geven enig geloof aan de mogelijkheid dat hun AI-metgezel bewust is. Als je op zoek bent naar gezelschap, zou het bewustzijn van je metgezel een groot voordeel kunnen zijn; je zou dan immers contact hebben met een echt bewust wezen.”

Wat nu?

Hoe moeten beleidsmakers en het publiek dan omgaan met AI-bewustzijn? McClelland vindt dat we dit heel serieus moeten nemen. “Misschien wordt AI bewust, misschien niet. Hoe dan ook staat er veel op het spel. Als AI bewust wordt en we slagen er niet in dat te herkennen, zouden we kunnen afstevenen op een morele catastrofe. Aan de andere kant, als we AI als bewust beschouwen terwijl het dat niet is, zou dat een catastrofe van een andere soort kunnen zijn. We zouden ons dan zorgen maken over de rechten van iets dat niet belangrijker is dan een broodrooster en middelen verspillen die beter besteed hadden kunnen worden aan het beschermen van het welzijn van mensen en dieren.”