De grens tussen bewuste en niet-bewuste wezens (mensen, niet-menselijke dieren, embryo’s en AI) is niet scherp te trekken. Het is onmogelijk om met zekerheid uitspraken te doen over de bewustzijnsstatus van allerlei grensgevallen. Om ze wel met respect en zorg te kunnen behandelen, is het nodig om ons beter te informeren. Jonathan Birch heeft een raamwerk ontwikkeld dat ons helpt bij ethische beslissingen over bijvoorbeeld pijnbehandeling bij embryo’s, het kweken van octopussen en de omgang met mogelijk zelfbewuste AI. Hij vertelt erover in The Edge of Sentience.
Uitdaging voor beleidsmakers
Waar trek je de grens bij dierenwelzijn? Met welke ongewervelde dieren zou je rekening moeten houden bij dierenwelzijnswetten? Organoïden van de hersenen, gekweekte mini-breinen — hebben die bewustzijn? Zou AI bewustzijn kunnen ontwikkelen en hoe zouden we daarmee om moeten gaan? Dit soort filosofische vraagstukken zijn grote uitdagingen voor beleidsmakers. Er is geen eenvoudige lijn te trekken tussen bewust en niet-bewust. Concreet bewijs om de zaak te beslechten hoeven we ook niet te verwachten. Er rest ons dus niets anders dan voort te bouwen op een zorgvuldige filosofische analyse. Professor Birch is hierin gedoken.
Raamwerk voor een zorgvuldige omgang
Birchs uitgangspunt is zorgvuldigheid. Ook al kun je niets zeker weten, je kunt op zijn minst terughoudend zijn met beslissingen die leed kunnen veroorzaken. Hij komt uit op een raamwerk met 26 voorstellen voor het omgaan met deze onzekerheid. Zijn belangrijkste stelling is dat je er goed aan doet om bewustzijn te veronderstellen als je onnodig leed wilt voorkomen. Denk aan volledig comateuze patiënten die nauwelijks tekenen van bewustzijn geven. Ook zij kunnen ongemak voelen en hebben dus recht op pijnstilling. Met wezens op het grensvlak van bewustzijn zouden we zorgvuldig moeten omgaan. We zouden proportionele voorzorgsmaatregelen moeten nemen om leed te voorkomen of te beperken.
Ongewervelde dieren
Birch richt zich voor een groot deel op ongewervelde dieren, waarvan we vaak niet weten of die pijn kunnen lijden. Zij hebben een eenvoudig zenuwstelsel en het is nog de vraag in hoeverre hun ‘brein’ bewustzijn kan genereren en in hoeverre ze pijn kunnen lijden. Deze vragen zijn zeer prangend bij de octopus, een zeer intelligent dier dat mensen vaak te slim af is. Birchs advies op het gebied van dierenwelzijn heeft bijgedragen aan het verbod op octopuskwekerijen in Californië. Met de opmars van grootschalige insectenkweek vindt Birch het belangrijk om ook hier een goed onderbouwd advies te laten meewegen bij dierenwelzijnswetten.
Grensgebied
Het grensgebied van bewustzijn is breed en uitgestrekt. Birch heeft het over gekweekte stukjes hersenen, die een dag-en-nachtritme ontwikkelen en opwinding vertonen in reactie op prikkels. Ook noemt hij het opkweken van stamcellen tot oogzenuwen. Wetenschappers hadden die getraind in het spelen van het computerspel Pong. Na een minuut of twintig waren ze werkelijk beter geworden. Hebben deze organoïden dan bewustzijn?
Kunstmatige intelligentie geeft ons de indruk dat het bewustzijn heeft. Het kan ons gemakkelijk misleiden. En zo niet, dan zijn we bereid om te doen alsof het bewustzijn heeft. Hoewel het tegen onze intuïties ingaat om bewustzijn toe te kennen aan iets dat geen lichaam en geen leven heeft, vindt Birch dat we toch niet afwachtend moeten zijn. Vooral omdat we niet op voorhand weten wat de techbedrijven het volgende seizoen op de markt gaan brengen. Misschien is er nu al bewuste AI. Dat zou zeer disruptief zijn en daarom is het belangrijk om nu alvast aan onderbouwing te werken voor wetgeving op dat vlak. Birch doet een voorstel voor een licentie voor AI die mogelijk bewustzijn zou kunnen ontwikkelen. Daarmee onderschrijft de maker dat hij zich aan een gedragscode en aan normen voor transparantie zal houden.
Academisch
Birch hanteert de term sentience, zoals ook vermeld in de titel van het boek. Hier heb ik dat vertaald als ‘bewustzijn’, maar het is niet precies hetzelfde. Bij sentience gaat Birch uit van waarnemen en voelen, wat misschien wel voorafgaat aan bewustzijn. Bij bewustzijn veronderstel je een cognitief proces, hoewel dat niet altijd zo hoeft te zijn. Birch geeft een gedegen overzicht van verschillende soorten bewustzijnstheorieën voordat hij in zijn analyse van de grensgevallen duikt. Zoals ook elders in het boek trekt Birch geen conclusies over zaken die je niet met zekerheid kunt weten. Het overzicht van theoretische mogelijkheden biedt ruimte voor het duiden van allerlei zaken. Het draagt bij aan de grondigheid van zijn analyse. The Edge of Sentience is een zeer academisch boek dat niet echt makkelijk leest. Het onderwerp is boeiend en zijn invalshoek is origineel, maar het is beslist geen page-turner.
Over Freija van Duijne
Freija van Duijne was van 2013 tot 2018 voorzitter van de Dutch Future Society. Zij heeft meer dan tien jaar werkervaring als toekomstverkenner en strateeg in diverse overheidsorganisaties. Freija werkt vanuit haar bedrijf Future Motions en geeft trainingen en lezingen op gebied van toekomstverkennen.