De robots komen ons redden… maar niet altijd

Stel je voor dat je met een paar vrienden naar een concert aan het rijden bent. De muziek staat luid, je vrienden zingen luid mee, maar jij houdt je rustig en je concentreert je op de baan. Je neemt een bocht naar links en plots staat er een groep kinderen op het wegdek. Je gaat te snel om enkel te remmen, dus je moet uitwijken. In je rechterooghoek zie je een paar mensen op het voetpad. Je draait je stuur naar links om niemand omver te rijden en je rijdt recht op een vrachtwagen. Iedereen in de auto is morsdood. Een onvermijdelijk accident. Links, rechts of rechtdoor, er gingen bij elke keuze doden vallen.

Elke dag gebeuren er dodelijke accidenten. In 2013 stierven er 1,25 miljoen mensen in autoaccidenten. Autofabrikanten komen ieder jaar uit met nieuwe snufjes om hun auto’s veiliger te maken. De sterftecijfers gaan ieder jaar achteruit, maar nooit spectaculair. De beste manier onze wegen veiliger te maken? Vervang de mens achter het stuur door een robot. Deze wordt niet moe, raakt niet afgeleid en drinkt geen druppel alcohol.

Maar hoe zou deze zelfrijdende auto reageren in een onoverkomelijk accident?  Moet de auto een keuze maken tussen de mensen op het voetpad, de kinderen op de rijbaan of de inzittenden? Maakt de auto een vlugge berekening om het minst aantal slachtoffers te maken? Houdt de auto rekening met de leeftijd van de mogelijke slachtoffers? Moet deze auto de inzittenden altijd beschermen?

Het programmeren van zelfrijdende auto’s (en andere robots) brengt dus een ethische component met zich mee. De scriptie “Asimov in de auto en in de huisrobot” gaat over deze problematiek, en hoe je deze ethische problemen duidelijk maakt aan jongeren in het secundair onderwijs.

Een futuristisch lessenpakket

Binnen het secundair onderwijs streeft men ernaar om jongeren voor te bereiden voor de toekomst. Vooral binnen het vak niet-confessionele zedenleer leren jongeren denken over de morele dimensies van het leven en de toekomst. Ze leren dat veel keuzes die we vandaag maken een grote invloed hebben op de toekomstige generaties. We moeten hen dus leren om zorg te dragen voor mensen die er op dit moment nog niet zijn. Het doel van deze scriptie was om jongeren te doen nadenken over de morele keuzes die we maken met betrekking tot robotica, een sector die steeds meer ons leven zal bepalen.

Om te beginnen is het interessant om na de denken over zelfrijdende auto’s. Welke regelgeving is wenselijk? Welke mogelijke scenario’s kunnen we bedenken waarbij een zelfrijdende auto voor een moreel dilemma staat? Maar het gaat nog veel verder dan dat. Het uiteindelijke lessenpakket was ontworpen om jongeren te doen denken over zelfrijdende auto’s, huishoudrobots, gezelschapsrobots, robots met een menselijke intelligentie, robots met een bovenmenselijke intelligentie en uiteindelijk zelfs robotrechten. Elk van deze onderwerpen zet de jongeren aan om te filosoferen over de mogelijkheden en gevaren van onze technologische ontwikkeling.

Driften voor een leven

De lessen bleken grotendeels een succes bij de leerlingen. Vooral de les over zelfrijdende auto’s viel in goede aarde. Deze les maakte gebruik van een cockpit om het dilemma van het onvermijdelijk ongeluk duidelijk te maken. De leerlingen kregen als passagier een reeks morele dilemma’s voorgeschoteld. Wat moet de auto beslissen als deze moet kiezen tussen een oudere man of een jong kind? Moet de auto altijd uitwijken in de richting van degene die de wet overtreedt? Mag de auto de beslissing nemen om 2 mensen te redden ten koste van 1?

De leerlingen moesten hun keuze maken en hun redenering uitleggen aan de klas. De cockpit leverde enkele heel levendige discussies op. Sommige leerlingen zochten naar creatieve oplossingen om toch geen slachtoffers te maken; “wat als de auto supergoed kan driften?” of “En als de auto nu over mensen heen kon springen?”. Andere leerlingen wisten heel goed wat ze moesten zeggen om in te spelen op emoties: “Wat als die oude vrouw jouw oma was?”.

Sciencefiction en de realiteit

Om in de huid te kruipen van iemand uit de toekomst, is het soms ook nodig om je fantasie te gebruiken. Als robots ooit even intelligent worden als mensen, moeten we hen dan rechten toekennen? Wat doen we met machines die onze intelligentie overstijgen? Is het wenselijk om autonome wapens te bouwen? Hoe ver mag deze autonomie dan reiken? De link naar sciencefictionverhalen is snel gemaakt, maar we mogen niet vergeten dat de realiteit soms nóg vreemder kan zijn dan fictie. Als we de toekomstvoorspellingen van vooraanstaande computerwetenschappers mogen geloven, zullen er nog vóór het jaar 2100 machines uitgevonden worden die onze intelligentie overstijgen.

Het programmeren van robots, het bepalen van de richtlijnen en regelgeving voor robots en het ontwerp van deze nieuwe technologieën zal allemaal ooit in de handen liggen van de jongeren die we vandaag grootbrengen. Het is dan vooral belangrijk dat we hen hierop voorbereiden met lessen die handelen over alle mogelijke toekomstscenario’s.