Een groot tekort aan bekwame controle ingenieurs: kan Machine Learning dit oplossen?

Introduction

Het vergt heel wat tijd om als beginnend ingenieur opgeleid te worden tot domeinexpert.  Het is door ervaring met vele probleemopstellingen en het zoeken naar oplossingen hiervoor dat iemand een expert in zijn vak wordt. 

Hoedanook kunnen we dit proces niet zomaar versnellen, zelfs wanneer we over alle nodige data beschikken voor opleiding. Een 24/7 training met deze kennis is onmogelijk en kan nooit de expertise van werkervaring vervangen. Ook hebben ervaren ingenieurs en belangrijke rol in vele sectoren zoals industriële automatie, en breid hun impact uit naar meerdere domeinen alsook voor de productie van dagdagelijkse producten. Van de tandpasta die we gebruiken in de ochtend tot het eten die we s ’avonds in de winkel kopen: de meeste producten zijn deels of volledig het resultaat van industriële automatie.

Vandaag de dag hebben we een nijpend tekort aan bekwame ingenieurs in dit domein. Artificiële Intelligentie (AI) komt op als een potentiële oplossing voor dit probleem. Sommige AI technieken zoals Reinforcement Learning (RL) zijn geïnspireerd door zowel menselijk en dierlijk leren van ervaringen. Een simpele analogie is het trainen van een hond. Als het dier een verwachte actie uitvoert, zoals een pootje geven, krijgt het een beloning in de vorm van een koekje. Doet de hond dit niet, dan is er geen beloning. AI kan op een gelijkaardige manier getrained worden voor het automatiseren van taken. Voor gedrag die de opdracht voldoet wordt een AI beloond terwijl een straf wordt gegeven voor ongewenst gedrag. Door dit proces vele malen te herhalen, kan de AI langzamerhand de kennis en expertise vergaren van een domein expert. 

Lost het trainen van een machine al onze problemen op?

We kunnen AI trainen op alle beschikbare data zodat het competent wordt. Maar is dit voldoende? Om complexe problemen in de wereld op te lossen, doen AI systemen vaak beroep op neurale netwerken. Dit zijn modellen die gebaseerd zijn op biologische breinen. Net zoals het menselijk brein kan een modern AI systeem moeilijk te verstaan zijn hoe het werkt dankzij zijn complexiteit. Het beantwoorden van vragen zoals Waarom? en Hoe? een systeem tot een beslissing komt binnen dit digitale brein zijn nochtans belangrijke criteria om transparantie en verantwoordelijkheid te garanderen.

Beeld je volgend scenario in: een klant vraagt een kredietkaart aan bij de bank en krijgt deze met een bepaalde betalingslimitering. Deze klant heeft het recht om te weten waarom een bepaalde limiet werd opgesteld en waarom er niet meer gespendeerd kan worden. Als de bank motiveert dat dit puur gebaseerd is op de beslissing van een AI systeem, dus het resultaat van het digitale brein, dan zal het vertrouwen van de klant in die bank waarschijnlijk dalen als er geen verantwoording is. Een ander voorbeeld kan een zelfrijdende auto zijn die tot een beslissing moet komen: sla ik links af of rechts? De ingenieurs die deze auto helpen ontwikkelen moeten natuurlijk weten waarom het brein zulke beslissingen maakt. Indien geen juiste redenering geformuleerd kan worden is het ook mogelijk dat foute beslissingen kunnen gemaakt worden zonder het weten van de autofabrikanten. Zeer ongewenst als je met meerderen op de baan bent. 

Scenario’s zoals deze hebben voldoende verklaring nodig want enkel zo kan er transparantie gegarandeerd worden en kan de verantwoordelijk op het systeem gelegd worden. Een mogelijke manier om deze verklaringen te formuleren is doormiddel van uitvoerbare programma’s. Dit is, net als code in software, een tool waarmee scenario’s beschreven worden aan de hand van een domein-specifieke taal en wat de reactie is van de AI. Het voordeel van zulke programma’s is dat deze syntactisch correct zijn, wat betekent dat er geen ambigue interpretatie mogelijk is en dat alles precies geformuleerd is. Voor geschreven verklaringen zijn gelijkaardig aan dialogen in natuurlijke taal waarbij misinterpretatie wel zeer mogelijk is. 

Een framework voor realistische scenarios

Deze thesis is een uitbereiding van een bestaand framework waarin een AI computer programma’s genereert om problemen op te lossen en hierdoor verstaanbaar wordt. Een eerdere versie van het framework was enkel toepasbaar op simpele scenario’s. Bijvoorbeeld: origineel kon er enkel recht vooruit gegaan worden of in hoeken van 90 graden. Nieuwe aanpassingen zorgen ervoor dat een bocht van arbitraire grootte kan genomen worden, zoals 55,9 graden naar links, en dat de beweging vrij is. Dit is belangrijk voor het aansturen van robots waar er met meerdere vrijheden van beweging gehandeld moet worden.

Om de AI te trainen in een omgeving waarin zij zich vrij kan bewegen, vergelijkbaar met de echte wereld, werd een aangepaste simulator ontwikkeld. In deze omgeving bevindt zich een obstakel in het midden, terwijl de doelposities willekeurig in de vier hoeken van de omgeving worden geplaatst. Het doel van de AI is om de doelen te bereiken zonder tegen het obstakel te botsen, zoals weergegeven in Figuur 1. Om succesvol te zijn, beweegt de AI zich niet willekeurig door de omgeving. Het voert verschillende computerprogramma’s uit, zoals hieronder weergegeven, en evalueert prestaties van elk programma in de vorm van verzamelde beloningen. Vervolgens wordt het programma met de hoogst verzamelde beloning geselecteerd als de beste oplossing.

Voorbeeldprogramma's

Figuur 1: Omgeving

Als resultaat wordt de AI met succes getraind in deze omgeving en genereert zij computerprogramma’s die interpreteerbaar zijn voor mensen. Een voorbeeld van de gegenereerde computerprogramma’s en het bijbehorende uitvoeringsspoor is weergegeven in Figuur 2. Hierin vertrekt de AI vanuit een hoek van de omgeving en volgt zij een licht gebogen traject om de doelpositie in de tegenoverliggende hoek te bereiken

Figuur 2: Voorbeeldresultaat

Waarom is verstaanbare AI belangrijk?

Deze thesis gaat verder dan louter het uitbreiden van een bestaand framwework voor meer realistische scenario’s. Het draagt bij aan een mogelijke oplossing voor praktische AI-systemen en om hun beslissingsproces te kunnen verklaren aan de hand van computerprogramma’s. Hierdoor kunnen ingenieurs het besluitvormingsproces inspecteren, valideren en aanpassen. Dit verhoogt de transparantie en versterkt het vertrouwen in AI-ondersteunde systemen.

In het eerder besproken voorbeeld van een autonoom voertuig kunnen ingenieurs dankzij dergelijke verklaarbare AI-systemen bijvoorbeeld nagaan en begrijpen waarom het voertuig ervoor koos om linksaf te slaan in plaats van rechtsaf.

Een ander belangrijk aspect van verstaanbare AI is het vermogen om oneerlijke of ongewenste beslissingen te helpen voorkomen. Ingenieurs kunnen problematisch gedrag identificeren en het systeem bijsturen naar robuustere en beter generaliseerbare oplossingen.

Daarnaast kunnen dergelijke systemen een belangrijke rol spelen in sectoren waar een tekort bestaat aan hoogopgeleide ingenieurs. De AI kan het grootste deel van het complexe werk uitvoeren, terwijl minder ervaren ingenieurs de gegenereerde computerprogramma’s kunnen inspecteren en verfijnen om de efficiëntie en prestaties verder te verbeteren. Deze aanpak is echter niet bedoeld om menselijke expertise te vervangen. Integendeel, ze ondersteunt een human-in-the-loop-methodologie, waarbij menselijk toezicht een essentieel onderdeel blijft van het besluitvormingsproces.