Dromen computers over struisvogelbussen?

Dromen computers over struisvogelbussen?

“In general, we are least aware of what our minds do best.” - Marvin Minsky

De voorbije jaren heeft er zich een ware revolutie ontketend binnen het gebied van kunstmatige intelligentie. Tien jaar geleden was het ondenkbaar dat een computer ooit in staat zou zijn mensen en dieren te herkennen in foto’s of handschrift te lezen. Tegenwoordig wordt dit echter met gemak gedaan door heel wat verschillende bedrijven zonder dat wij als consumenten daar nog bij stilstaan. Zijn alle problemen in de kunstmatige intelligentie bij deze opgelost? Het antwoord is beslist een luide nee.

Computers hebben historisch gezien altijd de reputatie gehad goed te zijn in het oplossen van harde wiskundige problemen, maar zeer slecht te zijn in het oplossen van eerder vage, meer menselijke problemen. We staan er niet bij stil dat onze smartphone of onze rekenmachine in minder dan een seconde ingewikkelde berekeningen kan uitvoeren; laat een computer echter eens een zin uit het Engels vertalen naar het Nederlands en meestal volgt daaruit alleen maar hilariteit. De taken die wij als mensen het makkelijkst kunnen uitvoeren, lijken het moeilijkst voor computers om na te bootsen. Omgekeerd geldt hetzelfde: taken die computers net het makkelijkst kunnen uitvoeren, zijn voor mensen veelal zo goed als onmogelijk.

De laatste jaren is er echter veel vooruitgang geboekt op vlak van kunstmatige intelligentie. Wat tien jaar geleden nog ondenkbaar leek, is tegenwoordig een dagelijkse realiteit. Computers kunnen op dit moment bijvoorbeeld al makkelijk dieren en mensen herkennen in foto’s, een probleem waar onderzoekers decennialang mee geworsteld hebben. De media springen graag op dit soort ontwikkelingen om indrukwekkende beweringen te publiceren over hoe computers dichter en dichter bij het niveau van menselijke intelligentie komen. De waarheid is echter dat computers nog veel zaken niet kunnen. De technieken die in de laatste jaren zoveel succes gehad hebben, gaan ons niet direct op een pad sturen richting echte artificiële intelligentie. Dit werd pijnlijk duidelijk gemaakt in 2013 toen een aantal onderzoekers ontdekte dat de moderne kunstmatige intelligentie makkelijk om de tuin te leiden is. Zij vonden bijvoorbeeld dat het mogelijk is om een foto van een gele schoolbus te manipuleren op een manier die het menselijk oog niet kan zien, maar die ervoor zorgt dat een computer zal denken dat de foto eigenlijk van een struisvogel is. Het is het waard om even stil te staan bij hoe absurd deze situatie is: de computer krijgt een duidelijke foto van een gele bus en verwart dit met een foto van een struisvogel, een dier dat in de verste verte niet lijkt op een bus ongeacht hoeveel promille alcohol men in het bloed heeft. Naast struisvogelbussen kan men nog talloze andere voorbeelden vinden: honden die blijkbaar trappen zijn, panda’s die worden gezien als apen, etc. Men kan een computer eigenlijk doen geloven dat er bijna eender wat in een foto staat zonder dat mensen het verschil tussen de originele foto en de manipulatie kunnen opmerken.

Je kan nu misschien denken dat dit gewoon grappig is, dat dit probleem geen belangrijke gevolgen heeft. Ik wil benadrukken dat dit niet waar is: er zijn veel toepassingen waar het van groot belang is dat de computer de juiste resultaten geeft als men dit soort vragen stelt. Een heel concreet voorbeeld is een filter voor pornografische inhoud: met bepaalde manipulaties zou men pornografische afbeeldingen of filmpjes kunnen uploaden naar een website die dergelijke inhoud niet tolereert. Meer kritieke voorbeelden bestaan echter ook. Er zijn genoeg toepassingen van kunstmatige intelligentie in cyberveiligheid, en als men die systemen zou kunnen omzeilen met gemanipuleerde invoer zou er gevoelige informatie van personen of bedrijven gestolen of beschadigd kunnen worden. Het is dus zeker belangrijk om te achterhalen hoe het komt dat computers dit soort fouten maken en hoe we dit kunnen oplossen.

Mijn scriptie is toegewijd aan precies dit probleem, namelijk de vraag waarom computers zo makkelijk om de tuin te leiden zijn en hoe we dit kunnen verhelpen. Ik bestudeer verschillende modellen die tegenwoordig gebruikt worden in kunstmatige intelligentie en analyseer wat de kleinste veranderingen zijn die men moet toepassen om de computer fouten te laten maken. Uit mijn resultaten kan men technieken vinden om de gevoeligheid van computers aan manipulaties te verminderen en zo de systemen die gebruik maken van kunstmatige intelligentie betrouwbaarder te maken. Een van mijn ontdekkingen is dat men een gigantische verbetering in de weerstand tegen manipulaties kan verkrijgen door de verschillende lagen van het systeem een klein beetje te verbeteren. Moderne kunstmatige intelligentie wordt namelijk typisch geïmplementeerd door vele kleine lagen aan elkaar te schakelen. Om die reden spreekt men vaak van deep learning: er is de laatste jaren immers een ware explosie is geweest in het aantal lagen dat men in dergelijke systemen kan steken, zodat ze heel erg “diep” lijken. Dit is dus een handig resultaat, niet alleen omdat het vaak veel eenvoudiger is om een laag apart te verbeteren dan om alle lagen samen als een geheel te verbeteren, maar ook omdat de verbetering van het volledige systeem vele malen groter kan zijn dan de som van de verbeteringen van de individuele lagen. Vermits moderne systemen zoveel lagen hebben, kan dit effect dus enorm opbouwen.

We hebben nog een lange weg te gaan eer onze computers hetzelfde niveau van intelligentie bereiken als mensen. De creatieve hallucinaties die onze systemen hebben, waaronder struisvogelbussen, traphonden en panda-apen, is hier eigenaardig bewijs van. Met een aantal kleine aanpassingen zouden we hun resultaten echter enorm kunnen verbeteren, dus ik ben optimistisch dat we de computers terug naar de realiteit kunnen brengen.