De Algoritme Paradox, de keerzijde van online personalisatie

We staan er misschien niet bij stil, maar soms weten we het minst van de zaken waarmee we net het meest bezig zijn. Gelukkig gaat het dan niet over je job, studies of hobby's. Het gaat over sociale media en hun achterliggende algoritmes die ervoor zorgen dat jouw net geposte Instagram-proof-vakantiefoto toch niet als eerste in de news feed van je volgers zal verschijnen. De neveneffecten van deze algoritmes zijn invloedrijk doch subtiel en vaak verborgen voor de doorsnee gebruiker zoals u en mij. Het is ons onduidelijk wat een algoritme is en überhaupt doet, wat het ons in de eerste plaats moeilijk maakt de situatie op een correcte manier te beoordelen. Deze correcte beoordeling wordt in het digitale tijdperk echter steeds noodzakelijker.

 Online verzuiling, ongekend en goed verscholen

Sociale media zijn populair, heel populair. In 2018 maakte volgens de jaarlijkse Digimeter 99 procent van de Vlaamse jongeren gebruik van een handvol veelgebruikte platformen. Ondanks de sterke inburgering van deze platformen, bleek enkele jaren geleden slechts 30 à 40 procent van de Vlaamse jongeren weet van de algoritmes dat hun tijdlijn filtert, reorganiseert en personaliseert. Ondanks we hier een positieve evolutie in zien, blijft er in Vlaanderen een relatief grote onwetendheid over deze, toch wel alomtegenwoordige, algoritmes.

Een tweede probleem is de manier waarop deze algoritmes ontworpen zijn. Ze werken goed, misschien zelfs verontrustend goed. News feed algoritmes personaliseren met als doel langer onze aandacht en tijd te houden, aangezien we zo ook simpelweg meer inkomsten genereren. Om die aandacht te houden worden ons eerst de zaken getoond die ons het meest zullen interesseren. In academische termen spreekt men dan over een filter bubble, als een echokamer waarbinnen je interesses en gefavoriseerd wereldbeeld steeds terugkeren. Even voor de duidelijkheid, Facebook en co. hebben geen politieke agenda. Wel hebben ze algoritmes die extremere (politieke) inhoud aan een gebruiker kunnen voorschotelen, omdat dit zijn of haar interesse en aandacht zou wekken volgens de berekeningen. Dit leidt voor sommigen mogelijks tot polarisatie of een tekort aan online (nieuws)diversiteit, anderen profiteren net van een diverser wereldbeeld dankzij sociale media.

Onder een nieuw voorgesteld concept ‘The Algorithm Paradox’ wordt binnen deze thesis de problematiek hierover aangekaart. In onze algoritme paradox veronderstellen we dat mensen hun – beweerde – kritische ingesteldheid paradoxaal is aan hoe ze effectief sociale media gebruiken en consumeren. Het idee is ontleend uit een gelijkaardig wetenschappelijk concept, de privacy paradox. Hierin beweren mensen zich te bekommeren omtrent hun online privacy, maar gerichte acties om deze zorgen in te lossen blijven uit. Velen blijven namelijk hun privé leven delen op allerlei platformen en de technologie erachter. Wat de oorzaken en mogelijke oplossingen zijn van deze contradictorische situatie voor algoritmes, wordt via het concept van de algoritme paradox verder onderzocht.

Met de neus op de feiten

Willen we een oplossing aanreiken voor onze algoritme paradox, dan moeten we een groter bewustzijn creëren door concreet te laten zien wat algoritmes kunnen en ook effectief doen. In beleidsteksten wordt dit vaak omschreven als ‘mediawijsheid verhogen’. Met Instawareness heeft deze thesis hiervoor een vrij unieke en vergaande aanpak. Instawareness (instawareness.ugent.be) is een zelf ontworpen webapplicatie die je toelaat in te loggen met je Instagram account, om zo te tonen welke impact het onzichtbare Instagram-algoritme heeft op jouw news feed en posts. De website onthult je welke posts in je news feed hoger of lager gerankt worden of op welke manier je een vertekend beeld kan krijgen door bepaalde accounts vaker te zien. Met behulp van onze tool hebben we een zestigtal studenten laten deelnemen aan een verborgen experiment, waarbij we verschillen voor en na het gebruik van onze bewustmaking-tool konden testen.

Het ultieme doel van Instawareness te gebruiken was een blijvende indruk na te laten door een persoonlijkere aanpak te gebruiken. Daarnaast liet de tool ook toe om de complexiteit van een algoritme uit te leggen aan de hand van enkele simpele en concrete voorbeelden. Het bleek dan ook een succesvolle aanpak, hoewel de keerzijde van de medaille de grenzen aftast met de privacyvoorwaarden en het gebruiksreglement van Instagram.

Toekomstige uitdagingen

Ons verborgen experiment schetst de stand van zaken voor enerzijds de gebruiksgewoontes en mate van kennis op verschillende niveaus wat betreft sociale media, anderzijds hoe we deze kennis op een effectieve manier kunnen verhogen en met welke gevolgen. Deze kennis is namelijk belangrijk voor een – nodige – vooruitgang in de kritische ingesteldheid tijdens het consumeren van sociale media. Wanneer jongeren kritischer staan tegenover sociale media, kunnen ze zich bewust worden van hun eigen echokamer en ontsnappen aan hun filter bubbel.

De mediawijsheid omtrent sociale media en de algoritmes erachter blijkt vrij hoog te zijn, wetende dat jongeren hier vaak geen expliciete les of uitleg over krijgen. Uit de resultaten blijkt dat jongeren goed en wel beseffen dat er personalisering aanwezig in hun news feed, maar hoe dit precies werkt en wat het doet blijft onbekend terrein. Dit zien we terug in hun zeer hoge ‘knoppenkennis’ die weerspiegelt hoe goed ze alle snufjes van de platformen begrijpen alsook in hun gemiddelde tot hoge inhoudelijke kennis, die op zijn beurt aangeeft hoe goed jongeren begrijpen wat en waarom ze bepaalde inhoud te zien krijgen, bijvoorbeeld door algoritme-filtering.

Daarnaast blijkt Instawareness een effectieve manier te zijn om deze inhoudelijke kennis op te krikken. Na de bewustwording van deze algoritmes, zeggen jongeren hierdoor een zeker kritische bezorgdheid te ontwikkelen. Met andere woorden is alle nodige kennis en bezorgdheid aanwezig, maar zien we paradoxaal genoeg dat jongeren hier niet naar handelen.

Nu we met enige voorzichtigheid een zogenoemde algoritme paradox kunnen bevestigen, blijft de grootste uitdaging hoe we hiermee omgaan. Resultaten wijzen uit dat het beleidsmatig interessant is om in te zetten op mediawijsheid, maar om hier optimaal gebruik van te kunnen maken, moeten ook de platformbouwers meewerken. Zonder inspanningen van hun kant om de transparantie te verhogen en inzichten te geven die bovenal geen extra moeite kost aan kritische eindgebruikers, blijft het dweilen met de kraan open.