Wie ben jij volgens het algoritme?

Je zet muziek op tijdens het ontbijt. Tijdens de middag toon je je zus een viraal AI-filmpje waar ze met grote ogen naar kijkt: “Is dat écht?” ’s Avonds klik je op een video over slecht slapen. Kleine momenten, dingen waar je waarschijnlijk nauwelijks bij stilstaat, toch laten ze sporen na.

Streamingdiensten en videoplatformen verzamelen voortdurend informatie over wat je bekijkt en beluistert. Wie zulke gegevens over langere tijd samenlegt, kan patronen ontdekken: welke onderwerpen je interesseren, wat je aandacht vasthoudt en welke inhoud je waarschijnlijk als volgende wilt zien. Maar ook beduidend gevoeligere conclusies: over je gezondheid, je seksuele geaardheid, maatschappelijke of politieke interesses.

Foute conclusies soms. Misschien keek je die video over slecht slapen helemaal niet voor jezelf! Misschien zocht je informatie voor iemand anders.
 

Wie bepaalt eigenlijk wat zo’n profiel over jou zegt?

Kun je zien welke conclusies uit je gegevens worden getrokken? Kun je aangeven wanneer zo’n conclusie fout is? En kun je zelf beslissen wie toegang krijgt tot welke delen van je profiel?

Voor mijn bachelorproef aan de Odisee Hogeschool, uitgevoerd bij imec-IDLab, onderzocht ik hoe zo’n alternatief eruit kan zien. Ik ontwierp een systeemarchitectuur en bouwde een werkend prototype waarin gebruikers niet alleen hun mediagegevens, maar ook de inzichten die daaruit ontstaan zelf kunnen beheren.
 

Eén profiel, maar van wie?

Controle over persoonsgegevens betekent meer dan gegevens kunnen downloaden of verwijderen. Het gaat ook over waar ze worden opgeslagen, wie ze mag bekijken en waarvoor ze mogen worden gebruikt. Dat principe wordt vaak omschreven als datasoevereiniteit: gebruikers moeten betekenisvolle beslissingen kunnen nemen over hun eigen gegevens. Mijn ontwerp vertrekt daarom van een persoonlijke digitale datakluis, een zogenaamde pod. Daarin kunnen gegevens van verschillende mediadiensten samenkomen, samen met het profiel dat op basis daarvan wordt opgebouwd. In plaats van dat verschillende platformen elk afzonderlijk een stukje van je digitale identiteit beheren, ontstaat zo één plaats waarin jij zelf als beheerder en eigenaar de centrale rol speelt.
 

Wanneer platformen dezelfde taal spreken

Om dat mogelijk te maken, moest ik het volledige traject uitwerken: van het moment waarop iemand een nummer afspeelt tot het moment waarop een toepassing iets met het mediaprofiel wil doen. Waar worden gegevens opgeslagen? Hoe bewijst een toepassing wie ze is? Welke informatie mag ze lezen of toevoegen? En hoe kun je achteraf controleren wat er met je gegevens is gebeurd? Die keuzes bracht ik samen in een systeemarchitectuur: het technische bouwplan van het systeem. Een bestaande demonstratie rond Spotify vormde het vertrekpunt. Ik breidde die uit met ondersteuning voor YouTube en SoundCloud via een browserextensie. Ook videogegevens werden verwerkt en informatie uit verschillende platformen kwam samen in één mediaprofiel.

Gegevens samenbrengen is meer dan alles op dezelfde plaats bewaren. Elk platform beschrijft informatie op zijn eigen manier. Een artiest kan op Spotify anders worden voorgesteld dan op YouTube of SoundCloud. Zelfs wanneer systemen over hetzelfde onderwerp spreken, begrijpen ze elkaars gegevens dus niet automatisch. Mijn prototype zet die informatie daarom om naar een gemeenschappelijke, interoperabele vorm op basis van open standaarden.

De gebruiker krijgt daarbij zelf invloed op de verbanden tussen gegevens. Wanneer het systeem bijvoorbeeld vermoedt dat een artiest op Spotify dezelfde persoon is als een artiest in een YouTube-video, kan de gebruiker dat verband bevestigen. Wat van oorsprong niet interoperabel is, wordt zo mede door de gebruiker interoperabel gemaakt.
 

Wat als het algoritme zich vergist?

Die invloed stopt niet bij de ruwe gegevens. Het prototype kan op basis van het mediaprofiel ook inzichten afleiden, bijvoorbeeld: “Je kijkt vooral graag naar Nederlandstalige kookvideo’s.” In veel huidige systemen gebeurt zo’n afleiding achter de schermen. Je ziet zelden welke conclusies een platform precies over jou trekt, laat staan dat je ze rechtstreeks kunt corrigeren. In mijn prototype kan dat wel. De gebruiker kan een inzicht bevestigen, tegenspreken of aanpassen. Dat antwoord wordt opgeslagen in de persoonlijke datakluis en kan bij toekomstige aanbevelingen worden meegenomen.

Stel dat je tientallen kookvideo’s hebt bekeken omdat je recepten zocht voor een familielid. Een klassiek aanbevelingssysteem kan daaruit besluiten dat koken een van je grote interesses is. In mijn ontwerp kun je aangeven dat die conclusie niet klopt. De gebruiker krijgt zo letterlijk een stem in wat het systeem denkt te weten. Ook de functie die inzichten en aanbevelingen genereert, kan lokaal draaien: een vorm van edge AI met lokale inferentie. Zo blijven privacygevoelige gedragsgegevens dicht bij de gebruiker en hoeven ze niet eerst naar een externe AI-dienst te worden gestuurd.
 

Niet iedereen hoeft alles over jou te weten

Zelf bepalen wat een systeem over je weet, betekent ook zelf bepalen wie welk deel daarvan mag zien. Een muziektoepassing heeft misschien toegang nodig tot je muzieksmaak, maar hoeft daarom niet automatisch te weten welke video’s je bekijkt. Daarom worden kijk- en luistergegevens in mijn prototype afzonderlijk bewaard, met elk hun eigen toegangsregels. Het systeem voorziet bovendien in registraties van toegang en wijzigingen. Daardoor kan achteraf worden nagegaan welke toepassing gegevens heeft geraadpleegd of aangepast. 

Toch blijft er een belangrijke beperking. Een systeem kan bepalen wie bepaalde gegevens mag lezen. Zodra een externe dienst die informatie heeft ontvangen, is het veel moeilijker om technisch af te dwingen wat die dienst er daarna mee doet. Voorwaarden over bijvoorbeeld bewaartermijnen of verder delen maken deel uit van mijn ontwerp, maar worden nog niet volledig technisch afgedwongen. Huidig onderzoek naar usage-controlprotocollen en machineleesbare beleidsregels is op dat vlak veelbelovend: zulke mechanismen kunnen voorwaarden explicieter aan gegevens koppelen, al blijft effectieve handhaving ook afhankelijk van de deelnemende systemen en organisaties.

Die video over slecht slapen vertelt misschien iets over jou. Misschien ook helemaal niet. Wanneer je zelf je profiel beheert, kun je context toevoegen, verkeerde conclusies corrigeren en bepalen met wie je informatie deelt.
 

Je drukt op play. De zeggenschap over wat daarna met die klik gebeurt, zou daar ook moeten beginnen.