Onze dorst naar online winkelen en betrokkenheid bij multimediastreamingsites lijkt onverzadigbaar. Het succes van Amazon, Netflix, Spotify en YouTube toont aan dat dit een belangrijk groeigebied is en dat Covid-19 ons consumentengedrag van offline naar online heeft versneld. Het lijkt ironisch dat, terwijl onze offline interacties steeds minder persoonlijk zijn geworden door sociale afstandseisen, beperkte persoonlijke interacties en het dragen van gezichtsmaskers, het onze online interacties zijn die steeds persoonlijker zijn geworden. Hoe meer we online consumeren en interacteren, hoe meer gegevens we creëren. Deze gegevens zijn de valuta van de digitale wereld. Recommender-systemen maken gebruik van deze gegevens om de inhoud van websites in realtime aan te passen aan individuele voorspelde gebruikersvoorkeuren en -behoeften.

Maar beïnvloeden aanbevelingssystemen ons feitelijke gedrag? Verrijken ze ons leven of versterken ze alleen ons eigen gedrag? En wat hebben organisaties, klanten en de maatschappij aan deze technologie?

Dit waren slechts enkele van de vragen die dr. Mark GrausRecommender sessie, gegeven als onderdeel van de Digital Strategy module voor het MaastrichtMBA programma in november. Mark is universitair docent Data Science in Marketing aan de Universiteit Maastricht. Zijn achtergrond in Human-Technology Interaction combineert machine learning met fundamentele psychologische theorie. Het is deze combinatie van expertise die een dynamisch en genuanceerd debat over de recommender sessie mogelijk maakte, en ja, het werd persoonlijk!

Eén maat past niet iedereen

Een gepersonaliseerde online ervaring is de tegenpool van een standaard klantbenadering. Voor een succesvolle gepersonaliseerde gebruikerservaring moeten bedrijven aanpassen wat ze mensen laten zien op basis van wat ze over hen weten. Als online bedrijven dit goed doen, kan het aanzienlijke inkomstenstromen genereren en concurrentievoordeel creëren. Alle aanbevelingssystemen zijn gepersonaliseerde systemen en de algoritmes die worden gebruikt om deze feedback te bepalen vallen uiteen in twee hoofdcategorieën: filtering op basis van inhoud en filtering op basis van samenwerking.

Filteren op inhoud

Op inhoud gebaseerde filtering leidt de voorkeur van een gebruiker af uit productkenmerken van artikelen die ze leuk vinden. Als je bijvoorbeeld een blauw overhemd koopt op de website van Esprit, kan je worden gevraagd of je ook naar andere, vergelijkbare soorten overhemden wilt kijken. De gebruikte feedback is expliciet en probeert de relevantie voor de consument te voorspellen in termen van eigenschappen. Dit type filtering is zeer transparant, gemakkelijk te begrijpen en eenvoudig te implementeren. Het idee is echter dat het niet erg betrouwbaar is, vooral omdat wat mensen zeggen, niet noodzakelijkerwijs is wat ze doen. Een psychologische menselijke gril, die een algoritme dat alleen op feedback op basis van inhoud is gebaseerd, in de war kan sturen.

Collaboratief filteren

Collaborative filtering daarentegen leidt de voorkeur van een gebruiker af uit gebruikers zoals jij. Het vergelijkt producten met wat andere mensen, vergelijkbaar met jou, in het verleden hebben gekocht en beveelt dan bepaalde producten aan. In tegenstelling tot filteren op basis van inhoud, kan het worden gebruikt zonder enige metadata. Het is naar verluidt een betrouwbaarder systeem, maar ingewikkelder om te implementeren. Mark suggereert dat als bedrijven succes willen boeken met deze feedbacksystemen, ze een combinatie van zowel inhoud als collaboratieve filtering moeten gebruiken.

Het systeem beoordelen

Evalueren hoe goed het systeem werkt is een cruciale stap in het gepersonaliseerde digitale proces. Het nemen van de juiste actie of het maken van aanpassingen naar aanleiding hiervan, kan een significante en directe impact hebben op het succes van het systeem. Mark schetste drie belangrijke benaderingen om te beoordelen hoe goed het systeem het doet. Dit zijn online, offline en gebruikersonderzoeken. Binnen elk van deze systemen is er een variërende moeilijkheidsgraad, betrouwbaarheid en diepte van inzicht. Mark haalde belangrijke tips aan van De praktische gids van Ron Kohavi als een nuttige bron bij het doen van gecontroleerde experimenten op het web. De belangrijkste conclusie van Mark's inzichten over het evalueren van aanbevelingssystemen was dat je altijd je doelstellingen moet definiëren, omdat dit bepaalt wat voor soort evaluatie je moet doen.

Huidige uitdagingen

De drie belangrijkste uitdagingen bij aanbevelingssystemen liggen op technisch, juridisch en ethisch vlak. Vanuit een technisch perspectief werden big data, cold start problemen en voorspellende modellering genoemd als de belangrijkste uitdagingen. In wezen komt het erop neer dat hoe meer gegevens we hebben, hoe beter de voorspellingen zullen zijn. Mark erkende dat 80% van de problemen met aanbevelingssystemen te maken heeft met wat in de industrie bekend staat als een 'koude start probleem', wat betekent dat wanneer je een nieuw systeem, een nieuwe gebruiker of een nieuw item hebt, je geen of niet genoeg gegevens hebt om de voorkeuren van een gebruiker af te leiden om aanbevelingen te doen en het dus moeilijk is om vanaf nul te beginnen.

De juridische uitdagingen draaien om de netelige kwestie van toestemming en transparantie. Beide aspecten hebben belangrijke gevolgen voor personalisatie. De verordening gegevensbescherming (GDPR) geeft consumenten eigenaarschap over hun gegevens en controle over hoe die gegevens kunnen worden gebruikt. Het gevolg is dat er minder gegevens beschikbaar zijn, dus een slimmer gebruik van gegevens is nodig. Mark suggereert dat bedrijven een meer genuanceerde aanpak zouden kunnen hanteren om zowel de voordelen als de kosten van privacy aan de consument te laten zien.

De filterzeepbel: een kwestie van ethiek

Leven we gewoon in onze eigen bubbel? Recommender-systemen dienen om onze online ervaringen beter op onze interesses af te stemmen. Ze bestaan om ons een betere service te bieden en zo de inkomsten voor het bedrijf te verhogen, maar de algoritmen die worden gebruikt om onze ervaring te personaliseren, kunnen ons gedrag ook versterken, waardoor een zogenaamde 'negatieve feedbacklus' of 'filterzeepbel' ontstaat. De ethische kwesties die hierdoor ontstaan zijn moeilijk te negeren. Mark gebruikt zijn ervaring met het bekijken van video's over fietstraining op YouTube om dit te illustreren. YouTube neemt aan dat hij graag naar fietsvideo's kijkt en laat hem daarom meer fietsvideo's zien, waardoor hij meer fietsvideo's bekijkt. Klinkt dat bekend? Ons waarneembare gedrag creëert een bepaalde reactie, die dat gedrag vervolgens versterkt. Het lijkt veel op het idee van de echokamer waar ideeën en overtuigingen worden herhaald en gedeeld binnen een gesloten systeem. Het resultaat beperkt onze ervaringen, interacties en perspectieven. Welke impact heeft dit op ons wereldbeeld en is dit wat we willen van een gepersonaliseerde service?

Dit lijkt misschien ver verwijderd van de vraag of we dat blauwe shirt kopen dat ons wordt aanbevolen op de website van Esprit, maar de ethische uitdagingen van gepersonaliseerde systemen roepen een filosofische reactie op. Mark erkent dat een van de belangrijkste beperkingen van gepersonaliseerde systemen ligt in de focus op de 'waarneembare' impact op gedrag, bijvoorbeeld of klanten meer kopen, terwijl de integratie van een meer gebruikersgericht model dat gebruikspsychologie en feedback van gebruikers omvat, een breder, evenwichtiger gepersonaliseerd model mogelijk zou maken. Misschien kunnen recommender-systemen zo het leven van mensen verrijken en de belofte van een meer gepersonaliseerde service waarmaken. Mark gelooft dat dit het geval zou kunnen zijn; laten we het hopen, per slot van rekening wordt zijn expertise ten zeerste aanbevolen.

Dit artikel is tot stand gekomen in samenwerking met UMIO - Prime, een initiatief van UMIO | Universiteit Maastricht en de School voor bedrijfskunde en economie.