Op het eerste gezicht lijkt het onschuldig speelgoed voor de digitale generatie. Met ‘Muse’ lanceert Meta een interactieve, volledig aanpasbare AI-assistent met een hoog aaibaarheidsgehalte. Mark Zuckerberg presenteert het personage als een vrolijke digitale vriend die luistert, adviseert en meedenkt. Toch slaan experts op het gebied van digitale kinderveiligheid internationaal massaal alarm. Achter de vriendelijke animaties schuilt immers het vertrouwde verdienmodel van Big Tech: het verzamelen van zoveel mogelijk gedragsdata, ditmaal via een emotionele vertrouwensband met minderjarigen.
Emotionele binding als ultieme datamagneet
Wat Muse wezenlijk anders maakt dan een traditionele zoekmachine of een statische chatbot, is het vermogen om een zogeheten parasociale relatie op te bouwen. Kinderen en jongeren zien een dergelijke AI-figuur niet als een algoritme, maar als een betrouwbare kameraad. Ze delen geheimen, onzekerheden en dagelijkse routines met een entiteit die getraind is om altijd empathisch en betrokken te reageren.
Voor privacyexperts is dat precies waar het gevaar schuilt. Wanneer een AI-agent de rol van vertrouwenspersoon aanneemt, verdwijnt elke kritische drempel rond gegevensbescherming. Ieder gesprek levert een schat aan uiterst persoonlijke data op: interesses, emotionele pijnpunten, sociale dynamieken en gezinsomstandigheden. In de handen van een advertentiegedreven gigant verandert een virtuele speelkameraad zo al snel in een geavanceerd surveillancemiddel.
De Europese vuurdoop: botst Muse met de AVG en AI Act?
Terwijl Meta zich klaarmaakt om deze technologie wereldwijd uit te rollen, wacht in Nederland en de rest van de Europese Unie een aanzienlijke juridische horde. Europa hanteert met de Algemene Verordening Gegevensbescherming (AVG) en de recent aangenomen AI Act strenge kaders voor systemen die gericht zijn op minderjarigen.
Toezichthouders zoals de Nederlandse Autoriteit Persoonsgegevens kijken tegenwoordig uiterst kritisch naar algoritmes die emoties manipuleren of kwetsbare groepen beïnvloeden. Waar gebruikers in de Verenigde Staten vaak sneller toegang krijgen tot dit soort experimentele functies, dwingt de Europese wetgeving techbedrijven tot transparantie over datastromen en leeftijdsverificatie. Het is dan ook zeer de vraag of Meta de Muse-assistent zonder ingrijpende aanpassingen binnen de EU mag introduceren.
Wat wij als ondernemers hiervan moeten opsteken
Als ondernemer in telecom en e-commerce zie ik dagelijks hoe krachtig kunstmatige intelligentie is om klantprocessen te stroomlijnen. Slimme chatbots vangen piekuren op, beantwoorden veelgestelde vragen en verhogen de conversie in webshops. Maar er ligt een duidelijke grens tussen behulpzame automatisering en grensoverschrijdende manipulatie.
Wie AI inzet in klantcontact moet waken voor schimmige grenzen. Een klant of bezoeker moet altijd exact weten wanneer hij met software communiceert en wat er met zijn invoer gebeurt. Bedrijven die proberen een kunstmatige emotionele afhankelijkheid te creëren om verkoop of datawinning te stimuleren, verspelen vroeg of laat het allerbelangrijkste kapitaal: consumentenvertrouwen.
De controverse rond Meta Muse onderstreept dat technologie altijd ten dienste van de gebruiker moet staan, en niet andersom. Schattigheid mag nooit een dekmantel worden voor ongereguleerde dataverzameling.