8 November 2017
Willem Duijvelshoff
Willem Duijvelshoff
Share
Tweet about this on Twitter0Share on LinkedIn0Share on Facebook0

UX-uitdagingen bij kunstmatige intelligentie en personalisatie

Het belang van empathie voor de gebruiker in een tijd van slimme algoritmes

Digitale diensten personaliseren hun suggesties en aanbod steeds doeltreffender met machine learning en kunstmatige intelligentie. Ook voor ontwerpers zijn deze vormen van intelligentie niet langer te ontkennen. Tegelijkertijd zijn datawetenschappen lang niet altijd bekend terrein voor hen. Maar niet gevreesd, de empathische blik van de ontwerper is van veel toegevoegde waarde in het tijdperk van algoritmes. De relatie tussen gebruiker en intelligent systeem moet worden vormgegeven en dit vereist inlevingsvermogen (’empathie’); de ontwerper van de toekomst slaat een brug tussen algoritme en gebruiker.

AI-Personalization

Tijdens een innovatiesprint bij Informaat hebben we een concept voor een app ontwikkeld voor een KI-gedreven boodschappenassistent. Hoe zorg je ervoor dat de gebruiker vertrouwt dat een dergelijke applicatie inderdaad goed zorgt voor voorraadbeheer, recepten en producten die passen bij de gewenste levensstijl, zonder dat de gebruiker er een ongemakkelijk gevoel bij krijgt (‘Big Brother is watching you!’)? Vier ontwerpers en één facilitator stortten zich op de vraag hoe je een digitale boodschappenassistent zo kunt ontwerpen dat de gebruiker de suggesties van de dienst gaat accepteren. Daarbij gaat het om relevantie, vertrouwen en een optimale user experience. Uit de literatuur zijn vier centrale UX-issues bekend: Cold-start, transparancy, in control en exceptions. We hebben oplossingen hiervoor verwerkt in het concept van de boodschappenassistent. Hier geven we inzicht in wat we geleerd hebben.

De vier centrale UX-uitdagingen bij personalisatie

1. Cold-start

Het cold-start probleem houdt in dat de ‘motor’ ofwel het algoritme nog niet warmgedraaid is voor het geven van optimale resultaten. Dit komt doordat er nog te weinig gegevens bekend zijn over de gebruiker. De uitdaging hier is de meest essentiële informatie vast te stellen om relevante suggesties te kunnen doen en deze informatie vervolgens zo te verkrijgen zonder dat de gebruiker dit als storend ervaart. Om de cold-start te verhelpen hebben ontwerpers ook kennis van het algoritme nodig, welke input heeft het systeem nodig van de gebruiker?

Het oplossen van het cold-start probleem kan door impliciete gegevens te interpreteren, zoals gebruikers clusteren bij andere gebruikers die soortgelijk gedrag vertonen (denk aan: ‘Anderen die dit kochten, vonden dit ook interessant.’). Ook contextuele informatie interpreteren is een optie, denk hierbij aan: Geolocatie, GeoIP, GPS-coördinaten, de referentiesite, het apparaat van de gebruiker, besturingssysteem of browser type. Naast dergelijke impliciete gegevens kunnen we de gebruiker ook expliciet feedback vragen. Hierbij staat het wederkerigheidsprincipe voorop. Het voordeel dat de gebruiker verkrijgt door informatie te geven moet gelijk duidelijk zijn. Onze ervaring is dat gebruikers alleen willen investeren in verbetering van de KI als het hen iets oplevert. De relatie tussen gebruiker en intelligent systeem is dus vooral een kwestie van geven en nemen.

Cold start

In het geval van onze persoonlijke boodschappenapp hebben we ervoor gekozen een combinatie van impliciete en expliciete gegevens te verwerken. Impliciete bronnen, zoals online klikgedrag en sociale media kunnen in eerste instantie helpen bepaalde lifestyle-doelstellingen voor te stellen aan de gebruiker. Daarnaast kan de gebruiker ook zelf doelstellingen opgeven, zoals ‘minder vlees eten’ of ‘experimenteren met de Vietnamese keuken’. De cold-start voor het onderdeel doelstellingen wordt opgevangen door alleen de meest essentiële verhelderende vragen te stellen. Denk hierbij aan de vraag of de dieetverandering voor het gehele gezin geldt of alleen voor de gebruiker zelf. Dit helpt de assistent bij relevante suggesties voor een nieuw gepersonaliseerd weekmenu te geven.

2. Transparency

De mate van transparantie die je geeft aan de gebruiker is één van de andere centrale uitdagingen voor ontwerpers die met KI werken. Het risico is namelijk dat gebruikers het gevoel kunnen krijgen te werken met een blackbox-systeem. Bij te weinig grip op de interne werking van het systeem neemt het vertrouwen af en is de kans groot dat de gebruiker afhaakt.

Als ontwerpers zijn we gewend aan ‘seamless’ (naadloos, frictieloos) ontwerp, maar om te voorkomen dat dit de gebruiker afschrikt, kun je ‘seamful’ design toepassen. In plaats van alle processen naar de achtergrond te verplaatsen kan een ‘seam’ worden geplaatst, hetgeen inhoudt dat het systeem de gebruiker juist meeneemt in de redenering van het algoritme.

Transparantie LeftTransparantie Right

Als de persoonlijke boodschappenassistent een nieuw weekmenu heeft gegenereerd kan de gebruiker de redenering bekijken. De gebruiker kan de voorgestelde recepten omdraaien, zodat hij ziet waarom deze suggesties passen binnen de opgegeven doelstelling. Daarnaast kan ook op hoger niveau transparantie worden ingebouwd door gebruikers toegang te geven in hun ‘smaakprofiel’. Zo kan de gebruiker zien wat er bekend is over hem of haar en eventueel voorkeuren aanpassen.

3. In control

Het is onwenselijk dat een intelligent systeem de gebruiker doorlopend lastigvalt met verzoeken, maar op momenten van belangrijkere beslissingen is het wel zaak dat het systeem de beslissing checkt bij de gebruiker. De uitdaging zit hem in het afwegen welke vragen van belang zijn om bij de gebruiker te checken en welke beslissingen op de spreekwoordelijke automatische piloot kunnen worden genomen.

in-control-1

Onze intelligente boodschappenapp zal niet zomaar automatisch alle boodschappen bestellen. De gebruiker ontvangt een notificatie en kan de details van de bestelling eerst controleren. Bepaalde boodschappen, zoals toiletpapier en afwasmiddel zouden op den duur automatisch kunnen worden besteld. Een grotere vraag zoals: ‘Wil je 5 euro per 100 gram extra betalen voor de biologische kip?’ legt het systeem voor aan de gebruiker. Zo houdt de gebruiker de situatie op belangrijke momenten onder controle en wordt vertrouwen in de app versterkt.

in-control-2

4. Exceptions

Interaction designer Josh Clark merkte treffend op: “I think part of our new role is designing not just the interface, but anticipating the weirdness and ambiguity that can come back from these systems.” Het is soms lastig voor algoritmes uitzonderingen en irrelevante informatie te negeren. Een algoritme dat op basis van je Spotify-lijst passende kroegen aanraadt kan behoorlijk de mist ingaan als je toevallig vaak slaapliedjes opzet voor je kind. Deze informatie is voor het aanraden van bars namelijk niet van belang. De uitdaging is deze context-afhankelijke informatie herkennen en de gebruiker de kans geven er feedback op te geven.

Hoe kunnen UX in het algemeen en de interface in het bijzonder dit opvangen? Als de persoonlijke boodschappenassistent bijvoorbeeld opmerkt dat je aankopen hebt gedaan die volkomen buiten het vaste patroon vallen of strijdig zijn met de opgegeven doelstellingen dan kan hij je vragen of hij hier rekening mee moet houden bij vervolgsuggesties. Als je een keer een feestje geeft en een grotere hoeveelheid cola en bier inkoopt zal het systeem deze bestelling niet elke week herhalen omdat je hebt aangeven dat het om een uitzondering gaat.

Uitzonderingen

Onze inzichten

Aan het eind van de sprint hebben we het concept op kleine schaal getest met gebruikers. Reacties varieerden van ‘Oh wat handig dat hij met mijn persoonlijke gezinssituatie rekening houdt.’ tot ‘Maar ik wil niet dat hij al die persoonlijke gegevens van me weet.’. Eén ding is duidelijk: gepersonaliseerde systemen liggen erg … persoonlijk. Cold-start en het aanpakken hiervan kan door verschillende gebruikers zeer verschillend ervaren worden. Rekening houden met de gevoelens en overtuigingen van de gebruiker en verder gebruiksonderzoek is daarom ook essentieel.

Als designer ontwerp je de relatie tussen het intelligente systeem en de gebruiker. Het wordt vaak als een basisprincipe gezien binnen het ontwerpgebied de interface zo gestroomlijnd en naadloos mogelijk maken. Maar in het geval van KI is het soms juist essentieel te laten zien wat er aan de achterkant gebeurt. Zo neem je de gebruiker mee in de redeneringen van het systeem en creëer je vertrouwen op de langere termijn. Kerninzicht dat wij uit de sprint hebben gehaald is dat het noodzakelijk is voor een ontwerper niet alle processen die spelen in het systeem naar de achtergrond te verplaatsen. Of het nu gaat om controle, uitzonderingen opvangen of transparantie, geef de gebruiker de mogelijkheid het systeem bij te sturen via ‘seamful design’. Door met gebruikers in gesprek te blijven en je als ontwerper in te leven in hun wereld kunnen kunstmatig intelligente diensten zo worden ontwikkeld worden dat ze échte waarde toevoegen aan het dagelijkse leven van gebruikers.

Meer weten?

Over de auteur

Willem Duijvelshoff (/willem-duijvelshoff) is interactie-ontwerper bij Informaat die graag bruikbare en mooie interfaces ontwerpt. Hij heeft met name interesse in de manier waarop een ontwerp emotioneel aantrekkelijk en verleidend is, en hoe dat is gestoeld op de menselijke psychologie.

Design (16), Prototyping (3)

Share
Tweet about this on Twitter0Share on LinkedIn0Share on Facebook0