Hoe design waarde toevoegt als AI de nieuwe UI is (AI summit Amsterdam)

Op dit moment wordt AI steeds accurater in het voltooien van kleine taken als beeldherkenning of vertalen. Het is gebruikelijk geworden dat API’s een vorm van intelligentie als ‘plug and play’ service bieden in de cloud. Sprekers van Microsoft en Google, die deze services aanbieden, probeerden ontwikkelaars er van te overtuigen dat ze hun services eens moesten uitproberen.

Maar afgezien van die technologie-pakketen: Mark Wiermans (Accenture) opende het evenement met de stelling: ‘AI is de nieuwe UI’, een statement waardoor ik ging nadenken over de toegevoegde waarde van design, waar user interfaces verschillende vormen hebben. Dit riep de vraag op waar ik gedurende de conferentie een antwoord op probeerde te vinden: Welke rol hebben designers in het AI-tijdperk? Hoe kan onze manier van denken (‘de mens centraal’) het meeste waarde toevoegen?

AI is een hype op dit moment. Bedrijven nemen steeds meer data-specialisten en AI experts in dienst. Het blindelings volgen van de hype heeft het risico dat teams beginnen met het analyseren van data zonder een goed plan. Waardoor de waarde van hun analyse beperkt is. Bram Kokke (AkzoNobel) vatte dit probleem samen en presenteerde een oplossing: Kijk naar de pijnpunten van klanten, niet naar de technologie-hype. Dit leidt tot ‘design thinking’. Beginnen met de behoeften van de gebruikers is de kern van het designvak. In dit geval is het de uitdaging voor designers om data-teams te helpen met het beantwoorden van de juiste vragen.

Luciano Floridi (Oxford Digital Ethics Lab): De sleutel is het realiseren van een voorkeursproduct

Dit kun je doen door de user journey, en gerelateerde taken, in kaart te brengen en te bezien waar AI iets kan bijdragen. Santiago Braje and Androniki Menelaou (ING) werkten aan Katana, een investeringstool die handelaars helpt bij het nemen van beslissingen zonder hen helemaal te vervangen. Met design thinking brachten zij het beslisproces in kaart om te ontdekken waar AI de meeste waarde kan toevoegen. Zo kregen ze inzichten die hun AI-oplossing meer mensgericht maakt, en mogelijk meer succesvol op de lange termijn.

Verantwoordelijk en ethische AI was een vaak terugkerend thema in de workshops en presentaties. Ik bedacht me dat ethiek een van de onderwerpen is waar de designmethode van grote waarde kan zijn. Tijdens de workshop “Shaping Values for our Future with AI” door de United Nations Secretary Panel on Digital Cooperation, gingen de deelnemers in groepjes brainstormen over hun verwachtingen en angsten rond AI. De moderatoren hielpen bij het clusteren van de uitkomsten, waardoor gezamenlijke waarden verschenen (denk aan waarden als veiligheid en zelfrealisatie).

Aan het begin van de productontwikkeling kun je met deze co-creatie-methoden design principes formuleren. Designers, researchers en ontwikkelaars kunnen hieraan refereren als ze ethische dilemma’s tegenkomen. Ajun Moon noemde dit een ‘ethische road map’. Als je de kernwaarden formuleert die aan de basis liggen van het AI product, dan helpt dat bij het nemen van ethische beslissingen in latere fasen van het ontwerpproces.

Het vaststellen van de ethiek van de gebruiker, en hoe deze AI technologie waarneemt, kun je doen met ethisch onderzoek. Zo’n onderzoek bevraagt de houding van de gebruikers. Het team van Niels Wouters (University of Melbourne) maakte een prototype van een biometrische Spiegel, die gezichtsherkenning gebruikt, om de gezichtsuitdrukkingen van de gebruiker te analyseren en zo hun ‘psychometrische karakteristieken vast te stellen. Zo’n analyse beschrijft hun karakter niet accuraat, maar het prototype was bedoeld om te prikkelen en antwoorden te zoeken.

De waarden tonen veronderstelde attributen die ontdekt zijn met gezichtsherkenning.

Dit toont hoe prototyping en experimenteren met AI onderdeel kan worden van het ontwerpproces. Dit soort prototypes kan de gevoelens over opkomende technologieën in kaart brengen en de bruikbaarheid inschatten. Het kan ook leiden tot, wat Luciano Floridi noemt, zachte ethiek, die helpt om producten op een positieve manier vorm te geven. Niet door te zeggen dat je A of B niet mag doen, maar door te ontdekken wat het ethische denkraam is van de gebruikers, en dit te gebruiken als constructieve input voor het ontwerpproces.

Mijn gevoel is dat een menselijke benadering van AI innovatie altijd design nodig heeft. Interfaces en touchpoints mogen dan veranderen, maar het optimaliseren van klantwaarde, en de voordelen van ‘de mens centraal zetten’, zullen altijd nodig blijven. Er is angst dat AI veel banen gaat vervangen, en menselijke taken gaat automatiseren. Maar AI zou niet moeten gaan over het vervangen van mensen, maar het versterken van hun mogelijkheden. Laten we samen zo’n toekomst ontwerpen!