Unesco-studie roept technologiebedrijven tot de orde

Unesco-studie roept technologiebedrijven tot de orde: Siri en Alexa zijn seksistisch

Unesco-studie roept technologiebedrijven tot de orde: Siri en Alexa zijn seksistisch

Assistenten reageren vaak op verbaal misbruik met een ontwijkende of flirterige respons. Ze geven daarmee het signaal dat dergelijke interactie met vrouwen acceptabel is. Foto: NYT

Waarom is de virtuele assistent bijna altijd een vrouw? En waarom reageert zij guitig op seksuele toespelingen? Een Unesco-studie roept de technologiebedrijven tot de orde.

Artificiële intelligentie is in opmars, en de meest herkenbare vorm die ze vandaag aanneemt, is die van de virtuele assistent: een sprekende digitale helper in je smartphone of slimme luidspreker. Alleen al van die slimme luidsprekers werden vorig jaar wereldwijd 100 miljoen stuks verkocht.

De bekendste van die virtuele assistenten, Siri van Apple, Alexa van Amazon, Cortana van Microsoft en Google Assistant, hebben iets opvallends met elkaar gemeen: ze hebben een vrouwenstem. Al kun je dat in sommige gevallen wel aanpassen, en is het in sommige taalgebieden anders (in Groot-Brittannië en in Nederland klinkt Siri als een man). De fabrikanten halen daarvoor vaak als argument aan dat mensen een vrouwenstem ‘aangenamer’ vinden. Al zijn academische studies het daarover lang niet eens.

Gedweeë ‘persoonlijkheid’

‘Maar het gaat niet alleen om de stem. De assistenten hebben meestal een vrouwelijk klinkende naam (Google Assistant is een uitzondering) en krijgen bovendien een ­behulpzame, zeg maar gedweeë ‘persoonlijkheid’ aangemeten. Volgens een nieuwe studie van de Unesco stuurt dat een onaangename boodschap de wereld in: dat vrouwen onderdanige helpers zijn, die je met een druk op een knop of met een kort commando als ‘hey’ of ‘ok’ kunt oproepen.

Siri of Alexa hebben uiteraard niet echt een persoonlijkheid. De AI-systemen van Apple en Amazon zetten een gesproken commando om in tekst, die ze vervolgens interpreteren om het commando te kunnen uitvoeren. Ze worden vooral ingezet om taken uit te voeren zoals het opzoeken van informatie, het instellen van een wekker of het versturen van een sms-bericht. Daarbij gaan ze de jongste jaren steeds ‘intelligenter’ te werk: vraag je ‘hoe is het weer vandaag?’, dan gaat de assistent ervan uit dat je het weer op je eigen locatie bedoelt. Vraag je daarna ‘en morgen?’, dan krijg je het plaatselijke weerbericht voor de volgende dag.

Maar dat mensen (zeker als ze nog niet vertrouwd zijn met virtuele assistenten) vaak een praatje proberen te maken met de virtuele assistent, is geen nieuw verschijnsel. En de ontwikkelaars houden daar rekening mee. Ze willen immers dat hun assistent ‘natuurlijk’ overkomt. “Bedrijven ­nemen creatieve teams in dienst, meestal samengesteld uit schrijvers die hebben meegewerkt aan films, videogames en tv-programma’s”, lezen we in de studie. Die schrijven niet alleen standaardantwoorden, maar meten het AI-systeem een heus achtergrondverhaal aan. Zo heeft een van de schrijvers achter de Google Assistant ooit onthuld dat het personage van die virtuele assistent een jonge vrouw uit Colorado is, die naar een eliteschool ging, ooit de persoonlijke assistent was van een tv-komiek en dat kajakken haar hobby is. De schrijvers weten ook dat (mannelijke) gebruikers geregeld seksueel getinte vragen zullen stellen en hebben de assistent daarop voorbereid.

‘I’d blush if I could’

De titel van de Unesco-studie, I’d blush if I could, verwijst naar het automatische standaardantwoord van de Amerikaanse Siri-stem als je haar een slet noemt. Al is die informatie intussen achterhaald: vandaag antwoordt Siri met het veel minder geladen ‘I don’t know how to respond to that’. Maar de onderzoekers stellen vast dat de assistenten al te vaak op verbaal misbruik reageren met een ontwijkende of zelfs flirterige respons. Ze sturen daarmee het signaal uit, dat een dergelijke interactie met vrouwen acceptabel is.

De Unesco heeft een reeks aanbevelingen. De standaardinstelling van een virtuele assistent mag niet langer een vrouwenstem zijn, vindt de organisatie. De mogelijkheid moet zelfs onderzocht worden om een genderneutrale stem te creëren. Bovendien moeten de assistenten zo worden geprogrammeerd, dat ze op gender gebaseerde beledigingen ontmoedigen. De Unesco beveelt voorts aan dat de teams die AI-systemen ontwikkelen, meer vrouwen moeten tellen. Dat is een hele uitdaging: vandaag zijn maar 12 procent van de AI-onderzoekers vrouwen. De Unesco grijpt de problemen met virtuele assistenten dan ook aan om een bredere uitdaging aan te kaarten: de enorme ondervertegenwoordiging van vrouwen in IT-gerelateerde beroepen.

Corrigeer

NIET TE MISSEN

POPULAIRE VIDEO'S

Het beste van Enkel voor abonnees