18
Mo Gawdat stond hoog aan de top bij
technologiereus Google, maar vreest nu
voor de technologie die het bedrijf enorm
belangrijk vindt: kunstmatige intelligentie.
Hoe moet en kan de mens gaan
samenleven met machines?
INTERVIEW
OUD-TOPMAN VAN GOOGLE WAARSCHUWT VOOR GEVAREN VAN KUNSTMATIGE INTELLIGENTIE
f oen wij slimmer
I werden dan de apen,
hebben we veel ka
potgemaakt. Wat
gaat er gebeuren als
onze machines slimmer worden dan
wij?" Voormalig Google-topman Mo
Gawdat ligt wakker van die vraag.
Deels daarom nam hij ontslag bij de
experimentele divisie, Google X, en
schreef hij er een boek over: Griezelig
Slim. Het is 'half waarschuwing en
half advies aan de normale mens'.
Een 'milde dystopie', zo noemt de
Egyptische zakenman het toekomst
pad dat hij voorziet. Krijgt de mens
heid moordzuchtige robots op zijn
dak? „Nee, zo ver ga ik niet. Maar
denk aan hoeveel bugs onze compu
ters nu al hebben. Wat zijn de gevol
gen van een denkfoutje als we al
onze machines slim maken?"
Hij wijst als simpel voorbeeld op
Instagram. „Als ik een filmpje leuk
vind waarin een mooi meisje Hotel
California speelt, denkt de Insta-
gram-intelligentie meteen 'oh, je wil
dus jonge meisjes zien die rockmu
ziek maken'. Mijn hele timeline loopt
ermee vol, terwijl ik die video alleen
maar like omdat ik het fijn vind om
mensen mooie muziek te horen spe
len."
Goede bedoelingen
Bovendien heeft Instagram tenmin
ste nog goede bedoelingen, terwijl
kunstmatige intelligentie wereldwijd
ook voor oorlogsmachines en identi
teitsdiefstal wordt gebruikt, zegt
Gawdat.
Slimme machines bepalen nu al een
groot deel van het leven, en dat is in
rap tempo gegaan. Technici begon
nen in de jaren 50 te praten over de
mogelijkheden van een apparaat dat
kan nadenken. Ze kwamen er toen
nog nergens mee. „Maar aan het be
gin van deze eeuw ontdekten we deep
learning, het idee dat een machine
zelf iets kan leren." Opeens schoot de
technologie met een vaart vooruit.
„Als ik jou nu een link stuur en te
gen je zou zeggen 'open die e-mail,
klik op die videochat-link, zet je ca
mera aan', en jij volgt die instructies
braafjes, dan heb ik je op de ouder
wetse manier geprogrammeerd",
zegt Gawdat. „Ik kan jou ook gewoon
alleen de link sturen en erop vertrou
wen dat je zelf kan bedenken wat je
ermee moet doen, omdat je al vaker
zoiets hebt gedaan. Dat laatste is deep
learning."
Bij deep learning krijgen computers
een berg voorbeelden te zien en moe
ten ze zoeken naar patronen. Ze zijn
daar heel goed in. „Het gaat nu zo
hard dat onze systemen rond 2029
slimmer zijn dan wij. De beste
schaakspelers en spelers van het Ja
panse bordspel Go zijn nu al machi
nes."
Gawdat werkte bij Google X aan dit
soort slimme, zelflerende machines.
„Ik stond op een dag voor het raam te
kijken naar een reeks robotarmen die
probeerden te leren om speelgoed op
te pakken. Ik voelde me best zen",
herinnert hij zich. „Ze maakten alle
maal foutjes, maar ze bleven probe
ren. Toen wist er een opeens een gele
bal te grijpen. Binnen een minuut
lukte het alle armen om hun speel
goed te pakken."
Gawdat schrok daarvan. Het leek pre
cies op de manier waarop zijn kinde
ren hadden geleerd om blokjes in de
juiste gaatjes te duwen. „Ik had er
mijn hele leven over kunnen doen
om die armen zo te programmeren
dat ze dit zo precies kunnen."
Het zette hem aan het denken over
de toekomst. „Mijn werk als schrijver
is om dingen te onderzoeken en dat
op te schrijven. Als een intelligentie
mij lang genoeg observeert, kan die
dat beter dan ik. Het werk van de
mens verliest zo zijn waarde."
Denkend wezen
Technici en zakenmensen realiseren
zich niet goed genoeg dat we met al
die algoritmes en slimme machines
geen gereedschap meer bouwen, zegt
Gawdat. „Het maken van een kunst
matige intelligentie is het baren van
een denkend wezen."
Kunstmatige intelligenties die in
het verleden werden losgelaten op
Wat zijn de
gevolgen
van een
denkfoutje
als we alle
machines
slim
maken?
internet, leerden daar meestal de
meest vreselijke dingen. Zo moest
Microsoft binnen een dag de stekker
uit chatbot Tay trekken. Op Twitter
had Tay namelijk geleerd dat het
prima was om te zeggen dat Hitler
gelijk heeft gehad. „Machines leren
van patronen, en dit soort kunstma
tige intelligenties krijgen veel haat en
negativiteit te zien." Gawdat vreest
daarom dat zelflerende machines tot
vervelende conclusies gaan komen.
Zo dragen algoritmen van sites als
YouTube nu al bij aan het versterken
van negativiteit op internet.
Gawdat denkt niet dat de mens
voor een verloren zaak staat. De 'ge
wone man' kan druk leggen op tech
nici en de zakenmensen om kunst
matige intelligentie alleen voor goede
doelen te ontwikkelen. „Maar wat
nog belangrijker is, is dat we samen
werken om machines een goed beeld
van de mensheid te geven. Wij zijn in
ons hart meevoelende wezens die het
goed bedoelen, we zijn niet allemaal
Hitlers in de dop."
Hij roept zijn lezers dan ook op om
het internet positiever te maken.
„Terwijl jij dat filmpje bekijkt waarin
een vrouw haar man slaat, staan ze
ven miljoen vrouwen hun mannen
gedag te kussen", besluit hij. „Als we
onze slimme machines die liefde
juist laten zien, dan zullen ze ook van
ons houden."
DINSDAG 26 OKTOBER 2021 GO
'Het werk
van de mens
verliest zijn
waarde'
Len Maessen
Amsterdam
Mo Gawdat
vindt het belang
rijk machines
een goed beeld
van de mensheid
te geven.
FOTO'S FREEPIK,
SONJA DIPPEL
- Mo Gawdat