Zie AI niet als een gevaar, maar in ons voordeel voor een rechtvaardige samenleving
Op zaterdag 12 oktober start de Universiteit van Amsterdam (UvA) Alumniweek met een inspirerend programma. Sennay Ghebreab, hoogleraar Socially Intelligent AI, verzorgt een keynotelezing over AI de kracht van betrokkenheid.
AI is geen magie, maar een spiegel van de mens
Brainwash 29 september 2024
Artificial intelligence ontwikkelt zich razendsnel. Een sollicitatiebrief of een nieuwe zomerhit, AI draait het in een paar seconden in elkaar. Moeten we bang zijn voor die ontwikkelingen? Nee, denkt hoogleraar Socially Intelligent AI Sennay Ghebreab. Volgens hem moeten we vooral inzien dat AI een weerspiegeling is van onszelf, de mens. Als we dat weten, kunnen we AI in ons voordeel gaan inzetten, voor een rechtvaardige samenleving.
"Als AI een reflectie is van de data die wij gebruiken, dan vertelt die iets over ons als mens, als maatschappij."
Sennay Ghebreab is hoogleraar Socially Intelligent AI aan de Universiteit van Amsterdam en directeur van het Civic AI Lab. In het lab wordt AI ontwikkeld en toegepast die bijdraagt aan een inclusieve en rechtvaardige samenleving. Daarbij trekken de universiteit, de overheid, de industrie en het maatschappelijk middenveld samen op. Charisa Chotoe en Calvin van Laaren gingen met hem in gesprek.
kijken
Nieuwe interviews van Brainwash als eerste zien?
abonneer je dan op ons Youtube-kanaal
lezen
Bij AI denken we aan van alles, van robots, tot algoritmes en ChatGPT. Hoe definieer jij AI eigenlijk?
“Dat is een goede vraag, want er zijn heel veel definities. Artificiële Intelligentie gaat met name over lerende systemen, die bijvoorbeeld kunnen leren van de fouten die ze maken. Ze krijgen daarbij geen voorbeelden voorgeschoteld, maar wel een beloning. Zo komen ze met nieuwe inzichten.”
Vaak hoor je dat de ontwikkeling van AI nu ineens wel heel snel gaat, dat iets als ChatGPT een gamechanger is. Hoe zie jij dat, als iemand die al decennia met kunstmatige intelligentie bezig is?
“Het is niks nieuws, deze technologie zat er de afgelopen twintig jaar al aan te geven. Om een voorbeeld te geven: Elon Musk is nu bezig met Neuralink, het implementeren van chips in de hersenen om de hersenen te kunnen aflezen. Dat is iets waar ik zelf ook aan heb bijgedragen in 2004, toen was de technologie om hersenactiviteit te kunnen lezen en die vertalen naar woordjes en plaatjes al in ontwikkeling.
Wat er nu gebeurt is dat partijen als OpenAI of Elon Musk deze ideeën oppakken en uitvergroten. De schaal waarop ze die toepassen en commercialiseren is nieuw, maar de technologie an sich niet.”
Wat valt jou op in de discussies over de ontwikkeling van AI?
“Wat mij opvalt is het wij-zij denken: veel mensen hebben het idee hebben dat wij mensen tegenover de technologie staan. Vooral als ze weinig weten van AI, informatica of computer science. Die beelden zijn ingegeven door allerlei Hollywood-scenario’s: daar komen de machines, ze worden groter en slimmer. Kijk maar, ze kunnen al tekst en plaatjes maken! Nieuwe generatieve technologieën, zoals ChatGPT, vergroten de wij-zij-spanning, terwijl ze die volgens mij zouden moeten verkleinen. Iets als ChatGPT is helemaal geen tegenstelling met ons mensen, maar juist een reflectie van ons. Toch worden ze gezien als een eigen, levende entiteit.”
Als een soort magie.
“Ja, terwijl je toch zou verwachten dat hoe meer AI in de haarvaten van de maatschappij zit, hoe meer kennis en bewustwording er zou moeten komen en hoe minder magisch het wordt. We moeten inzien dat AI als een spiegel werkt.”
AI zien als een spiegel, hoe bedoel je dat precies?
“Ik maak vaak een vergelijking tussen de spiegel en AI omdat er veel overeenkomsten zijn in de manier waarop ze zijn ontwikkeld en de narratieven die er omheen hangen.
In de 11e eeuw werkten heel veel techneuten op een interdisciplinaire manier samen aan de spiegel, ze hadden een gezamenlijke missie om een zo goed mogelijke en heldere spiegel te maken. In die tijd zei de kerk dat de spiegel iets duivels en dystopisch was, terwijl anderen het juist iets goeds vonden.
In de 12e, 13e en 14e eeuw was er een grote competitie tussen spiegelmakerijen in Venetië en in de Alpen, zoals je dat nu in Silicon Valley ziet. Tot aan de Renaissance, toen de spiegel na al die eeuwen van ontwikkeling een mechanisme van emancipatie werd. De armen konden zichzelf zien in de spiegel en gingen zich vergelijken met de rijken, door zich anders te gaan kleden. De spiegel werd zo een soort emancipatiemotor.
De huidige discussie over AI lijkt op de vroege discussie over de spiegel. Ook AI wordt nu als iets utopisch of juist dystopisch gezien.”
Wat leert die vergelijking met de spiegel ons over hoe we nu met AI omgaan?
“De spiegel heeft door de eeuwen heen verschillende functies gehad. In de eerste plaats was dat reflectie: je visuele eigenschappen terugzien. Dan volgt introspectie: je ziet jezelf zitten en vraagt je af, wie is die persoon? De spiegel zet je dus aan om na te denken over jezelf. Daarna komt verbeelding van wie je wilt zijn. Tot slot nodigt de spiegel uit tot transformatie, om die verbeelding van jezelf werkelijkheid te maken.
Met AI zitten we nu pas aan het begin van die ontwikkeling. De vraag is nu: is de spiegel die AI is, goed genoeg? Reflecteert die ons mensen, of moet die nog verder gepolijst worden? En waar de spiegel al wel goed werkt, kijken we dan goed in de spiegel, maken we de stap naar introspectie?
Als AI een reflectie is van de data die wij gebruiken, dan vertelt die iets over ons als mens, als maatschappij. Laten we niet terugschrikken voor wat we in die AI-spiegel zien, maar daarvan leren. Om het concreet te maken: de Toeslagenaffaire. Daar wordt de stap naar introspectie helemaal niet gemaakt. Wat hebben we gedaan en waarom? Men wil nog niet in de spiegel kijken om fouten te erkennen.”
Wat zien we als we wel goed in die spiegel kijken?
“Dat onderbuikgevoelens heel bepalend zijn. Dat zag je ook in de enquête na de Toeslagenaffaire. Onderbuikgevoelens die niet hard gemaakt of gekwantificeerd konden worden, werden in de algoritmes wél gekwantificeerd. Nationaliteit werd als kenmerk gebruikt en etniciteit ligt in het verlengde daarvan. Maar men blijft miskennen dat er discriminerend te werk is gegaan.”
Jij bent al langer bezig met hoe AI kan discrimineren. Is het bewustzijn daarover sinds het Toeslagenschandaal niet toegenomen?
“Toen ik in 2009 begon over discriminerende AI zei iedereen, inclusief mijn collega’s: AI en discriminatie, hoe kom je erbij? Nu wordt AI bijna alleen maar geassocieerd met disrciminatie en manipulatie. De aandacht daarvoor is een beetje doorgeslagen.
Er is dus meer aandacht voor, maar die functioneert ook als een afleiding van de bron van discriminatie, namelijk de maatschappij zelf. Door elke keer over de discrimenerende kracht van AI te praten, leid je de aandacht daarvan af. Discriminatie kun je niet uit AI halen als je discriminatie niet uit de maatschappij haalt.
Daarom houd ik me nu vooral bezig met hoe je AI kunt inzetten om discriminatie en ongelijkheid tegen te gaan.”
Hoe kan dat eruitzien?
“Daarvoor kom ik weer terug bij mijn spiegelmetafoor. We hebben een nieuw soort spiegel nodig, een kaleidoscopische spiegel met drie spiegels: de private sector (bedrijven), de publieke sector (overheden) en de civiele sector (community’s, de mensen zelf). Die derde spiegel mist nu: gemeenschappen worden nauwelijks meegenomen in de ontwikkeling van AI. Er moet veel meer ruimte komen voor co-creatie.
Een voorbeeld uit ons Civil AI Lab is onderzoek naar transportlijnen in de stad. Niet alle gemeenschappen hebben evenveel toegang tot openbaar vervoer, wat leidt tot mobiliteitsarmoede en -ongelijkheid. Met AI en algoritmes proberen we te kijken hoe optimaal transport eruit kan zien, als je rekening houdt met factoren zoals kosten voor gebruikers, toegang tot gezondheidszorg, etcetera. Op basis daarvan proberen wij verschillende scenario’s te ontwikkelen die gemeentes aan hun burgers kunnen voorleggen, zodat ze op een collectieve en eerlijke manier een keuze kunnen maken.
Ook zie ik steeds meer AI-toepassingen die de relatie tussen mens en natuur kunnen verbeteren. Zoals sensoren die stress bij bomen kunnen meten of AI die geluiden van dolfijnen kan interpreteren. Die nieuwe informatie stelt ons in staat om de natuur beter te begrijpen en ermee om te gaan.
Uiteindelijk geloof ik dat AI ons menselijker zal maken, omdat die helpt elkaar beter te leren kennen.”
AI is geen magie, maar spiegel van de mens
Artificial intelligence (AI) ontwikkelt zich razendsnel. Een sollicitatiebrief of een nieuwe zomerhit, AI draait het in een paar seconden in elkaar. Moeten we bang zijn voor die ontwikkelingen? Nee, denkt informaticus Sennay Ghebreab. Volgens hem moeten we inzien dat AI een weerspiegeling is van onszelf. Als we dat weten, kunnen we AI in ons voordeel gaan inzetten, bijvoorbeeld voor het herstellen van de relatie tussen mens en natuur.
Kletsen met dieren?
Misschien dat jij er als kind ook wel van droomde: praten met dieren. Lang leek het begrijpen van dierentaal onmogelijk, maar de afgelopen jaren komt het steeds dichterbij. Zo verscheen in juni een baanbrekend artikel in Nature, waarin een opmerkelijke ontdekking werd gepresenteerd: olifanten gebruiken namen om elkaar aan te spreken.
Een belangrijke rol in dit onderzoek was weggelegd voor AI. Met behulp van zelflerende algoritmes werden honderden geluidsfragmenten van het gegrom van olifanten – dat zo laag is dat het onhoorbaar is voor mensen – geanalyseerd. Hierdoor konden de wetenschappers unieke geluidspatronen identificeren waarmee de olifanten hun groepsleden aanspreken. Dit maakt olifanten tot de eerste diersoort die hun jongen namen geeft op een manier die vergelijkbaar is met hoe mensen dat doen.
Niet alleen de olifantentaal, maar ook veel andere dierentalen worden tegenwoordig bestudeerd met behulp van AI. Zo heeft machine learning de afgelopen jaren aangetoond dat vleermuizen ruziën over hun eten of slaapplek, dat potvissen met behulp van een fonetisch alfabet lange gesprekken met elkaar voeren en dat knaagdieren hun toon aanpassen afhankelijk van hun stemming en hun 'gesprekspartner'.
AI lijkt de kinderdroom om met dieren te kunnen praten dus steeds realistischer te maken. In een interview met Scientific American vergelijkt Aza Raskin, een wetenschapper die zich toelegt op het ontcijferen van dierentaal, de technologische doorbraken in zijn veld met de ontdekking van de telescoop: "We keken naar het heelal en ontdekten dat de aarde niet het middelpunt was." Door nu te kijken naar de taal van dieren, zouden we radicaal anders kunnen gaan nadenken over onze plek in de natuur, aldus Raskin.
Een stem aan het milieu
Maar sommige AI-systemen gaan nog een stukje verder. Dankzij AI kunnen we in de toekomst namelijk niet alleen met dieren, maar misschien ook wel met de rest van de natuur praten. Binnenkort zou het bijvoorbeeld mogelijk moeten zijn om met de Maas in gesprek te gaan. Of nou ja, met een holografische avatar, die de stem van de Maas vertegenwoordigt.
Milan Meyberg, oprichter van The Emissary of GAIA, is hard bezig om deze stem voor de Maas te realiseren. Door een taalprogramma te trainen met wetenschappelijke artikelen, boeken, rapporten en satellietbeelden van het Maasgebied, ontwikkelt hij de AI-avatar van de rivier. Vervolgens zouden overheden, bedrijven en burgers met de Maas in gesprek kunnen gaan. Zo kan de rivier voor haar eigen belangen opkomen.
Uiteindelijk hoopt The Emissary of GAIA voor allerlei verschillende natuurgebieden een avatar te ontwerpen. "Zo kan bijvoorbeeld een Canadees bos er echt uitzien en praten als een Canadees bos, en hetzelfde geldt voor een jungle in Congo," vertelt Meyberg in een interview. Met zijn project hoopt Meyberg dat we anders naar de natuur gaan kijken: in plaats van óver de natuur te praten, is het tijd om met de natuur te gaan praten. En dat met behulp van AI.
AI maakt ons menselijker
Voorbeelden zoals deze laten zien hoe AI de relatie tussen mens en natuur kan herstellen. Ook Sennay Ghebreab kijkt hoopvol naar deze ontwikkelingen. "Als je dit doortrekt, kunnen we straks veel meer met de natuur communiceren", vertelt hij in het interview van deze week. Zolang we de macht over AI niet enkel overlaten aan grote bedrijven en overheden, heeft het de kracht om de wereld op allerlei fronten te verbeteren: "Uiteindelijk geloof ik dat AI ons menselijker zal maken, omdat het helpt elkaar beter te leren kennen."
Wat denk je zelf?
Brainwash is over twee weken terug met een nieuw interview. We spreken publiek filosoof Roman Krznaric over zijn nieuwe boek, Geschiedenis voor morgen. Welke lessen kunnen we leren uit het verleden en hoe kunnen we die inzichten inzetten voor een betere toekomst? Je hoort het over twee weken.
We zijn benieuwd welke onderwerpen volgens jou meer aandacht verdienen en welke sprekers we zouden moeten uitnodigen. Laat het ons weten!
