Ethiek wordt vaak geframed als tegenpool van technologie. "Het frame van handjedrukken", noemt Peter Paul Verbeek dat. "Van een strijd tussen mensen en artificial intelligence, de metafoor door digitale technologie. Maar het gaat erom welke waarden we centraal zetten en hoe we verantwoord vormgeven aan AI.
What if Algorithms Changed the world, society upgraded by deep learning.
Prof.dr.ir. Verbeek is hoogleraar Filosofie van Mens en Techniek aan de Universiteit Twente. Hij illustreert zijn stelling met een herkenbaar voorbeeld. "Neem de robot die helpt met eten. Efficiency zonder menselijke warmte vinden velen. Maar je kunt het ook vanuit een ander perspectief beschouwen. Welke waarden zitten er juist in dat ding? Er zijn mensen die het onwaardig vinden om gevoerd te worden; zij vinden zo'n robot fantastisch. De menselijke waarde zit dan in het ontwerp. Zo zie je dat techniek kan verbinden en niet per se tegenover de mens staat. Uiteraard zijn er wel grenzen.
Een ander frame is de geopolitieke dimensie. Oost dat technologie inzet voor controle door de staat, west dat zich overgeeft aan de techbedrijven en Europa ergens in het midden. President Macron heeft duidelijk uitgesproken dat hij de waarden van de Franse revolutie in AI wil stoppen. En wat mij betreft moet de hele wereld meedoen. Afrika is er toch ook nog? Bij het inbrengen van waarden in AI moet je niet alleen naar typisch westerse waarden kijken, zoals de autonomie van het individu, maar bijvoorbeeld ook naar zoiets als gemeenschapszin. Dan krijg je een veel inclusiever verhaal."
Society 5.0
Dat AI een enorme impact heeft op mens en maatschappij, daar is geen discussie over mogelijk. Verbeek: "Het heeft invloed op ons denken, net als de komst van het schrift destijds en van de boekdrukkunst. AI luidt ook een nieuwe fase in. We kunnen met data correlaties leggen die ons brein niet kunnen leggen. In Japan spreekt met al van de Society 5.0. Na de tijd van de jagers-verzamelaars, de agrarische samenleving, de industriële samenleving en de digitale samenleving ontstaat er nu een super smart society. Techniek leidt tot grote maatschappelijke innovaties en wat zijn dan de kernwaarden die we in die nieuwe samenleving willen handhaven en toevoegen? Wat mij betreft is de eerste stap dus het opheffen van dat frame van de tegenstelling. Het is niet mens versus techniek, maar verbinden. Door interactie aan te gaan met die technologie. Dan wordt technologie een medium, een kanaal tussen mens en wereld."
"Interactie aangaan met technologie betekent dat we techniek ethisch gaan ontwerpen; we brengen een ethische lading in techniek. Waarbij we moeten bedenken dat waarden kunnen veranderen met de tijd. De relatie mens-ethiek-wereld heeft de vorm van een lemniscaat. De mensen moet zich een technologie eerst toe-eigenen om verbinding te maken met de wereld en zo steeds weer door; door die vorm van oneindigheid heen. Wat doet die technologie, wat doet dat met de wereld, met de omgeving, welke keuze maak je en dan begin je weer opnieuw bij de technologie. Dat is ook een goede leidraad voor de stappen die je moet nemen in design thinking. Begin bij een maatschappelijk doel. Onderzoek wat er op het spel staat, hoe technologie in de betreffende kwestie een rol kan spelen; waar technologie en het sociale interacteren. Leg dat vooral ook goed uit aan de samenleving. Ik noem deze stap explain & explore. Vervolgens kijk je welke oplossingen je kunt bedenken om dat sociale doel te bereiken (imagin & ideate). Om daarna te reflecteren: wat voor implicaties hebben jouw oplossingen, beïnvloeden ze morele keuzes, enzovoort (reflect & reframe). Het belangrijkst tijdens zo'n ontwerpproces is om voor ogen te houden dat technologie nooit alleen een middel is en altijd invloed heeft op ons gedrag. Je bent er dus niet met alleen een ding ontwerpen!"
