Bart Wernaart met Moral Lab op Dutch Design Week
Voor Bart Wernaart, docent Law & Ethics, was design altijd een ver-van-zijn-bed-show. Toch kunnen 350.000 bezoekers uit binnen- en buitenland zijn werk komende week bewonderen op de Dutch Design Week, waar hij samen met het Eindhovense designer-collectief We Are een pilot draait van een Moral Lab.
Bart is binnen Fontys postdoctoraal onderzoeker voor Smart Society. Via die onderzoeksrichting kwam hij in contact met Kornelia Dimitrova en Bernhard Lenger van de stichting We Are, die als missie heeft om door middel van design maatschappelijke vraagstukken op te lossen. “Na het drinken van een kop koffie waren we er eigenlijk al heel snel uit dat we samen wat wilden opzetten. Zo is het Moral Lab ontstaan,” legt Bart uit. “Technologie wordt al tijden ingezet om geautomatiseerd ethische beslissingen te kunnen nemen. Met het Moral Lab willen we er dan ook niet achter komen óf de techniek daartoe in staat is, maar hóe wij vinden dat de techniek dat zou moeten doen.”
Waardeoordeel
Samen met We Are draait Bart tijdens de Dutch Design Week (DDW) een pilot, waarbij ze erachter willen komen hoe mensen denken over het programmeren van technologie, specifiek kijkend naar het waardeoordeel. De ontwerpers van We Are hebben voor de DDW een ruimte ontwikkeld waarin een Artificiële Intelligentie (AI) wordt nagebootst. Bezoekers worden er uitgedaagd deze AI te trainen op het nemen van ethische beslissingen. Ze doen dit door aan te geven welke beslissing die zij zelf zouden hebben genomen in een bepaalde situatie.
Slimme camera’s op Stratumseind
Een voorbeeld van zo’n situatie is het Eindhovense uitgaanscentrum Stratumseind, waar hypermoderne camera’s zijn geïnstalleerd. Deze analyseren beweging en geluid en zijn in staat agressie te herkennen. Bij onraad wordt automatisch een seintje aan de politie gegeven. “De uitdaging met dit systeem is echter dat vechten en enthousiast dansen nog wel eens verward kunnen worden. En dan krijg je te maken met een waardeoordeel. Stuurt het systeem de politie erop af, om op die manier de samenleving een stukje veiliger te maken? Of respecteert het de privacy van iemand die wellicht gewoon lekker aan het dansen is?”
Honderdduizenden bezoekers
DDW bezoekers die deelnemen aan de pilot wordt gevraagd om bepaalde demografische gegevens achter te laten als leeftijd, geslacht en het hebben van wel of geen kinderen. Op deze manier kunnen Bart en zijn team vanuit verschillende invalshoeken meten hoe individuen zouden willen dat techniek normatief ethisch oordeelt. “Het Moral Lab is niet alleen een ontzettend mooi initiatief vanuit ontwerpoogpunt, het biedt mij als ethicus bovendien de mogelijkheid om grote hoeveelheden data te verzamelen. Normaal gesproken bespreek ik ethiek wel in de klas, maar nu kunnen we het ook echt tastbaar maken. Het is ongelofelijk leuk om daar, samen met een grote poule Fontys studenten, mee bezig te kunnen zijn tijdens de DDW. Ik vind het een hele eer dat de Dutch Design Week met zijn honderdduizenden bezoekers ons deze kans biedt.”
Het Moral Lab bezoeken?
Wie het Moral Lab met eigen ogen wil zien, of wie misschien zelfs een nuttige bijdrage wil leveren, is tijdens de DDW (19-27 oktober) van harte welkom bij We Are op het Campinaterrein (South Enterance).
Over Bart Wernaart
Bart Wernaart is behalve docent ook auteur. Hij schreef diverse wetenschappelijke boeken, waaronder Ethics and Business, a global introduction (2018, Noordhoff Uitgevers) en een whitepaper over dilemma’s rondom zelfdenkende technologie & ethiek.