Onderzoek Sofie Goethals

Abstract

Machine learning wordt steeds vaker ingezet voor cruciale beslissingen op gebieden zoals gezondheidszorg, financiën en justitie. Het is daarom van vitaal belang dat de impact ervan op de samenleving in lijn is met onze ethische waarden. Er bestaan veel voorbeelden van bevooroordeelde en discriminerende machine learning systemen, en om dergelijke scenario's te vermijden, moeten we kunnen begrijpen waarom AI-systemen de beslissingen nemen die ze nemen, en ervoor zorgen dat ze rechtvaardig zijn. Binnen dit postdoctorale project heb ik twee hoofddoelen: ten eerste wil ik methoden ontwikkelen om vooroordelen te detecteren in machine learning modellen die zijn getraind op gedragsgegevens. Dit type data wordt grotendeels genegeerd in het onderzoeksdomein van fair machine learning. Ten tweede streef ik naar transparantie in de werking van methoden voor het verminderen van vooroordelen. Dit zijn technieken die worden ingezet om vooroordelen in machine learning modellen te elimineren, maar ze vertonen een hoog niveau van willekeur, wat een extra laag van onrechtvaardigheid introduceert. Tot slot zal ik mijn bevindingen valideren op gebruikscases in verschillende toepassingsgebieden, wat de brede relevantie van deze methoden aantoont

Onderzoeker(s)

• Promotor: Martens David
• Mandaathouder: Goethals Sofie

Onderzoeksgroep(en)

• Engineering Management

Project type(s)

• Onderzoeksproject

Abstract

Artificiële Intelligentie (AI) heeft een steeds grotere impact op de maatschappij en wordt al gebruikt in verschillende high-stakes beslissingsdomeinen zoals in financiën, justitie en gezondheidszorg. Dit betekent ook dat het van groot belang is om ervoor te zorgen dat de beslissingen gemaakt door het AI systeem in lijn zijn met onze ethische doelstellingen. In ons onderzoek zullen we focussen op twee ethische aspecten van fairness en deze linken met Explainable AI, de welke het onderzoeksdomein binnen AI is dat zich bezighoudt met hoe goed beslissingen kunnen begrepen worden door mensen. De twee aspecten van fairness waar we ons op zullen focussen zijn: 1) ervoor zorgen dat het model niet discrimineert tegen een kwetsbare groep (zoals bijvoorbeeld vrouwen of een bepaalde etnische groep) en 2) de privacy beschermen: ervoor zorgen dat de persoonlijke data van de betrokken veilig wordt gehouden en deze niet geïdentificeerd kunnen worden tegen hun wil. De voornaamste bijdrage van ons onderzoek zal het ontwikkelen van nieuwe methodologieën zijn om deze ethische issues te verbeteren wanneer Explainable AI gebruikt wordt. In de laatste fase zullen we onze resultaten en methodologie valideren in toepassingen in HR analytics (het voorspellen van gepaste job kandidaten) en credit scoring (het voorspellen van defaults).

Onderzoeker(s)

• Promotor: Martens David
• Mandaathouder: Goethals Sofie

Onderzoeksgroep(en)

• Engineering Management

Project type(s)

• Onderzoeksproject

Abstract

Artificiële Intelligentie (AI) heeft een steeds grotere impact op de maatschappij en wordt al gebruikt in verschillende high-stakes beslissingsdomeinen zoals in financiën, justitie en gezondheidszorg. Dit betekent ook dat het van groot belang is om ervoor te zorgen dat de beslissingen gemaakt door het AI systeem in lijn zijn met onze ethische doelstellingen. In mijn onderzoek zal ik me focussen op de ethische gebieden van transparantheid, fairness en privacy. Transparantheid is gelinkt aan hoe goed men het AI model en zijn beslissingen kan begrijpen.. Fairness van een AI model gaat over het niet discrimineren tegen kwetsbare groepen (zoals bijvoorbeeld vrouwen of een bepaalde etnische groep), terwijl privacy respect voor persoonlijke data vereist. Ik zal deze ethische concepten linken aan het domein van Explainable AI, en in specifiek aan Counterfactual Explanations. De voornaamste bijdrage van mij onderzoek zal het ontwikkelen van nieuwe methodologieën zijn om deze ethische issues te verbeteren en te valideren wanneer Explainable AI gebruikt wordt.

Onderzoeker(s)

• Promotor: Martens David
• Mandaathouder: Goethals Sofie

Onderzoeksgroep(en)

• Engineering Management

Project type(s)

• Onderzoeksproject