Onderzoeksgroep
Voorspellende modellen uitleggen met het oog op data science ethics in business en society.
Abstract
Artificiële Intelligentie (AI) heeft een steeds grotere impact op de maatschappij en wordt al gebruikt in verschillende high-stakes beslissingsdomeinen zoals in financiën, justitie en gezondheidszorg. Dit betekent ook dat het van groot belang is om ervoor te zorgen dat de beslissingen gemaakt door het AI systeem in lijn zijn met onze ethische doelstellingen. In ons onderzoek zullen we focussen op twee ethische aspecten van fairness en deze linken met Explainable AI, de welke het onderzoeksdomein binnen AI is dat zich bezighoudt met hoe goed beslissingen kunnen begrepen worden door mensen. De twee aspecten van fairness waar we ons op zullen focussen zijn: 1) ervoor zorgen dat het model niet discrimineert tegen een kwetsbare groep (zoals bijvoorbeeld vrouwen of een bepaalde etnische groep) en 2) de privacy beschermen: ervoor zorgen dat de persoonlijke data van de betrokken veilig wordt gehouden en deze niet geïdentificeerd kunnen worden tegen hun wil. De voornaamste bijdrage van ons onderzoek zal het ontwikkelen van nieuwe methodologieën zijn om deze ethische issues te verbeteren wanneer Explainable AI gebruikt wordt. In de laatste fase zullen we onze resultaten en methodologie valideren in toepassingen in HR analytics (het voorspellen van gepaste job kandidaten) en credit scoring (het voorspellen van defaults).Onderzoeker(s)
- Promotor: Martens David
- Mandaathouder: Goethals Sofie
Onderzoeksgroep(en)
Project type(s)
- Onderzoeksproject
Voorspellende modellen uitleggen met het oog op data science ethics in business en society
Abstract
Artificiële Intelligentie (AI) heeft een steeds grotere impact op de maatschappij en wordt al gebruikt in verschillende high-stakes beslissingsdomeinen zoals in financiën, justitie en gezondheidszorg. Dit betekent ook dat het van groot belang is om ervoor te zorgen dat de beslissingen gemaakt door het AI systeem in lijn zijn met onze ethische doelstellingen. In mijn onderzoek zal ik me focussen op de ethische gebieden van transparantheid, fairness en privacy. Transparantheid is gelinkt aan hoe goed men het AI model en zijn beslissingen kan begrijpen.. Fairness van een AI model gaat over het niet discrimineren tegen kwetsbare groepen (zoals bijvoorbeeld vrouwen of een bepaalde etnische groep), terwijl privacy respect voor persoonlijke data vereist. Ik zal deze ethische concepten linken aan het domein van Explainable AI, en in specifiek aan Counterfactual Explanations. De voornaamste bijdrage van mij onderzoek zal het ontwikkelen van nieuwe methodologieën zijn om deze ethische issues te verbeteren en te valideren wanneer Explainable AI gebruikt wordt.Onderzoeker(s)
- Promotor: Martens David
- Mandaathouder: Goethals Sofie
Onderzoeksgroep(en)
Project type(s)
- Onderzoeksproject