Bezoek de open dag
Project
Vertrouwen in Algoritmes
Wat houdt het project in?
Door digitalisering groeit de hoeveelheid data enorm. Organisaties kunnen deze data slim benutten voor besluitvorming met AI-modellen. Hoewel algoritmes vaak net zo goed of beter presteren dan menselijke beslissingen, worden ze niet altijd vertrouwd of juist ten onrechte vertrouwd. Dit onderzoek richt zich op de factoren die deze interactie beïnvloeden.
Hoe ontwikkelen professionals vertrouwen in AI, en welke rol speelt herhaald gebruik?
In een wereld waarin kunstmatige intelligentie (AI) een steeds grotere rol speelt in besluitvorming, blijft vertrouwen in algoritmische adviezen een cruciale factor voor acceptatie en succesvolle implementatie. Onze onderzoekslijn richt zich op het begrijpen van de factoren die dit vertrouwen beïnvloeden. We onderzoeken hoe professionals en organisaties omgaan met AI-adviezen, welke rol herhaald gebruik speelt in het opbouwen van vertrouwen, en hoe mens en AI optimaal kunnen samenwerken.
Onderzoek van Fontys binnen deze onderzoekslijn
Fontys speelt een belangrijke rol in dit project door praktijkgericht onderzoek uit te voeren binnen het Centre of Expertise AI for Society. Samen met bedrijven en overheden onderzoeken we hoe AI op een verantwoorde en bruikbare manier kan worden geïntegreerd in besluitvormingsprocessen. Ons onderzoek combineert inzichten uit psychologie, technologie en bedrijfskunde, en richt zich op sectoren zoals zorg, publieke inkoop en logistiek. Door middel van interviews, experimenten en data-analyses brengen we in kaart hoe AI daadwerkelijk wordt ingezet en hoe gebruikers hierop reageren.
Fontys voert praktijkgericht onderzoek uit binnen het Centre of Expertise AI for Society en het Enabling Technologies-programma. Samen met bedrijven en overheden onderzoeken we hoe AI op een verantwoorde en bruikbare manier kan worden geïntegreerd in besluitvormingsprocessen.
Projectdoelstelling
Het promotieonderzoek richt zich op zowel wetenschappelijk inzicht in de ontwikkeling van vertrouwen in algoritmisch advies als op praktische toepassingen om AI effectiever te integreren in besluitvormingsprocessen en de samenwerking tussen mens en algoritme te verbeteren.
Periode
2021 - 2026
Resultaat
De samenwerking tussen mens en algoritme wordt verbeterd en AI wordt breder en bewuster ingezet in professionele contexten zoals publieke inkoop en zorg.
Partners
Het project heeft raakvlakken met lectoraten verbonden aan Fontys Paramedisch Hogeschool en Mens en Technologie, en wordt ondersteund door het Centre of Expertise AI for Society. De financiering komt vanuit de NWO Promotiebeurs voor Leraren.
Publicaties
Research TU/e
Tahtali, M. A. (Corresponding author-nrf), Snijders, C. C. P., Dirne, C. W. G. M. & Le Blanc, P. M., 21 feb. 2025, In: JMIR Human Factors. 12, 19 blz., e59010. Onderzoeksoutput: Bijdrage aan tijdschrift › Tijdschriftartikel › Academic › peer review
A Beyond Diagnosis Approach: Fostering Trust in AI's Supportive Role in Healthcare
Tahtali, M. A. (Corresponderende auteur) & Dirne, C., 2024, HHAI-WS 2024 Proceedings of HHAI 2024 Workshops: Proceedings of the Workshops at the Third International Conference on Hybrid Human-Artificial Intelligence co-located with (HHAI 2024) Malmö, Sweden, June 10-11, 2024. CEUR-WS.org, blz. 74-77 4 blz. (CEUR Workshop Proceedings; vol. 3825). Onderzoeksoutput: Hoofdstuk in Boek/Rapport/Congresprocedure › Conferentiebijdrage › Academic › peer review
Trust in algorithmic advice increases with task complexity
Vertaalde titel van de bijdrage: Vertrouwen in algoritmische adviezen neemt toe met de complexiteit van de taakTahtali, M., Snijders, C. C. P. & Dirne, C. W. G. M., 15 mrt. 2024, Trust in algorithmic advice increases with task complexity: Second International Conference, HAR 2023, Paris, France, September 19–22, 2023, Proceedings. Baratgin, J., Jacquet, B. & Yama, H. (uitgave). Springer, blz. 86-106 21 blz. (Lecture Notes in Computer Science (LNCS); vol. 14522). Onderzoeksoutput: Hoofdstuk in Boek/Rapport/Congresprocedure › Conferentiebijdrage › Academic › peer review
Fontys Onderzoeksprojecten:
