Medizinische Assistenzsysteme

Auf der "27th International Conference on Human-Computer Interaction" stellte Dennis Dübeler, wissenschaftliche Hilfskraft der AG Medizinische Assistenzsysteme, sein Short Paper "Humans Follow AI-Advice by (un-)trustworthy Virtual Agents in Ethical Healthcare Decisions" via Poster vor. Das Paper behandelt die Ergebnisse der im Rahmen von Dennis Dübelers Bachelorarbeit durchgeführten Studie: Das Offenlegen der Trainingsdaten von KI-Beratern hat keinen signifikanten Einfluss auf die Wahrnehmung von und Einflussnahme durch jene KI-Berater auf die Entscheidungsfindung menschlicher Agenten, selbst wenn die KI-Berater oft nicht vertrauenswürdig wirken. Insbesondere gibt es keine signifikanten Unterschiede in der Wahrnehmung der verschiedenen -- vertrauenswürdig, unvertrauenswürdig, neutral -- Flokas. Einfluss auf die Entscheidungsfindung der menschlichen Agenten haben lediglich die wahrgenommene Likability und Inteligence (via Godspeed). Daraus ergeben sich Implikationen für die Robustheit von Human-in-the-Loop-Systemen.

Dübeler, D., Schütze, C., Müller, A., Richter, B., Wrede, B. (2025). Humans Follow AI-Advice by (un-)trustworthy Virtual Agents in Ethical Healthcare Decisions. In: Stephanidis, C., Antona, M., Ntoa, S., Salvendy, G. (eds) HCI International 2025 Posters. HCII 2025. Communications in Computer and Information Science, vol 2529. Springer, Cham. https://doi.org/10.1007/978-3-031-94171-9_24