Katharina Weitz

Dr. Katharina Weitz ist Projektmanagerin in der Applied Machine Learning Gruppe der KI-Abteilung des Fraunhofer HHI. Mit einem interdisziplinären Hintergrund in Pädagogik, Psychologie und Informatik nutzt sie ihre Expertise, um den Einsatz von erklärbarer und menschenzentrierter KI in verschiedenen Anwendungsbereichen voranzutreiben. Ihre Forschung konzentriert sich auf die Anwendung erklärbarer, menschenzentrierter KI in unterschiedlichen Kontexten mit besonderem Schwerpunkt auf den Perspektiven der Endnutzenden – siehe beispielsweise ihre Arbeiten zu menschenzentrierter KI im Gesundheitswesen und zur nutzerzentrierten Gestaltung von KI-Systemen.

Von 2018 bis 2024 war sie als wissenschaftliche Mitarbeiterin am Lehrstuhl für Human-Centered Artificial Intelligence der Universität Augsburg tätig. In dieser Zeit verfasste sie ihre Dissertation zum Thema Explainable Human-Centered AI und beschäftigte sich mit medizinischen, bildungsbezogenen und industriellen KI-Systemen aus der Perspektive der Endnutzenden.

Seit 2024 ist Dr. Weitz Vizepräsidentin der Gesellschaft für Informatik (GI) – der größten Fachgesellschaft für Informatik in Deutschland, die Innovation, Forschung und gesellschaftliches Engagement im Bereich der Informatik fördert. Über die akademische Arbeit hinaus engagiert sich Dr. Weitz intensiv in der Wissenschaftskommunikation und vermittelt Wissen über KI an die breite Öffentlichkeit durch Bücher, Vorträge, Podcasts und Videos.

Nutzerzentrierte Gestaltung von KI-Systemen: Im Rahmen von Co-Design-Workshops mit verschiedenen Zielgruppen (z. B. Mitarbeitende der öffentlichen Verwaltung, Rettungskräfte im Katastrophenmanagement) werden erste Protoypen gemeinsam mit den Nutzenden entwickelt – mit dem Ziel, die Schnittstelle zwischen Mensch und KI optimal zu gestalten.

Mentale Modelle & Vertrauen in Mensch-KI-Interaktion: Welche mentale Modelle haben Menschen von KI? Wie beeinflusst dies ihr Vetrauen und ihr Nutzungsverhalten?

Erklärbarkeit & Transparenz von KI-Systemen: Untersuchung, wie unterschiedliche Erklärungsformen (z.B. White-box vs Black-box, interaktiv vs statisch) von Nutzenden wahrgenommen werden und wie sie Vertrauen und Verständnis beeinflussen.

Domänenspezifische Anwendungen:

• Katastrophen-/Krisenmanagement: Erforschung menschzentrierter und erklärbare KI zur Unterstützung von Frühwarn- und Katastrophenmanagement-Systemen. 
• Gesundheitswesen: Untersuchung und Verbesserung von KI-basierten Systemen im Gesundheitsbereich. Anwendung von XAI-Methoden in medizinischen Anwendungsgebieten. Einbeziehung von Bedürfnissen und Anforderungen verschiedener Zielgruppen bei der Entwicklung von Standards für das Gesundheitswesen.
• Bildung: Vermittlung von Informatik- und KI-Grundlagen an Kinder, Jugendliche und Pädagog:innen sowie die Gestaltung von Workshops und Lernmaterialien. 
• Industrie & Wirtschaft: Integration von KI-Systemen in Unternehmen – Welche Sichtweisen haben Mitarbeitende, wie lässt sich Menschzentrierte KI im Unternehmen umsetzen?

Projektmanagerin für das EU-Horizon Projekt ARTEMis (AleRT and impact-forecast standards for Emergency Management)