Foto von M. Weissenborn

Die Projektgruppe XAI der Universität hat sich mit der Erklärbarkeit von 
Künstlicher Intelligenz (KI), spezieller von neuronalen Netzen, beschäftigt. 
Oftmals agieren diese Modelle als undurchsichtige "Black Box", was das 
Vertrauen in ihre Entscheidungen erschwert. Das Konzept der Explainable AI 
(XAI) zielt darauf ab, diese Entscheidungen transparenter zu gestalten. Dies 
stärkt nicht nur das Vertrauen in die Modelle, sondern hilft auch, sie zu 
verbessern. Klassische Beispiele für die Notwendigkeit der Erklärbarkeit ist 
die Anwendung in der medizinischen Diagnose mittels Röntgenbildern oder im 
autonomen Fahren.

Die Projektgruppe hat dabei ein Framework entwickelt, bei dem neue Bilder 
hochgeladen und analysiert werden können. Dabei wird die Entscheidung des 
zugrundliegenden Modells untersucht und sowohl visuell, als auch sprachlich 
durch ein LLM, erklärt.
Besonders in der Bildklassifikation wird mit Methoden wie LRP, Lime und CAM 
gearbeitet, um für die Entscheidung relevante Bildbereiche zu identifizieren. 

Für einen guten Start ins Informatik-Studium sorgen traditionsgemäß die studentischen Akteure der Fachschaft Informatik im Rahmen der Orientierungs-Phase (kurz: O-Phase). Auch für das Sommersemester 2024 hat die O-Phase wieder ein reichhaltiges Programm geboten, das die Alumni der Informatik Dortmund gerne finanziell unterstützen, u.a. um die Produktion der O-Phasen-T-Shirts sowie ein Dankesessen für die Aktivität der Teamer zu ermöglichen.

Insgesamt war die O-Phase ein voller Erfolg. Wir freuen uns über die Kontinuität der O-Phase als fester Bestandteil des Studienlebens an der Fakultät für Informatik: Erstmals hat im Wintersemester 1977/78 eine O-Phase stattgefunden –  und funktioniert dank der Initiative und des Engagments der Fachschaft bis heute als selbstorganisierte Veranstaltung!