In Sekundenschnelle geben uns KI-Modelle wie ChatGPT und Co. eine Antwort auf jede erdenkliche Frage. Aber können wir diesen Antworten auch vertrauen? Fünf internationale Studierenden-Teams haben Lösungen für solche und weitere Probleme rund um den Umgang mit Künstlicher Intelligenz erarbeitet. Dazu entwickelten sie im hybriden Masterseminar „Ethical Innovation and AI“ des Institute for Ethics in Technology der Technischen Universität Hamburg (TUHH) eigene Software-Anwendungen, die Ethik und Künstliche Intelligenz miteinander verbinden: von der Erkennung von KI-Inhalten über umweltschonende Prompts bis zur Bekämpfung von geschlechtsspezifischen Vorurteilen im Bewerbungsprozess. Auf der International Conference on Ethics Education in Amsterdam stellten die Teams ihre Prototypen nun vor.
Von der Ethik-Theorie zur Ethik-Praxis
Konzipiert und durchgeführt wurde das Masterseminar von Dr. Jonas Bozenhard vom Institute for Ethics in Technology. „Das Seminar verfolgt einen Prototyping-basierten Ansatz“, erklärt Bozenhard. „In Teams entwickelten die Studierenden Prototypen, die ethische Herausforderungen adressieren, die durch moderne generative KI entstehen.“ Statt nur über KI-Risiken zu diskutieren, bauten die Studierendenteams eigene, funktionierende Softwaresysteme. Diese folgen dem Prinzip „Ethics by Design“. Das heißt: Ethische Standards wie Transparenz und Nutzerkontrolle werden von der ersten Codezeile an mitgedacht. „Da KI-Systeme immer leistungsfähiger werden, werfen sie tiefgreifende philosophische Fragen auf“, sagt Bozenhard. „Ein zentrales Ziel war es, ein Verständnis dafür zu schaffen, dass technische Design-Entscheidungen weitreichende ethische Implikationen haben – wir wollen eine Brücke zwischen Ethik und Engineering schlagen.“
Das Seminar war als offizielle ECIU-Challenge (European Consortium of Innovative Universities) auch online belegbar und damit international zugänglich – insgesamt nahmen neben der TUHH auch Studierende aus fünf weiteren europäischen Universitäten teil. Abschließend ging es für die Seminarteilnehmenden nach Amsterdam zur International Conference on Ethics Education. Reise und Teilnahme wurden den Studierenden durch eine von Bozenhard eingeworbene ECIU-Förderung ermöglicht. In Amsterdam bot sich den Studierenden die Möglichkeit, ihre Arbeiten auf einer internationalen akademischen Bühne zu präsentieren. Die fünf Prototypen im Überblick:
„AI Content Checker“: KI-Inhalte automatisch erkennen
Ein zentrales Problem moderner generativer KI ist das schwindende Vertrauen in digitale Inhalte. Hier setzt der Prototyp „AI Content Checker“ an. Die Bedienung der Anwendung ist simpel: Nutzende laden einen Text hoch, das System analysiert die sprachlichen Muster und gibt ihn anschließend Satz für Satz mit farblichen Markierungen wieder aus: Grüne Markierungen stehen für menschliche Inhalte, rote Markierungen für KI-Inhalte. Zu jedem Satz gibt eine Prozentzahl an, mit welcher Wahrscheinlichkeit es sich um KI oder menschlichen Content handelt. Anhand einer Analyse der Textkomplexität und des Satzrhythmus begründet das System außerdem transparent, warum eine Passage als KI-generiert eingestuft wurde.
„Ethical Analyser“: Ein Lügendetektor für KI-Texte
Einen Schritt weiter geht der Prototyp „Ethical Analyser“: Die Browser-Erweiterung bewertet die Antworten von KIs nach ihrer Glaubwürdigkeit. Das ist besonders relevant, da große Sprachmodelle oft selbstbewusst antworten, aber häufig Fakten erfinden und Informationen „halluzinieren“. Der Analyser überprüft KI-Antworten unter anderem auf die Seriosität der Quellen, semantische Ähnlichkeit und emotional manipulierende Sprache. Sobald ChatGPT, Gemini oder Claude eine Antwort ausgibt, erscheint automatisch ein Pop-up, das die Antwort mit einem Score versieht und diesen erklärt – von 100 (sehr glaubwürdig) bis 0 (komplett unglaubwürdig). Das Tool bietet damit zwar noch keinen hundertprozentigen Schutz vor Falschinformationen, kann aber eine wichtige Hilfestellung bei der Einordnung von KI-Antworten sein.
„EPOCH“: Effizienter prompten mit KI
Die Studierenden blickten in Amsterdam aber nicht nur auf die Inhalte, sondern auch auf die unsichtbaren ökologischen Kosten von KI-Technologie. Der Prototyp „EPOCH – GenAI Efficiency Engine“ adressiert ebenfalls als Browser-Erweiterung den massiven Energiehunger großer Sprachmodelle. Je länger und komplexer Anfragen an die KI formuliert sind, desto größer fällt der Energie- und Wasserverbrauch aus. Um das zu verringern, schaltet sich EPOCH vor der Absendung eines Prompts selbständig ein und schlägt einen alternativen, kürzeren Prompt vor. Dabei gibt der Prototyp auch die zu erwartende CO₂-Einsparung an und soll so zu kürzeren und damit umweltschonenderen Anfragen motivieren – ganz nach dem Motto „Nudge, Don’t Force“, also Anreiz statt Zwang.
„FairCV“: Bessere Chancen für Bewerberinnen dank CV-Tool
Dass KI auch gesellschaftliche Barrieren abbauen kann, beweist das Projekt „FairCV“. Studien zeigen, dass Frauen ihre Leistungen in Lebensläufen tendenziell unter Wert verkaufen und defensivere Formulierungen wählen. FairCV bricht diesen Kreislauf auf. Mittels präzisem Prompt-Engineering optimiert das Tool Lebensläufe so, dass geschlechtsspezifische Vorurteile im Rekrutierungsprozess minimiert werden – ohne das Umschreiben von echten Qualifikationen.
„ETHOSDrive“: Künstliche Intelligenz als Lebensretter
Während Tools wie „FairCV“ gesellschaftliche Barrieren abbauen, widmet sich das Projekt „ETHOSDrive“ Extremsituationen im Straßenverkehr. Wenn ein autonomes Fahrzeug versagt oder verunglückt, bricht für die Insassen massiver Stress aus. Die Lösung der Studierenden: ein empathischer Krisen-Co-Pilot, angetrieben durch KI. Dazu hat das System lokal 27 spezifische Trigger-Wörter wie „crash“ oder „bleeding“ gespeichert. Äußert ein Insasse eines dieser Trigger-Wörter, startet automatisch eine digitale Rettungskette. Sofort leitet der digitale Co-Pilot medizinische Ersthilfe-Anweisungen nach WHO-Standards ein, alarmiert die Rettungskräfte und stabilisiert die Passagiere durch eine beruhigende Stimmausgabe. Damit die Privatsphäre in der Ausnahmesituation geschützt bleibt, arbeitet das System komplett ohne Cloud-Zwang: Alle Audiodaten werden ausschließlich lokal verschlüsselt verarbeitet und nach 48 Stunden automatisch gelöscht.
Der Sprung auf die europäische Weltbühne
Der Kongress in Amsterdam markiert für die Studierenden erst den Anfang. Besonders das Konzept des „Ethical Analysers“ stieß auf so großes Interesse, dass dem Team eine Weiterentwicklung empfohlen wurde. Expert*innen merkten an, dass sich das zugrundeliegende System hervorragend auf den Schutz geistigen Eigentums im Umgang mit generativer KI übertragen lässt. Das Team stellte sich daraufhin der europäischen IP4OS Open Innovation Challenge und ging als Sieger aus dem Wettbewerb hervor. Als Preis dürfen die TUHH-Studierenden ihren neu ausgerichteten Prototyp im Oktober auf dem IP4OS Final Policy Event des Europäischen Parlaments in Brüssel vorstellen.
Die Köpfe hinter den Prototypen
„AI Content Checker”:
Tayyip Canbay, Baris Kaplan, Mihais Jersovs, Terry Lians, Divya Chidananda
„Ethical Analyser”:
Niharika Kiran, Praveen Krishnakumar Megharaj, Jesvin Varghese
„EPOCH – GenAI Efficiency Engine”:
Marcel Dietl, Meenakshi Kanchibhotla, Utkal Sanjel, Levin Plümper, Ayman Imran
„FairCV”:
Elsa Bylin, Barbara Fischer, Ehab Mansour, Muhammed Raza
„ETHOSDrive”:
Tawfiq Bashar, A N M Fariha Akhter, Elmarko Fusha, A R M Nazmul Ahsan Anupom, Shahbaz Rahman
