Phishing-Mails, die dank Künstlicher Intelligenz fehlerfrei formuliert sind, täuschend echte Profile in sozialen Netzwerken und smarte Chatbots, die uns im Gespräch Daten entlocken: Digitale Räume werden fast täglich zu einer Sicherheitsgefahr. Wie können sich Nutzende noch effektiv schützen? Dr. Nicolás E. Díaz Ferreyra, Forscher am Institute of Software Security an der TUHH, gibt Tipps für den Umgang mit KI und Co. – und er erklärt, was technischer Schutz mit Selbsterkenntnis zu tun hat.
1. Betrug per Mail: Kenne deine eigenen Schwachstellen
Klassische Warnzeichen wie Rechtschreibfehler oder schlecht kopierte Logos gehören durch moderne KI-Tools oft der Vergangenheit an. Betrugsmails sind optisch und sprachlich kaum noch von echten Nachrichten zu unterscheiden. Doch Phishing funktioniert laut Díaz Ferreyra nicht nur über die Technik, sondern vor allem über Psychologie: „Wenn Sie wissen, welche Knöpfe bei Ihnen am leichtesten zu drücken sind, sind Sie schon viel besser vorbereitet.“ Unter Stress oder Zeitdruck wägen wir Risiken nämlich nicht rational ab, sondern unser Gehirn nutzt mentale Abkürzungen – sogenannte kognitive Heuristiken. „Phishing funktioniert, weil Angreifer unsere kognitiven und motivationalen Verzerrungen extrem gut ausnutzen. Sie versuchen, Situationen zu schaffen, in denen wir schnell reagieren wollen, dem Gesehenen glauben oder es nicht zu genau hinterfragen.“
Im universitären Umfeld betrifft das beispielsweise gefälschte Einladungen zu Konferenzen oder Fachzeitschriften. Selbst wenn leise Zweifel aufkommen, siegt laut Díaz Ferreyra oft der Wunsch, dass das Angebot echt wäre.
Praktische Tipps für den Alltag:
- Die eigenen Triggerpunkte kennen: Welche Nachrichten machen mich neugierig, ängstlich oder stolz? Wer seine emotionalen Knöpfe kennt, durchschaut Manipulationsversuche schneller.
- Die alte Regel „Wenn es zu gut klingt, um wahr zu sein, denke zweimal nach“ gilt auch im KI-Zeitalter.
- Der Unabhängigkeits-Check: Bei ungewöhnlichen Aufforderungen wie Geldüberweisungen oder Passwort-Eingaben hilft nur ein unabhängiger Kanal. Nutzen Sie eine offizielle Telefonnummer oder tippen Sie die Webadresse manuell ein. Vertrauen Sie niemals blind den Links in der Nachricht.
2. Gesunde „KI-Hygiene“ im Umgang mit Chatbots
Große Sprachmodelle und KI-Assistenten begleiten uns zunehmend im Alltag. Dabei unterschätzen wir oft ein psychologisches Phänomen: Wir neigen dazu, KI-Systeme zu vermenschlichen. „Weil wir so natürlich mit KI-Assistenten kommunizieren“, erklärt Díaz Ferreyra, „fühlen sie sich weniger wie Software an, sondern eher wie ein sachkundiges, vertrauenswürdiges Gegenüber. Das lässt uns unvorsichtig werden.“
Das führt dazu, dass Nutzende schnell dazu übergehen, intime Details, Gesundheitsfragen oder vertrauliche Arbeitsdokumente in ein KI-Fenster einzutippen – Daten, die sie auf einer normalen Webseite niemals preisgeben würden. Doch große Sprachmodelle können Informationen abspeichern und unter bestimmten Bedingungen könnten Fremde diese Daten später wieder herausfiltern und für völlig andere Zwecke nutzen.Zudem warnt Díaz Ferreyra davor, blind der KI-Expertise zu vertrauen. Oft klingen Antworten extrem selbstbewusst und überzeugend, selbst wenn sie komplett falsch sind. Wer danach unkritisch handelt, besonders bei Gesundheits- oder Finanzthemen, gefährdet schnell die eigene Sicherheit.
Praktische Tipps für den Alltag:
- Das Zwei-Fragen-Prinzip zur KI-Nutzung:
- Was gebe ich dem System? (Sind das sensible Daten?)
- Was ziehe ich aus dem System? (Habe ich die Fakten geprüft?)
- Keine Geheimnisse teilen: Behandeln Sie den Chatbot wie ein öffentliches Forum, nicht wie ein vertrauliches Tagebuch oder ein Vier-Augen-Gespräch.
- Faktencheck bei wichtigen Themen: Verlassen Sie sich bei Themen wie Gesundheit, Finanzen oder rechtlichen Fragen niemals ungesehen auf die KI-Antwort.
3. Achtung vor manipulativen Designs
Plattformen wie Instagram oder Facebook fühlen sich vertraut und harmlos an. Das hat Methode: Warnungen vor Betrug oder Datenmissbrauch werden im Design eher versteckt. Zudem nutzen Anbieter sogenannte „Dark Patterns“ – also manipulative Design-Tricks auf den Benutzeroberflächen. Ein typisches Beispiel: Der Button für den Datenschutz ist tief in den Menüs versteckt. Die Freigabe aller Daten funktioniert dagegen mit einem einzigen Klick. „Die EU hat mit dem Digital Services Act wichtige Schritte unternommen und verbietet bestimmte manipulative Designs“, sagt Díaz Ferreyra. „Das ist wichtig, weil Datenschutz und Autonomie nicht nur davon abhängen, ob jemand auf ‚Ja‘ oder ‚Nein‘ geklickt hat. Auch die Art und Weise, wie diese Wahl präsentiert wird, ist entscheidend.“
Für die Zukunft wünscht sich der Forscher digitale Warnhinweise, sogenannte „Privacy Nudges“ (Datenschutz-Stupser). Sie funktionieren ähnlich wie Nährwerttabellen auf Lebensmitteln: Sie verbieten nichts, sondern zeigen im Moment der Entscheidung verständlich die Risiken auf, etwa beim Hochladen eines Fotos oder der Freigabe des Standorts. Wichtig ist dabei, dass sie sparsam eingesetzt werden, um die Nutzenden nicht mit Warnungen zu überfluten.
Praktische Tipps für den Alltag:
- Bewusst verlangsamen: Wenn eine App Druck aufbaut oder schnelle Klicks verlangt, halten Sie kurz inne.
- Den beschwerlichen Weg gehen: Ignorieren Sie den bequemen „Alles akzeptieren“-Button. Suchen Sie gezielt nach „Ablehnen“ oder „Einstellungen“, auch wenn es mehr Klicks kostet.
Was für die Zukunft Hoffnung macht
Trotz der vielen Risiken blickt Díaz Ferreyra positiv in die Zukunft. Das Bewusstsein für Online-Gefahren und die Verantwortung von Tech-Konzernen sei heute so hoch wie nie zuvor. Auch Regierungen greifen zunehmend durch: Australien hat beispielsweise strenge Altersgrenzen für soziale Netzwerke eingeführt. Für den Experten liegt die Lösung jedoch weder allein bei klügeren Nutzenden noch bei besserer Technik. Es brauche vielmehr ein Zusammenspiel aller Kräfte: „Ich denke, dass der Weg nach vorne eine viel stärkere interdisziplinäre Zusammenarbeit erfordert. Informatiker können diese Probleme nicht allein lösen, ebenso wenig Psychologen, Juristen, politische Entscheidungsträger oder Pädagogen. Der Grund, warum ich optimistisch bin, ist, dass wir diese Tatsache zunehmend anerkennen.“
Weitere Publikationen unseres Experten zum Thema:
- Díaz Ferreyra, N.E., Ostendorf, S., Aïmeur, E., Heisel, M. and Brand, M., 2022, September. ENAGRAM: An app to evaluate preventative nudges for Instagram. In Proceedings of the 2022 European Symposium on Usable Security (pp. 53-63).
https://dl.acm.org/doi/10.1145/3549015.3555674 - Aïmeur, E., Díaz Ferreyra, N.E. and Hage, H., 2019. Manipulation and malicious personalization: Exploring the self-disclosure biases exploited by deceptive attackers on social media. Frontiers in Artificial Intelligence, 2, p.26.
https://doi.org/10.3389/frai.2019.00026
