Die Verbreitung von Künstlicher Intelligenz, und insbesondere von großen Sprachmodellen (Large Language Models, LLMs) wie beispielsweise ChatGPT, hat das Internet und die Arbeitswelt im Nu erobert. Unternehmen weltweit sehen sich der Herausforderung gegenüber, wie sie diese neuen Technologien sinnvoll einsetzen können und nicht den Anschluss verlieren. Es ist daher wichtig zu verstehen, nicht nur die Einsatzgebiete der neuen KI zu verstehen, sondern sich auch der Funktionsweise und damit verbundenen Sicherheitsrisiken bewusst zu werden.

Können Systeme wie ChatGPT zum Beispiel wirklich “denken”? Wie zuverlässig sind die Antworten? Und: Woher kommt eigentlich das Wissen?

In diesem Know-how-Artikel beschäftigen wir uns tiefergehend mit diesen Fragen und verraten dir, worauf es beim sicheren Umgang mit ChatGPT und Co. wirklich ankommt.

Wie funktioniert Künstliche Intelligenz eigentlich?

KI-Systeme wie ChatGPT lassen sich grob als "Satzvervollständiger" beschreiben. Sie werden mit einer Vielzahl von Daten gefüttert, darunter Webseiten, Bücher, Online-Foren und soziale Medien. Diese Daten werden analysiert und in einzelne Fragmente zerlegt, wie zum Beispiel in Wörter oder sogar Wortstücke. Anhand all dieser Eingabedaten erstellt das Computersystem statistische Muster und berechnet die Wahrscheinlichkeit, welches Wort als Nächstes folgen müsste.

Eine Frage wie "Welche Farbe hat Schnee?" ist für ein KI-System daher keine echte Frage, auf die es eine festgelegte Antwort hat. Vielmehr erkennt das System den Beginn eines Satzes und vervollständigt diesen anhand statistischer Muster und Wahrscheinlichkeiten. Das wahrscheinlichste, nächste Wort für den Satz "Welche Farbe hat Schnee?" wäre beispielsweise "Schnee", gefolgt von "ist" und "weiß".

Für uns mag das wie eine Antwort aussehen. Doch für die KI ist es lediglich die wahrscheinlichste Vervollständigung des Satzes, basierend auf den Daten, mit denen sie gefüttert wurde.

Die künstliche Intelligenz wird auch immer weiter trainiert. Wenn Benutzer Rückmeldung geben, dass die Antwort nicht perfekt ist, zum Beispiel weil Schnee auch andere Farben haben kann (wie z.B. matschiges Grau oder manchmal auch gelb 😬), ändern sich die Wahrscheinlichkeiten für das nächste Wort und der Satz wird möglicherweise zu "Schnee ist in der Regel weiß" vervollständigt. Auf diese Weise "lernt" die KI dazu.

Was bedeutet das nun für Informationen im Arbeitsalltag?

Künstliche Intelligenz wird unseren Arbeitsalltag positiv unterstützen, insbesondere bei standardisierten Fragestellungen. Jedoch sollte man den Antworten nicht blind vertrauen. Schließlich geben ChatGPT lediglich die Wahrscheinlichkeiten für die nächsten Wörter aus. Wenn zum Beispiel das Thema "Farbe des Schnees" bisher nicht in der Datenbasis enthalten war und jemand mehrmals den Input "Schnee ist blau" gibt, würde die KI den Satz genauso selbstverständlich vervollständigen. Diese Wortkombination hätte schließlich die höchste Wahrscheinlichkeit. Eine KI funktioniert also vorwiegend für Fragestellungen gut, die bereits unzählige Male in der Datenbasis vorhanden waren.

Übrigens: Eine KI verarbeitet jede Interaktion und jedes neu hinzugefügte Wort und integriert es in die nächste Berechnung. Die Datenbasis wird ständig erweitert. So funktioniert maschinelles Lernen. Aus diesem Grund solltest du solche Systeme nicht mit sensiblen Informationen wie vertraulichen Dokumenten, speziellens Software-Codes, personenbezogene Daten, Kundendaten oder Ähnlichem füttern. Alle von dir eingegebenen Daten werden verarbeitet und in die zukünftigen Antworten auf der ganzen Welt integriert. Dadurch könnten vertrauliche Informationen oder personenbezogene Daten an die Öffentlichkeit gelangen. Nutze KI-Systeme daher immer mit Bedacht.

Das gilt es bei der Nutzung von KIs u.a. zu beachten

Bedrohung	Beispiel
Phishing & Social Engineering Angriffe	Kriminelle können KIs für gefälschte Motivationsschreiben und manipulierte Telefonanrufe nutzen.
Informationsabfluss	Mitarbeitende können KIs mit personenbezogenen oder anderen sensiblen Daten füttern und damit unbewusst vertrauliche Informationen veröffentlichen.
Infektion mit Schadsoftware	Kriminelle verbreiten kostenlose gefälschte KI-Apps, die bei Installation sensible Daten stehlen.

Vorsicht vor gefälschten Plug-Ins und Apps - Keine Software aus dem Internet!

Künstliche Intelligenz bietet natürlich nicht nur für Unternehmen diverse Möglichkeiten und Vorteile. Auch Kriminelle machen sich den Hype um KIs zunutze:

Im Google Webstore gab es wochenlang ein gefälschtes ChatGPT Plug-In, das Facebook-Anmeldedaten gestohlen hat. Es wurde sogar über Google-Ads als Werbeanzeige bei Suchergebnissen eingeblendet und millionenfach heruntergeladen, bevor es entfernt wurde.
Andere Kriminelle haben eine ChatGPT Desktop-App für Windows im Internet angeboten. Wer sie installiert hat, hat sich eine Schadsoftware installiert, die Zugangsdaten ausspäht.

Genau deshalb gilt mit Blick auf Künstliche Intelligenz derselbe Grundsatz in in der Cyber Security: In den meisten Unternehmen solltest du keine Software auf eigene Faust aus dem Internet laden. Achte aber auch im privaten Umfeld darauf, dass du nur Software aus seriösen Quellen herunterlädst und installierst und lies lieber vorher entsprechende Rezensionen.

Tipps für Anwender: So nutzt du KI-Systeme sicher

Behandle frei verfügbare KI-Systeme wie öffentliche Cloud-Systeme, also vergleichbar mit sozialen Medien. Jeder Input von dir kann bei anderen Personen als Output landen. Deshalb gilt:

Füttere ChatGPT & Co. nicht mit vertraulichen Informationen.
Gib keine personenbezogenen Daten wie Namen, Gesundheitsdaten oder Bilder als Beispiele ein, weder von dir selbst, noch von Kunden oder anderen Personen.
Lade auch keine Prozessabläufe, Netzwerkpläne oder Code-Schnipsel von Software in ein KI-System. Der nächste bekommt deinen Netzwerkplan eventuell als Antwort ausgepielt.

Vertraue bitte auch nicht blind auf die von der KI ausgegebenen Antworten. Diese sind zwar oft korrekt, aber sie können auch

einfach falsch sein, obwohl sie gut klingen. Schließlich sind es nur Vervollständigungen auf Basis von Wahrscheinlichkeiten.
veraltet sein. ChatGPT hat lange Zeit mit einer Datenbasis aus 2021 gearbeitet, bei vielen anderen Systemen ist die genaue Datenbasis gar nicht bekannt.
mit Vorurteilen behaftet sein, weil die Input-Daten ebenfalls mit Vorurteilen versehen sind. Eine KI wird dir auf die Frage "wer ist als Führungskraft im Unternehmen geeignet" sehr wahrscheinlich einen weißen Mann mittleren Alters als Antwort geben. Nicht weil dieser Personentyp die beste Qualifikation hat, aber mit Abstand die höchste Wahrscheinlichkeit.

Tipps für Sicherheitsverantwortliche: Mitarbeitende sensibilisieren

KIs werden die Arbeitswelt erobern bzw. sind bereits mitten auf diesem Weg. Deshalb solltest du das Thema "KI sicher nutzen" unternehmensweit schulen und dazu sensibilisieren:

Erstelle Richtlinien zur Nutzung von KI-Systemen. Die Mitarbeitenden müssen wissen, was sie im Bezug auf KI dürfen und was nicht.
Schule und sensibilisiere Mitarbeitende, durch E-Learning Nuggets oder Intranet Inhalte. Dies ist essenziell, damit sie nicht nur den Umgang mit KIs verstehen, sondern auch die damit verbundenen Risiken richtig einschätzen und jederzeit auf bewährte Sicherheitspraktiken zurückgreifen können.
Nutze den Hype, um auf dieser Welle andere Security-relevante Themen (z.B. Schutz personenbezogener Daten) zu kommunizieren. Webinare zu KI haben zigfach höhere Anmelderaten als Webinare zum Datenschutz 😁.

In unserem geschützten Demobereich findest du ein von unseren Security-Experten entwickeltes Cyber-Security-Training zum Thema Künstliche Intelligenz. Damit lassen sich deine Mitarbeitenden ganz einfach zum sicheren Umgang mit Künstlicher Intelligenz schulen.

Demo und Beratung? Preise? Referenzen?

Melde dich bei uns für einen kostenlosen Demozugang und lass uns in einem Webmeeting über deinen Bedarf sprechen. Wir zeigen die, wie sich Künstliche Intelligenz in deinem Unternehmen sicher nutzen lässt.

Demo ansehen

Beratung anfragen