Künstliche Intelligenz sicher nutzen

KIs sind derzeit global DAS Nr. 1 Thema und eine hervorragende Technologie, wenn sie sicher genutzt wird

Die Verbreitung von Künstlicher Intelligenz, und insbesondere von großen Sprachmodellen (Large Language Models, LLMs) wie beispielsweise ChatGPT, hat das Internet und die Arbeitswelt im Nu erobert. Unternehmen weltweit sehen sich der Herausforderung gegenüber, wie sie diese neuen Technologien sinnvoll einsetzen können und nicht den Anschluss verlieren. Es ist daher wichtig zu verstehen, nicht nur die Einsatzgebiete der neuen KI zu verstehen, sondern sich auch der Funktionsweise und damit verbundenen Sicherheitsrisiken bewusst zu werden.

Können Systeme wie ChatGPT zum Beispiel wirklich “denken”? Wie zuverlässig sind die Antworten? Und: Woher kommt eigentlich das Wissen?

In diesem Know-how-Artikel beschäftigen wir uns tiefergehend mit diesen Fragen und verraten Ihnen, worauf es beim sicheren Umgang mit ChatGPT und Co. wirklich ankommt.

Wie funktioniert Künstliche Intelligenz eigentlich?

KI-Systeme wie ChatGPT lassen sich grob als "Satzvervollständiger" beschreiben. Sie werden mit einer Vielzahl von Daten gefüttert, darunter Webseiten, Bücher, Online-Foren und soziale Medien. Diese Daten werden analysiert und in einzelne Fragmente zerlegt, wie zum Beispiel in Wörter oder sogar Wortstücke. Anhand all dieser Eingabedaten erstellt das Computersystem statistische Muster und berechnet die Wahrscheinlichkeit, welches Wort als Nächstes folgen müsste.

Eine Frage wie "Welche Farbe hat Schnee?" ist für ein KI-System daher keine echte Frage, auf die es eine festgelegte Antwort hat. Vielmehr erkennt das System den Beginn eines Satzes und vervollständigt diesen anhand statistischer Muster und Wahrscheinlichkeiten. Das wahrscheinlichste, nächste Wort für den Satz "Welche Farbe hat Schnee?" wäre beispielsweise "Schnee", gefolgt von "ist" und "weiß". 

KI (Künstliche Intelligenz) sicher nutzen

Für uns mag das wie eine Antwort aussehen. Doch für die KI ist es lediglich die wahrscheinlichste Vervollständigung des Satzes, basierend auf den Daten, mit denen sie gefüttert wurde.

Die künstliche Intelligenz wird auch immer weiter trainiert. Wenn Benutzer Rückmeldung geben, dass die Antwort nicht perfekt ist, zum Beispiel weil Schnee auch andere Farben haben kann (wie z.B. matschiges Grau oder manchmal auch gelb 😬), ändern sich die Wahrscheinlichkeiten für das nächste Wort und der Satz wird möglicherweise zu "Schnee ist in der Regel weiß" vervollständigt. Auf diese Weise "lernt" die KI dazu.

Was bedeutet das nun für Informationen im Arbeitsalltag?

Künstliche Intelligenz wird unseren Arbeitsalltag positiv unterstützen, insbesondere bei standardisierten Fragestellungen. Jedoch sollte man den Antworten nicht blind vertrauen. Schließlich geben ChatGPT lediglich die Wahrscheinlichkeiten für die nächsten Wörter aus. Wenn zum Beispiel das Thema "Farbe des Schnees" bisher nicht in der Datenbasis enthalten war und jemand mehrmals den Input "Schnee ist blau" gibt, würde die KI den Satz genauso selbstverständlich vervollständigen. Diese Wortkombination hätte schließlich die höchste Wahrscheinlichkeit. Eine KI funktioniert also vorwiegend für Fragestellungen gut, die bereits unzählige Male in der Datenbasis vorhanden waren.

Übrigens: Eine KI verarbeitet jede Interaktion und jedes neu hinzugefügte Wort und integriert es in die nächste Berechnung. Die Datenbasis wird ständig erweitert. So funktioniert maschinelles Lernen. Aus diesem Grund sollten Sie solche Systeme nicht mit sensiblen Informationen wie vertrauliche Dokumente, spezielle Software-Codes, personenbezogene Daten, Kundendaten oder Ähnlichem füttern. Alle Ihre eingegebenen Daten werden verarbeitet und in die zukünftigen Antworten auf der ganzen Welt integriert. Dadurch könnten vertrauliche Informationen oder personenbezogene Daten an die Öffentlichkeit gelangen. Nutzen Sie daher KI-Systeme mit Bedacht.

Dies gilt es bei der Nutzung von KIs u.a. zu beachten

Bedrohung Beispiel
Phishing & Social Engineering Angriffe Kriminelle können KIs für gefälschte Motivationsschreiben und manipulierte Telefonanrufe nutzen.
Informationsabfluss Mitarbeitende können KIs mit personenbezogenen oder anderen sensiblen Daten füttern und damit unbewusst vertrauliche Informationen veröffentlichen.
Infektion mit Schadsoftware

Kriminelle verbreiten kostenlose gefälschte KI-Apps, die bei Installation sensible Daten stehlen.

Vorsicht vor gefälschten Plug-Ins und Apps - Keine Software aus dem Internet!

Künstliche Intelligenz bietet natürlich nicht nur für Unternehmen diverse Möglichkeiten und Vorteile. Auch Kriminelle machen sich den Hype um KIs zunutze:

  • Im Google Webstore gab es wochenlang ein gefälschtes ChatGPT Plug-In, das Facebook-Anmeldedaten gestohlen hat. Es wurde sogar über Google-Ads als Werbeanzeige bei Suchergebnissen eingeblendet und millionenfach heruntergeladen, bevor es entfernt wurde.
  • Andere Kriminelle haben eine ChatGPT Desktop-App für Windows im Internet angeboten. Wer sie installiert hat, hat sich eine Schadsoftware installiert, die Zugangsdaten ausspäht.
Graphik eines trojanischen Pferdes

Genau deshalb gilt mit Blick auf Künstliche Intelligenz derselbe Grundsatz in in der Cyber Security: In den meisten Unternehmen dürfen Sie keine Software auf eigene Faust aus dem Internet laden. Achten Sie auch im privaten Umfeld darauf, dass Sie nur aus seriösen Quellen Software installieren und lesen Sie vorher entsprechende Rezensionen.

Tipps für Anwender: So nutzen Sie KI-Systeme sicher

Behandeln Sie frei verfügbare KI-Systeme wie öffentliche Cloud-Systeme, also vergleichbar mit sozialen Medien. Jeder Input von Ihnen kann bei anderen Personen als Output landen. Deshalb gilt:

  • Füttern Sie ChatGPT & Co. nicht mit vertraulichen Informationen.
  • Geben Sie keine personenbezogenen Daten wie Namen, Gesundheitsdaten oder Bilder als Beispiele ein, weder von Ihnen, noch von Kunden oder anderen Personen.
  • Laden Sie auch keine Prozessabläufe, Netzwerkpläne oder Code-Schnipsel von Software in ein KI-System. Der nächste bekommt Ihren Netzwerkplan eventuell als Antwort.

Vertrauen Sie bitte auch nicht blind auf die von der KI ausgegebenen Antworten. Diese sind zwar oft korrekt, aber sie können auch

  • einfach falsch sein, obwohl sie gut klingen. Schließlich sind es nur Vervollständigungen auf Basis von Wahrscheinlichkeiten.
  • veraltet sein. ChatGPT hat lange Zeit mit einer Datenbasis aus 2021 gearbeitet, bei vielen anderen Systemen ist die genaue Datenbasis gar nicht bekannt.
  • mit Vorurteilen behaftet sein, weil die Input-Daten ebenfalls mit Vorurteilen versehen sind. Eine KI wird Ihnen auf die Frage "wer ist als Führungskraft im Unternehmen geeignet" sehr wahrscheinlich einen weißen Mann mittleren Alters als Antwort geben. Nicht weil dieser Personentyp die beste Qualifikation hat, aber mit Abstand die höchste Wahrscheinlichkeit.   

Tipps für Sicherheitsverantwortliche: sensibilisieren Sie Ihre Mitarbeitenden

KIs werden die Arbeitswelt erobern bzw. sind bereits mitten auf diesem Weg. Deshalb sollten Sie das Thema "KI sicher nutzen" unternehmensweit schulen und dazu sensibilisieren:

  • Erstellen Sie Richtlinien zur Nutzung von KI-Systemen. Die Mitarbeitenden müssen wissen, was sie im Bezug auf KI dürfen und was nicht.
  • Schulen und sensibilisieren Sie Mitarbeitende, durch E-Learning Nuggets oder Intranet Inhalte. Dies ist essenziell, damit sie nicht nur den Umgang mit KIs verstehen, sondern auch die damit verbundenen Risiken richtig einschätzen und jederzeit auf bewährte Sicherheitspraktiken zurückgreifen können.
  • Nutzen Sie den Hype, um auf dieser Welle andere Security-relevante Themen (z.B. Schutz personenbezogener Daten) zu kommunizieren. Webinare zu KI haben zigfach höhere Anmelderaten als Webinare zum Datenschutz 😁.

In unserem geschützten Demobereich finden Sie ein von unseren Security-Experten entwickeltes Cyber-Security-Training zum Thema Künstliche Intelligenz. Damit können Sie Ihre Mitarbeitenden zum sicheren Umgang mit Künstlicher Intelligenz schulen. 

Demo und Beratung? Preise? Referenzen?

Holen Sie sich einen Demozugang und lassen Sie uns in einem Webmeeting über Ihren Bedarf sprechen. Wir zeigen Ihnen, wie Sie die Künstliche Intelligenz sicher in Ihrem Unternehmen einsetzen können.
Kontakt

Verwandte Themen

Weitere Know-how-Artikel zu E-Learning