| Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat Anfang des Jahres seine Publikation zu generativen KI-Modellen aktualisiert. Solche KI-Modelle können neue Inhalte wie Texte, Bilder, Audios und Videos erzeugen, nachdem sie während des Trainings Muster aus vorhandenen Daten gelernt haben. Die vielseitigen Modelle mit potenziell hochqualitativen Ergebnissen stellen eine Chance für die Digitalisierung dar, ihr Einsatz bringt aber auch neuartige IT-Sicherheitsrisiken mit sich. Die überarbeitete Fassung des BSI-Papiers richtet sich an Unternehmen und Behörden, die Anwendungen wie Chatbots oder Bild- und Videogeneratoren oder generative KI-Modelle auf andere Weise in ihre Arbeitsprozesse integrieren wollen und unterstützt insbesondere bei der Risikoanalyse. Dazu werden diverse Risiken und Gegenmaßnahmen detailliert beschrieben und bewertet. Besonderes Augenmerk sollte aus Sicht des BSI auf die Sensibilisierung der Nutzer, sorgfältige Auswahl der Trainingsdaten, umfangreiche Tests und den verantwortungsvollen Umgang mit sensiblen Informationen gelegt werden. Transparenz, Überprüfung von Ein- und Ausgaben sowie Schutz vor Eingabemanipulationen sind weitere wichtige Aspekte beim Einsatz generativer KI. Um das Potenzial dieser Technologie voll auszuschöpfen und gleichzeitig Risiken zu minimieren, sollen praktische Expertise aufgebaut und realitätsnahe Bewertungen durch Proof-of-Concepts durchgeführt werden. Unternehmen sollten aufgrund des mit generativer KI verbundenen Gefahrenpotenzials eine individuelle Risikoanalyse durchführen, bevor eine Integration in die eigenen Abläufe stattfindet. Dies gilt aus Sicht des BSI neben den Entwicklern auch für diejenigen, die Betreiber einer generativen KI sind, da einige Risiken nur auf dieser Ebene adressiert werden können. Auf Grundlage der Risikoanalyse sollten die bestehende Sicherheitsmaßnahmen angepasst und gegebenenfalls zusätzliche Maßnahmen ergriffen werden. Mit einem klaren Sicherheitsbewusstsein und gezielten Gegenmaßnahmen können Unternehmen die Potenziale generativer KI sicher und verantwortungsvoll ausschöpfen. (Dr. Marian Klingebiel, UNVERZAGT Rechtsanwälte) |