{"id":2260,"date":"2025-03-24T11:11:37","date_gmt":"2025-03-24T10:11:37","guid":{"rendered":"https:\/\/blog.eprivacy.eu\/?p=2260"},"modified":"2025-03-24T11:11:38","modified_gmt":"2025-03-24T10:11:38","slug":"generative-ki-chancen-und-risiken-aus-sicht-des-bsi","status":"publish","type":"post","link":"https:\/\/blog.eprivacy.eu\/?p=2260&lang=de","title":{"rendered":"Generative KI \u2013 Chancen und Risiken aus Sicht des BSI"},"content":{"rendered":"\n<figure class=\"wp-block-table\"><table><tbody><tr><td>Das Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) hat Anfang des Jahres seine Publikation zu generativen KI-Modellen aktualisiert. Solche KI-Modelle k\u00f6nnen neue Inhalte wie Texte, Bilder, Audios und Videos erzeugen, nachdem sie w\u00e4hrend des Trainings Muster aus vorhandenen Daten gelernt haben. Die vielseitigen Modelle mit potenziell hochqualitativen Ergebnissen stellen eine Chance f\u00fcr die Digitalisierung dar, ihr Einsatz bringt aber auch neuartige IT-Sicherheitsrisiken mit sich.<br>&nbsp;<br>Die \u00fcberarbeitete Fassung des BSI-Papiers richtet sich an Unternehmen und Beh\u00f6rden, die Anwendungen wie Chatbots oder Bild- und Videogeneratoren oder generative KI-Modelle auf andere Weise in ihre Arbeitsprozesse integrieren wollen und unterst\u00fctzt insbesondere bei der Risikoanalyse. Dazu werden diverse Risiken und Gegenma\u00dfnahmen detailliert beschrieben und bewertet. Besonderes Augenmerk sollte aus Sicht des BSI auf die Sensibilisierung der Nutzer, sorgf\u00e4ltige Auswahl der Trainingsdaten, umfangreiche Tests und den verantwortungsvollen Umgang mit sensiblen Informationen gelegt werden. Transparenz, \u00dcberpr\u00fcfung von Ein- und Ausgaben sowie Schutz vor Eingabemanipulationen sind weitere wichtige Aspekte beim Einsatz generativer KI. Um das Potenzial dieser Technologie voll auszusch\u00f6pfen und gleichzeitig Risiken zu minimieren, sollen praktische Expertise aufgebaut und realit\u00e4tsnahe Bewertungen durch Proof-of-Concepts durchgef\u00fchrt werden.<br>&nbsp;<br>Unternehmen sollten aufgrund des mit generativer KI verbundenen Gefahrenpotenzials eine individuelle Risikoanalyse durchf\u00fchren, bevor eine Integration in die eigenen Abl\u00e4ufe stattfindet. Dies gilt aus Sicht des BSI neben den Entwicklern auch f\u00fcr diejenigen, die Betreiber einer generativen KI sind, da einige Risiken nur auf dieser Ebene adressiert werden k\u00f6nnen. Auf Grundlage der Risikoanalyse sollten die bestehende Sicherheitsma\u00dfnahmen angepasst und gegebenenfalls zus\u00e4tzliche Ma\u00dfnahmen ergriffen werden. Mit einem klaren Sicherheitsbewusstsein und gezielten Gegenma\u00dfnahmen k\u00f6nnen Unternehmen die Potenziale generativer KI sicher und verantwortungsvoll aussch\u00f6pfen.<br>&nbsp;<br>(Dr. Marian Klingebiel, UNVERZAGT Rechtsanw\u00e4lte)<\/td><\/tr><\/tbody><\/table><\/figure>\n","protected":false},"excerpt":{"rendered":"<p>Das Bundesamt f\u00fcr Sicherheit in der Informationstechnik (BSI) hat Anfang des Jahres seine Publikation zu generativen KI-Modellen aktualisiert. Solche KI-Modelle k\u00f6nnen neue<\/p>\n<p class=\"link-more\"><a class=\"myButt \" href=\"https:\/\/blog.eprivacy.eu\/?p=2260&#038;lang=de\">Read More<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[10],"tags":[],"_links":{"self":[{"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/posts\/2260"}],"collection":[{"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2260"}],"version-history":[{"count":1,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/posts\/2260\/revisions"}],"predecessor-version":[{"id":2261,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/posts\/2260\/revisions\/2261"}],"wp:attachment":[{"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2260"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2260"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2260"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}