{"id":2391,"date":"2025-06-17T16:07:36","date_gmt":"2025-06-17T14:07:36","guid":{"rendered":"https:\/\/blog.eprivacy.eu\/?p=2391"},"modified":"2025-06-17T16:07:37","modified_gmt":"2025-06-17T14:07:37","slug":"datenschutzverstoss-5-mio-eur-bussgeld-fuer-ki-chatbot-replika","status":"publish","type":"post","link":"https:\/\/blog.eprivacy.eu\/?p=2391&lang=de","title":{"rendered":"Datenschutzversto\u00df: 5 Mio. EUR Bu\u00dfgeld f\u00fcr KI-Chatbot Replika"},"content":{"rendered":"\n<p>Die italienische Datenschutzbeh\u00f6rde hat gegen das US-Unternehmen Luka, Inc., Betreiber des KI-gest\u00fctzten Chatbots \u201eReplika\u201c, eine&nbsp;<a href=\"https:\/\/t5baa4d95.emailsys1a.net\/c\/107\/8403721\/4207\/0\/20698348\/699\/548988\/b1823a2770.html\">Geldbu\u00dfe von 5 Millionen Euro<\/a>verh\u00e4ngt und &nbsp;eine unabh\u00e4ngige Untersuchung zur Verarbeitung personenbezogener Daten durch das KI-System eingeleitet.<br><br>Replika ist ein Chatbot, der als virtueller Begleiter zur emotionalen Unterst\u00fctzung dient und je nach Wunsch als FreundIn, TherapeutIn, romantische PartnerIn oder MentorIn fungieren kann. Folgende Datenschutzvorw\u00fcrfe werden Luka, Inc. von der italienischen Datenschutzbeh\u00f6rde gemacht:<\/p>\n\n\n\n<ol><li>Fehlender Nachweis geeigneter Rechtsgrundlagen (Art. 6 DSGVO):<br>Die Datenschutzerkl\u00e4rung nannte keine konkreten Rechtsgrundlagen f\u00fcr einzelne Verarbeitungsvorg\u00e4nge, insbesondere nicht f\u00fcr die Weiterverarbeitung der Daten zu Trainingszwecke des LLMs.<br>&nbsp;<\/li><li>Unzureichende Datenschutzerkl\u00e4rung (Art. 13, 14 DSGVO):<br>Die ausschlie\u00dflich englischsprachige und unvollst\u00e4ndige Datenschutzerkl\u00e4rung war weder verst\u00e4ndlich f\u00fcr italienischsprachige Nutzende noch transparent in Bezug auf zentrale Aspekte der Datenverarbeitung, wie bei der Speicherdauer, beim Drittlandstransfer und automatisierter Entscheidungsfindung .<br>&nbsp;<\/li><li>Fehlende Altersverifikation (Art. 8 DSGVO):<br>Luka habe keine wirksamen technischen Ma\u00dfnahmen zur Alterspr\u00fcfung implementiert, obwohl sie Minderj\u00e4hrige von der Nutzung ausgeschlossen haben. Minderj\u00e4hrige hatten trotz offener Angabe eines Alters unter 18 ungehinderten Zugang zu nicht altersgerechten Inhalten bei der Nutzung von Replika.<\/li><\/ol>\n\n\n\n<p>Der Fall Replika macht deutlich, dass KI-Anwendungen von Anfang an datenschutzkonform gestaltet werden m\u00fcssen, insbesondere wenn sie emotional oder psychologisch auf NutzerInnen einwirken. Transparenz bei automatisierten Entscheidungen, Schutz Minderj\u00e4hriger und klare Zweckbindung der Datenverarbeitung sind dabei unerl\u00e4sslich. Au\u00dferdem zeigt der Fall, dass Aufsichtsbeh\u00f6rden auch komplexe KI-Systeme pr\u00fcfen und bei Verst\u00f6\u00dfen konsequent sanktionieren.<br><br>Wir unterst\u00fctzen Sie gerne mit einer rechtlichen Pr\u00fcfung oder strategischen Beratung zur DSGVO-konformen Gestaltung Ihrer KI-Anwendungen. Sprechen Sie uns an!<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Die italienische Datenschutzbeh\u00f6rde hat gegen das US-Unternehmen Luka, Inc., Betreiber des KI-gest\u00fctzten Chatbots \u201eReplika\u201c, eine&nbsp;Geldbu\u00dfe von 5 Millionen Euroverh\u00e4ngt und &nbsp;eine unabh\u00e4ngige<\/p>\n<p class=\"link-more\"><a class=\"myButt \" href=\"https:\/\/blog.eprivacy.eu\/?p=2391&#038;lang=de\">Read More<\/a><\/p>\n","protected":false},"author":1,"featured_media":0,"comment_status":"closed","ping_status":"open","sticky":false,"template":"","format":"standard","meta":[],"categories":[10],"tags":[],"_links":{"self":[{"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/posts\/2391"}],"collection":[{"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=2391"}],"version-history":[{"count":1,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/posts\/2391\/revisions"}],"predecessor-version":[{"id":2392,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=\/wp\/v2\/posts\/2391\/revisions\/2392"}],"wp:attachment":[{"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=2391"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=2391"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/blog.eprivacy.eu\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=2391"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}