Die KI DeepSeek erregt momentan großes Aufsehen im Bezug auf Ihre Kosteneffizienz und Leistungsfähigkeit. Während die Leistung vergleichbar mit den State-of-the-Art Large Language Model(LLM) "OpenAI o1" ist, betragen die Entwicklungskosten nach eigenen Angaben jedoch nur einen Bruchteil. Sechs Millionen Dollar im Vergleich zu mehreren Milliarden.
Die niedrigen Kosten von DeepSeek lassen sich auf die Unterschiede in der Programmierung zurückführen. Das Team hinter DeepSeek R1 hat hohe Leistung ohne teure, von Menschen gelabelte Datensätze oder massive Ressourcen möglich gemacht. Im wesentlichen weist die Programmierung von DeepSeek drei Unterschiede auf:
Eine Untersuchung der Sicherheitsforscher von "Robust Intelligence", einer Tochtergesellschaft von Cisco, in Zusammenarbeit mit der University of Pennsylvania, hat schwerwiegende Sicherheitsmängel aufgedeckt. Die Anwendung konnte mit einer Erfolgsquote von 100 % geknackt werden. Das bedeutet, dass die Schutzmechanismen umgangen werden konnten, so dass die KI potentiell für missbräuchliche Zwecke eingesetzt werden kann.
Forscher haben hierzu einen automatischen Jailbreak-Algorithmus auf 50 zufällig ausgewählte Eingabeaufforderungen aus dem "HarmBench" Benchmark eingesetzt. Dieser umfasst 400 Verhaltensweisen in sieben Schadenskategorien wie Cyberkriminalität, Desinformation und illegale Aktivität.
Ein "Jailbreak" bei DeepSeek bedeutet, dass die KI so manipuliert werden kann, dass sie sich anders verhält als vorgesehen – etwa um illegale oder schadhafte Aktionen auszuführen. Wenn ein System so einfach geknackt werden kann, sind die möglichen Auswirkungen enorm, da die KI dann für verschiedene böswillige Zwecke genutzt werden kann.
Abgesehen davon ist DeepSeek nach chinesischem Recht dazu verpflichtet, alle Daten in der Volksrepublik zu speichern. Das chinesische Geheimdienstgesetz verpflichtet die Bevölkerung und Organisationen dazu, mit den Sicherheitsbehörden zu kooperieren. Von etlichen China-Beobachtern wird genau dieser Paragraf als Zugriffsrecht des Spionageapparats auf sämtliche in der Volksrepublik gespeichert Daten interpretiert.
In Deutschland reagiert nun die Datenschutzaufsicht. Der Datenschutzbeauftragte von Rheinland-Pfalz bereitet ein Prüfverfahren gegen DeepSeek vor. Auch andere deutsche Aufsichtsbehörden planen offenbar parallel vorzugehen.
Ein weiteres Problem: Laut EU-Datenschutzgrundverordnung (DSGVO) muss ein Unternehmen ohne Niederlassung in der EU zumindest einen gesetzlichen Vertreter benennen. Eine Vorgabe, die DeepSeek bislang nicht erfüllt hat. Eine Anfrage der Deutschen-Presse-Agentur (dpa) zu diesem Bedenken ließ, DeepSeek bislng unbeantwortet.