Schlagwort: DSGVO konform

In den letzten Wochen hat das Erscheinen des neuen kostenlosen OpenSource Modells DeepSeek aus China für erhebliches Aufsehen gesorgt. Und das nicht nur in der Technologie Bubble sondern auch auf dem globalen Finanzmarkt. So gab der Aktienkurs des Chipherstellers Nvidia zwischenzeitlich um 17% nach, was einem Verlust von annähernd 600 Milliarden Dollar entspricht.

Warum der Hype?

DeepSeek tritt mit seiner Leistungsfähigkeit in direkte Konkurrenz mit den modernsten Modellen des Branchenführers OpenAi. Dabei war die Entwicklung des KI Modells erheblich günstiger, was auch zu niedrigeren Kosten für die Nutzung führt.

Darüberhinaus wurde DeepSeek mit einer OpenSource Lizenz veröffentlicht. Dies gewährt zum einen maximale Transparenz, aber auch die Möglichkeit, sich verschieden große Varianten des Modells für die private, lokale Offline-Nutzung kostenlos herunterzuladen.

Warum ist DeepSeek so gut?

Das Modell arbeitet mit einer sogenannten Reasoning Methode (oder auch Chain-of-Thought). Anfragen werden in kleine Schritte zerlegt und systematisch abgearbeitet. Dabei überprüft das System mit unterschiedlichen Methoden seine Schritte selbst auf Plausibilität. Dies kann zu passgenaueren und tiefergehenden Analysen führen und Räume für Halluzinationen und Falschaussagen minimieren.

Besonders interessant, gerade auch für Bildungszwecke, ist, dass der Chatbot diesen Gedankenprozess visualisiert (thinking) und damit transparent macht.

Gibt es auch negative Aspekte?

Hinter DeepSeek steckt ein chinesisches Unternehmen namens Hangzhou DeepSeek Artificial Intelligence Co., Ltd. Dieses unterliegt den chinesischen Auflagen seitens der Regierung und damit auch der staatlichen Zensur.

Folgende Aspekte sind daher kritisch zu betrachten:

• DeepSeek kann kostenlos im Web (https://chat.deepseek.com/) oder als App benutzt werden. Dabei werden IP-Adressen, Chatverläufe, hochgeladene Dateien und sogar die Muster und der Rhythmus von Tastaturanschlägen auf chinesischen Servern erfasst und gespeichert.
• Es gibt keine rechtliche Basis für den Datenaustausch zwischen der EU und China. Die DSGVO hat hier keine Bedeutung, da keine europäische Niederlassung oder ein rechtlicher Vertreter existiert. Somit können Datenverstöße auch nicht geahndet werden.

Beispiel für Zensur

Es ist auch für Bildungszwecke sehr interessant wie man hier die Wirkmechanismen von Zensur beobachten und testen kann. Wenn man das R1 Modell selber lokal betreibt, oder über einen Provider wie Perplexity verwendet, dann greift die Zensur offensichtlich nicht. Dies lässt sich testen, wenn Fragen zum Beispiel zu Themen wie zum Platz des himmlischen Friedens oder zur Situation der Uiguren gestellt werden.

Wie funktioniert die lokale Nutzung?

Es wäre also ratsam, dieses KI Modell über einen DSGVO konformen Anbieter zu nutzen oder lokal selber zu betreiben, vorausgesetzt, man verfügt über die geeignete Hardware.

Deepseek hat mehrere Varianten seiner Modelle im Angebot, die unterschiedlich groß, aber damit auch unterschiedlich leistungsfähig sind.

Am einfachsten ist eine lokale Installation über Ollama möglich, hier sind die unterschiedlichen Modelle auch aufgelistet. (deepseek-r1) Zusätzlich empfiehlt sich noch ein entsprechendes Frontend, damit die Nutzung ein bisschen einfacher und ohne Konsole funktioniert. (z. B. https://anythingllm.com/, Chatbox AI: Your AI Copilot, Best AI Client on any device, Free Download)

Allerdings benötigt man für den lokalen Betrieb entweder einen leistungsstarken Server, einen Gaming PC, eine Hochleistungs-Grafikkarte oder einen erheblich großen Arbeitsspeicher.

Ich konnte mit meinem Standard Macbook Air M1 zum Beispiel nur das kleinste r1:1.5b Modell flüssig zum Laufen bringen. Das ist zwar faszinierend und man kann den thinking-Prozess beobachten, aber der Output ist doch qualitativ nicht zu gebrauchen.

Fazit

DeepSeek ist ein leistungsstarkes KI Modell, dass die bisherigen quasi KI Monopolisten ordentlich ins Wanken bringt. Bei der Nutzung sollte man die kostenlose, direkt in China gehostete Web Variante, bzw. die offiziellen Apps eher meiden.

Der OpenSource Ansatz und Möglichkeit, so ein leistungsstarkes Modell lokal betreiben zu können, sind aber vielversprechende Gelegenheiten. Es bleibt zu hoffen, dass es zeitnah DSGVO konforme und damit rechtssicher einsetzbare Lösungen für diejenigen gibt, die nicht in der Lage sind, so ein Modell eigenständig zu betreiben.