DeepSeek: Kritische Stimmen dämpfen den Hype

CAFM-NEWS – Vor wenigen Tagen wurde die chinesische KI-Anwendung DeppSeek R1 veröffentlicht. Zugleich nannten seine Entwickler die Kosten des Trainings ihres Large Language Models (LLM), die mit rund 5,6 Millionen US-Dollar nur einen Bruchteil der Ausgaben bisheriger Modelle betragen. Die Schockwelle ließ zahlreiche, insbesondere US-amerikanische Aktien im KI-Umfeld abstürzen, doch wohlmöglich ohne oder mit weniger Grund, als gedacht.

Die Entwickler der KI geben an, dass sie ihren Erfolg vor allem durch die systematische Strukturierung und Kaskadierung von Algorithmen und ihrer Berechnungen erreicht hätten. Der Anwender kann RI – das R steht für das englische Wort Reasoning, was Gedankengang und Beweisführung bedeuten kann – bei der Überlegung zusehen, was die Software zu tun gedenkt. Dieser Prozess kann durchaus auch mal eine Minute dauern. Ähnlich arbeiten die Modelle o1 bis o3 des DeepSeek-Konkurrenten OpenAI, der auch ChatGPT anbietet.

Einige Stimmen bezweifeln, dass DeepSeek R1 tatsächlich so günstig war. Zum einen steht die Frage im Raum, wie die Summe von 5,6 Mio. USD überhaupt berechnet wurde, insbesondere, ob auch die zeitaufwändige Programmierleistung und Fehlerkorrektur des Codes eingepreist ist und ebenso die Entwicklung der Designs der kaskadierten Bearbeitung. Von OpenAI kommt zudem der Vorwurf, DeepSeek habe sein Modell mit gestohlenen Daten von OpenAI gefüttert, also einen Teil des Trainings seines LLM gar nicht selber erbracht.

Ebenfalls bezweifelt wird, dass DeepSeek tatsächlich nur mit 2.048 der weniger leistungsfähigen Nvidia H800-Grafikkarten gerechnet habe, um sein Modell zu erstellen. Denn obwohl die US-Administration ein Ausfuhrverbot hoch performanter Grafikkarten wie die Nvidia Titan V an China erlassen hat, scheinen solche Karten auch in China Verwendung zu finden. Hintergrund der Annahme ist ein Bericht des Nachrichtenportals Bloomberg, dass es vergangenes Jahr einen deutlichen Exportschub nach Singapur gegeben hat, wobei nur verhältnismäßig wenige der Grafikkarten auch in Singapur geblieben sind. In diesem Zusammenhang ist von Singapur als Schlupfloch die Rede.

In eine andere Richtung weist die Kritik von Jonas Andrulis, CEO des deutschen KI-Anbieters Aleph Alpha, deren Modell ebenfalls mit deutlich geringeren Finanzmitteln als die US-Konkurrenz zu ähnlichen und teilweise besseren Leistungen fähig ist. In einem Interview mit der FAZ gibt Andrulis zu bedenken, dass Benchmarks je nach Design sehr unterschiedliche Ergebnisse liefern können. Dazu genüge mitunter schon, in einem Multiple Choice-Test die Reihenfolge der Fragen zu ändern. Auch würden manche KI-Anwendungen speziell auf die gängigen Benchmarks trainiert, um eine gute Performance zu liefern.

In der Kritik ist DeepSeek außerdem wegen des Aspekts Datenschutz. Laut dem Portal Wired sammelt die KI Nutzerdaten wie Tastatureingaben und sogar Audio-Dateien, die alle auf Servern in China gespeichert werden. Was dort mit den Daten geschieht und in welchem Umfang chinesische Behörden und Geheimdienste diese (mit-)nutzen und auswerten, sei unklar.

Tests von IT-Experten der Unit42 von Palo Alto Networks und von Experten des Netzwerkausstatters Cisco hätten gezeigt, dass die KI von DeepSeek für praktisch jeden Jailbreak anfällig sei, berichtet das IT-Portal Golem. Die KI gibt also Antworten auf Fragen, zu denen sie eigentlich nichts sagen sollte, weil diese kriminelle Aktivitäten befördern. Dazu gehören zum Beispiel Angaben zum Bau von Bomben. DeepSeek lieferte zu allen 50 typischen Fragen solcher Tests ein anwendbares Ergebnis.

Im Gegenzug zensiert die KI Antworten, die dem chinesischen Regime nicht genehm sind. Das bekannteste Beispiel ist das Massaker auf dem Platz des himmlischen Friedens. Auf dem Tian’anmen-Platz schlug das chinesische Regime am 3. und 4. Juni 1989 einen friedlichen Protest der studentischen Demokratiebewegung durch einen Militäreinsatz blutig nieder. Sofern DeepSekk eine Antwort gibt, liefert sie eine Beschreibung, die den Sachverhalt beschönigt und seine Hintergründe verschleiert oder behauptet einfach, sie kenne sich mit dem Thema nicht aus.

Die jüngste Meldung zu dem chinesischen KI-Angebot war übrigens, dass eine Datenbank mit mehr als einer Million Datensätzen zu Nutzereingaben offen im Internet einsehbar war. Das Leck sei inzwischen aber geschlossen, bestätigt das Fachportal Security Insider.

Abbildungen: DeepSeek