Anthropic wirft Alibaba größte Distillation-Attacke auf Claude vor
In einem Brief an Mitglieder des US-Senats erklärt Anthropic, mit Alibaba verbundene Akteure hätten über rund 25.000 betrügerische Konten 28,8 Millionen Interaktionen mit Claude geführt. Alibaba äußerte sich nicht.
TL;DR
- Anthropic teilte Mitgliedern des US-Senats mit, mit Alibaba verbundene Akteure hätten über rund 25.000 betrügerische Konten 28,8 Millionen Interaktionen mit Claude geführt, um dessen Fähigkeiten abzuschöpfen [^1].
- Erstmals nennt Anthropic einen großen chinesischen Konzern, und die Kampagne übertrifft die drei im Februar gemeldeten zusammen [^2].
Hintergrund
Distillation bedeutet, ein schwächeres Modell mit den Ausgaben eines stärkeren zu trainieren. Anthropic bezeichnet das als verbreitete und legitime Methode, etwa wenn Labore ihre eigenen Modelle zu günstigeren Versionen verkleinern [^3]. Zum Angriff wird es aus Sicht von Anthropic, wenn ein Konkurrent damit die Fähigkeiten eines anderen Labors in einem Bruchteil der Zeit und zu einem Bruchteil der Kosten übernimmt. Im Februar warf Anthropic DeepSeek, Moonshot und MiniMax mehr als 16 Millionen solcher Interaktionen über etwa 24.000 betrügerische Konten vor [^3].
Was passiert ist
Anthropic erhob den Vorwurf in einem Brief vom 10. Juni an Tim Scott und Elizabeth Warren, die dem Bankenausschuss des US-Senats angehören. CNBC bestätigte ihn am 24. Juni, nachdem Bloomberg zuerst darüber berichtet hatte [^1]. Laut The Next Web ging der Brief auch an Vertreter des Weißen Hauses [^2]. Darin heißt es, Alibaba habe „dreist“ und „unrechtmäßig“ versucht, die KI-Fähigkeiten von Anthropic abzuschöpfen, und die Kampagne sei „der größte bekannte Distillation-Angriff auf Anthropic bis heute“ [^1]. Dem Brief zufolge führten mit Alibaba und seinem KI-Labor verbundene Akteure zwischen dem 22. April und dem 5. Juni über rund 25.000 betrügerische Konten 28,8 Millionen Interaktionen mit den Modellen von Anthropic [^1]. The Next Web berichtet, die Akteure seien mit Alibabas Qwen-Labor verbunden gewesen und hätten es auf Softwareentwicklung und agentisches Schlussfolgern abgesehen [^2].
Anthropic stellt die Kampagne als Missachtung Washingtons dar. Laut dem Brief hat Alibaba „die Warnungen der Trump-Regierung ignoriert“. Gemeint ist ein Memo des Office of Science and Technology Policy des Weißen Hauses vom April, das KI-Unternehmen Hilfe zusagte, Distillation im industriellen Maßstab zu erkennen und gemeinsam dagegen vorzugehen [^1]. Der Brief verweist außerdem darauf, dass das Pentagon Alibaba am 8. Juni auf seine Liste chinesischer Militärunternehmen gesetzt hat, wogegen Alibaba vor Gericht vorgeht [^2]. Anthropic forderte die Regierung auf, die Kartellrichtlinien zu klären, damit US-Labore mehr Informationen über Distillation-Versuche austauschen können, bekräftigte seine Unterstützung für Exportkontrollen bei modernen KI-Chips und verlangte Strafen für Firmen, die die Technik einsetzen [^2].
Alibaba reagierte nicht sofort auf eine Anfrage von CNBC, und laut The Next Web gab das Unternehmen keinen Kommentar ab [^1] [^2]. Anthropic selbst wollte sich nicht zu Einzelheiten äußern und erklärte in einer Stellungnahme, der Kampf gegen unrechtmäßige Distillation „erfordert koordiniertes Handeln von Regierung und Industrie“ [^1] [^2]. Alibabas American Depositary Receipts fielen nach der Nachricht um mehr als drei Prozent [^2].
Warum es wichtig ist
Anthropics Bericht vom Februar erklärt, warum das Unternehmen Distillation für mehr als ein Geschäftsproblem hält. Unrechtmäßig destillierte Modelle behalten demnach kaum die Schutzmechanismen, die US-Labore etwa gegen die Entwicklung von Biowaffen einbauen, und das Abschöpfen untergräbt die Exportkontrollen für moderne Chips [^3]. Der Bericht beschreibt auch, wie solche Kampagnen ablaufen. Claude ist in China kommerziell nicht verfügbar, deshalb nutzen Labore Proxy-Dienste, die den Zugang über weitverzweigte Netze betrügerischer Konten weiterverkaufen; eines dieser Netze verwaltete gleichzeitig mehr als 20.000 Konten [^3]. Verräterisch ist laut Anthropic das Muster: riesige Mengen, konzentriert auf wenige Fähigkeiten, und stark repetitive Prompts [^3].
Vorerst sind die Vorwürfe gegen Alibaba die Darstellung von Anthropic. Der Bericht von CNBC sagt nicht, wie das Unternehmen die Konten Alibaba zugeordnet hat; im Februar gab Anthropic an, Kampagnen über die Korrelation von IP-Adressen, Metadaten von Anfragen und Merkmale der Infrastruktur zugeordnet zu haben [^1] [^3]. Der Gesetzgeber bewegt sich bereits: Bill Hagerty und Andy Kim aus dem Senat planen einen Änderungsantrag zum Verteidigungsgesetz, der chinesische Firmen auf eine schwarze Liste setzen oder sanktionieren würde, wenn sie unrechtmäßig auf die Ausgaben von US-KI-Modellen zugreifen [^2]. Anthropic treibt sein Anliegen voran, während es mit derselben Regierung über eine Exportkontrollanordnung streitet, die den Zugang ausländischer Staatsangehöriger zu seinen Modellen Fable 5 und Mythos 5 aussetzte [^1].
Ein Beispiel aus der Praxis
Angenommen, du betreibst eine API für dein eigenes KI-Modell und bietest Startups und Studierenden vergünstigte Konten an. Anthropics Bericht vom Februar zeigt, wo du hinschauen solltest: Konten für Bildungseinrichtungen, Programme für Sicherheitsforschung und Startup-Organisationen waren die Wege, die am häufigsten für betrügerische Konten missbraucht wurden [^3]. Also protokollierst du, auf welche Fähigkeit die Prompts jedes Kontos zielen, und markierst Gruppen von Konten, die nahezu identische Prompts in großen Mengen senden [^3]. Ein einzelnes Konto zu sperren, reicht nicht. In den Proxy-Netzen, die Anthropic beschreibt, tritt an die Stelle jedes gesperrten Kontos ein neues [^3].
Passende Produkte
Wir empfehlen dieses Buch, weil es die KI-Rivalität zwischen China und dem Silicon Valley beschreibt, vor deren Hintergrund dieser Streit spielt.
AI Superpowers: China, Silicon Valley, and the New World Order
Quellen
- [1]CNBC — Anthropic accuses Alibaba of campaign to extract AI capabilities
- [2]The Next Web — Anthropic accuses Alibaba of running the largest distillation campaign yet against Claude
- [3]Anthropic — Detecting and preventing distillation attacks
- [4]Hacker News — Anthropic says Alibaba illicitly extracted Claude AI model capabilities