inferwire
/
KI·5 Min. Lesezeit

Standard-Telemetrie von GPUs verrät verstecktes KI-Training

Ein Klassifikator, der nur neun eingebaute Zähler von NVIDIA-GPUs auswertet, erkannte Training mit 98,2 Prozent Genauigkeit und durchschaute die meisten Tarnversuche, solange die Werte nicht gefälscht sind.

TL;DR

  • Forschende haben einen Klassifikator gebaut, der ML-Training an neun eingebauten Zählern von NVIDIA-GPUs mit 98,2 Prozent Genauigkeit erkennt, ohne Code, Gewichte oder Daten zu sehen [^1].
  • Er durchschaute die meisten von 20 Familien von Tarnstrategien, erkannte aber nur 43 bis 87 Prozent der unbekannten White-Box-Angriffe [^1].

Hintergrund

Vorschläge zur Compute-Governance sehen vor, KI-Trainingsläufe oberhalb einer Rechenschwelle zu registrieren, zu prüfen oder sogar zu verbieten [^1]. Die US-Executive-Order 14110, gültig von Oktober 2023 bis zu ihrer Aufhebung im Januar 2025, verpflichtete Entwickler, Läufe über 10^26 Rechenoperationen zu melden [^1]. Solche Regeln funktionieren nur, wenn jemand erkennen kann, wann eine GPU ein Modell trainiert [^1]. NVIDIAs NVML, die C-basierte Schnittstelle hinter dem Werkzeug nvidia-smi, liefert Auslastung, Speicher, Temperatur, Leistung und Takt einer GPU [^2].

Was passiert ist

Robi Rahman vom Machine Intelligence Research Institute und Sabiha Tajdari von der University of Virginia haben ihre Studie am 17. Juni auf arXiv veröffentlicht [^1]. Der Klassifikator der beiden liest einmal pro Sekunde neun NVML-Zähler: GPU- und Speicherauslastung, belegten Speicher, Leistungsaufnahme, Temperatur, zwei Taktfrequenzen und den PCIe-Verkehr in beide Richtungen. Diese Zähler gibt es auf jeder NVIDIA-GPU ab der Pascal-Generation, und ihre Abfrage bremst die Arbeitslast nicht [^1]. Die Autoren absolvierten 1.404 Läufe mit 162 Workloads, rund 117 GPU-Stunden, auf neun GPU-Modellen aus vier Generationen, von einem RTX-4050-Laptopchip bis zur B200 [^1]. Ein Random Forest mit 400 Bäumen trennte Training von Inferenz und Nicht-ML-Arbeit mit 98,2 Prozent Genauigkeit und einer Falsch-Positiv-Rate von 3,06 Prozent. Mit Daten von acht GPU-Modellen trainiert und an ungetarnten Läufen des neunten getestet, erreichte er bei acht der neun Modelle 100 Prozent [^1].

Danach spielten die Autoren fünf Runden lang Angreifer und Verteidiger. Jede Runde brachte neue Tarnstrategien gegen die Schwachstellen des Klassifikators, und der Verteidiger trainierte darauf nach [^1]. Die 20 so entstandenen Familien reichen vom Drosseln der Auslastung über das Nachahmen von Kryptomining bis zu „Training als Inferenz“, bei dem Gradienten-Updates zwischen vielen Inferenz-Batches verdünnt werden [^1]. Wurde eine Familie aus dem Training herausgehalten, erkannte der Klassifikator sie im Schnitt mit 95,2 Prozent Genauigkeit, mit White-Box-Angriffen mit 92,2 Prozent. Alle Multi-GPU-Strategien wurden zu mindestens 99,6 Prozent erkannt, und nur 5 der 20 Familien lagen unter 90 Prozent [^1].

In der letzten Runde bekam der Angreifer Einblick in das Innere des Klassifikators. Eine Taktik legte 4 Sekunden Training über die Grenze zweier 5-Sekunden-Fenster. Eine andere ließ eine Kopie des Klassifikators live mitlaufen und pausierte das Training, sobald dessen geschätzte Trainingswahrscheinlichkeit 0,30 erreichte [^1]. Diese Taktiken entgingen dem vorherigen Klassifikator in bis zu 94 Prozent der Fälle. Nach dem Nachtrainieren erkannte der Verteidiger sie immer, wenn er sie schon kannte, aber nur 43 bis 87 Prozent der White-Box-Strategien, die er nicht gesehen hatte [^1].

Warum es wichtig ist

Die Autoren argumentieren, dass die Physik dem Verteidiger hilft. Ein Backward Pass braucht etwa doppelt so viel Rechenarbeit wie ein Forward Pass, deshalb ist Training für dieselbe Zahl von Tokens dreimal so energieintensiv wie Inferenz; ein Angreifer kann diese Energie verschieben oder weniger trainieren, sie aber nicht verstecken, ohne auf die Gewichts-Updates zu verzichten [^1]. Training auf mehreren GPUs, für die Autoren der wichtigere Fall, erzeugt zusätzlich Muster im Verkehr zwischen den GPUs, die schwer zu tarnen sind [^1]. Außerdem sieht der Monitor nie Inhalte. Das entschärft ein zentrales Problem in geteilten Cloud-Umgebungen, wo das Prüfen proprietärer Informationen auf rechtliche, betriebliche und ethische Einwände stößt [^1]. Ein früherer datenschutzfreundlicher Ansatz, WAVE, liest Profiler-Zähler mit 1200 bis 5300 Prozent zusätzlicher Laufzeit aus [^1].

Das Ergebnis hat eine harte Voraussetzung: Die Zähler müssen ehrlich sein. Gegen einen Betreiber, der den gesamten Software-Stack kontrolliert, gilt laut Paper: „Ein Angreifer mit Software-Rechten liefert einfach gefälschte Werte“ [^1]. Ein einsatzfähiger Monitor bräuchte einen manipulationssicheren Lesepfad, einen signierten Telemetriekanal und sicher gebootete Überwachungssoftware. Die Autoren sehen darin das nächste Problem: „Können wir den passenden HEM bauen?“, also einen hardwaregestützten Mechanismus [^1]. Als Grenzen nennen sie außerdem einzelne Rechner mit bis zu 8 GPUs, Tarnstrategien in PyTorch statt mit eigenen CUDA-Kernels und ausschließlich NVIDIA-GPUs, die seit 2020 erschienen sind [^1].

Ein Beispiel aus der Praxis

Angenommen, Tomas ist für Compliance bei einem Cloud-Anbieter zuständig, der Knoten mit je 8 H200-GPUs vermietet. Eine Regel wie die in der aufgehobenen Executive Order würde verlangen, große Trainingsläufe zu melden [^1]. Ein Kunde will ein Modell trainieren, ohne dass es auffällt, also versteckt sein Job die Trainingsschritte zwischen vielen Inferenz-Batches und hofft, dass die GPUs aussehen, als würden sie einen Chatbot bedienen [^1].

Tomas' Monitor fragt pro GPU einmal pro Sekunde neun NVML-Zähler ab und berührt dabei nie Code oder Daten des Kunden [^1]. Die Tarnung scheitert an der Physik: Jeder Trainingsschritt braucht weiterhin einen Backward Pass, der etwa doppelt so viel Rechenarbeit kostet wie der Forward Pass und sich in der Leistungsaufnahme zeigt [^1]. Verteilt auf acht GPUs erzeugt der Job außerdem den typischen Verkehr zwischen den GPUs von Multi-GPU-Training, und in der Studie wurde jede Multi-GPU-Tarnung dieser Art zu mindestens 99,6 Prozent erkannt, auch wenn der Klassifikator sie vorher nicht kannte [^1].

Tomas legt auch die Alarmschwelle fest. Der Klassifikator gibt eine Trainingswahrscheinlichkeit aus, und die Autoren erwarten, dass ein Cloud-Anbieter eine höhere Schwelle wählt als eine Aufsichtsbehörde, um legitime Kunden nicht fälschlich zu markieren [^1]. Die Schwachstelle ist der umgekehrte Fall: Wenn der Betreiber der Hardware selbst Training verstecken wollte, könnte ihn auf Softwareebene nichts daran hindern, dem Monitor gefälschte Werte zu liefern [^1].

Passende Produkte

Wir empfehlen dieses Buch, weil es erklärt, wie Prozessoren und auch GPUs Rechenleistung, Speicherbandbreite und Energie verbrauchen, einschließlich des Roofline-Modells, auf dem die Merkmale des Klassifikators aufbauen.

WerbungAmazon

Computer Architecture: A Quantitative Approach

Quellen

  1. [1]arXiv — Detecting Hidden ML Training With Zero-Overhead Telemetry
  2. [2]NVIDIA — NVML API Reference Guide