KI-PC kaufen: das eigene lokale LLM – datenschutzfreundlich nach DSGVO
„KI-PC" steht 2026 meist für Rechner mit einer NPU und dem Copilot+-Label. Der eigentliche Reiz liegt aber woanders: Mit der richtigen Hardware kannst du ein leistungsfähiges Sprachmodell (LLM) komplett lokal betreiben – dein eigenes ChatGPT, das nie ins Internet funkt. Genau das ist aus Datenschutzsicht ein gewaltiger Vorteil: Deine Eingaben verlassen den Rechner nicht. Diese Kaufberatung erklärt, welche Hardware dafür wirklich zählt, warum das für DSGVO und Vertraulichkeit so stark ist – und wo die ehrlichen Grenzen liegen.
- Für lokale LLMs zählt VRAM/RAM und Speicherbandbreite – nicht die beworbene NPU-Leistung.
- Ein lokales LLM verarbeitet alles auf dem Gerät: kein Datenabfluss in die Cloud.
- Das löst den DSGVO-Drittlandtransfer elegant – ideal für vertrauliche Daten.
- Drei Hardware-Pfade: NVIDIA-GPU, Apple Silicon oder AMD mit großem Unified-Memory.
- Einrichtung mit Ollama oder LM Studio in rund zehn Minuten – ohne Abo, ohne Internet.
Warum lokal? Der DSGVO- und Datenschutz-Vorteil
Sobald du eine Cloud-KI wie ein typisches Chat-Tool nutzt, verlässt jede Eingabe deinen Rechner und wird auf fremden Servern verarbeitet – oft in den USA. Genau hier setzt das lokale LLM an: Es läuft vollständig auf deiner eigenen Hardware. Das ist nicht nur ein gutes Gefühl, sondern ein handfester rechtlicher und sicherheitstechnischer Vorteil.
- Kein Datenabfluss: Eingaben, Dokumente und Antworten bleiben auf dem Gerät – nichts wird übertragen, geloggt oder zum Training verwendet.
- Kein Drittlandtransfer: Da keine Daten in eine US-Cloud wandern, entfällt das heikle Schrems-II-Thema rund um Datenübermittlungen in Drittländer komplett.
- Kein Auftragsverarbeiter: Ohne externen Dienstleister brauchst du keinen Auftragsverarbeitungsvertrag (AVV) und trägst kein fremdes Verarbeitungsrisiko.
- DSGVO-Prinzipien leichter erfüllt: Datenminimierung (Art. 5), Datenschutz durch Technikgestaltung (Art. 25) und Sicherheit der Verarbeitung (Art. 32) lassen sich mit lokaler Verarbeitung einfacher umsetzen.
- Volle Datensouveränität: Du behältst die Kontrolle – kein Anbieter-Lock-in, keine Richtlinienänderung, keine Abhängigkeit von einer Internetverbindung.
Besonders wertvoll ist das für alle, die mit vertraulichen Informationen arbeiten: Anwältinnen, Ärzte, Steuerberater und andere Berufsgeheimnisträger, dazu Unternehmen mit Geschäftsgeheimnissen oder Mandanten- und Kundendaten. Wer solche Inhalte einmal lokal verarbeitet hat, stellt sich schnell die Frage: Warum sollte ich diese Daten überhaupt noch irgendwohin senden?
Welche Hardware wirklich zählt
Die Werbung betont gern die NPU und ihre TOPS-Zahl. Für große Sprachmodelle ist das aber nebensächlich: Tools wie Ollama oder LM Studio rechnen 2026 über GPU oder CPU, nicht über die NPU. Die NPU glänzt bei kleinen Aufgaben wie Transkription, Rauschunterdrückung oder Copilot+-Funktionen. Entscheidend fürs LLM sind:
- VRAM bzw. Unified-Memory: Das Modell muss in den Speicher passen. Tut es das nicht, jongliert die Hardware mit dem System-RAM – und die Geschwindigkeit bricht um das Fünf- bis Zehnfache ein.
- Speicherbandbreite: Sie bestimmt das Tempo (Tokens pro Sekunde) stärker als jede TOPS-Angabe.
- Arbeitsspeicher: 16 GB sind das Minimum, 32 GB komfortabel, 64 GB für die größten Modelle.
| Modell | Speicherbedarf | Eignung |
|---|---|---|
| 3–7B (z. B. Llama, Qwen, Mistral) | ca. 4–8 GB | Einstieg, läuft schon auf 16 GB RAM |
| 13–14B | ca. 8–10 GB | guter Allrounder, 16 GB VRAM |
| 30B | ca. 18 GB | anspruchsvoll, ab 24 GB |
| 70B | ca. 40 GB | nur mit 24 GB+ VRAM oder großem Unified-Memory |
Drei Wege zur Hardware
- NVIDIA-GPU: Der schnellste Weg dank des ausgereiften CUDA-Ökosystems. Eine Karte mit 24 GB VRAM gilt als Referenz für ernsthafte Arbeit – laut, stromhungrig, aber leistungsstark.
- Apple Silicon: Dank Unified-Memory teilen sich CPU und GPU denselben Speicher. Hier zählt die RAM-Menge mehr als die Chip-Generation – leise, effizient und praktisch schlüsselfertig.
- AMD mit großem Unified-Memory: Neuere Plattformen mit bis zu 128 GB gemeinsamem Speicher können sogar sehr große Modelle komplett laden – stark für Linux- und speicherhungrige Workflows.
Die Software ist heute einfach: Ollama installiert sich mit einem Befehl, LM Studio bietet eine grafische Oberfläche, und beide stellen eine OpenAI-kompatible Schnittstelle bereit. Vom Auspacken bis zur ersten Antwort vergehen oft nur zehn Minuten.
Worauf du beim Kauf achten solltest
- Speicher zuerst: Richte VRAM bzw. Unified-Memory an der größten Modellgröße aus, die du nutzen willst – das ist die wichtigste Kennzahl.
- Arbeitsspeicher: 32 GB als sinnvolle Basis, 64 GB für große Modelle oder mehrere parallel.
- Plattform: NVIDIA für maximale Geschwindigkeit und Kompatibilität, Apple Silicon für Ruhe und Effizienz, AMD für viel Speicher zum Preis.
- Speicherbandbreite statt TOPS: Lass dich nicht von hohen NPU-Zahlen leiten – sie sagen wenig über die LLM-Geschwindigkeit aus.
- Schnelle NVMe-SSD: Modelle sind je nach Größe mehrere Gigabyte groß; plane ausreichend, schnellen Speicher ein.
- Kühlung & Netzteil: Dauerhafte Inferenz-Last will gut gekühlt und stabil versorgt sein.
Preis-Orientierung (Richtwerte, aktueller Preis steht beim Produkt): einsteigertaugliche Systeme für 7–14B-Modelle beginnen grob bei 700–1.200 €, leistungsstarke Maschinen für 30–70B-Modelle liegen eher bei 1.500–3.000 € und mehr.
Ehrliche Grenzen vor dem Kauf
Häufige Fragen
Was ist ein KI-PC – und brauche ich die NPU?
Als KI-PC werden meist Rechner mit einer NPU und dem Copilot+-Label vermarktet. Für ein großes lokales Sprachmodell ist die NPU 2026 aber nebensächlich: Tools wie Ollama oder LM Studio rechnen über GPU oder CPU. Entscheidend sind Grafik- bzw. Arbeitsspeicher und die Speicherbandbreite.
Welche Datenschutz-Vorteile hat ein lokales LLM?
Alle Eingaben und Antworten bleiben auf deinem Gerät. Es gibt keinen Datenabfluss in eine Cloud, keinen Drittlandtransfer und keinen Auftragsverarbeiter. Das erleichtert die DSGVO-Konformität erheblich und ist besonders bei vertraulichen Daten ein großer Vorteil.
Welche Hardware brauche ich für ein lokales LLM?
Mindestens 16 GB RAM, eine moderne CPU und entweder eine GPU mit genügend VRAM oder ein Apple-Silicon-System. Damit laufen 3–7B-Modelle gut. Für größere Modelle brauchst du entsprechend mehr Speicher.
NVIDIA, Apple oder AMD – was ist besser?
NVIDIA-GPUs sind dank CUDA am schnellsten und am breitesten unterstützt. Apple Silicon ist leise, effizient und besonders einfach einzurichten. AMD-Systeme mit großem Unified-Memory bieten viel Speicher fürs Geld und passen gut zu Linux-Workflows.
Wie viel Speicher brauche ich für welches Modell?
Grobe Richtwerte bei 4-bit-Quantisierung: ein 7B-Modell rund 4–8 GB, ein 13B-Modell etwa 8–10 GB, ein 30B-Modell rund 18 GB und ein 70B-Modell etwa 40 GB. Passt das Modell nicht in den schnellen Speicher, bricht die Geschwindigkeit deutlich ein.
Wie aufwendig ist die Einrichtung?
Erstaunlich einfach. Mit Ollama genügt ein Befehl zum Installieren und einer zum Laden eines Modells; LM Studio bietet eine grafische Oberfläche. Vom Start bis zur ersten Antwort vergehen oft nur etwa zehn Minuten.
Sind lokale Modelle so gut wie ChatGPT oder Claude?
Bei vielen Alltags- und Code-Aufgaben kommen offene Modelle mit 8–14B erstaunlich nah heran. Bei den anspruchsvollsten Aufgaben liegen die großen Cloud-Modelle aber weiterhin vorn. Für die meisten Anwendungen reicht ein gutes lokales Modell jedoch aus.
Lohnt sich das gegenüber einem Cloud-Abo?
Nach dem Hardware-Kauf fallen keine Token-Kosten an, und es gibt keine Nutzungslimits. Bei hohem Volumen und beim Datenschutz spielt das lokale Setup seine Stärken aus. Wer KI nur selten nutzt, fährt mit einem Cloud-Abo manchmal günstiger – das ist ehrlich abzuwägen.
Brauche ich eine Internetverbindung?
Nein. Nach dem einmaligen Herunterladen des Modells läuft die Verarbeitung vollständig offline. Das ist nicht nur praktisch, sondern auch ein Datenschutz-Plus, weil nichts nach außen gelangt.
Für wen lohnt sich ein lokales LLM besonders?
Vor allem für Berufsgeheimnisträger wie Anwälte, Ärzte oder Steuerberater, für Unternehmen mit sensiblen Mandanten-, Kunden- oder Geschäftsdaten und für alle, die ihre Daten grundsätzlich nicht in fremde Clouds geben möchten.
*Werbung / Affiliate-Link: Mit einem Stern markierte Links sind Werbe-Links zu Amazon. Kaufst du über einen solchen Link ein, erhalte ich eine kleine Provision – für dich ändert sich am Preis nichts. Als Amazon-Partner verdiene ich an qualifizierten Käufen. Die Inhalte sind nach inhaltlichen Kriterien ausgewählt und unabhängig davon. Dieser Beitrag ersetzt keine Rechtsberatung.