Für Geschäftsführung und Leitung, die entscheiden, ob ihr Unternehmen einen eigenen KI-Server braucht: was lokale KI datenschutzrechtlich löst, was Hardware und Betrieb im Vergleich zu einer europäischen Cloud kosten und welche offenen Modelle gewerblich genutzt werden dürfen.
Das erfahren Sie
- Die vier Wege, KI im Unternehmen zu betreiben, und wohin die Daten jeweils gehen
- Was die deutschen Datenschutzaufsichtsbehörden bevorzugen und warum das nicht dasselbe ist wie eigene Hardware
- Listenpreise für Hardware am 30. Oktober 2026 und welche Modelle in wie viel Speicher passen
- Ein Rechenbeispiel: eigener Rechner, Mietserver und europäische Cloud für dasselbe Modell
- Lizenzen von sechs offenen Modellfamilien, darunter eine EU-Einschränkung in den Bedingungen von Llama 4
- Wer einen lokalen KI-Server betreibt, und eine Entscheidungstabelle
Unternehmen hören, nur KI auf dem eigenen Server sei datenschutzrechtlich sicher, und bekommen den Server gleich mit angeboten. Die Kosten sprechen für die meisten dagegen. Am 30. Oktober 2026 kostete NVIDIAs DGX Spark, ein KI-Rechner für den Schreibtisch, im deutschen NVIDIA-Shop 7.490 €. Dasselbe offene Modell kostete bei drei europäischen Clouds für 10.000 Anfragen 3,60 bis 12,25 € im Monat, netto. Dieser Leitfaden vergleicht die Wege: eigene Hardware, ein gemieteter Server, eine europäische Cloud und die EU-Region eines US-Anbieters. Er zeigt, was die Datenschutzkonferenz tatsächlich bevorzugt, was die Hardware kostet, welche offenen Modelle ein Unternehmen gewerblich nutzen darf und wer den Server betreibt.
Am 30. Oktober 2026 kostete NVIDIAs DGX Spark, ein Schreibtischrechner für KI-Modelle, im deutschen NVIDIA-Shop 7.490 €. Dasselbe offene Modell, für das er gebaut ist, kostete bei drei europäischen Clouds für ein Beispiel mit 10.000 Anfragen 3,60 bis 12,25 € im Monat, netto. Ein Server rechnet sich erst bei einem Vielfachen davon.
Die Kosten sind selten der Grund, warum Unternehmen nach lokaler KI fragen. Die Frage kommt meist aus dem Datenschutz: Jemand hat gesagt, nur KI auf eigener Hardware sei sicher. Dieser Leitfaden trennt, was an dieser Aussage stimmt, von dem, was sie auslässt.
Brauchen Sie einen eigenen KI-Server?
Die meisten Unternehmen brauchen keinen eigenen KI-Server, um KI sicher mit Geschäftsdaten zu nutzen. Die Datenschutzkonferenz (DSK) bevorzugt in ihrer Orientierungshilfe vom 6. Mai 2024 „technisch geschlossene Systeme" und bestimmt geschlossen über Merkmale, nicht darüber, wem die Hardware gehört.[1] Ein Cloud-Anbieter mit dem richtigen Vertrag kann diese Merkmale erfüllen.
Ein eigener Server lohnt die Prüfung in drei Fällen. Ein Kundenvertrag oder eine Berufsregel verbietet jede Verarbeitung außerhalb Ihres Hauses. Das System muss ohne Internetverbindung arbeiten. Oder das Volumen ist so hoch und gleichmäßig, dass Bezahlen pro Anfrage mehr kostet als Hardware und Personal. Der Rest dieses Leitfadens liefert die Zahlen zu jedem Fall.
Alles andere entscheiden Vertrag und Einstellungen: wo Anfragen verarbeitet werden, ob der Anbieter sie speichert, ob er damit trainiert. Für jeden Cloud-Weg gibt es darauf schriftliche Antworten, und es sind dieselben Fragen, die ein eigener Server durch seine Bauart beantwortet.
Welche Wege gibt es, KI im Unternehmen zu betreiben?
Ein Unternehmen kann KI an vier Orten betreiben: auf eigener Hardware, auf einem gemieteten Server im Rechenzentrum, bei einer europäischen Cloud mit Abrechnung nach Nutzung oder in der europäischen Region eines US-Anbieters. Am 30. Oktober 2026 hatten alle vier öffentliche Preise, von rund 3.000 € für einen Schreibtischrechner bis zu Bruchteilen eines Cents je Anfrage.[3][5][6][7]
| Weg | Wer das KI-Modell betreibt | Wohin Anfragen gehen | Wie Sie bezahlen | Beispielpreis |
|---|---|---|---|---|
| Eigene Hardware | Ihr Unternehmen oder Ihr IT-Partner | Ihr Büro oder Serverraum | Einmal kaufen, dazu Strom und Arbeitszeit | DGX Spark 7.490 €[5] |
| Gemieteter Server | Ihr Partner, auf einer Maschine, die Sie allein mieten | Ein benanntes Rechenzentrum | Monatsmiete | Hetzner GEX63, 999 € im Monat plus 999 € Einrichtung, netto[7] |
| Europäische KI-Cloud | Der Anbieter | Das europäische Rechenzentrum des Anbieters | Je Token, einer Texteinheit | gpt-oss-120b bei IONOS, 0,15 € je Million Eingabe-Token, netto[3] |
| US-Anbieter, EU-Region | Der Anbieter | Die Region, die Sie wählen | Je Token | gpt-oss-120b bei Amazon Bedrock Frankfurt, 0,20 $ je Million Eingabe-Token[3] |
Die beiden Wege mit eigenem Server nutzen offene Modelle, die ihre Hersteller für alle zum Betrieb veröffentlichen. Die beiden Cloud-Wege bieten dieselben offenen Modelle, die US-Anbieter zusätzlich ihre eigenen geschlossenen. Unsere Übersicht europäischer KI-Clouds und ihrer Preise führt jedes Modell auf, das die sechs europäischen Anbieter öffentlich bepreisen.
Ist lokale KI DSGVO-konformer als Cloud-KI?
Lokale KI ist nicht automatisch DSGVO-konformer. Die Orientierungshilfe der DSK vom 6. Mai 2024 hält fest: „Technisch geschlossene Systeme sind daher aus datenschutzrechtlicher Sicht vorzugswürdig." Geschlossen heißt dort: Verarbeitung in einer abgegrenzten Umgebung, ein eng begrenzter Nutzerkreis, Kontrolle über Ein- und Ausgaben beim Anwender und kein Training durch den Anbieter.[1]
Die DSK bevorzugt geschlossene KI-Systeme. Geschlossen heißt Kontrolle über die Eingaben und kein Training durch den Anbieter, nicht Hardware im eigenen Gebäude.
Offene Systeme, vor denen die DSK warnt, werden „zum Beispiel als Cloud-Lösung betrieben" und sind über das Internet für einen unbestimmten Nutzerkreis zugänglich; die Eingaben verlassen den geschützten Bereich und können zu anderen Zwecken weiterverarbeitet oder in Drittstaaten übermittelt werden.[1] Ein Chatbot für Verbraucher passt auf diese Beschreibung. Ein Unternehmenskonto bei einem Cloud-Anbieter lässt sich anders einrichten.
Dieselbe Orientierungshilfe beschreibt den Vertrag, der den Unterschied macht. Setzt ein Unternehmen die KI eines externen Anbieters als Cloud-Lösung ein, handelt der Anbieter meist als Auftragsverarbeiter, und es ist eine Vereinbarung nach Art. 28 Abs. 3 DSGVO abzuschließen.[1] Der Anbieter verarbeitet dann nur nach Weisung des Unternehmens.
Was auf jedem Weg bei Ihrem Unternehmen bleibt: eine Rechtsgrundlage für die Daten, Transparenz gegenüber den Betroffenen und bei höherem Risiko eine Datenschutz-Folgenabschätzung. Wer das Modell selbst betreibt, spart sich den Auftragsverarbeiter, nicht diese Pflichten. Unser Leitfaden zu den DSGVO-Pflichten von Unternehmen, die KI einsetzen, führt sie auf.
Für Unternehmen in Deutschland entscheiden damit drei Fragen, die der Auftragsverarbeitungsvertrag und die Unterlagen des Anbieters beantworten: wo Anfragen verarbeitet werden, ob sie gespeichert werden und ob sie Modelle trainieren. Unser Vergleich, welche KI-Anbieter mit Geschäftsdaten trainieren, beantwortet die letzte Frage für die großen US-Anbieter.
Was löst die EU-Region eines US-Anbieters?
Die europäische Region eines US-Anbieters entscheidet, wo das KI-Modell Anfragen verarbeitet, nicht, wer der Anbieter ist. Am 26. Oktober 2026 verlangte Amazon Bedrock für gpt-oss-120b in Frankfurt 0,20 $ je Million Eingabe-Token und in US East 0,15 $, ein Aufschlag von einem Drittel für den europäischen Standort.[3]
Die DSK nennt die offene Frage: Übermittlungen personenbezogener Daten in Drittstaaten folgen den eigenen Regeln von Kapitel V der DSGVO.[1] Eine europäische Region klärt nicht, ob Konto-, Abrechnungs- oder Supportdaten trotzdem in die USA gelangen. Unser Leitfaden, ob KI-Datenresidenz Ihre Daten in Europa hält, geht durch, was Microsoft, Google, OpenAI, AWS und Anthropic dazu zusagen.
Für ein deutsches Unternehmen, das bereits mit einer US-Cloud arbeitet, ist die EU-Region der kleinste Schritt. Für eines, das neu anfängt, bieten deutsche Anbieter wie STACKIT und IONOS dieselben offenen Modelle aus Rechenzentren in Deutschland an.[3]
Welche Hardware braucht lokale KI?
Die entscheidende Größe für lokale KI-Hardware ist der Speicher: Das Modell muss hineinpassen. OpenAI gibt an, dass gpt-oss-20b mit 16 GB Speicher auskommt und gpt-oss-120b auf einer einzelnen Grafikkarte mit 80 GB läuft.[8] Mistral gibt für sein Modell Small 3.2 rund 55 GB Grafikspeicher bei voller Genauigkeit an.[9]
Größere offene Modelle brauchen weit mehr. DeepSeek-V3.1 nennt 671 Milliarden Parameter, die Zahlenwerte, die ein Modell im Training lernt; NVIDIA gibt für seinen DGX Spark mit 128 GB Speicher Modelle bis 200 Milliarden Parameter an.[11][4] Jede Stufe Modellgröße hebt die Hardware in eine andere Preisklasse.
| Gerät (Listenpreis, 30. Oktober 2026) | Speicher für das Modell | Preis in Deutschland | Passt nach den Angaben der Hersteller |
|---|---|---|---|
| Apple Mac Studio, M5 Max | ab 36 GB, gemeinsam genutzt | ab 2.999 € | gpt-oss-20b |
| Apple Mac Studio, M5 Ultra | ab 96 GB, gemeinsam genutzt | ab 6.599 € | Mistral Small 3.2, gpt-oss-120b |
| NVIDIA DGX Spark | 128 GB, gemeinsam genutzt | 7.490 € | gpt-oss-120b; Modelle bis 200 Milliarden Parameter |
| Hetzner GEX45, gemietet | 24 GB Grafikspeicher | 214 € im Monat + 209 € Einrichtung, netto | gpt-oss-20b |
| Hetzner GEX63, gemietet | 96 GB Grafikspeicher | 999 € im Monat + 999 € Einrichtung, netto | Mistral Small 3.2, gpt-oss-120b |
Die Preise stammen aus den deutschen Shops von Apple und NVIDIA und von Hetzners Seite für GPU-Server.[6][5][7] „Passt" vergleicht die Speicherangaben der Modellhersteller mit dem Speicher des Geräts; über die Geschwindigkeit sagt das nichts, wir haben sie nicht getestet. Hetzner vermietet seine GPU-Server in Falkenstein und in Helsinki.[7]
Was kostet ein eigener KI-Server im Vergleich zur Cloud?
Für eine übliche Unternehmenslast kostet ein eigener KI-Server ein Vielfaches der Abrechnung nach Nutzung. In unserem Beispielmonat mit 20 Millionen Eingabe- und 5 Millionen Ausgabe-Token kostet gpt-oss-120b bei drei europäischen Clouds 3,60 bis 12,25 €. Ein DGX Spark kostet, auf drei Jahre verteilt, rund 239 € im Monat, ein gemieteter Hetzner GEX63 rund 1.027 € (eigene Rechnung, Preise Oktober 2026).[3][5][7][16]
Das Beispielvolumen ist dasselbe wie in unserer Übersicht europäischer KI-Clouds: 10.000 Anfragen im Monat, jede mit etwa 2.000 Token hin und 500 zurück. Ein Token ist ein Wortteil; deutscher Text braucht für denselben Inhalt mehr Token als englischer. Pro Anfrage ist das etwa ein E-Mail-Verlauf mit Anweisungen, ein viel genutzter interner Assistent für ein kleines Team.
| Weg, gpt-oss-120b | Rechnung | Monat |
|---|---|---|
| OVHcloud, nach Nutzung | 20 × 0,08 € + 5 × 0,40 € | 3,60 € |
| IONOS, nach Nutzung | 20 × 0,15 € + 5 × 0,65 € | 6,25 € |
| STACKIT, nach Nutzung | 20 × 0,45 € + 5 × 0,65 € | 12,25 € |
| NVIDIA DGX Spark, eigen | 7.490 € ÷ 36 Monate + höchstens 31,36 € Strom | 239,42 € |
| Hetzner GEX63, gemietet | 999 € Miete + 999 € Einrichtung ÷ 36 Monate | 1.026,75 € |
Die Stromzeile ist eine Obergrenze. NVIDIA gibt das Netzteil des DGX Spark mit 240 Watt an; läuft er rund um die Uhr an dieser Grenze, verbraucht er 175,2 kWh im Monat.[4] Bei 17,9 Cent je kWh, dem Durchschnitt, den der BDEW 2026 für kleine und mittlere Industriebetriebe nennt, sind das 31,36 €.[16] Cloud- und Hetzner-Preise sind netto; NVIDIAs deutscher Shop sagt nicht, ob sein Preis die Mehrwertsteuer enthält.
Ab wann rechnet sich ein eigener KI-Server?
Ein eigener KI-Server rechnet sich erst bei einem Volumen weit über der Nutzung der meisten Unternehmen. Bei gleichem Verhältnis von Ein- und Ausgabe erreicht ein DGX Spark mit 239,42 € im Monat die Cloud-Rechnung bei rund 490 Millionen Token im Monat zu STACKIT-Preisen und rund 1,66 Milliarden zu OVHcloud-Preisen (eigene Rechnung, Preise Oktober 2026).
Das ist das 20- bis 66-Fache des Beispielmonats, rund 195.000 bis 665.000 Anfragen derselben Größe. Ob ein einzelner Schreibtischrechner so viel überhaupt verarbeitet, hängt vom Modell ab und davon, wie viele Personen gleichzeitig damit arbeiten; wir haben es nicht getestet. Ein gemieteter GEX63 rechnet sich erst ab 2,1 bis 7,1 Milliarden Token im Monat.
Der Vergleich lässt den größten Kostenpunkt auf der Seite des eigenen Servers aus: die Arbeitszeit der Person, die ihn betreibt. In den Cloud-Preisen ist diese Arbeit enthalten. Unsere Aufstellung, was eine KI-Einführung in Europa kostet, zeigt, wohin das KI-Budget eines Unternehmens tatsächlich fließt: in Bau und Betrieb des Systems, nicht in Token.
Welche offenen KI-Modelle darf ein Unternehmen gewerblich nutzen?
Die meisten offenen Modelle dürfen nach ihren veröffentlichten Lizenzen gewerblich genutzt werden. Am 30. Oktober 2026 standen gpt-oss, Mistral Small 3.2, Qwen3 und Gemma 4 unter Apache 2.0, einer Lizenz, die gewerbliche Nutzung erlaubt, und DeepSeek-V3.1 unter der MIT-Lizenz.[8][9][10][12][11] Metas Llama-Modelle und ältere Gemma-Modelle tragen eigene Bedingungen ihrer Hersteller.
| Modellfamilie | Lizenz laut Veröffentlichung | Was das für ein Unternehmen heißt |
|---|---|---|
| gpt-oss-20b und 120b (OpenAI) | Apache 2.0[8] | Gewerbliche Nutzung erlaubt; Lizenzhinweis beibehalten |
| Mistral Small 3.2 24B (Mistral AI) | Apache 2.0[9] | Gewerbliche Nutzung erlaubt; Lizenzhinweis beibehalten |
| Qwen3-235B-A22B (Alibaba) | Apache 2.0[10] | Gewerbliche Nutzung erlaubt; Lizenzhinweis beibehalten |
| DeepSeek-V3.1 (DeepSeek) | MIT[11] | Gewerbliche Nutzung erlaubt; Lizenzhinweis beibehalten |
| Gemma 4 (Google) | Apache 2.0, Seite aktualisiert am 1. April 2026[12] | Gewerbliche Nutzung erlaubt; ältere Gemma-Modelle fallen unter die Gemma-Nutzungsbedingungen, deren Nutzungsbeschränkungen an jeden weitergegeben werden müssen, dem Sie das Modell überlassen |
| Llama 3.3 und Llama 4 (Meta) | Llama-Community-Lizenzen vom 6. Dezember 2024 und 5. April 2025[15][13] | Gewerbliche Nutzung unter 700 Millionen monatlichen Nutzern erlaubt; „Built with Llama" anzeigen, wenn Sie es weitergeben; Metas Nutzungsrichtlinie gilt |
Die Nutzungsrichtlinie von Llama 4 verweigert die Rechte an den multimodalen Modellen, also denen, die neben Text auch Bilder lesen, jedem Unternehmen mit Hauptsitz in der Europäischen Union. Für Endnutzer eines Produkts, das ein solches Modell bereits enthält, gilt die Einschränkung nicht. Ein deutsches Unternehmen, das Llama 4 selbst betreiben will, sollte diese Klausel zuerst lesen.[14]
Eine Lizenz regelt das Modell, nicht, was Sie damit tun. Fragen von Datenschutz, Mandatsgeheimnis und Urheberrecht bleiben dieselben, ob das Modell im Haus oder in einer Cloud läuft. Unser Artikel, wem gehört, was KI erzeugt, behandelt die Seite der Ergebnisse.
Sind offene Modelle so gut wie ChatGPT oder Claude?
Die Frage hat eine harte Grenze: Die Modelle hinter ChatGPT, Claude und Gemini lassen sich gar nicht auf dem eigenen Server betreiben, weil OpenAI, Anthropic und Google sie nicht veröffentlichen. Lokale KI heißt offene Modelle. OpenAI beschreibt sein offenes gpt-oss-120b als gemacht für den Produktivbetrieb, allgemeine Zwecke und anspruchsvolles Schlussfolgern.[8]
Die Qualität hängt dann davon ab, wie groß ein Modell Ihre Hardware fasst. OpenAI ordnet das kleinere gpt-oss-20b für geringere Wartezeiten und lokale oder spezielle Einsätze ein; ein Gerät mit 24 oder 36 GB Speicher fasst diese Klasse, nicht die 120b.[8] Ein günstigerer Server heißt meist ein kleineres Modell, und ein kleineres Modell macht bei schwierigeren Aufgaben meist mehr Fehler.
Dieselben offenen Modelle laufen in den europäischen Clouds, also kann ein Unternehmen sie für wenige Euro an den eigenen Aufgaben testen, bevor es etwas kauft. Dieser Test beantwortet die Qualitätsfrage besser als jede veröffentlichte Rangliste. Unser Leitfaden, wie zuverlässig KI-Agenten sind, erklärt, wie Sie die Ergebnisse beurteilen.
Wer betreibt einen lokalen KI-Server?
Auf dem eigenen Server hält Ihr Unternehmen oder Ihr IT-Partner die KI am Laufen: Updates, Sicherheit, Datensicherung, Überwachung und Modellwechsel. Ein Bericht für das Expertenprogramm des Europäischen Datenschutzausschusses vom April 2025 hält fest, dass, wer ein offenes Modell betreibt, für Integration, Wartung und Sicherheit des Systems vollständig verantwortlich ist.[2]
Derselbe Bericht stellt fest, dass dieser Betreiber für Updates und Fehlerbehebungen weiter vom Hersteller des Modells abhängt.[2] In der Praxis braucht der Server jemanden, der bemerkt, wenn eine neue Modellversion erscheint, sie an den Aufgaben des Unternehmens testet, sie installiert und die alte zurückholt, wenn die Antworten schlechter werden. Ein Cloud-Anbieter erledigt diese Arbeit im Preis; er stellt Modelle aber auch nach eigenem Zeitplan ein.
Die Hardware selbst braucht Pflege: Strom, Kühlung, einen Stellplatz, Ersatzteile und einen Plan für den Tag, an dem sie ausfällt. Ein Mietserver nimmt Ihnen die Hardware ab, nicht die Arbeit an der Software. Unsere Leitfäden dazu, was einen KI-Agenten nach dem Start am Laufen hält, und zu eingestellten KI-Modellen beschreiben diese laufende Arbeit.
Lokale KI oder Cloud: Welcher Weg passt zu Ihrem Unternehmen?
Wählen Sie den Weg nach der strengsten Anforderung, die Ihre Daten mitbringen, nicht nach dem stärksten Verkaufsargument. Am 30. Oktober 2026 war für die meisten Unternehmen eine europäische Cloud mit Auftragsverarbeitungsvertrag der günstigste datenschutzgerechte Weg. Ein eigener Server passt, wenn Verträge, Anbindung oder Volumen ihn verlangen.
| Ihre Lage | Passender Weg | Warum |
|---|---|---|
| Kundenvertrag oder Berufsregel verbietet jede externe Verarbeitung | Eigene Hardware | Der einzige Weg ohne externen Verarbeiter |
| Das System muss ohne Internet arbeiten | Eigene Hardware | Cloud-Wege brauchen eine Verbindung |
| Daten müssen in Deutschland oder der EU bleiben, übliches Volumen | Europäische KI-Cloud oder Mietserver in einem benannten Rechenzentrum | Standort im Vertrag, keine Hardware zu betreiben |
| Sie arbeiten bereits mit einer US-Cloud und brauchen EU-Verarbeitung | EU-Region des US-Anbieters | Gleiche Umgebung, europäischer Standort; prüfen, wohin andere Daten gehen |
| Gleichmäßig Hunderte Millionen Token im Monat | Eigene Hardware und Cloud mit Ihren eigenen Zahlen vergleichen | Bei diesem Volumen kann Hardware sich lohnen |
| Sie wollen die stärksten geschlossenen Modelle | US-Anbieter, wo verfügbar in seiner EU-Region | Geschlossene Modelle laufen nicht auf dem eigenen Server |
Welcher Weg auch passt: Das KI-Modell ist ein Teil eines arbeitenden Systems. Der Prozess, den es übernimmt, die Daten, die es berührt, und die Werkzeuge, an die es angebunden ist, entscheiden den Rest. Das ist die Arbeit von Yardwork: Wir wählen Weg und Modell mit Ihnen, bauen das System um den Prozess und halten es nach dem Start am Laufen.
Häufig gestellte Fragen
Ist lokale KI DSGVO-konformer als Cloud-KI? Nicht automatisch. Die Datenschutzkonferenz (DSK, Orientierungshilfe vom 6. Mai 2024) bevorzugt technisch geschlossene Systeme: Verarbeitung in einer abgegrenzten Umgebung, ein eng begrenzter Nutzerkreis, Kontrolle über Ein- und Ausgaben beim Unternehmen und kein Training durch den Anbieter. Ein eigener Server kann das erfüllen, ebenso ein Cloud-Anbieter mit Auftragsverarbeitungsvertrag, der Training ausschließt. Die DSGVO-Pflichten des Unternehmens bleiben auf beiden Wegen dieselben.
Was kostet ein lokaler KI-Server? Am 30. Oktober 2026 kostete NVIDIAs DGX Spark mit 128 GB Speicher im deutschen NVIDIA-Shop 7.490 €. Apples Mac Studio begann bei 2.999 € (M5 Max) und 6.599 € (M5 Ultra). Hetzner vermietete einen Server mit 96-GB-Grafikkarte für 999 € im Monat zuzüglich 999 € Einrichtung, netto. Hinzu kommt die Arbeitszeit für den Betrieb.
Dürfen Open-Source-KI-Modelle gewerblich genutzt werden? Die meisten ja, nach ihren veröffentlichten Lizenzen. gpt-oss, Mistral Small 3.2, Qwen3 und Gemma 4 stehen unter Apache 2.0, DeepSeek-V3.1 unter der MIT-Lizenz, Stand 30. Oktober 2026. Llama-Modelle tragen Metas eigene Community-Lizenz mit Hinweispflichten und einer Schwelle von 700 Millionen Nutzern, und die Nutzungsrichtlinie von Llama 4 verweigert Unternehmen mit Sitz in der EU die Rechte an ihren multimodalen Modellen.
Ist ein lokales KI-Modell so gut wie ChatGPT? Die Modelle hinter ChatGPT, Claude und Gemini lassen sich gar nicht auf dem eigenen Server betreiben, weil ihre Hersteller sie nicht veröffentlichen. Lokal laufen offene Modelle wie gpt-oss, Qwen oder Mistral Small, und die größeren brauchen mehr Speicher, als ein Schreibtischrechner hat. Verlässlich vergleichen lässt sich nur mit einem Test an Ihren eigenen Aufgaben, bevor Sie Hardware kaufen.
Quellen
- Datenschutzkonferenz (DSK), Orientierungshilfe Künstliche Intelligenz und Datenschutz, Version 1.0, 6. Mai 2024, abgerufen am 30. Oktober 2026. Abschnitt 1.7 (geschlossene und offene Systeme, Rn. 15–20), Rn. 21 und Rn. 32 (Auftragsverarbeitung).
- Isabel Barbera für den Support Pool of Experts des EDSA, AI Privacy Risks & Mitigations: Large Language Models (LLMs), April 2025, abgerufen am 30. Oktober 2026. Der Bericht gibt nach eigener Angabe nicht unbedingt die offizielle Position des EDSA wieder; Aussagen von Yardwork übersetzt.
- Preisseiten der Anbieter, wie in Yardworks Übersicht europäischer KI-Clouds erfasst, abgerufen am 26. Oktober 2026: OVHcloud AI Endpoints, IONOS AI Model Hub, STACKIT AI Model Serving, AWS-Preisdateien für Amazon Bedrock (veröffentlicht am 16. Oktober 2026).
- NVIDIA, DGX Spark, abgerufen am 30. Oktober 2026. Für 128 GB Speicher, Modelle bis 200 Milliarden Parameter und das 240-Watt-Netzteil.
- NVIDIA Marketplace, Persönliche KI-Supercomputer (Deutschland), abgerufen am 30. Oktober 2026. DGX Spark mit 4 TB: 7.490,00 €.
- Apple Store, Mac Studio kaufen, abgerufen am 30. Oktober 2026. Einstiegspreise und Speicher der gelisteten Konfigurationen.
- Hetzner, Dedicated Server mit GPU, abgerufen am 30. Oktober 2026. Monatspreise und Einrichtungsgebühren ohne Mehrwertsteuer; Standorte.
- OpenAI, gpt-oss-Repository und Modellkarte gpt-oss-120b auf Hugging Face, abgerufen am 30. Oktober 2026. Für die Apache-2.0-Lizenz, den Speicherbedarf und die vorgesehenen Einsätze.
- Mistral AI, Mistral-Small-3.2-24B-Instruct-2506 auf Hugging Face, abgerufen am 30. Oktober 2026.
- Qwen, Qwen3-235B-A22B auf Hugging Face, abgerufen am 30. Oktober 2026.
- DeepSeek, DeepSeek-V3.1 auf Hugging Face, abgerufen am 30. Oktober 2026. Für die MIT-Lizenz und 671 Milliarden Parameter.
- Google, Gemma-4-Lizenz (zuletzt aktualisiert am 1. April 2026) und Gemma-Nutzungsbedingungen (zuletzt geändert am 1. April 2026), abgerufen am 30. Oktober 2026.
- Meta, Llama 4 Community License Agreement, gültig ab 5. April 2025, abgerufen am 30. Oktober 2026.
- Meta, Llama 4 Acceptable Use Policy, abgerufen am 30. Oktober 2026.
- Meta, Llama 3.3 70B Instruct und Llama 3.3 Community License auf Hugging Face, Veröffentlichung 6. Dezember 2024, abgerufen am 30. Oktober 2026.
- BDEW, Strompreisanalyse Oktober 2026, 28. Oktober 2026, abgerufen am 30. Oktober 2026. Durchschnittlicher Strompreis für kleine bis mittlere Industriebetriebe 2026 bisher: 17,9 ct/kWh.
