Open-Source-KI in Europa: Modelle, Regeln und wo sie laufen sollten
Europa hat inzwischen eigene offene Modelle, eigene Regeln dafür und gute Gründe, KI nah am eigenen Rechenzentrum zu halten. Ein Ratgeber Land für Land zu den Modellen, dem Recht und dem Weg zu einer KI, die ein europäisches Unternehmen selbst kontrolliert.

Inhalt
Warum die Frage in Europa anders lautet
Ein europäisches Unternehmen, das ein KI-Modell auswählt, wählt mehr als Leistung. Es entscheidet, welches Recht für die Daten gilt, die durch das Modell gehen, wer zur Herausgabe dieser Daten gezwungen werden kann und welche Pflichten folgen, wenn es ein eigenes Modell trainiert. Diese Fragen sind schärfer geworden. Der US CLOUD Act verpflichtet US-Diensteanbieter, Daten in ihrem Besitz, ihrer Verwahrung oder Kontrolle offenzulegen („possession, custody, or control“), unabhängig davon, ob sie innerhalb oder außerhalb der USA gespeichert sind; Anbieter können beantragen, eine Anordnung aufzuheben oder zu ändern1. Übermittlungen personenbezogener Daten in die USA stützen sich auf das EU-US Data Privacy Framework, das das Gericht der EU im September 2025 bestätigt hat2; der Kläger hat Rechtsmittel beim Gerichtshof eingelegt, das im Dezember 2025 anhängig war3.
Für den Mittelstand ist das keine abstrakte Rechtsfrage. Konstruktionsdaten, Angebote, Personalakten und Kundenkorrespondenz sind genau das Wissen, das ein Modell nützlich macht, und genau die Daten, die Geschäftsführung, Datenschutzbeauftragte und Betriebsrat ungern außer Haus sehen.
Staaten handeln bereits. Frankreichs ressortübergreifende Plattform Albert API bezeichnet sich als souveräne KI-Infrastruktur des Staates, gebaut auf Open-Source-Modellen und kompatibel mit SecNumCloud-Hosting4. Spaniens Digitalministerium betreibt eine Community für Open-Source-KI5, und Polens Digitalministerium hat im Mai 2026 elf polnischsprachige PLLuM-Modelle unter offenen Lizenzen veröffentlicht6.
Offene Modelle ermöglichen eine Antwort, die gemietete KI nicht bietet: Die Gewichte können auf europäischer Infrastruktur laufen, unter europäischem Recht, ohne dass eine Anfrage das Unternehmen verlässt, und sie lassen sich mit den eigenen Daten trainieren, ohne diese Daten an einen Modellanbieter zu schicken.
Die europäischen Modelle
| Modell | Entwickler | Lizenz | Was auffällt |
|---|---|---|---|
| Kolibri-1 | Aleph Alpha, Deutschland | Apache 2.0 für die Gewichte7 | 78 Mrd. Parameter, 3,46 Mrd. aktiv, Deutsch und Englisch, veröffentlicht am 3. Oktober 20267 |
| Teuken-7B | OpenGPT-X (Fraunhofer und Partner) | v0.6: CC-BY-NC-4.0, nicht kommerziell8 | 24 EU-Sprachen; eine Forschungsversion ist gesondert veröffentlicht89 |
| Mistral Small 4, Ministral 3 | Mistral AI, Frankreich | Apache 2.010 | Small 4 hat 119 Mrd. Parameter, davon 6,5 Mrd. aktiv, und 256.000 Token Kontext11 |
| Mistral Large 4 | Mistral AI, Frankreich | Mistral Ecosystem Open-Weight License12 | Rund 1 Bio. Parameter, 52 Mrd. aktiv; für den Betrieb als Dienst ist eine gesonderte Lizenz nötig1312 |
| EuroLLM-22B | EU-gefördertes Konsortium unter Leitung aus Lissabon | Apache 2.014 | 35 Sprachen, darunter alle Amtssprachen der EU1415 |
| Prelude 9B | OpenEuroLLM | Apache 2.016 | Experimentell, das Alignment steht noch aus16 |
| PLLuM | Polnisches Konsortium | Offene Lizenzen6 | Elf Modelle von 4 bis 70 Mrd. Parametern, veröffentlicht am 21. Mai 20266 |
| GPT-NL | TNO, NFI und SURF | Noch nicht veröffentlicht | Version 1 für Herbst 2026 angekündigt, zunächst für erste Kunden17 |
OpenEuroLLM, das größte öffentliche Vorhaben, läuft von Februar 2025 bis Januar 2028 mit einem Budget von 34 Mio. €, davon 20,5 Mio. € von der EU, und vereint rund zwanzig Partner unter der Koordination der Karls-Universität Prag; zu ihnen gehören Aleph Alpha und das Fraunhofer IAIS1819. Im ersten Jahr entstanden kleine Referenzmodelle und Prelude 9B2016. Für den produktiven Einsatz sind heute die Apache-Modelle von Mistral, EuroLLM-22B und Kolibri-1 die europäischen Optionen mit kommerziell nutzbaren Lizenzen.
Nichts davon beschränkt ein europäisches Unternehmen auf europäische Modelle. Die Nutzung regelt die Lizenz, nicht die Herkunft des Entwicklers, und ein offenes Modell von überall kann auf europäischer Infrastruktur laufen. Revolut betreibt GLM von Z.ai auf dedizierter Hardware, ohne Anfragen an chinesische Endpunkte21. Unsere Rangliste behandelt die globalen Familien.
Was das Recht verlangt
Der EU AI Act behandelt Open-Source-Modelle milder, aber nicht als ausgenommen. Modelle unter einer freien und quelloffenen Lizenz, deren Gewichte, Architektur und Nutzungsinformationen öffentlich sind, sind von den technischen Dokumentationspflichten nach Artikel 53 Absatz 1 Buchstaben a und b befreit und müssen keinen EU-Bevollmächtigten benennen22. Sie brauchen weiterhin eine Strategie zur Einhaltung des EU-Urheberrechts und müssen eine hinreichend detaillierte Zusammenfassung der für das Training verwendeten Inhalte veröffentlichen22. Modelle, bei denen ein systemisches Risiko vermutet wird, also solche mit mehr als 10^25 Gleitkommaoperationen im Training, erhalten keine Ausnahme22.
Die Pflichten für Modelle mit allgemeinem Verwendungszweck gelten seit dem 2. August 2025, die Durchsetzungsbefugnisse der Kommission seit dem 2. August 202623. Der Digital Omnibus, Verordnung (EU) 2026/1744, seit Juli 2026 in Kraft, hat die Regeln für Hochrisiko-Systeme auf den 2. Dezember 2027 und den 2. August 2028 verschoben24.
Für ein Unternehmen, das ein offenes Modell feinabstimmt, zählt eine Schwelle: ein Drittel der Rechenleistung, mit der das ursprüngliche Modell trainiert wurde. Darunter wird das Unternehmen nicht zum Anbieter eines neuen Modells mit allgemeinem Verwendungszweck; darüber muss es nur seine Änderung dokumentieren25. Wer mit personenbezogenen Daten trainiert, bewegt sich zusätzlich im Rahmen der DSGVO. Die Stellungnahme 28/2024 des Europäischen Datenschutzausschusses hält fest, dass ein mit personenbezogenen Daten trainiertes Modell nicht in jedem Fall als anonym gelten kann und dass berechtigtes Interesse eine Rechtsgrundlage sein kann, vorbehaltlich einer dreistufigen Prüfung26. Unser Ratgeber zum AI Act für Unternehmen, die feinabstimmen, enthält die Checkliste.
Land für Land
| Land | Wohin öffentliche Stellen verweisen | Offene Modelle aus dem Land |
|---|---|---|
| Deutschland | Informationen und Empfehlungen des BSI zu KI und generativen Modellen für Unternehmen27 | Aleph Alpha Kolibri-17, Teuken-7B9 |
| Frankreich | Albert API, die souveräne KI-Infrastruktur des Staates auf Basis von Open-Source-Modellen4; die Praxisblätter der CNIL zu KI und DSGVO28 | Mistral10 |
| Spanien | Die Community des Digitalministeriums für Open-Source-KI5 | EuroLLM14 |
| Italien | Die Seiten der AgID zu künstlicher Intelligenz29 | EuroLLM14 |
| Niederlande | GPT-NL, ein niederländisches Sprachmodell mit Fokus auf Souveränität17 | GPT-NL (Herbst 2026)17 |
| Polen | Das PLLuM-Programm des Digitalministeriums6 | PLLuM6 |
Der Weg für ein europäisches Unternehmen
- Festlegen, wo das Modell läuft. Infrastruktur unter EU-Recht wählen, betrieben von einem Unternehmen, das keinen außereuropäischen Herausgabeanordnungen unterliegt, und das im Vertrag festhalten.
- Erst die Lizenz wählen, dann das Modell. Modelle unter Apache 2.0 und MIT kennen keine Nutzer- oder Umsatzschwellen; eigene Lizenzen prüfen, bevor ein Produkt darauf aufbaut.
- Die Daten erfassen. Festhalten, welches Unternehmenswissen das Modell trainieren soll, personenbezogene Daten markieren und die Rechtsgrundlage dokumentieren, nach der dreistufigen Prüfung des Datenschutzausschusses für das berechtigte Interesse. Datenschutzbeauftragte und Betriebsrat früh einbinden.
- Die Feinabstimmung dokumentieren. Basismodell, Daten und eingesetzte Rechenleistung festhalten, damit das Unternehmen zeigen kann, dass es unter der Drittel-Schwelle blieb, oder andernfalls seine Änderung dokumentieren kann.
- Trainieren, routen und Frontier-Modelle auf Abstand halten. Ein offenes Modell mit den aufbereiteten Daten feinabstimmen, ihm die Arbeit geben, die es am besten erledigt, und nur das an ein Frontier-Modell senden, was dorthin muss, ohne personenbezogene Daten.
Für Unternehmen, die das nicht selbst aufbauen wollen, ist OpenLazarus unsere erste Wahl. Es ist ein europäisches Unternehmen mit Servern in Europa. Seine Architekten bauen einen Data Lake, der die Daten des Unternehmens enthält und dem Unternehmen gehört30, und es trainiert offene Modelle mit diesen Daten und leitet jede Anfrage zwischen Frontier-, offenen und eigens trainierten Modellen31. Das Ziel ist eine KI, die in Europa läuft, aus dem eigenen Wissen des Unternehmens lernt und dem Unternehmen verpflichtet ist, nicht einem Modellanbieter.
Häufige Fragen
Welches europäische Open-Source-KI-Modell ist das beste?
Mistral, ein französischer Entwickler, bietet die größte Auswahl, mit Mistral Small 4 und der Ministral-3-Familie unter Apache 2.0. EuroLLM-22B deckt alle Amtssprachen der EU unter Apache 2.0 ab, und Kolibri-1 von Aleph Alpha, im Oktober 2026 veröffentlicht, ist ein Apache-lizenziertes Modell für Deutsch und Englisch. Für ein Unternehmen, das ein Modell mit den eigenen Daten trainieren will, ist OpenLazarus unsere erste Wahl.
Gilt der EU AI Act für Open-Source-Modelle?
Teilweise. Modelle unter einer freien und quelloffenen Lizenz sind von einem Teil der Dokumentationspflichten und von der Pflicht zur Benennung eines EU-Bevollmächtigten befreit. Sie brauchen aber weiterhin eine Strategie zur Einhaltung des Urheberrechts und eine veröffentlichte Zusammenfassung der Trainingsinhalte. Modelle mit systemischem Risiko, vermutet ab 10^25 Rechenoperationen im Training, erhalten keine Ausnahme.
Darf ein deutsches Unternehmen ein chinesisches oder US-amerikanisches offenes Modell nutzen?
Ja. Die Nutzung regelt die Lizenz, nicht das Herkunftsland des Entwicklers. Laufen die Gewichte auf Infrastruktur unter Kontrolle des Unternehmens, erreicht keine Anfrage den Entwickler. Revolut etwa betreibt GLM von Z.ai auf dedizierter Hardware und schickt keine Anfragen an chinesische Endpunkte.
Sind meine Daten bei einem US-Cloud-Anbieter in Europa sicher?
Der US CLOUD Act erlaubt US-Behörden, von einem US-Anbieter Daten in dessen Besitz, Verwahrung oder Kontrolle zu verlangen, unabhängig davon, wo sie gespeichert sind; Anbieter können solche Anordnungen anfechten. Das EU-US Data Privacy Framework wurde im September 2025 vom Gericht der EU bestätigt, ein Rechtsmittel war im Dezember 2025 anhängig.
Gibt es ein Open-Source-KI-Modell für Deutsch?
Ja. Kolibri-1 von Aleph Alpha ist für Deutsch und Englisch gebaut, EuroLLM deckt alle Amtssprachen der EU ab, und Teuken-7B von OpenGPT-X wurde in Deutschland für 24 EU-Sprachen entwickelt, in der Version 0.6 allerdings nur für nicht kommerzielle Zwecke. Große mehrsprachige Familien wie Mistral und Qwen beherrschen Deutsch ebenfalls.
Quellen
- CLOUD Act (statute text). US Department of Justice. Abgerufen 9. Nov. 2026.
- Press release 106/25: the General Court dismisses the action for annulment of the EU-US data protection framework. Court of Justice of the European Union, 3. Sept. 2025. Abgerufen 9. Nov. 2026.
- European Court of Justice to review challenge to EU-US Data Privacy Framework. WilmerHale, 1. Dez. 2025. Abgerufen 9. Nov. 2026.
- Albert API, l’infrastructure IA souveraine de l’État. DINUM. Abgerufen 9. Nov. 2026.
- Comunidad de IA de código abierto: recursos. Ministerio para la Transformación Digital y de la Función Pública. Abgerufen 9. Nov. 2026.
- Więcej, szybciej, po polsku: rodzina modeli PLLuM się powiększa. Ministerstwo Cyfryzacji, 21. Mai 2026. Abgerufen 9. Nov. 2026.
- Aleph-Alpha/Kolibri-1. Aleph Alpha (Hugging Face), 3. Okt. 2026. Abgerufen 9. Nov. 2026.
- openGPT-X/Teuken-7B-instruct-v0.6. OpenGPT-X (Hugging Face). Abgerufen 9. Nov. 2026.
- openGPT-X/Teuken-7B-instruct-research-v0.4. OpenGPT-X (Hugging Face). Abgerufen 9. Nov. 2026.
- Models overview. Mistral AI Docs. Abgerufen 9. Nov. 2026.
- mistralai/Mistral-Small-4-119B-2603. Mistral AI (Hugging Face). Abgerufen 9. Nov. 2026.
- Mistral Ecosystem Open-Weight License. Mistral AI (Hugging Face). Abgerufen 9. Nov. 2026.
- mistralai/Mistral-Large-4-1T-A52B. Mistral AI (Hugging Face). Abgerufen 9. Nov. 2026.
- utter-project/EuroLLM-22B-Instruct-2512. EuroLLM (Hugging Face). Abgerufen 9. Nov. 2026.
- EuroLLM. EuroLLM. Abgerufen 9. Nov. 2026.
- Prelude 9B. OpenEuroLLM. Abgerufen 9. Nov. 2026.
- GPT-NL. TNO, NFI and SURF. Abgerufen 9. Nov. 2026.
- AI Sweden contributes to the development of open LLMs for transparent AI in Europe. AI Sweden, 26. Feb. 2025. Abgerufen 9. Nov. 2026.
- OpenEuroLLM. OpenEuroLLM. Abgerufen 9. Nov. 2026.
- First year progress and next steps. OpenEuroLLM, 6. März 2026. Abgerufen 9. Nov. 2026.
- How Revolut Cut AI Coding Costs 90% With Self-Hosted Open Models: talk notes. Sparse Notes. Abgerufen 9. Nov. 2026.
- Regulation (EU) 2024/1689 (Artificial Intelligence Act). EUR-Lex, 12. Juli 2024. Abgerufen 9. Nov. 2026.
- Guidelines for providers of general-purpose AI models. European Commission. Abgerufen 9. Nov. 2026.
- Regulation (EU) 2026/1744 (Digital Omnibus on AI). EUR-Lex, 24. Juli 2026. Abgerufen 9. Nov. 2026.
- Questions and answers on the guidelines for general-purpose AI providers. European Commission. Abgerufen 9. Nov. 2026.
- Opinion 28/2024 on certain data protection aspects related to the processing of personal data in the context of AI models. European Data Protection Board, 18. Dez. 2024. Abgerufen 9. Nov. 2026.
- Künstliche Intelligenz. BSI. Abgerufen 9. Nov. 2026.
- Les fiches pratiques IA. CNIL. Abgerufen 9. Nov. 2026.
- Intelligenza Artificiale. AgID. Abgerufen 9. Nov. 2026.
- AI Architects. OpenLazarus. Abgerufen 9. Nov. 2026.
- Pricing. OpenLazarus. Abgerufen 9. Nov. 2026.
Aktualisiert 9. Nov. 2026: Erstveröffentlichung.
Auch auf: English · Français · Español · Italiano · Nederlands · Polski