Texte, Akten, Verträge
Sprachmodelle entwerfen Schriftsätze, fassen umfangreiche Akten zusammen und prüfen Klauseln in Sekunden statt Stunden.
Legal Tech · Lokale KI
Lokale KI
für Kanzleien.
Sprachmodelle auf eigener Hardware in Ihrer Kanzlei: Schriftsätze entwerfen, Akten zusammenfassen, Verträge prüfen – und das Mandatsgeheimnis bleibt im Haus.
KI spart Kanzleien Zeit – aber wohin gehen die Daten?
Leistungsfähige Open-Weight-Sprachmodelle laufen heute vollständig auf eigener Hardware in der Kanzlei – ohne Internetverbindung, ohne Datenabfluss, ohne Abhängigkeit von einem Anbieter. Wir planen, bauen und betreuen diese Lösung für Sie.
- Betrieb
- vollständig in der Kanzlei
- Internet
- nicht erforderlich
- Sprachmodelle
- Open Weight, austauschbar
- Einführung
- rund sechs Wochen
Cloud heißt: Daten gehen raus
Bei ChatGPT, Copilot und Co. verlassen Mandantendaten die Kanzlei und landen auf Servern externer, oft US-amerikanischer Anbieter.
Vertrag, Prüfung, Restrisiko
Cloud-KI ist nicht verboten, erfordert aber Verschwiegenheitsvereinbarungen, AV-Verträge und eine Drittlandprüfung – und bleibt ein Vertrauensthema beim Mandanten.
Rechtlicher Rahmen
Was Berufs- und Datenschutzrecht verlangen.
| Norm | Inhalt | Bedeutung für lokale KI |
|---|---|---|
| § 203 StGB | Strafbarkeit der unbefugten Offenbarung von Mandantengeheimnissen; Offenbarung an „mitwirkende Personen“ nur unter Voraussetzungen. | Keine Offenbarung – die Daten verlassen die Kanzlei nicht. |
| § 43a Abs. 2, § 43e BRAO | Verschwiegenheitspflicht; externe Dienstleister nur mit schriftlicher Verpflichtung, sorgfältiger Auswahl und – im Ausland – vergleichbarem Schutzniveau. | Kein Dienstleistervertrag für die KI-Verarbeitung nötig.* |
| DSGVO Art. 5, 25, 28, 32 | Datenminimierung, Privacy by Design, Auftragsverarbeitung, technisch-organisatorische Maßnahmen. | Kein AV-Vertrag mit einem KI-Anbieter, Maßnahmen in eigener Hand. |
| DSGVO Art. 44 ff. | Übermittlung in Drittländer wie die USA nur mit Rechtsgrundlage; zusätzlich Zugriffsrisiken etwa durch den US CLOUD Act. | Keine Drittlandübermittlung. |
| KI-Verordnung (EU) 2024/1689 | Pflicht zur KI-Kompetenz der Mitarbeitenden seit 02.02.2025 (Art. 4); Transparenzpflichten (Art. 50). | Gilt auch lokal – Schulung wird eingeplant. |
* Eine Wartung durch Dritte, etwa den IT-Dienstleister, bleibt ein Fall des § 43e BRAO und ist entsprechend zu vereinbaren. Die Berufspflicht zur sorgfältigen Prüfung aller KI-Ergebnisse bleibt unberührt. Diese Übersicht ersetzt keine Rechtsberatung.
Vorteile
Sechs Gründe für KI im eigenen Haus.
Volle Datenhoheit
Akten, Schriftsätze und Mandantendaten bleiben physisch in der Kanzlei. Keine Offenbarung, kein Training fremder Modelle mit Ihren Daten.
Offline-fähig
Der KI-Server lässt sich vollständig vom Internet getrennt betreiben – erreichbar nur im internen Kanzleinetz.
Planbare Kosten
Einmalige Investition statt Nutzerlizenzen pro Monat. Keine Abrechnung nach Verbrauch, keine Preiserhöhungen eines Anbieters.
Unabhängigkeit
Kein Anbieter-Lock-in: Modelle lassen sich austauschen, sobald ein besseres erscheint. Kein Risiko durch Dienstabschaltung oder AGB-Änderung.
Anpassbar
Anbindung an eigene Musterverträge, Textbausteine und eine Wissensdatenbank. Tonalität und Formatvorgaben der Kanzlei fest hinterlegbar.
Vertrauensargument
„Ihre Daten verlassen unser Haus nicht“ – ein klares, überprüfbares Versprechen gegenüber Mandanten und Unternehmenskunden.
Vergleich
Cloud-KI oder lokale KI?
| Kriterium | Cloud-KI (z. B. ChatGPT, Copilot) | Lokale KI (eigener Server) |
|---|---|---|
| Datenfluss | Daten gehen an externe Anbieter, häufig mit US-Bezug | Daten bleiben im Kanzleinetz |
| Rechtlicher Aufwand | § 43e-Verpflichtung, AV-Vertrag, Drittlandprüfung, Folgenabschätzung | Interne Richtlinie und Schulung (KI-VO Art. 4) |
| Kostenmodell | Laufend pro Nutzer und Monat bzw. nach Verbrauch | Einmalige Hardware, dazu Strom und Wartung |
| Modellqualität | Spitzenmodelle, aktuell noch leicht vorn | Sehr gut für Textarbeit, der Abstand schrumpft rasch |
| Verfügbarkeit | Abhängig von Internet und Anbieter | Auch offline, unter eigener Kontrolle |
| Anpassung | Begrenzt, je nach Tarif | Volle Kontrolle über Modell, Vorgaben und Wissensbasis |
| Betrieb | Kein eigener Aufwand | Einrichtung und Updates nötig – übernehmen wir |
Ehrliche Einordnung: Für die Recherche in Fachdatenbanken wie juris oder beck-online ersetzt lokale KI keine Datenbank – sie arbeitet mit den Dokumenten, die Sie ihr geben.
Anwendungsgebiete
Wo lokale KI im Kanzleialltag hilft.
Schriftsatzentwürfe
Erste Entwürfe für Klagen, Erwiderungen und Anschreiben – auf Basis Ihrer eigenen Muster.
Aktenzusammenfassung
Hunderte Seiten Ermittlungs- oder Verfahrensakte zu Chronologie und Kernpunkten verdichten.
Vertragsprüfung
Klauseln markieren, Abweichungen zu Kanzleistandards finden, Risiken auflisten.
Wissensdatenbank
Fragen an eigene Akten, Musterverträge und Gutachten stellen – mit Quellenangabe.
Diktat & Transkription
Diktate und – mit Einwilligung – Besprechungen lokal in Text umwandeln und strukturieren.
Anonymisierung
Urteile und Schriftsätze automatisch schwärzen oder pseudonymisieren – etwa mit AnonPDF.
Zu AnonPDFKorrespondenz
Mandanten-E-Mails formulieren, juristische Inhalte verständlich erklären, übersetzen.
Datenextraktion
Parteien, Aktenzeichen, Daten und Beträge aus Eingängen auslesen – die Fristenkontrolle bleibt beim Menschen.
Sprachmodelle
Offene Modelle, gewählt für Ihre Aufgaben.
Wir setzen auf Open-Weight-Modelle, deren Gewichte frei verfügbar sind und die vollständig lokal laufen – unter anderem von Mistral AI aus Frankreich, Google, Alibaba und OpenAI. Welches Modell passt, testen wir vor der Entscheidung mit anonymisierten Beispielakten aus Ihrer Praxis.
Das Modell ist jederzeit austauschbar – die Hardware bleibt.
- Diktat & TranskriptionSpracherkennung wie Whisper, direkt auf derselben Grafikkarte.
- WissensdatenbankEmbedding-Modelle machen Ihre Akten und Muster durchsuchbar, mit Quellenangabe.
- PDF & ScansAufbereitung auch gescannter Dokumente, damit das Modell sie lesen kann.
- Eine aktuelle Modellübersicht mit Empfehlung je Aufgabe finden Sie im Whitepaper.
Hardware
Drei Wege – welcher passt zu Ihrer Kanzlei?
Mittelklasse
KI-Workstation, 1 Grafikkarte, 32 GB Grafikspeicher
- Nutzer (Richtwert)
- 1–5 gleichzeitig
- Modelle
- bis ca. 35 Mrd. Parameter
- Aufstellung
- Büro, normale Steckdose
- Passend für
- Einzelanwalt, kleine Kanzlei
GPU-Server
5 Grafikkarten, 160 GB Grafikspeicher
- Nutzer (Richtwert)
- 20–50 Arbeitsplätze
- Modelle
- bis ca. 120 Mrd. Parameter, mehrere parallel
- Aufstellung
- eigener Stromkreis, klimatisierter Raum
- Passend für
- mittelgroße Kanzlei, viele Nutzer
Profi-Variante
2 Profi-Grafikkarten, 192 GB Grafikspeicher mit ECC
- Nutzer (Richtwert)
- 20–50 Arbeitsplätze
- Modelle
- wie B, mit mehr Reserve für lange Akten
- Aufstellung
- Serverraum und Rack, kompakt und leiser
- Passend für
- Kanzlei mit Serverraum oder Rechenzentrum
Grafikspeicher und Parameter sind Richtwerte. Die Preise für Grafikkarten und Arbeitsspeicher schwanken derzeit stark – nach dem Erstgespräch erstellen wir Ihnen ein tagesaktuelles Angebot. Für den Betrieb in einem Rechenzentrum oder per Colocation ist Variante C die richtige Wahl.
Architektur
So sieht die Lösung in der Kanzlei aus.
Arbeitsplätzeim Browser, ohne Installation
Diktiergerät / MikrofonAudio-Upload
OberflächeOpen WebUI · Nutzerrechte · Protokoll
Sprachmodell auf der GrafikkartevLLM / Ollama · dazu Whisper für Diktate
WissensbasisVektordatenbank · gespeist aus DMS und Fileserver
- Linux (Ubuntu LTS)
- vLLM
- Ollama
- Open WebUI
- Whisper
- Qdrant
- Docling
- Active-Directory-Login
- verschlüsselte Datenträger
- verschlüsseltes Backup
Einführung
In vier Schritten zur eigenen Kanzlei-KI.
- Schritt 1 · Woche 1
Workshop
Anwendungsfälle priorisieren, Nutzerzahl und Datenquellen klären, die passende Hardware-Variante wählen.
- Schritt 2 · Woche 2–3
Modelltest
Kandidaten mit anonymisierten Beispielakten aus Ihrer Praxis testen – Qualität vor dem Kauf bewerten.
- Schritt 3 · Woche 4–6
Aufbau & Integration
Lieferung, Montage, Härtung, Anbindung an Nutzerverwaltung, Fileserver und Backup.
- Schritt 4 · laufend
Schulung & Betrieb
KI-Kompetenz-Schulung nach Art. 4 KI-VO, interne KI-Richtlinie, Updates und Support.
Mit AnonPDF haben wir bereits ein Offline-Werkzeug zur Schwärzung und Pseudonymisierung von Schriftsätzen und Urteilen für Kanzleien entwickelt – nach demselben Prinzip: 100 % lokal, ohne Cloud.
AnonPDF ansehenWhitepaper · kostenlos auf Anfrage
Whitepaper anfordernLokale KI für Kanzleien – alles auf 17 Seiten.
Rechtsrahmen, Anwendungsgebiete, aktuelle Sprachmodelle mit Empfehlung je Aufgabe, drei Hardware-Varianten im Detail, laufende Kosten und eine Beispielrechnung gegenüber Cloud-Lizenzen. Wir senden es Ihnen gern zu.
Häufige Fragen
Lokale KI in der Kanzlei – kurz erklärt.
Ist der Einsatz von ChatGPT in der Kanzlei verboten?
Nein. Cloud-KI ist nicht verboten, setzt aber nach § 43e BRAO eine schriftliche Verpflichtung des Anbieters, eine sorgfältige Auswahl und bei Anbietern außerhalb der EU ein vergleichbares Schutzniveau voraus. Dazu kommen AV-Vertrag und Drittlandprüfung nach der DSGVO. Eine lokale KI vermeidet diese Offenbarung von vornherein, weil die Daten die Kanzlei nicht verlassen.
Wie gut sind lokale Sprachmodelle im Vergleich zu ChatGPT?
Für Textarbeit – Entwürfe, Zusammenfassungen, Vertragsprüfung – sind aktuelle Open-Weight-Modelle sehr gut, und der Abstand zu den Spitzenmodellen der Cloud schrumpft rasch. Welches Modell für Ihre Aufgaben passt, testen wir vor der Kaufentscheidung mit anonymisierten Beispielakten aus Ihrer Praxis.
Braucht die Kanzlei dafür einen Serverraum?
Nicht zwingend. Die Mittelklasse-Variante ist eine Workstation, die an einer normalen Steckdose im Büro läuft und für bis zu fünf gleichzeitige Nutzer ausgelegt ist. Erst größere Varianten für 20 und mehr Arbeitsplätze brauchen einen eigenen Stromkreis und einen klimatisierten Raum.
Ersetzt lokale KI eine juristische Datenbank wie juris oder beck-online?
Nein. Lokale KI arbeitet mit den Dokumenten, die Sie ihr geben – Ihren Akten, Mustern und Gutachten. Für die Recherche in Fachdatenbanken bleibt die jeweilige Datenbank das richtige Werkzeug.
Gilt die KI-Verordnung auch für eine lokale KI?
Ja. Die Pflicht zur KI-Kompetenz der Mitarbeitenden nach Art. 4 KI-Verordnung gilt seit dem 2. Februar 2025 unabhängig davon, wo das Modell läuft. Eine Schulung ist deshalb fester Bestandteil der Einführung.
Was kostet eine lokale KI für die Kanzlei?
Das hängt von Nutzerzahl und Anwendungsfällen ab. Die Hardwarepreise schwanken derzeit stark, deshalb erstellen wir nach einem kurzen Erstgespräch ein tagesaktuelles Angebot. Eine Beispielrechnung gegenüber Cloud-Lizenzen enthält unser Whitepaper.
Diese Seite dient der allgemeinen Information und ersetzt keine Rechts- oder Steuerberatung. Maßgeblich sind insbesondere § 203 StGB, §§ 43, 43a, 43e BRAO, § 2 BORA, die DSGVO und die KI-Verordnung (EU) 2024/1689.
Lassen Sie uns über Ihre Kanzlei-KI sprechen.
Unverbindliches Erstgespräch – wir prüfen gemeinsam, welche Variante zu Ihrer Kanzlei passt.