KI in der Kanzlei: Was wirklich geht — und welche Anbieter-Versprechen Sie nicht kaufen sollten

Im Frühjahr saß ich mit dem Inhaber einer Sozietät zusammen — vier Anwälte, eine Spezialisierung auf Arbeitsrecht und Bauvertragsrecht, gut etabliert, technisch nicht besonders affin. Auf dem Tisch lag das Angebot eines Anbieters für einen „DSGVO-Sovereign-Server“ mit lokaler KI-Verarbeitung. Monatlich rund 1.300 Euro, dazu eine vierstellige Setup-Pauschale. Daneben ein Ausdruck aus dem aktuellen BRAK-Leitfaden zum KI-Einsatz und ein Mail-Wechsel mit einem Kollegen, der schwört, dass „eine vernünftige Anonymisierung“ reicht.

Der Inhaber stellte die richtige Frage: „Was stimmt jetzt?“

Die ehrliche Antwort lautet: beides — und keines davon vollständig. Die Diskussion um KI in Kanzleien wird in der Praxis als Schwarz-Weiß-Bild geführt. Auf der einen Seite die Anbieter, die einen eigenen Server als einzige berufsrechtlich saubere Option verkaufen. Auf der anderen Seite die Kollegen, die mit Anonymisierung pragmatisch arbeiten und davon ausgehen, dass das ausreicht. Beide Seiten haben recht — in ihrem Bereich. Beide werden zum Problem, wenn man sie als universelle Antwort verkauft.

Dieser Beitrag sortiert die echten Optionen für eine kleine bis mittlere Kanzlei, ordnet sie berufsrechtlich ein und zeigt, in welcher Reihenfolge ein nüchterner Einstieg sinnvoll ist.

Der berufsrechtliche Rahmen, kurz und ohne Marketing

Drei Vorschriften bilden den harten Kern, alles andere ist Auslegung.

§ 43a Abs. 2 BRAO — die Verschwiegenheitspflicht. Sie umfasst alles, was der Anwalt in Ausübung des Berufes erfährt, einschließlich der Tatsache des Mandatsverhältnisses selbst.

§ 203 StGB — die strafrechtliche Sanktionierung der Verletzung von Privatgeheimnissen. Wer mandatsrelevante Informationen unbefugt an Dritte offenbart, riskiert Strafverfolgung. „Offenbarung“ liegt nach herrschender Meinung bereits vor, wenn Daten ohne hinreichende technische und organisatorische Maßnahmen an einen externen Dienstleister gelangen.

§ 43e BRAO — die rechtssichere Einbindung von Dienstleistern. Sie ist seit 2017 möglich, setzt aber drei Dinge voraus: Notwendigkeit für die Dienstleistung, geeignete technische und organisatorische Maßnahmen, und eine Vereinbarung mit dem Dienstleister, die ihn als Berufsgeheimnisträger-Hilfsperson einbindet.

Hinzu kommen die DSGVO mit ihren Pflichten zu Auftragsverarbeitung, Datenresidenz und Privacy-by-Design sowie der EU AI Act mit Transparenz-, Kennzeichnungs- und Kompetenzanforderungen, die ab August 2026 voll greifen. Der BRAK-Leitfaden vom Dezember 2024 ist keine Norm, aber die maßgebliche Auslegungshilfe — er empfiehlt explizit den KI-Einsatz in Kanzleien, sofern bestimmte Schutzmaßnahmen eingehalten werden.

Das Berufsrecht verbietet KI nicht. Es verlangt die korrekte Auswahl der Werkzeuge und sauberer Prozesse.

Warum die „eigener-Server“-Antwort zu kurz greift

Der Vertriebsweg vieler Anbieter ist verständlich. „Wenn die Daten nie den Server verlassen, gibt es kein Berufsrechts-Problem“ ist ein leicht zu kommunizierendes Argument. Die Schwäche dieser Logik ist nicht falsch, sondern unvollständig.

Erstens — sie ignoriert die ganze Mittelstufe. Zwischen einer Consumer-Version von ChatGPT und einem dedizierten Server in der Kanzlei gibt es vier bis fünf realistische Stufen mit jeweils anderem Risiko-Profil und anderen Kosten. Anbieter, die das ausblenden, verkaufen ihr Produkt — nicht die passende Lösung.

Zweitens — sie verschiebt das Problem. Ein „eigener KI-Server“ mit lokalen Open-Source-Modellen ist nicht automatisch berufsrechtlich unproblematisch, wenn er gleichzeitig auf Cloud-Dienste für Indexierung, Sprachausgabe, Backup oder Updates angewiesen ist. Die saubere Auditierung des Gesamtsystems ist die eigentliche Arbeit.

Drittens — sie überzeichnet die Anonymisierungs-Schwäche. Der BRAK-Leitfaden empfiehlt Anonymisierung nicht aus Verzweiflung, sondern weil sie für viele tägliche Aufgaben funktioniert. Wer das pauschal abtut, schiebt eine teure Lösung in den Vordergrund, die für viele kleine Kanzleien wirtschaftlich nicht trägt.

Viertens — sie unterschätzt den Betriebsaufwand. Ein lokaler Server mit Modell, Wissensbasis, Updates und Sicherung braucht Pflege. Wer in der Kanzlei keinen IT-Verantwortlichen hat, kauft eine Black-Box, deren Wartung eingekauft werden muss — oft mit eigenen Berufsgeheimnis-Implikationen.

Die Frage ist nicht „Cloud oder Server“, sondern: Welche Stufe passt zu welchem Mandatstyp, welcher Kanzleigröße und welcher technischen Basis.

Die echten Optionen für Kanzleien

Vier praktikable Wege, sortiert nach Schutzwirkung und Betriebsaufwand.

Option 1 — Anonymisierte Nutzung von Business-Cloud-KI

Eine Business- oder Team-Lizenz bei einem etablierten Anbieter (mit AVV, „kein Training auf Kundendaten“, EU-Datenresidenz wo möglich) wird ausschließlich für anonymisierte Aufgaben genutzt: allgemeine Rechtsrecherche, Formulierungshilfen, Glättung von Mustern, abstrakte juristische Fragestellungen ohne Bezug zu konkreten Mandaten.

• Wirtschaftlichkeit: sehr gut, 25–60 € pro Anwalt und Monat
• Schutzwirkung: ausreichend, solange Disziplin bei der Anonymisierung gehalten wird
• Einsatzbereich: Recherche, Formulierungs-Hilfe, Textbausteine, juristische Diskussion ohne Mandatsdetails
• Grenzen: nicht geeignet für konkrete Schriftsatz-Drafts mit Sachverhaltsbezug

Option 2 — EU-Hyperscaler-Inferenz in eigener Cloud-Umgebung

Azure OpenAI in EU-Region, Bedrock in Frankfurt oder Vertex AI in europäischen Regionen, sauber konfiguriert mit Auftragsverarbeitungsvertrag und Datenresidenz-Klausel. Verarbeitung geschieht in einer kontrollierten Cloud-Umgebung der Kanzlei oder eines vertrauenswürdigen Partners, ohne dass Daten zum Modell-Anbieter wandern.

• Wirtschaftlichkeit: mittel, nutzungsabhängig, 200–1.500 € im Monat
• Schutzwirkung: gut, mit klarer Datenresidenz und vertraglicher Absicherung
• Einsatzbereich: strukturierter Schriftsatz-Workflow, Aktenrecherche, Dokumenten-Analyse
• Grenzen: Setup braucht Cloud-Kompetenz, Vertragsgestaltung mit Hyperscaler ist nicht trivial

Option 3 — Hybrides Setup mit eigener Wissensbasis und EU-Inferenz

Die Mandatsdokumente liegen in einer kontrollierten Umgebung in der Kanzlei oder bei einem deutschen Hoster, Embeddings werden lokal erzeugt. Für die eigentliche Modell-Inferenz wird eine EU-Hyperscaler-Variante mit DPA genutzt, wobei nur die für die jeweilige Anfrage benötigten Kontext-Ausschnitte übermittelt werden.

• Wirtschaftlichkeit: mittel, je nach Volumen 400–2.000 € im Monat
• Schutzwirkung: sehr gut, mit klar dokumentierbarem Datenfluss
• Einsatzbereich: anspruchsvolle Mandatsarbeit mit Aktenbezug
• Grenzen: Architektur-Aufwand, geeigneter Implementierungspartner nötig

Option 4 — Lokale Modelle auf eigener oder gemieteter Hardware

Open-Source-Modelle (Mistral, Llama, Qwen in passender Größe) laufen auf einer eigenen Maschine oder einer dedizierten GPU-Instanz, ohne Außenverbindung für die eigentliche Inferenz. Wissensbasis und Modelle liegen geschützt.

• Wirtschaftlichkeit: mittel bis hoch, je nach Hardware 800–3.500 € im Monat (inklusive Betrieb)
• Schutzwirkung: maximal, mit dokumentierbarem Fehlen jeder externen Inferenz-Verbindung
• Einsatzbereich: Mandate mit besonders hoher Sensibilität (Strafrecht, Familienrecht, sensible Wirtschaftsmandate, Whistleblower-Vertretung)
• Grenzen: Modell-Qualität bleibt hinter Frontier-Cloud-Modellen zurück, Betriebsaufwand höher, regelmäßige Updates und Härtung sind Pflicht

Die wenig glamouröse Wahrheit: Für viele kleine bis mittlere Kanzleien ist eine Kombination aus Option 1 und Option 3 wirtschaftlich und berufsrechtlich der beste Weg. Option 4 ist berechtigt, aber nicht universell.

Wann welche Option passt — eine Entscheidungs-Heuristik

Statt einer pauschalen Empfehlung eine Reihenfolge der Fragen, die in der Praxis trägt.

Frage 1 — Wie sensibel sind die typischen Mandate?

Allgemeines Vertragsrecht, Mietrecht, Standard-Arbeitsrecht — überwiegend mittlere Sensibilität. Strafrecht, Familienrecht, sensible Wirtschaftsmandate, Steuerstrafverfahren — hohe Sensibilität. Diese Einordnung entscheidet maßgeblich über die nötige Stufe.

Frage 2 — Wie ist die Kanzleigröße und IT-Basis?

Eine Einzelkanzlei ohne IT-Verantwortlichen sollte nicht mit Option 4 starten. Eine Sozietät mit 12 Anwälten und einer dedizierten IT-Ressource kann darüber nachdenken.

Frage 3 — Welche Tätigkeiten sollen unterstützt werden?

Recherche und Textentwurf ohne Mandatsbezug funktioniert in Option 1. Schriftsatz-Draft mit konkretem Sachverhalt verlangt mindestens Option 2, besser Option 3. Volltext-Suche über das eigene Aktenarchiv ist ein klassischer Anwendungsfall für Option 3 oder 4.

Frage 4 — Welche Budgetgröße ist realistisch?

Eine ehrliche Aussage zum monatlichen Budget engt die Optionen wirksam ein. Wer 200 € im Monat zur Verfügung hat, kann Option 1 sauber umsetzen — Option 4 ist außerhalb der Reichweite.

Frage 5 — Welche Erwartung haben Mandanten?

Mandanten in sensiblen Mandaten fragen heute selbst nach. Eine transparente Aussage, welche Werkzeuge wofür eingesetzt werden, ist Teil der Vertrauensarbeit — und nebenbei eine Pflicht aus AI Act und BRAK-Leitfaden.

In den meisten Fällen ergibt diese Heuristik eine pragmatische Kombination: Option 1 für die schnelle tägliche Arbeit, Option 3 für strukturierte Mandatsarbeit, Option 4 nur dort, wo die Mandatsklasse das wirklich rechtfertigt.

Anonymisierung — besser als ihr Ruf

Die pauschale Abwertung der Anonymisierung („funktioniert nicht wirklich“) in vielen Anbieter-Pitches ist verkürzt. In der Praxis ist Anonymisierung für etwa 60–70 % der typischen Aufgaben einer mittleren Kanzlei eine sinnvolle Schutzmaßnahme.

• Allgemeine Rechtsrecherche — die juristische Frage interessiert, der konkrete Sachverhalt muss nicht ausgesprochen werden. „Welche Rechtsprechung gibt es zu Schönheitsreparaturen in Altmietverträgen mit Quotenklauseln?“ ist nicht mandatsspezifisch.
• Formulierungs- und Sprachunterstützung — der Anwalt schreibt den Sachverhalt anonymisiert, lässt die Sprache glätten, prüft das Ergebnis.
• Argument-Sammlung — Pro- und Contra-Listen zu einer Rechtsfrage, ohne Mandatsdetails.
• Recherche zu Begriffsdefinitionen, Verfahrensabläufen, Fristen — generische Information.
• Erste Strukturierung von Schriftsätzen — Gliederung und Aufbau, bevor der Sachverhalt eingearbeitet wird.

Wo Anonymisierung an Grenzen stößt:

• Ungewöhnliche Sachverhalte, bei denen schon die Kombination der Umstände identifizierend wirkt
• Vollständige Schriftsatz-Drafts, die den Sachverhalt brauchen
• Recherchen in der eigenen Aktenhistorie
• Mandanten-Kommunikation

Für diese Tätigkeiten braucht es eine der höheren Optionen. Aber sie machen nicht den Großteil des Arbeitstags aus.

Lokale Modelle für sensible Mandate

Wenn Option 4 sinnvoll ist, lohnt ein nüchterner Blick auf den Reifegrad. Die heute verfügbaren Open-Source-Modelle (im Bereich 30–70 Milliarden Parameter) erreichen für viele juristische Routineaufgaben eine Qualität, die für interne Drafts ausreichend ist. Sie bleiben hinter den Frontier-Cloud-Modellen zurück bei komplexen Argumentationsketten, längeren Sachverhalten und Themen mit dünner Trainingsdatenlage.

Praktische Konsequenz: Lokale Modelle eignen sich gut für Aktenrecherche, Zusammenfassungen, einfache Drafts, Mandanten-Kommunikation. Sie sind weniger geeignet für tiefe rechtliche Argumentation in komplexen Fragestellungen — dort ist ein Cloud-Modell mit kontrollierter Auftragsverarbeitung in der Regel die bessere Wahl, auch in sensiblen Mandatslagen.

Wer beides braucht, kommt zur hybriden Architektur: lokale Modelle für die volumenstarken Routineaufgaben, ein sauber konfiguriertes Cloud-Setup für die anspruchsvollen Einzelfälle, mit dokumentiertem Entscheidungsweg, welche Anfrage auf welcher Stufe landet.

Was sich tatsächlich gut automatisieren lässt

Die produktiven Anwendungsfelder in einer Kanzlei sind weniger spektakulär als manche Pitches behaupten — und genau deswegen tragfähig.

• Volltextsuche in der eigenen Aktenhistorie — der vielleicht stärkste Einzelhebel. „Was haben wir im Fall X 2018 zum Thema Y argumentiert?“ wird vom Suchaufwand zur Sekundenfrage.
• Erst-Drafts für wiederkehrende Schriftsätze — Klageabweisung mit Standardstruktur, Mahnbescheid-Anträge, Kostenfestsetzungsanträge.
• Zusammenfassung längerer Schriftsätze und Aktenstapel — Vor- und Nachbereitung von Mandaten, Übergabe zwischen Berufsträgern.
• Fristen- und Aufgabentracking — als zusätzliche Sicherheitsebene neben dem Fristenbuch, nicht als Ersatz.
• Recherche zu Rechtsprechung — wenn das Modell Zugriff auf eine seriöse Datenbank hat oder mit klassischen Datenbank-Tools kombiniert wird.
• Mandanten-Kommunikation auf Standardanfragen — Sachstand, Termine, Unterlagen-Erinnerung, mit anwaltlicher Endprüfung.
• Vertragsanalyse und Klausel-Vergleich — mit klar abgegrenzter menschlicher Schlussbewertung.

Was sich nicht (oder schlechter) automatisieren lässt:

• Mandatsgespräche, Verhandlungen, Konfliktlösung
• Juristische Endbewertungen und Strategieentscheidungen
• Beratung mit Haftungswirkung
• Beziehungspflege zu wichtigen Mandanten

Diese Bereiche sind nicht zufällig die, für die Mandantinnen und Mandanten anwaltliche Stundensätze zahlen.

Die organisatorischen Voraussetzungen

Über die Werkzeugauswahl hinaus entscheiden vier organisatorische Punkte, ob KI in einer Kanzlei trägt.

• Schriftliche Nutzungsrichtlinie — wer darf welche Tools für welche Aufgaben verwenden, welche Daten dürfen wohin, wie wird dokumentiert. Der BRAK-Leitfaden empfiehlt das ausdrücklich.
• Schulung als Pflicht, nicht Kür — der AI Act verlangt seit Februar 2025 eine ausreichende KI-Kompetenz bei den Nutzern. Eine kurze, dokumentierte Schulung pro Mitarbeiter ist Pflicht, nicht Bonus.
• Mandanten-Transparenz — Information über den KI-Einsatz in geeigneter Form, idealerweise in den Mandatsvereinbarungen. Das stärkt Vertrauen mehr, als es Skepsis weckt.
• Klarer Verantwortlicher — eine Person in der Kanzlei, die das KI-Thema betreut. Ohne Owner versandet jede Initiative.

Diese Punkte kosten weniger als eine teure Plattform — und tragen länger.

Ein nüchterner Einstiegsweg

Für eine typische Kanzlei mit drei bis acht Anwälten ergibt sich erfahrungsgemäß folgender Pfad.

Monat 1–2 — Bestandsaufnahme und Nutzungsrichtlinie. Welche Tools werden bereits inoffiziell genutzt? Welche Aufgaben sind die Zeitfresser? Eine schriftliche Nutzungsrichtlinie wird entworfen und verabschiedet.

Monat 3 — Option 1 sauber aufsetzen. Eine Business-Lizenz bei einem etablierten Anbieter mit AVV, klare Anonymisierungs-Disziplin, dokumentierte Anwendungsfälle. Schulung für alle Mitarbeiter.

Monat 4–6 — Option 3 für strukturierte Mandatsarbeit pilotieren. Eine hybride Architektur mit eigener Wissensbasis und EU-Hyperscaler-Inferenz, beginnend mit einem klar abgegrenzten Anwendungsfall — meist Aktenrecherche oder Schriftsatz-Draft.

Monat 7–12 — Stabilisieren und ausweiten. Was läuft, in den Regelbetrieb bringen. Erst danach prüfen, ob Option 4 für besonders sensible Mandate ergänzt werden soll.

Dieser Weg sieht weniger spektakulär aus als der Direkteinstieg in einen „Sovereign-Server“. Er hat dafür eine Eigenschaft, die der spektakuläre Weg selten hat: Er führt mit überschaubarem Aufwand zu einem Setup, das im Mandatsalltag, in der wirtschaftlichen Betrachtung und in einem Audit gleichermaßen Bestand hat.

Fazit

KI in der Kanzlei ist berufsrechtlich kein Verbotsgebiet. Sie ist ein Bereich, in dem die Auswahl der Werkzeuge, die Disziplin im Umgang und die organisatorische Begleitung über die Zulässigkeit entscheiden. Wer sich auf die Schwarz-Weiß-Erzählung „Cloud verboten, eigener Server erlaubt“ einlässt, kauft eine Lösung, die für viele Kanzleien zu groß, zu teuer und zu pflegeintensiv ist — und übersieht die pragmatischen Wege dazwischen.

Die ehrliche Antwort für die meisten kleinen und mittleren Kanzleien ist eine Kombination aus anonymisierter Business-Cloud-Nutzung für die tägliche Arbeit und einer hybriden EU-Lösung für strukturierte Mandatsarbeit. Lokale Modelle sind ein berechtigtes Werkzeug für besonders sensible Mandate, aber nicht der universelle Maßstab.

Wer als Anwältin oder Anwalt vor der Entscheidung steht, lohnt sich eine nüchterne Bestandsaufnahme der typischen Mandate, der eigenen technischen Basis und der realistischen Budgetgröße. Aus dieser Aufnahme heraus wird klar, welche Stufe wirklich passt — meistens nicht die teuerste, fast nie die einfachste, oft die ruhige Mitte, über die in den Pitches am wenigsten geredet wird.