Großer Vergleich: Funktionieren Open-Source KI-Modelle für Steuerberater?

Wir haben 14 aktuelle Sprachmodelle mit Kanzleifragen zur Musterholz GmbH geprüft. GPT-6.1 Sol liegt vorn, dicht gefolgt von GPT-6 Luna. Sol begeistert, Open-Source enttäuscht.20. Oktober 2026

Rangliste der fünf besten Sprachmodelle mit EU-Endpunkt: GPT-6.1 Sol 4,65, GPT-6 Luna 4,37, GPT-5.6 Luna 4,23, Claude Opus 5.5 4,12, Claude Sonnet 5.5 3,92

Welches Sprachmodell beantwortet Fragen aus der Kanzlei am besten? Das haben wir Mitte Oktober gemessen. 14 Modelle, bekamen dieselben Unterlagen des Testmandanten Musterholz GmbH und dieselben Aufgaben: eine Abschlussbesprechung, ein Überlassungsvertrag, das Honorar nach StBVV und die Steuererklärungen 2025. Dazu kamen drei Faktenfragen.

Bewertet haben zwei KI-Modelle als Richter. Die Note reicht von 1 bis 5, 5 ist die beste.

Die fünf besten Modelle

GPT-6.1 Sol (OpenAI), Note 4,65. Bei allen vier Aufgaben vorn und im Steuerrecht am sichersten.
GPT-6 Luna (OpenAI), Note 4,37. Knapp dahinter und deutlich schneller. Schreibt das klarste Deutsch im Feld.
GPT-5.6 Luna (OpenAI), Note 4,23. Belegt seine Antworten sauber, ist im Steuerrecht aber schwächer, etwa bei den StBVV-Sätzen seit Juli 2025.
Claude Opus 5.5 (Anthropic), Note 4,12. Gibt die vollständigsten Antworten im Test, liegt fachlich aber öfter daneben.
Claude Sonnet 5.5 (Anthropic), Note 3,92. Ähnlich gründlich wie Opus und im Steuerrecht noch etwas schwächer.

Fast alle Modelle arbeiten mit den Unterlagen und schreiben ordentliches Deutsch. Die fachliche Präzision weicht aber oft ab.

Offene Modelle machen grobe Fehler

Weil sich offene Modelle auch auf eigenen Servern betreiben lassen, werden wir immer wieder gefragt, ob MandantenKI auch mit selbst gehosteten Open-Source-Modellen funktioniert. Während diese Lösung technisch einfach umsetzbar ist, hapert es leider an der Antwort-Qualität.

Im Test lagen die Open-Source-Modelle deutlich hinten dran: Im Kriterium „richtig“ kamen GLM 5.3, Kimi K2.6, DeepSeek V4 Flash und gpt-oss-120b auf 1,1 bis 1,9 von 5. Sie machen grobe Fehler im Steuerrecht und nennen häufiger Angaben, die in keinem Dokument stehen.

Ein lokal betriebenes Modell ist aus unserer Erfahrung für die Steuerberatung heute keine Alternative. Neben deutlich schlechterer Antwortqualität stehen auch deutlich höhere kosten für den Betrieb.

Fazit

Für Fragen aus der Kanzlei liefern die GPT-6-Modelle von OpenAI derzeit die besten Antworten. MandantenKI arbeitet deshalb mit GPT-6, über einen Endpunkt in der EU, ohne Speicherung und ohne Training beim Modellanbieter.