Der Bericht über einen Menschen: Was KI darf und was nicht

Wer wenig Zeit hat, springt direkt zu den sechs Prüfpunkten vor der Freigabe.

Ein Sozialbericht ist keine interne Notiz. Ein Kostenträger, eine Gutachterin oder ein Gericht entscheidet danach über Leistungen für einen Menschen. Genau bei solchen Schriftstücken zeigt sich seit 2026 ein Muster, auf das Gerichte zunehmend reagieren: Texte, die mit KI erstellt wurden, klingen oft überzeugend, gehen aber am konkreten Einzelfall vorbei.

Wie stark das die Sozialgerichte inzwischen beschäftigt, zeigen die Zahlen aus Niedersachsen. An den acht niedersächsischen Sozialgerichten gingen im ersten Halbjahr 2026 3.083 Eilanträge ein, ein Anstieg um 106 Prozent gegenüber 1.495 Anträgen im Vorjahreszeitraum. Die Klagen stiegen im selben Zeitraum von 11.685 auf 14.120 (beck-aktuell, 17. September 2026). Für das Sozialgericht Bremen wird gesondert ein Gesamtplus von rund 48 Prozent genannt, ohne eigene Zahlen zu Eilanträgen und Klagen.

Die Vizepräsidentin des Landessozialgerichts Celle, Lioba Huss, führt einen Teil dieses Anstiegs auf KI-generierte Schriftsätze zurück: „In der gerichtlichen Praxis führten KI-Schreiben aber oft nicht zu einer gezielteren Aufarbeitung des Falls. Sie seien häufig sehr lang, enthielten allgemeine rechtliche Ausführungen und gingen an den Fragen des konkreten Einzelfalls vorbei" (beck-aktuell, 17. September 2026). Das betrifft nicht allein Anträge, die ohne anwaltliche Vertretung eingereicht werden. Es betrifft jeden Bericht über einen Menschen, den ein Träger mit KI-Unterstützung erstellt und an einen Kostenträger, eine Gutachterin oder ein Gericht weitergibt.

Dass KI-gestützte Texte in gerichtlichen Verfahren verbreitet sind, zeigt auch ein Blick nach Nordrhein-Westfalen. Acht dortige Sozialgerichte meldeten für 2025 mehr als 55 Prozent mehr Eilverfahren, insgesamt 7.615 Fälle (Landessozialgericht Nordrhein-Westfalen, Jahresbericht 2025, zitiert nach aktuelle-sozialpolitik.de, 17. Juli 2026). Auch das ist eine regionale Zahl, keine bundesweite Erhebung.

Zwei weitere Zahlen zeigen, wie groß der Kreis der Träger ist, den diese Frage betrifft. Zum Stichtag 15. Dezember 2024 waren in Deutschland rund 32.700 Träger der Kinder- und Jugendhilfe aktiv, davon 26.300 freie Träger, mit 13.000 betriebserlaubnispflichtigen Einrichtungen ohne Kindertageseinrichtungen (Statistisches Bundesamt, veröffentlicht 28. Januar 2026). Hinzu kommen alle Träger mit Gesamtplanverfahren in der Eingliederungshilfe: 2025 waren rund 1.056.000 Menschen dort leistungsberechtigt (Statistisches Bundesamt 2026). Beide Gruppen erstellen laufend Berichte über die von ihnen betreuten jungen Menschen und Erwachsenen. Eine bundesweite Zahl dazu, wie viele dieser Berichte mit KI-Unterstützung entstehen, wurde für diesen Beitrag nicht gefunden und deshalb nicht verwendet.

Für zwei der wichtigsten Berichtsformen schreibt das Gesetz die Beteiligung der betroffenen Person ausdrücklich vor, und genau das kann eine KI nicht leisten.

Was verlangt § 117 SGB IX für den Gesamtplan?

Das Gesamtplanverfahren nach § 117 SGB IX verlangt in Absatz 1 die Beteiligung der leistungsberechtigten Person in allen Verfahrensschritten, beginnend mit der Beratung. Dokumentiert werden dabei auch ihre Wünsche zu Ziel und Art der Leistung. Zuständig dafür ist der Rehabilitationsträger als Kostenträger, in der Eingliederungshilfe meist der Träger der Eingliederungshilfe. Gemeint ist damit nicht die Einrichtung, die die Leistung erbringt, sondern die Behörde, die über sie entscheidet.

Was verlangt § 36 SGB VIII für den Hilfeplan?

Für die Hilfeplanung nach § 36 SGB VIII gilt Ähnliches. Vor der Entscheidung über eine Hilfe werden der Personensorgeberechtigte und das Kind oder der Jugendliche beraten, in einer für sie verständlichen und nachvollziehbaren Form. Bei längerfristigen Hilfen erarbeiten mehrere Fachkräfte den Hilfeplan gemeinsam mit ihnen.

Beide Normen verlangen damit etwas, das kein Sprachmodell übernehmen kann: das tatsächliche Gespräch mit einem Menschen und die dokumentierte Berücksichtigung dessen, was er will.

Wie sich das Gesamtplanverfahren insgesamt in das Qualitätsmanagement der Eingliederungshilfe einordnet, behandelt der Beitrag BTHG und Qualitätsmanagement in der Eingliederungshilfe.

Innerhalb dieser Grenze bleibt durchaus Raum für Unterstützung. Ein Sprachmodell kann einen Berichtsentwurf nach vorgegebener Gliederung strukturieren, eigene Notizen der Fachkraft sprachlich glätten, Wiederholungen in eigenen Entwürfen kürzen, Standardformulierungen für Aktenverweise vorschlagen sowie Rechtschreibung und Grammatik korrigieren. Vorhandene Angaben lassen sich außerdem in Tabellen oder Checklisten formatieren.

Entscheidend ist dabei, was als Eingabe dient. In jedem Fall bleibt es die eigene Beobachtung oder der eigene Entwurf der Fachkraft, nicht ein Auftrag wie „Schreibe einen Entwicklungsbericht für diese Person".

Nicht erlaubt ist alles, was über die sprachliche Form hinausgeht. Das reicht von einer selbst erzeugten Bedarfs- oder Gefährdungseinschätzung und einer Prognose zur Entwicklung der Person bis zur Umformulierung oder Interpretation ihrer Aussagen. Auch ungeprüft übernommene Rechtsnormen oder Entscheidungen und identische Textbausteine über mehrere Berichte hinweg gehören nicht dazu. Die folgende Übersicht stellt beide Seiten gegenüber.

Beide Spalten beziehen sich auf den fertigen Bericht, nicht auf die Auswahl oder Freigabe des KI-Werkzeugs selbst.

Für Hilfeplan, Entwicklungsbericht und Gesamtplan gibt es bislang keine veröffentlichte sozialgerichtliche Entscheidung zur Haftung für KI-generierte Fehler. Zwei Urteile aus dem Frühjahr 2026 zeigen aber, in welche Richtung Gerichte außerhalb des Sozialrechts bereits argumentieren. Das OLG Hamm entschied am 12. Mai 2026 (Az. 4 UKl 3/25, Lauterkeitsrecht, außerhalb des Sozialrechts), dass ein Chatbot mit frei erfundenen Facharzttiteln eine geschäftliche Handlung des Betreibers darstellt. Die Verteidigung mit einer angeblich unvorhersehbaren Halluzination ließ das Gericht nicht gelten. Das LG München I entschied am 28. Mai 2026 (Az. 26 O 869/26, Äußerungsrecht, außerhalb des Sozialrechts), dass eine KI-Übersichtsfunktion durch eigenständige sprachliche Aufbereitung einen neuen, eigenständigen Inhalt schafft, für den der Betreiber haftet.

Beide Fälle sind kein sozialrechtliches Präjudiz, zeigen aber denselben Grundgedanken: Wer ein KI-System einsetzt, kann sich im Zweifel nicht damit verteidigen, das System sei korrekt gefüttert worden. Auf den Bericht über einen Menschen übertragen heißt das: Verantwortlich bleibt, wer unterschreibt, nicht das Werkzeug. Ob und wie sich das im Sozialrecht auf eine konkrete Konstellation auswirkt, ist eine Frage für die Rechtsberatung im Einzelfall.

Die Verantwortung für jeden Satz, der unterschrieben das Haus verlässt, liegt am Ende bei der Leitung, nicht allein bei der Fachkraft, die den Entwurf getippt hat. Sechs Punkte lassen sich vor jeder Freigabe konkret einfordern.

Die sechs Punkte lassen sich direkt in einen Vermerk für die Akte übertragen. Das folgende Werkzeug fasst Ihre Antworten zu einem Text zusammen. Es trifft selbst keine Freigabeentscheidung, das bleibt Aufgabe der zuständigen Fachkraft oder Leitung.

Ein Sonderfall liegt vor, sobald nicht die Fachkraft, sondern die betroffene Person selbst einem Chatbot oder Sprachassistenten gegenübersteht, etwa bei einer Erstinformation oder einem Beschwerdeformular. Dafür gilt seit dem 2. August 2026 Art. 50 Absatz 1 der KI-Verordnung (EU) 2024/1689: Die Person muss informiert werden, dass sie mit einem KI-System interagiert, sofern das nicht ohnehin offensichtlich ist. Für Systeme, die vor diesem Datum bereits im Einsatz waren, läuft eine Übergangsfrist für die Kennzeichnungspflicht bis 2. Dezember 2026.

Dieser Beitrag befasst sich mit dem fertigen Bericht, nicht mit der Frage, welches KI-Werkzeug ein Träger für welche Datenart überhaupt einsetzen darf. Dazu gehört mehr, unter anderem die Auftragsverarbeitung und der Kompetenznachweis der Fachkräfte. Die Einzelheiten dazu fasst der Beitrag KI im Sozialwesen: was ins QM-Handbuch gehört zusammen.

Für das Qualitätsmanagement ist der Bericht über einen Menschen ein Prüfgegenstand wie jedes andere Ergebnis, das Ihr Haus kontrolliert an die Empfänger gibt: mit Freigabe, mit Verantwortlichkeit, mit Nachweis. Zwei Punkte gehören deshalb in den nächsten Wochen ins bestehende System.

Klären Sie zuerst die Freigabe selbst. Wer einen KI-gestützten Berichtsentwurf freigibt, braucht dafür ein Verfahren, keine Zuruflösung im Einzelfall. Der Freigabevermerk aus diesem Beitrag lässt sich dafür direkt als Ablage in der Akte nutzen.

Nehmen Sie zweitens die Stichprobe in Ihr nächstes internes Audit auf. Halten Sie dort einzelne Berichte gegen die sechs Kriterien aus diesem Beitrag, so wie ein internes Audit jeden anderen Prozess auf Wirksamkeit prüft. Wie ein internes Audit im Sozialwesen in einzelnen Phasen abläuft, beschreibt der Leitfaden zum internen Audit im Sozialwesen.

Diese sechs Kriterien prüfe ich selbst im internen Audit als Stichprobe, wenn ich als externer Qualitätsmanagementbeauftragter für einen Träger tätig bin. Wo noch keine Verfahrensanweisung zum Umgang mit KI im Berichtswesen besteht, baue ich sie gemeinsam mit der Leitung auf.

Quellen

Christian Monat

Externer Qualitätsmanagementbeauftragter aus Chemnitz. Berufserfahrung in Eingliederungshilfe, Sozialpsychiatrie und Suchthilfe, seit 2019 in Leitungsfunktionen.