KI im Sozialwesen: was ins QM-Handbuch gehört

In vielen sozialen Einrichtungen schreibt ein Sprachmodell längst an Verlaufsberichten und Dienstplänen mit, ohne dass eine Leitung das je entschieden hat. Seit dem 2. Februar 2025 muss jede Einrichtung mit Künstlicher Intelligenz im Betrieb ihr Personal dafür befähigen, und seit dem 2. August 2026 setzen die zuständigen Behörden das auch durch. Offen bleibt in der Praxis trotzdem, über welchen Dienst ein Text lief, was im Eingabefeld stand und wer die Ausgabe freigegeben hat.

Was in einer Verfahrensanweisung stehen muss, steht bei den sieben Schritten. Welche Daten wohin dürfen, zeigt die Freigabe-Matrix zum Durchklicken.

Ein Randphänomen ist das nicht mehr. Die Stiftung Zentrum für Qualität in der Pflege hat 1.000 Leitungskräfte ambulanter Dienste befragt: 36 Prozent nutzen KI-gestützte Programme für die schriftliche Kommunikation, etwa für Texte wie Verlaufsberichte oder Dienstpläne, und rund ein Drittel klärt damit fachliche Fragen (ZQP, 2026).

In der Gesamtwirtschaft fällt der Anstieg noch deutlicher aus: 41 Prozent der Unternehmen ab 20 Beschäftigten setzen KI inzwischen ein, im Vorjahr waren es erst 17 Prozent (Bitkom, 2026).

Dass viele Häuser KI schon einsetzen, heißt nicht, dass sie das auch geregelt haben. Die Datenschutzkonferenz, das Gremium der deutschen Datenschutzaufsichtsbehörden, hat schon 2024 festgehalten, dass die eigenmächtige und unkontrollierte Nutzung durch Beschäftigte in vielen Unternehmen und Behörden Realität sein dürfte. Dem steht wenig entgegen: Nur 8 Prozent der Unternehmen schulen alle Beschäftigten zu KI, 43 Prozent haben gar kein Angebot (Bitkom, 2025).

Im Sommer hat sich die Rechtslage bewegt, und seitdem wird sie gründlich missverstanden. Am 8. Juli 2026 hat die EU mit der Digital-Omnibus-Verordnung, offiziell Verordnung (EU) 2026/1744, die KI-Verordnung geändert. Die Änderung gilt seit dem 27. Juli 2026. Seitdem kursiert die Lesart, alles sei auf 2027 verschoben. Das stimmt nicht: Verschoben sind ausschließlich die Pflichten für Hochrisiko-Systeme, sonst nichts.

Für Einrichtungen, die KI nur nutzen und damit Betreiber sind, nicht Hersteller, bleiben aus der Tabelle zwei Zeilen, die sofort greifen: Artikel 4 zur KI-Kompetenz und Artikel 5 zu den verbotenen Praktiken. Durchgesetzt werden beide von den nationalen Marktüberwachungsbehörden, den Stellen, die die Einhaltung vor Ort prüfen, und zwar seit dem 2. August 2026 (Europäische Kommission, 2026). Wer 2027 anfangen will, hat damit zwei Pflichten offen, die schon seit anderthalb Jahren gelten.

In Deutschland ist diese Marktüberwachungsbehörde die Bundesnetzagentur, benannt nach § 2 Absatz 1 des KI-Marktüberwachungs- und Innovationsförderungsgesetzes (KI-MIG).

Rein nationale Ordnungswidrigkeiten kann sie nach § 15 Absatz 3 KI-MIG mit bis zu 50.000 Euro ahnden, das ist aber die kleinere Zahl.

Daneben bleiben die Bußgeldrahmen aus der KI-Verordnung selbst unberührt und reichen weiter: bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes bei verbotenen Praktiken, sonst bis zu 15 Millionen oder 3 Prozent (Artikel 99 KI-Verordnung, 2024).

Wer nur auf die KI-Verordnung schaut, prüft am eigentlichen Problem vorbei: Die Grenze verläuft im Bereichsrecht, den Fachgesetzen zu Datenschutz, Sozialrecht und Schweigepflicht, die für Ihr Arbeitsfeld ohnehin schon gelten. Gesundheitsdaten und andere besondere Kategorien personenbezogener Daten sind nach Artikel 9 Absatz 1 DSGVO grundsätzlich verboten zu verarbeiten. Die Ausnahme nach Absatz 2 muss dabei für alle drei Schritte vorliegen: für die Eingabe, für die Verarbeitung und für die Ausgabe, nicht nur für einen davon.

Beim KI-Einsatz wird zudem vielfach eine Datenschutz-Folgenabschätzung nötig, eine vorab dokumentierte Prüfung der Risiken für die betroffenen Personen (Artikel 35 DSGVO, DSK 2024).

Im Sozialrecht kommt eine eigene Schicht hinzu. Für Stellen, die dem Sozialgeheimnis nach § 35 SGB I unterliegen (der Pflicht, Sozialdaten geheim zu halten), begrenzt § 80 SGB X die Auslagerung an externe Anbieter. Die Aufsicht muss vorher informiert werden, die Verarbeitung darf nur im Inland, in der EU oder in einem Staat mit Angemessenheitsbeschluss stattfinden, und für nicht-öffentliche Auftragsverarbeiter kommt nach Absatz 3 eine zusätzliche Hürde hinzu.

Dann ist da die strafbewehrte Schweigepflicht. § 203 StGB erfasst in Absatz 1 Nummer 6 staatlich anerkannte Sozialarbeiter und Sozialpädagogen, in Nummer 4 die Ehe-, Familien-, Erziehungs-, Jugend- und Suchtberatung. Mitwirkende Personen, etwa ein KI-Anbieter, dürfen nach Absatz 3 einbezogen werden, soweit das erforderlich ist, Absatz 4 stellt sie dabei selbst unter Strafe.

BeispielAngenommen, eine Sozialarbeiterin lässt sich von einem Sprachmodell helfen, einen Bericht über ein Beratungsgespräch zu formulieren, und tippt dafür Namen und Gesprächsinhalt ein. Damit ist die anvertraute Information schon mit der Eingabe an einen Dritten weitergegeben, unabhängig davon, was später aus der Ausgabe wird.

Ein Auftragsverarbeitungsvertrag, wie ihn die DSGVO verlangt, deckt deshalb nur die datenschutzrechtliche Seite ab. Das Strafrecht deckt er nicht.

Daraus folgt, was die Verfahrensanweisung regeln muss: eine Antwort auf drei Fragen. Welche Daten sind erlaubt, wer gibt eine KI-Ausgabe frei, und wer steht für den Inhalt gerade?

Datenarten statt Werkzeuge

Naheliegend ist, einzelne Produkte zu regeln: dieses Werkzeug erlaubt, jenes nicht. Ich halte das für den falschen Ansatz, solche Sätze altern innerhalb eines Quartals, weil laufend neue Werkzeuge dazukommen. Tragfähiger ist die umgekehrte Achse: Welche Datenkategorien dürfen überhaupt in ein KI-System gelangen, und welche Freigabe braucht es dafür. Die einzelnen Werkzeuge gehören deshalb nicht in den Text der Anweisung, sondern in eine datierte Positivliste als mitgeltendes Dokument, das sich austauschen lässt, ohne die Anweisung neu freizugeben.

Eine Freigabe, die tatsächlich stattfindet

Wo eine KI-Ausgabe in eine Entscheidung mit Rechtswirkung für eine Person einfließt, etwa in eine Einstufung oder eine Leistungsempfehlung, greift Artikel 22 DSGVO. Er verlangt eine echte menschliche Prüfung vor der Entscheidung. Die Datenschutzkonferenz ist dazu deutlich geworden: Unzureichende Personalressourcen, Zeitdruck und fehlende Transparenz dürfen nicht dazu führen, dass Ergebnisse ungeprüft übernommen werden.

BeispielAngenommen, eine KI-gestützte Auswertung schlägt vor, eine Teilhabeleistung zu reduzieren, weil die erfassten Daten das nahelegen. Eine Fachkraft muss diesen Vorschlag inhaltlich prüfen und begründen können, warum sie ihm folgt oder nicht, bevor daraus eine Entscheidung wird.

Wer in die Anweisung schreibt, die Pflegedienstleitung gebe frei, ohne dafür Zeit vorzusehen, hat die Pflicht dokumentiert und nicht erfüllt. Die Festlegung braucht deshalb beides zugleich: die Rolle, die prüft, und den zeitlichen Rahmen, der ihr dafür bleibt.

Verantwortung für den Inhalt

KI-erzeugte Dokumentation wird in der Prüfung behandelt wie jede andere, eine Sonderrolle hat sie nicht. Die Qualitätsprüfungs-Richtlinien für ambulante Dienste gelten seit dem 1. Juli 2026 und richten die Prüfung stärker auf die Ergebnisqualität aus, also darauf, ob die Versorgung tatsächlich passt, nicht nur, ob ein Eintrag vorliegt (Medizinischer Dienst Bund, 2025). Ein glatter Eintrag, der die Situation nicht abbildet, ist dort wertlos. Die Anweisung braucht deshalb einen eigenen Satz zur inhaltlichen Verantwortung: wer den Text liest, bevor er in die Akte geht, und wer dafür einsteht, dass er stimmt.

Zwei Punkte werden in der Praxis häufig übersehen: der Nachweis der Kompetenz und die Beteiligung der Mitarbeitervertretung, bevor eine Regelung gilt.

Schulung als Vorgang, nicht als Termin

Das Bundesministerium für Digitales und Staatsmodernisierung und die Bundesakademie für öffentliche Verwaltung haben gemeinsam ein Raster für Schulungskonzepte nach Artikel 4 veröffentlicht. Es nennt acht Bausteine, darunter die Einführungsschulung vor dem ersten Einsatz, eine regelmäßige Auffrischung und eine Nachschulung bei Systemwechseln und Rechtsänderungen (BMDS und BAköV, 2025). Das Papier richtet sich zwar an die Bundesverwaltung und ist älter als der Omnibus, der selbst ein solcher Anlass war. Die Systematik dahinter lässt sich trotzdem auf soziale Einrichtungen übertragen.

Gleichzeitig ist die Pflicht milder, als viele kommerzielle Angebote suggerieren. Die EU-Kommission stellt in ihren FAQ klar: kein vorgeschriebenes Kompetenzniveau, keine Zertifizierungspflicht, keine Pflicht, das Wissen zu messen (Europäische Kommission, 2026). Nachweisbar sein müssen nur die Maßnahmen selbst. Ohne Aufzeichnung gibt es im Zweifel keine Bemühung, deshalb halte ich ein einfaches Schulungsverzeichnis für den sinnvollsten Aufwand: wenig Arbeit, aber im Ernstfall der Beleg.

Mitarbeitervertretung vor Inkraftsetzung

Für § 87 Absatz 1 Nummer 6 BetrVG genügt schon, dass eine technische Einrichtung zur Verhaltens- oder Leistungskontrolle objektiv geeignet ist, tatsächlich genutzt werden muss sie dafür nicht.

Das Arbeitsgericht Hamburg hat ein Mitbestimmungsrecht trotzdem verneint, solange Beschäftigte ein Werkzeug nur über den Browser aufrufen und der Arbeitgeber dabei keine Nutzungsdaten sieht (16.01.2024, 24 BVGa 1/24). Stellt die Einrichtung dagegen betriebliche Zugänge bereit, kippt diese Einschätzung regelmäßig.

BeispielAngenommen, eine Pflegedienstleitung führt für die Dokumentation ein KI-gestütztes Diktierwerkzeug mit betrieblichem Zugang ein, ohne die Mitarbeitervertretung vorher zu informieren. Sobald sich damit auswerten ließe, wer wie oft und wie schnell dokumentiert, ist die Einführung mitbestimmungspflichtig, selbst wenn das nie jemand tatsächlich auswertet.

Das Landesarbeitsgericht Hessen hat zudem entschieden, dass Datenschutzrecht selbst nicht der erzwingbaren Mitbestimmung unterliegt (05.12.2024, 5 TaBV 4/24). Eine Entscheidung des Bundesarbeitsgerichts, die das grundsätzlich klärt, fehlt bislang. Bei kirchlichen Trägern greifen anstelle des BetrVG die eigenen Mitarbeitervertretungsordnungen, MAVO oder MVG-EKD, veröffentlichte Rechtsprechung dazu gibt es kaum.

Das Dokument lenken

Die Verfahrensanweisung gehört zuletzt in die Lenkung dokumentierter Information nach Kapitel 7.5 der ISO 9001, in die Auditplanung nach 9.2 und in die Managementbewertung nach 9.3. Die am 16. September 2026 veröffentlichte ISO 9001:2026 enthält kein eigenes Kapitel zu Künstlicher Intelligenz (DIN Media, 2026). Und eine Zertifizierung nach ISO/IEC 42001, einer eigenen Norm für KI-Managementsysteme, begründet dabei keine Konformitätsvermutung.

Die Frage, an der sich die Verfahrensanweisung entscheidet, lässt sich auf einen Punkt bringen: Welche Daten dürfen in welches System, und was muss dafür vorher festgelegt sein. Die folgende Matrix ordnet das für fünf Datenarten und drei Verarbeitungswege.

Die Schritte setzen kein neues Managementsystem voraus, sie schließen eine Lücke im vorhandenen.

1. Erheben, was tatsächlich läuft

   Fragen Sie in den Teams sanktionsfrei ab, welche Werkzeuge wofür genutzt werden. Wer vor dieser Erhebung schreibt, verbietet Praktiken, die weiterlaufen.

2. Festlegen, welche Datenarten erlaubt sind

   Beschreiben Sie die Kategorien, die Ihr Haus verarbeitet, und entscheiden Sie je Kategorie. Die Werkzeuge kommen in eine datierte Positivliste, nicht in den Text der Anweisung.

3. Ausschließen, was die KI-Verordnung verbietet

   Schließen Sie Emotions- und Stimmungsanalysen bei Beschäftigten ausdrücklich aus. Prüfen Sie dabei Funktionen, die Ihre Telefonie- oder Dokumentationssoftware bereits mitbringt.

4. Hinterlegen, wer freigibt und mit wieviel Zeit

   Benennen Sie die Rolle, die eine Ausgabe vor der Verwendung prüft, und den Zeitrahmen dafür. Ohne den zweiten Teil ist die Festlegung nicht belastbar.

5. Aufbauen und dokumentieren, was an Kompetenz nötig ist

   Planen Sie Einführungsschulung, regelmäßige Auffrischung und Nachschulung bei Systemwechseln und Rechtsänderungen. Legen Sie ein schlichtes Verzeichnis an: Datum, Inhalt, Teilnehmende.

6. Beteiligen, bevor die Regelung gilt

   Holen Sie Betriebsrat oder Mitarbeitervertretung an den Tisch, bevor die Regelung gilt, besonders wenn Zugänge gestellt oder Nutzungen protokolliert werden.

7. Lenken, was Sie festgelegt haben

   Geben Sie der Anweisung Eigentümer, Freigabedatum und Wiedervorlage. Nehmen Sie sie in Auditplanung und Managementbewertung auf, sonst ist sie nach dem nächsten Modellwechsel Altpapier.

Christian Monat

Externer Qualitätsmanagementbeauftragter aus Chemnitz. Berufserfahrung in Eingliederungshilfe, Sozialpsychiatrie und Suchthilfe, seit 2019 in Leitungsfunktionen.