ADR-004: Human-in-the-Loop als Pflicht

Status: Accepted Datum: 2026-03-21 Entscheider: Tarek, Strategic Claude

Kontext

KI-Agenten in Xolib koennen Aktionen mit rechtlicher oder finanzieller Wirkung vorschlagen (Mahnungen, Mieterhoehungen, Kuendigungen).

Entscheidung

Kein AI-Agent darf Aktionen mit rechtlicher/finanzieller Wirkung automatisch ausfuehren. Menschliche Freigabe ist Pflicht.

Begruendung

Art. 22 DSGVO verbietet automatisierte Einzelentscheidungen mit rechtlicher Wirkung. EuGH Schufa-Urteil (C-634/21) legt Art. 22 weit aus. Verstoesse kosten bis 20 Mio EUR oder 4% Jahresumsatz. Betroffene Workflows: Bank-Matching -> Mahnung, Mietanpassung -> Erhoehung, Churn-Score -> Kuendigung.

Konsequenzen

• requiresHumanApproval Flag auf AgentOutcome
• Prinzip 13 im Soll-Schema
• Agenten schlagen vor, Menschen entscheiden
• Audit-Trail fuer jede freigegebene Aktion