Künstliche Intelligenz (KI) in der öffentlichen Verwaltung wird bereits bei der Bewilligung von Sozialleistungen wie Arbeitslosengeld, Wohngeld oder Sozialhilfe eingesetzt. 

Untersuchungen des Max-Planck-Instituts für Bildungsforschung haben ergeben, dass gerade Menschen, die auf solche Leistungen angewiesen sind, automatisierten Entscheidungen besonders skeptisch gegenüberstehen. Um Vertrauen und Akzeptanz für KI-gestützte Systeme zu gewinnen, müssen die Perspektiven der Betroffenen berücksichtigt werden.

Solche Systeme versprechen zwar mehr Effizienz und schnellere Entscheidungen, bergen aber zugleich die Gefahr, Vorurteile zu verstärken, Vertrauen zu untergraben und vulnerable Gruppen unverhältnismäßig stark zu belasten, so die Forschenden.