Führungskräfte von Organisationen aus der Sozialwirtschaft halten Künstliche Intelligenz (kurz KI) überwiegend für eine sehr wichtige Schlüsseltechnologie. Das hat eine Studie der Katholischen Universität Eichstätt-Ingolstadt (KU) ergeben, deren Erstellung von dem Beratungsunternehmen Althammer & Kill unterstützt wurde. 185 Sozialträger und 27 Softwarefirmen gaben Auskunft zu ihrer Haltung und zum Einsatz dieser Zukunftstechnologie. Ihren Kenntnisstand zu KI beurteilen die Befragten aus der Sozialbranche mit 53 Prozent mehrheitlich als mittelmäßig, 22 Prozent als gering und sehr gering. Das kann zum Problem werden, wenn es darum geht, KI-basierte Anwendungen für Pflege und Betreuung richtig einzuschätzen.
Dementsprechend niedrig ist der tatsächliche Einsatz von KI – besonders, wenn es um den Einsatz in der direkten Klientenarbeit geht: Nur acht Prozent nutzen diese bereits, 80 Prozent können sich die künftige Nutzung vorstellen. Die Motivation, KI in der eigenen Organisation einzusetzen, ist am höchsten, wenn es um die effiziente Gestaltung von Verwaltungsprozessen geht. Risiken sehen die Befragten dagegen an vielen Stellen: Datenschutzprobleme, die Diskriminierung von Menschen, die Angst von Mitarbeitenden oder die Fehlerhaftigkeit von KI-Entscheidungen werden hier am stärksten gewichtet. „Die Befragten sind sich ihrer Verantwortung im Umgang mit den ihnen anvertrauten Menschen und den damit einhergehenden schützenswerten Daten sehr bewusst“, sagt Helmut Kreidenweis, Professor für Sozialinformatik an der KU und Autor der Studie.
Dabei ist der Einsatz von KI-gestützten Systemen im Kontext von Datenschutz nicht grundsätzlich problematisch. Vielmehr kommt es darauf an, was mit Hilfe von KI erreicht werden soll und wie die konkrete Implementierung erfolgt. „Es ist zum Beispiel mittels neuartiger Technologien wie ‚Grounding‘ und ‚Retrieval-augmented Generation‘ möglich, Daten aus Fachanwendungen in Verbindung mit Sprachmodellen zu nutzen, ohne dass ein spezielles Training und die Speicherung von Klientendaten in neuronalen Netzen erforderlich ist“, ergänzt Thomas Althammer, Geschäftsführer der Althammer & Kill GmbH & Co.KG.
Knowhow-Defizite bremsen Einsatz von KI in der Sozialwirtschaft
Als größte Hürden für den KI-Einsatz sehen die Befragten die Knowhow-Defizite in der eigenen Organisation (87 Prozent), ethische Hürden werden demgegenüber deutlich geringer bewertet (57 Prozent). Ein sehr hoher und hoher Unterstützungsbedarf wird fast durchweg formuliert, vor allem aber bei der Auswahl und Einführung von KI-Technologien (90 Prozent) sowie bei der Verbesserung des allgemeinen Wissensstandes zu KI in der eigenen Organisation (88 Prozent).
Wenn es um die verwaltungs- oder steuerungsbezogene Nutzung geht, sind Chatbots wie ChatGPT (43 Prozent) und der KI-gestützte Rechnungseingang (30 Prozent) inzwischen am weitesten verbreitet. Die Befragung hat aber auch gezeigt, dass zwölf Prozent der Befragten KI weder jetzt noch in der Zukunft nutzen möchten. Insgesamt erwecken die Ergebnisse den Eindruck, dass es beim Thema KI auf einen guten Dialog und einen offenen Austausch über Erwartungen und Potenziale ankommt, Wissenslücken geschlossen werden und Vertrauen aufgebaut wird.
Software-Anbieter agieren zurückhaltend
Die Befragung der Anbieter von Branchensoftware für die Sozialwirtschaft ergab, dass die Potenziale dieser Technologie zwar gesehen werden. Das aktuelle Angebot und die Planungen der Firmen im KI-Bereich sprechen jedoch nicht dafür, dass KI in absehbarer Zeit zu einem tragenden Element in der Geschäftspolitik dieser Firmen wird. So gab etwa die Hälfte der Unternehmen an, auf absehbare Zeit keinen KI-Einsatz zu planen. Am häufigsten sind derzeit Standardanwendungen wie KI-gestützte Texterkennung und -generierung in die Programme integriert. KI-gestützte Dienstplanung oder Analysen klientenbezogener Daten werden dagegen noch von keiner der teilnehmenden Firmen angeboten.
Weitere Informationen und die gesamte Studie finden Sie unter https://www.althammer-kill.de/ki-studie-sozialwirtschaft und https://www.sozialinformatik.de/.
Über die Katholische Universität Eichstätt-Ingolstadt (KU):
Die KU ist die einzige katholische Uni im deutschen Sprachraum. Die für Studierende aller Bekenntnisse offene Uni bietet etwa 70 Studiengänge und zählt rund 5000 Studenten und 120 Professoren an acht Fakultäten in Eichstätt und Ingolstadt. Die Arbeitsstelle für Sozialinformatik, angesiedelt an der Fakultät für Soziale Arbeit, befasst sich mit der Digitalisierung in der Sozialwirtschaft und hat seit ihrer Gründung in mehr als 25 Auftragsforschungen und Projektbegleitungen praktische und wissenschaftlich fundierte Ergebnisse geliefert. Seit 2007 gibt die Arbeitsstelle den „IT-Report für die Sozialwirtschaft“ heraus.