Künstliche Intelligenz in der Pflege
KI in der Pflege unter Berücksichtigung von Datenschutz und Informationssicherheit
KI etabliert sich immer mehr in unserem Alltag,
sowohl im privaten als auch im beruflichen Kontext. Dabei rückt die Gestaltung der KI-Modelle immer mehr in den Fokus, wobei Datenschutz und Informationssicherheit ein wichtiger Aspekt ist. Wir unterstützen die voize GmbH bei der datenschutzkonformen KI-Entwicklung.
Das junge Unternehmen voize aus Potsdam ist vom StartUp zum Kleinunternehmen gewachsen. Das Ziel von voize ist es, mit einer eigenentwickelten KI administrative Aufgaben innerhalb der Pflege zu automatisieren, sodass Pflegekräfte mehr Zeit für das Zwischenmenschliche haben. Dies ist aus einer Idee von Fabio (CEO) und Marcel (COO) Schmidberger, entstanden, als ihr Opa in einem Pflegeheim unterkam und sie feststellen mussten, wie aufwändig die Pflegedokumentation ist. In enger Zusammenarbeit mit Pflegeheimen und den Usern haben sie die KI konzipiert und entwickelt. Mittlerweile wird die voize-KI deutschlandweit und auch branchenübergreifend eingesetzt.
Innovator in der Pflegedokumentation – Voize ist ein Unternehmen aus Potsdam, das sich auf die Automatisierung administrativer Aufgaben in der Alten- und Krankenpflege spezialisiert hat. Durch den Einsatz künstlicher Intelligenz entwickelt Voize Lösungen, die den Dokumentationsprozess effizienter gestalten und Pflegekräften mehr Zeit für ihre eigentlichen Aufgaben lassen. Die Gründung von Voize geht auf die persönliche Erfahrung der Gründer mit der zeitintensiven Pflegedokumentation im Pflegeheim ihres Großvaters zurück. Heute bietet das Unternehmen benutzerfreundliche Systeme, die sich nahtlos in den Arbeitsalltag von Gesundheitseinrichtungen integrieren lassen. Voize wird bundesweit in verschiedenen Einrichtungen des Gesundheitswesens eingesetzt.
Exkurs Sprachassistenten
Digitale Sprachassistenten fanden mit dem Smartphone Einzug in unseren Alltag. Siri machte 2011 auf dem iPhone 4s den Anfang, Microsofts Cortana erschien 2014 und der Google Assistent zog 2016 nach. Bei allen Vorteilen und Erleichterungen, die die Assistenten im Alltag bringen mögen, ganz unbedenklich sind sie nicht. Das BSI warnt: „Durch die Speicherung privater Daten in der Cloud können Gefährdungen für die Sicherheit Ihrer Daten entstehen“.
Stichwort
Wakeword
Ein „Wake word“ ist ein Trigger für eine KI, der signalisiert, dass ein Sprachassistent aktiviert werden soll.
Wie funktioniert die KI von voize?
Die KI ist eine Kombination aus Spracherkennung, Texterkennung und hinterlegten Formularen. Die KI wird als App oder per API-Einbindung in das bestehende Dokumentationssystem integriert. Per Knopf-Druck oder via „Wake Word“ kann die Pflegefachkraft ihren Eintrag diktieren, z. B. „Max Mustermann hat einen Blutdruck von 80/120“.
Die KI erkennt die Sprache und wandelt sie zuerst in Text um und fügt sie dann in einen entsprechenden Pflegebericht ein. Die pflegende Person bestätigt diesen Eintrag und die Daten können einfach in das Pflegedokumentationssystem hochgeladen werden. Die Spracherkennung und Umwandlung in Text funktionierten nicht nur im Bereich der Pflege, sondern werden auch bereits beim TÜV im Rahmen der Prüfung von Kraftfahrzeugen genutzt.
Wie lernt KI?
Eine KI lernt in der Regel, indem sie große Mengen an Daten analysiert und Muster oder Regeln darin findet. Es gibt verschiedene Arten des Lernens, darunter: Überwachtes Lernen: Die KI wird mit Eingabedaten und den entsprechenden richtigen Ausgaben trainiert, damit sie gezielt Muster erkennen und Vorhersagen treffen kann.
Unüberwachtes Lernen: Die KI lernt aus Daten, ohne dass die Ausgabe explizit vorgegeben ist. Sie sucht selbstständig nach Mustern oder Gruppierungen in den Daten.
Bestärkendes Lernen: Die KI lernt durch Ausprobieren und Erhalten von „Belohnungen“ oder „Bestrafungen“ basierend ihrer Handlungen und Ergebnisse. Sie passt ihre Strategien an, um bessere Ergebnisse zu erzielen. Durch diese Lernmethoden kann die KI ihre Leistung im Laufe der Zeit verbessern und Aufgaben effizienter bewältigen. Je mehr Datenquellen der KI zur Verfügung stehen und je öfter sie trainiert wird, desto besser werden die Ergebnisse.
Beispiel
Eine Bild-KI soll lernen, was ein Hund ist. Es werden nur Bild-Dateien von Beagles als Lerndaten eingegeben. Hierbei lernt die KI aber nur, dass ein Beagle ein Hund ist, jedoch nicht, dass ein Beagle nur eine Rasse von vielen ist. Die Lerndaten müssen also vielfältiger sein, in diesem Beispiel von vielen Hunderassen, damit die Ausgabe stimmt.
Anwendung vs. Lernen
Bei der Modellierung des KI-Systems gab es zwei große Herausforderungen: Zum einen war ein großes Anliegen von voize das KI-Modell so zu gestalten, dass Datenschutz und Informationssicherheit in der Anwendung im Alltag stets gewahrt werden und den hohen Anforderungen des Schutzniveaus der Kundinnen und Kunden im Bereich Pflege entspricht.
Bei bekannten, gängigen KIs ist das Problem, dass diese nur mit einer bestehenden Internetverbindung funktionieren. Das ist meist notwendig, da die KIs auf die eigenen Server zugreifen müssen, um die Daten bzw. die Anfrage bearbeiten zu können. Das bringt viele Problematiken mit (wie schon im Bericht zu Alexa in der Pflege aufgezeigt).Da voize ebenfalls ein Sprachmodell ist, sollte eben diese Befürchtung nicht die Software überdecken. Die Frage war also, wie kann das KI-Modell dennoch funktionieren, wenn keine Daten an voize bzw. an Server außerhalb einer Pflegeorganisation übermittelt werden dürfen? Die Lösung bestand darin, die KI per App lokal auf dem Endgerät der Pflegefachkräfte (meistens Smartphone) zu installieren.
Der Workflow sieht entsprechend so aus: Die App wirdauf einem Endgerät lokal installiert. Im Inneren der KI verbergen sich zum einen die Sprachzu-Text-Erkennung als auch die entsprechenden Formulare, die in der Pflege wichtig sind. Gibt eine Fachkraft nun den Text per Sprache ein, wird das entsprechende Formular aus dem Pflegesystem ausgewählt und die Informationen eingefügt. Die Daten werden in das jeweilige Dokumentationssystem hochgeladen. Es besteht keine Datenverbindung zu voize.
Die zweite Herausforderung bestand darin, die Weiterentwicklung der KI datenschutzkonform zu gestalten, da in Pflegeeinrichtungen fast ausschließlich Gesundheitsdaten verarbeitet werden. Ein direktes Lernen dieser Daten wurde von Beginn an ausgeschlossen.Die Lösung bestand darin, dass das Gesprochene lokal auf dem Handy anonymisiert wird. Der Text „Herr Max Mustermann hat einen Blutdruck von 80/120” wird in vier Segmente aufgespalten: „Herr“, „Max“, „Mustermann“ und „hat einen Blutdruck von 80/120“. Die namensbezogenen Teile werden herausgetrennt, somit kann voize keinen Personenbezug zu den Bewohnenden herstellen. Mit diesen anonymisierten Daten wird die KI trainiert und verbessert.
„Eine große Herausforderung bestand darin, Gesundheitsdaten datenschutzrechtlich konform zu nutzen, denn ein direktes Lernen von diesen Daten ist ausgeschlossen.“
Ein stetiger Prozess
Eine große Herausforderung ist es, die einzelnen Verarbeitungsschritte stets klar zu definieren und voneinander zu trennen, beispielsweise die Verwendung der App und das Lernen des Systems. Dabei muss jeweils sowohl das Risiko definiert als auch eine Rechtsgrundlage dargelegt werden. Abzugrenzen ist hier die Verantwortlichkeit durch voize als Auftragsverarbeiter und der jeweils verantwortlichen Pflegeeinrichtung beim Einsatz der Software. Dabei wird je Verarbeitungszweck auch auf die Grundlagen des Datenschutzes, wie beispielsweise privacy by default, geachtet. Einwilligungen müssen
entsprechend den Vorgaben aus dem geltenden Datenschutzgesetz eingeholt, hinterlegt und auch bei Widerruf der Einwilligung beachtet und umgesetzt werden.
Weitere Funktionen innerhalb der App werden stetig geprüft und, falls notwendig, angepasst, bevor sie in das Live-System gehen. Im gesamten Prozess der Entwicklung stehen voize und Althammer & Kill jederzeit im engen Austausch.
Nochmal in Ruhe nachlesen?
Um Ihnen ein komfortableres Lesen und Speichern unserer Inhalte zu ermöglichen, bieten wir alle wichtigen Informationen und Artikel auch als PDF-Download an. Die PDFs können bequem auf Ihrem Gerät gespeichert und jederzeit, auch offline, gelesen werden. Darüber hinaus lassen sich die Dokumente einfach mit anderen Personen teilen. Bewahren Sie die Inhalte übersichtlich in Ihrem digitalen Archiv auf und genießen Sie das bequeme Lesen unserer Artikel.
Sie möchten unsere nächste Case Study werden?
Kontaktieren Sie uns gerne. Unsere Experten stehen Ihnen jederzeit zur Verfügung. Informationen zum Umgang mit Ihren Daten können Sie unseren Datenschutzhinweisen entnehmen.