Als Computerlinguist und einer der führenden KI-Vordenker in Europa freut sich unser CEO Dr. Ramin Assadollahi stets über die Möglichkeit, sein Wissen zu Themen wie künstliche Intelligenz oder Sprachverarbeitung zu teilen. Zuletzt äußerte er sich im Gespräch mit Wohlfahrt Intern, einer verbandsunabhängigen Fachzeitschrift rund um Sozialwirtschaft, zu dem Potential von KI in der Gesundheits- und Sozialbranche sowie zu verschiedenen KI-relevanten Szenarien, für die er dank seiner Expertise abgewogene Handlungsempfehlungen aussprechen konnte. Seine umfangreichen Insights lesen Sie hier:
Auf KI ist mehr Verlass als auf einen Berater
Künstliche Intelligenz ist auf dem Vormarsch. Im Interview mit Wohlfahrt Intern spricht der Computerlinguist und Psychologe Ramin Assadollahi über das Potenzial der Technologie.
Angenommen Sie haben eine seltene, tödliche Krankheit. Ihre Ärztin mit vielen Jahren Berufserfahrung entscheidet sich für eine Behandlungsmethode. Die von ihr zurate gezogene künstliche Intelligenz (KI) plädiert für eine andere. Auf welches Urteil vertrauen Sie?
Wenn ich sterbenskrank wäre, würde ich generell die Meinung einer einzelnen Ärztin hinterfragen und mit mehreren sprechen. Das Ergebnis einer KI würde ich mir kritisch anschauen und sie befragen, wie sie zu einer bestimmten Behandlungsempfehlung gekommen ist. Eine Maschine sollte mir nicht die Richtung bei einer so wichtigen Entscheidung vorgeben. Am Ende muss ich mir meine eigene Meinung bilden und ich würde weder dem Menschen noch der KI den Vorrang geben. Ich denke aber, dass wir uns dahin entwickeln, dass eine KI deutlich mehr wissen kann als ein Mensch. Ein ideales Modell wäre, dass eine erfahrene Ärztin sich von einer KI unterstützen lässt, um mich zu beraten.
Weil es unterschiedliche Definitionen und häufig Abgrenzungsschwierigkeiten zu anderen Technologien gibt: Was ist KI und wie funktioniert sie?
KI ist ein System, das in der Lage ist, ein Problem zu lösen, das es vorher noch nie gesehen hat. Wichtig ist die Unterscheidung zwischen älterer und neuerer KI. Ältere KI besteht aus einer großen Menge von Regeln, die Experten zusammengetragen haben. Dar nn dann ein Chatbot oder ein anderes System entstehen, das intelligent erscheint. Neuere KI kann aus ganz vielen Beispieren lernen, über diese Beispiele hinaus abstrahieren und neue Dinge oder Inhalte produzieren. Dazu zählt der Chatbot ChatGPT. Ein solches System lässt sich wirklich als intelligent bezeichnen.
Seit Veröffentlichung von ChatGPT im November 2022 hat die öffentliche Debatte über die Anwendungsmöglichkeiten von KI eine neue Dynamik erreicht. Was ist neu an der Technik?
ChatGPT basiert auf einer Technologie, die ausrechnet, welche Wörter am wahrscheinlichsten aufeinander folgen. Deshalb gibt der Chatbot, der mit Millionen von Texten trainiert wurde, sprachlich sehr gut klingende Antworten. Dem System lassen sich auch bestimmte Muster antrainieren. Wenn es mit sehr vielen Texten trainiert wurde, kann es zum Beispiel ableiten, wie Menschen in Frage-Antwort-Kontexten reagieren. Es extrahiert also sprachliches Verhalten und lernt, wie Menschen sich in einer dialogischen Situation verhalten.
Welche neuen Potenziale ergeben sich aus dieser nächsten Generation von KI für die Sozialwirtschaft?
Bei Sprach-KI wie ChatGPT wäre eine Möglichkeit, ein Assistenzsystem zu schaffen, das zum Beispiel auf dem Wissen und den Erfahrungen von ganz vielen in der Pflege arbeitenden Menschen basiert. Ein Chatbot könnte dann situationsabhängig pflegebedürftigen Menschen Hilfestellung geben. Wenn es dann noch ein Interface gibt, das ohne Touchscreen funktioniert und ohne, dass man einen Laptop auspacken muss, wäre das sicher eine große Hilfe. In der Seelsorge sehe ich auch viel Potenzial. Ein KI-Chatbot könnte beispielsweise zeit- und ortsunabhängig in Situationen helfen, wo Menschen Fragen haben.
Wo gehört der Einsatz von KI in der Branche heute bereits zum Alltag?
Tatsächlich ist der Einsatz von KI noch nicht sehr verbreitet. Dabei gibt es sehr viele Möglichkeiten, allein bei der Verarbeitung von Dokumenten. Sterbeurkunden, MDK-Gutachten oder abrechnungsrelevante Dokumente könnte eine KI schnell analysieren, ordnen und so bürokratische Prozesse beschleunigen. Sachbearbeiter in der Branche sind teilweise mit der Quantität der Dokumente überfordert. Da ließe sich viel Potenzial heben.
Sie entwickeln mit dem von Ihnen gegründeten Unternehmen sprachverarbeitende Software-Produkte, die auf KI basieren. Womit werden Sie künftig in der Gesundheits- und Sozialbranche am meisten Geld verdienen?
Wir reduzieren mit unseren Produkten Bürokratie. Da haben viele Branchen großen Bedarf, vor allem die Gesundheitsbranche. Wir müssen alle Personen, die mit Menschen arbeiten, von Bürokratie befreien. Einen riesigen Markt sehe ich auch beim Zusammentragen von Wissen aus medizinischen Publikationen. Kein Mensch kann die alle lesen. Wir produzieren viel mehr medizinisches Wissen als wir konsumieren können. Diese Asymmetrie können wir nur mit Technologie aufheben. KI könnte auf Basis dieser Publikationen neue Wirkstoffe, Behandlungsformen oder Operationsmethoden entwickeln.
KI gilt als ein Schlüssel zur Lösung des Personalmangels in der Sozialwirtschaft. Sehen Sie das auch so?
In der Branche sind viele Beschäftigte überlastet. KI kann die Arbeitsplätze in der Sozialwirtschaft attraktiver machen und so vielleicht mehr Personal für die Branche gewinnen, zum Beispiel mit der schon angesprochenen Reduzierung von Bürokratie. Es könnte aber auch in Richtung psychologisches Coaching gehen, das eine KI bieten kann. Wenn Menschen sich den ganzen Tag mit Tod und Krankheit befassen, würde ein solches Coaching helfen. Viele wollen sich beruflich um Menschen kümmern, werden jedoch von den teilweise schlechten Arbeitsbedingungen abgestoßen.
Wir haben bisher nur von Pflege und Medizin gesprochen. Wie kann KI die Qualität von Leistungen in der Kinder- und Jugendhilfe oder Eingliederungshilfe verbessern?
In Kitas ist die Frage spannend, was Maschinen oder Roboter leisten könnten. Kleine Roboter könnten beispielsweise Kindern im Garten die Blumen erklären oder zeigen, wie man Türme baut. Die Einsatzmöglichkeiten sind vielfältig. Bei Menschen mit Behinderung kommt es auf die Art der Behinderung an. Bei körperlicher Behinderung helfen Robotik oder Implantate. Sowohl Implantate, die mich wieder laufen lassen, als auch Roboter werden immer mehr auf KI basieren, die mit neuronalen Netzen arbeiten. Diese KI liest die Körpersignale und setzt sie in technisch bessere Rollstühle oder Gehhilfen um. Bei der Verbesserung von Leistungen für geistig Behinderte durch KI fehlt mir ein bisschen die Fantasie. Da ist sicherlich viel möglich, aber noch viel Forschung nötig.
Anwendungsideen von KI in der Sozialwirtschaft reichen bis zur Priorisierung von Hilfebedürftigen auf Wartelisten. KI könnte künftig abhängig von einem errechneten Abbruchrisiko zum Beispiel entscheiden, ob jemand einen Platz in einer Suchtklinik bekommt. Wie heikel ist diese Art der Prognostik?
Im Sozial- und Gesundheitsbereich werden, wie auch in allen anderen Branchen, ständig Entscheidungen getroffen. Bei einem Tumor beraten beispielsweise Ärztinnen und Ärzte verschiedener Fachrichtungen über das Vorgehen bei der Behandlung. Diese Expertinnen und Experten tauschen ihre Meinung und ihr Wissen auf Grundlage ihrer Erfahrungen aus. Die Wahrscheinlichkeit, dass diese fünf Menschen bei ihrer Entscheidung am Ende richtig liegen, ist höher, als wenn eine einzelne Person entscheidet. Mit KI ist es möglich, wie bei dem von Ihnen angesprochenen Beispiel, mit genügend gesammelten Daten noch viel mehr Wissen in so eine Entscheidung reinzustecken. Wenn sich dann am Ende beweisen lässt, dass die von der KI getroffene Entscheidung richtig war, dann dürfte sie aus meiner Sicht solche Entscheidungen übernehmen, auch wenn es vielleicht erst einmal sehr kühl und ungewohnt erscheint. Aber mir wäre es als Suchtkranker vielleicht lieber, wenn eine Maschine eine objektive Entscheidung fällt als I t, der schlecht gelaunt ist, nicht gut geschlafen hat oder mich nicht leiden kann. Es gibt viele menschliche Faktoren, die eine u-sektive Entscheidung möglicherweise konterkarieren. Ich wäre deshalb dafür, dass wir bei solchen Entscheidungen KI zumindest unterstützend einbeziehen.
Soziale und emotionale Faktoren beeinflussen menschliche Entscheidungen nicht nur negativ. Sie können Grundlage dafür sein, dass etwa das Bauchgefühl einer Sozialarbeiterin am Ende zu einer für einen hilfebedürftigen Menschen besonders hilfreichen Maßnahme führt. Lässt sich einer Kl ein Bauchgefühl antrainieren?
Ja, wenn als Grundlage genügend Daten über von Menschen gefällte Entscheidungen zur Verfügung stehen. Und dann muss auch klar sein, welche Daten der Mensch eingeholt hat, um die Entscheidung zu fällen. Auf dieser Grundlage ließe sich eine Art Bauchgefühl nachbilden.
Für immer mehr Entscheidungen von immer größerer Tragweite könnte KI dem Menschen Vorschläge machen. Führungskräfte von Unternehmen müssen sich künftig vielleicht rechtfertigen, wenn sie anders als die KI entscheiden. Wie sollen sie mit diesem neuen Druck umgehen?
Neuen Druck wird es da nicht geben, denke ich. Führungskräfte, die sich gegen die Empfehlungen eines Beratungsunternehmens entscheiden, müssen sich auch rechtfertigen. Ich glaube sogar, eine halbwegs objektiv und frei von Interessen Dritter gestaltete KI ist hilfreicher für Führungskräfte. Auf eine KI, die man eingehend befragen kann und die auf Grundlage objektiver Daten Empfehlungen ausspricht, ist möglicherweise mehr Verlass als auf ein interessengeleitetes Beratungsunternehmen. Mit dieser Aussage mache ich mir wahrscheinlich Feinde.
Wer haftet dafür, wenn eine KI aufgrund lückenhafter Daten oder Programmierung zu falschen Ergebnissen kommt und ein Mensch Schaden nimmt?
Die Autobranche hat diese Diskussion beim Thema autonomes Fahren jeden Tag. In der Gesundheitsbranche ist sie bisher noch nicht so stark. Haftungstechnisch sind aber schon ganz viele Situationen juristisch geregelt, zum Beispiel im Medizinproduktegesetz. Dieser Rahmen wird im Hinblick auf den Einsatz von KI in Zukunft sicher erweitert.
Für die Anwendung von KI in der Sozialwirtschaft sind IT-Fachkräfte nötig. Doch die sind Mangelware. Wie kann die Sozialwirtschaft sie für sich gewinnen?
Ich glaube nicht, dass für die Anwendung von Kl in der Sozialwirtschaft zwingend in der Branche arbeitende IT-Fachkräfte notwendig sind. Die meisten Kl-Produkte für die Branche werden nicht von der Sozialwirtschaft selbst entwickelt, sondern von Start-ups und IT-Unternehmen, die einen Markt wittern, der skaliert. Die Frage ist, wie viel Geld sie in der Branche verdienen können. Meiner Erfahrung nach nimmt die Sozial- und Gesundheitswirtschaft Innovationen nur dann an, wenn sie von der ersten Minute an Geld sparen. Für explorative Innovationen hat die Branche schlicht und ergreifend kein Geld. Ich sehe im Moment nicht, dass sich das ändern wird.
Eine KI ist nur so gut wie die Daten, mit denen sie trainiert wurde. Sozialunternehmen könnten Daten über ihre Klientinnen und Klienten für die Entwicklung von KI zur Verfügung stellen. Was halten Sie von dieser Idee? Grundsätzlich finde ich die Idee gut. Die Menge der Daten, die wir nutzen könnten, um in der Gesundheits- und Sozialbranche noch viel bessere Entscheidungen zu fällen, ist riesig. Die Krankenkassen haben einen Datenschatz von über 80 Millionen Menschen. Wir als Gesellschaft haben nur noch nicht den Entschluss gefällt, sie auch zu nutzen. Ich bin ein großer Fan von Datenschutz. Die Frage ist aber, ob wir nicht persönliche Daten aus diesen Datensätzen so entfernen könnten und sollten, um den Rest für die Entwicklung von KI zu nutzen. Aber in dieses Thema stecken wir zu wenig Geld, Arbeit und Forschung. Da berauben wir uns ganz vieler Möglichkeiten. Ich kenne Leute, die im Ethikrat der Bundesregierung gesessen haben und die sagen, wenn wir Daten nicht nutzen, um Leute gesünder zu machen, ist das unterlassene Hilfeleistung.
Sehen Sie beim Einsatz von KI eine rote Linie, die in der Sozialwirtschaft nicht überschritten werden sollte?
Bei Medikations- und Behandlungsempfehlungen wäre ich vorsichtig. Im Bereich Diagnose ist KI schon relativ gut, aber nicht in jedem Bereich. In den meisten Fällen würde ich sagen, dass bei der Wahl von Medikamenten oder Behandlungen immer auch ein Mensch involviert sein sollte. KI ist eine objektive Zweitmeinung. Die Erstmeinung sollte immer noch beim Menschen liegen.
Der Erfinder
Ramin Assadollahi ist nicht nur Computerlinguist und Psychologe. Der 49-Jährige ist auch Unternehmer und Besitzer von 20 Patenten im Bereich maschinelle Sprachverarbeitung. Die Auseinandersetzung mit Sprache ist der rote Faden seines Lebens. Schon mit zwölf Jahren programmierte er seinen ersten Chatbot. Seit über 20 Jahren ist Assadollahi Geschäftsführer des von ihm gegründeten Unternehmens ExB Labs, das dokumentenverarbeitende KI-Software herstellt. Die Produkte des Unternehmens helfen zum Beispiel, unterschiedliche Dokumente in Sekunden zu verarbeiten und Arbeitsabläufe zu automatisieren. 2010 hat Assadollahi eine von ihm entwickelte Texteingabe-Technologie in 72 Sprachen an Nokia verkauft. Er war einer der ersten 20 Computerlinguistik-
ExB – Ihre Plattform für intelligente Dokumentenverarbeitung
Wir von ExB sind uns der zahlreichen Vorteile von künstlicher Intelligenz bewusst und nutzen diese aktiv, um das Arbeitsleben in vielen Bereichen und Branchen zu erleichtern. Unsere KI-gestützte IDP-Plattform (Intelligent Document Processing) ist in der Lage, verschiedenste Arten von Dokumenten in Sekundenschnelle zu verarbeiten und die gewünschten Daten zu extrahieren. Das spart nicht nur enorm viel Zeit, sondern auch Kosten. Klingt gut, oder?
IDP für Sie
Sie sind neugierig geworden und möchten wissen, wie IDP auch Ihr Daily Business verbessern kann? Gute Idee! Wir helfen Ihnen gerne und beraten Sie in einem individuellen Gespräch. Kontaktieren Sie uns ganz unverbindlich über das Kontaktformular und folgen Sie uns für News rund um die Themen KI und IDP auf LinkedIn.
