Stephan Eberle: Herzlich willkommen zum itemis Podium. Thema heute ist KI. Das Thema KI ist nicht nur bei uns ein Thema, das ist überhaupt ein großes Thema in diesen Zeiten. Es finden unglaubliche Investitionen in dem Bereich statt und die Neuerungen prasseln täglich, fast stündlich auf uns ein. Man kommt kaum noch hinterher. Gleichzeitig stellt man fest, bezüglich der großen Revolution, wo sich das überall niederschlagen soll, die Produktivitätssteigerungen, die verheißungsvoll angekündigt werden: Wenn man sich in der Praxis umschaut, was davon angekommen ist, stellt man fest: Das meiste kommt wohl noch. Es ist in vielen Bereichen noch nicht das, was angekündigt worden ist. Dieser Frage wollen wir uns heute widmen. Wir wollen wissen: Warum ist das so? Was ist das Potenzial von KI in verschiedenen konkreten Anwendungsbereichen? Was sind die Hemmnisse, die bisher verhindern, dass sich das im großen Stil entfalten kann? Und was müsste man tun, um dem Abhilfe zu schaffen? Das möchte ich diskutieren mit den Gästen, die wir heute haben: Dr. Karlson Pfannschmidt, Mitgründer und CTO der Firma Puraite. Marvin Bauernfeind, Fachanwalt für Insolvenz- und Sanierungsrecht bei BBL Brockdorff. Und Dr. Nicolas Krämer, Vorstandsvorsitzender von HC&S, tätig im Bereich Krankenhaus- und Klinikmanagement. Und meine Wenigkeit, Stephan Eberle, CTO und CIO der itemis AG. Zum Einstieg die Frage: Was ist das Potenzial in diesen Bereichen? Wo kann man das erfolgversprechend einsetzen?

Dr. Karlson Pfannschmidt: Vielen Dank für die Frage. In unserem Bereich kommen wir aus der medizinischen Forschung. Wir entwickeln KI für einen Prozess, der aktuell sehr lange dauert. Es geht um wissenschaftliche Fragestellungen in der Medizin. Man kann sich das so vorstellen: Wenn man wissen möchte, ob Vitamin D bei der Prävention von Knochenbrüchen hilft, muss man als Forschender hingehen, tausende Studien zusammensammeln, die eventuell relevant sein könnten. Die müssen manuell durchgegangen werden, um zu entscheiden: Sind die wirklich relevant? Dann müssen die Daten herausgezogen werden aus Tabellen, aus Anhängen, um am Ende eine statistische Analyse durchführen zu können. Um dann sagen zu können: Ja, Vitamin D hilft oder hilft nicht. Dieser Prozess dauert mehrere Monate, sechs bis zwölf Monate. Das kann aktuell schon von der KI in einem Bruchteil der Zeit durchgeführt werden. Gerade diese Anfangsschritte, das Screening oder auch das Extrahieren von Daten, kann im Grunde alles an einem Tag durchlaufen. Da sehen wir ein enormes Potenzial, von mehreren Monaten hin zu mehreren Minuten oder Stunden. Deswegen haben wir in dem Bereich angefangen, weil wir gesagt haben: Das verschwendet hier Ressourcen von hoch ausgebildeten Menschen. Die können was viel Nützlicheres mit ihrer Zeit tun. Das ist keine Arbeit, die wirklich sinnstiftend ist. Das kann eigentlich auch eine Maschine erledigen.

Dr. Nicolas Krämer: Wir sind im Krankenhausmanagement tätig und das, was Karlson gesagt hat, kann ich nur unterstützen. Das, was in der Forschung beschleunigt wird über KI, ist in der Medizin im Krankenhaus auch noch mal exponentiell zu sehen. Ich kann die Gesundheit von Menschen mit KI verbessern, ich kann Krankheiten früher erkennen, ich kann dazu beitragen, dass Krankheiten, die früher als unheilbar galten, mittels KI-Unterstützung geheilt werden. Das hat extrem positive Auswirkungen einerseits auf die Lebensqualität, andererseits auf die Lebensdauer des Menschen. Die Medizin ist wahrscheinlich sogar das Einsatzgebiet der künstlichen Intelligenz, wo die Vorteile am stärksten ausgeprägt sind und wo wir die größten Sprünge machen können. Vor dem Hintergrund gibt es gewaltige Potenziale im Krankenhausbereich, in der Medizin im Allgemeinen, bis hin zu klinischen Abläufen. Wir reden in Deutschland auch immer wieder darüber, wie überlastet das klinische Personal ist, dass sie sich im Prinzip drei Stunden pro Tag als Pflegekraft, als Arzt mit Bürokratie zu beschäftigen haben. Da kriegt man ein Gespür dafür, wie groß die Potenziale von künstlicher Intelligenz in der Medizin sind.

Marvin Bauernfeind: Ich kann zwei Punkte meiner Vorredner direkt aufgreifen. Das eine ist das Effizienzthema. Wir haben jetzt nicht so hochtrabende Ziele, wie die menschliche Gesundheit, aber eben die Entlastung des vorhandenen Personals, die sich oftmals noch mit viel zu vielen Teilen mit repetitiven Abläufen in unseren Strukturen beschäftigen. Wo man sich aktuell eher 'chained' als 'unchained' fühlt. Du hörst an allen Ecken und Enden, das Thema ist groß, das Thema ist da, aber so richtig da ist es dann doch nicht. Bei uns im Business haben wir eine Vielzahl von sich wiederholenden Abläufen in Insolvenzverfahren, wo ganz viele Handschläge immer wieder die gleichen sind. Im Berichtswesen an das Gericht und im Austausch mit vielen wiederkehrenden Verfahrensbeteiligten: Finanzämter, Arbeitgeber. Das heißt, wir haben auf der einen Seite die Struktur, wie kommuniziert wird. Wir haben ein Dienstleistungsportfolio an Software, die das ermöglicht, dass wir in einer digitalen Akte arbeiten. Nur der Missing Link ist die Verknüpfung dazwischen. Eine Automatisierung, die wir uns wünschen würden, die wir bislang leider noch vermissen.

Stephan Eberle: Daran angeschlossen vielleicht eine Frage, die sich viele stellen. Ich bin im Bereich Softwareentwicklung sehr aktiv und natürlich setzen wir auch dort KI ein. Jeder stellt sich die Frage: Wenn das so weitergeht, werde ich selber dann noch gebraucht? Macht der Einsatz von KI bei der Evidenzfindung oder im Krankenhausmanagement den Arzt mal übertrieben gefragt überflüssig oder nicht?

Dr. Karlson Pfannschmidt: Provokante Frage. Ich werde aus dem Bereich der Evidenzsynthese antworten. Was wir aktuell als Philosophie verfolgen, ist zu sagen: Am Ende des Tages muss der Mensch noch seine Unterschrift draufsetzen. KI wird immer Fehler machen. Man kann versuchen, die Qualität immer weiter zu steigern, sodass man vielleicht von 98 Prozent auf 99 Prozent kommt. Aber am Ende des Tages gibt es immer noch eine verbleibende Fehlerwahrscheinlichkeit und die muss überprüft werden. Da ist das Vier-Augen-Prinzip auch mit KI immer mitzudenken. Wir sehen aktuell das Problem, dass viele Produkte, wenn man in Richtung Amerika guckt, 'KI first' entwickelt werden. Da wird gesagt: Wir bauen so einen tollen Agenten, der macht alles selbstständig. Aber was wir sehen, wenn es gerade in so einem regulatorischen Prozess drin ist, da muss schnell das Ergebnis überprüft werden können. 'Human in the loop first' sollte eigentlich das Prinzip sein. Nicht als Kompromiss gedacht, sondern wir müssen wirklich dahinkommen, dass man sagt: Wir können ganz schnell, wenn wir irgendein Faktum haben, was die KI ausgespuckt hat, das schnell überprüfen. Wir haben dadurch die Zeitgewinne, aber gleichzeitig können wir sicherstellen, dass keine falschen Daten weitergeleitet werden. Der Mensch behält die Kontrolle, wird massiv unterstützt, aber er ist der KI nicht hilflos ausgeliefert. Der zweite Aspekt ist, wenn man langfristiger denkt: Können wir solche Produkte irgendwann auch ohne Kontrolle einsetzen? Da würde ich sagen, sollten die Kontrollen sehr viel strikter sein. Der Anspruch geht dahin zu sagen: Dann muss alles vollständig durchvalidiert sein. Ähnlich wie man es jetzt beim Menschen macht. Was wollen wir eigentlich mindestens als Qualitätsschwelle haben? Das dann im Grunde regulatorisch vorgeben und dann kann man sagen: Das System ist gut genug, dass wir das auch einsetzen können. Aber bis die Systeme so weit sind, wird es noch einige Jahre brauchen.

Dr. Nicolas Krämer: Weder die Erfindung des Taschenrechners, noch die des Personal Computers, noch die des Internets hat dazu geführt, dass der Mensch nicht mehr benötigt wurde. Das ist eine Entwicklung, die ich auch für die künstliche Intelligenz prognostiziere. Hinzu kommt, dass gerade im Krankenhaus der Mensch auch gar nicht ersetzt werden soll beziehungsweise darf. Es gibt eine 'KI Zukunftsstudie' von Bosch aus dem Jahr 2020, die eindeutig ergeben hat, dass der Mensch den Einsatz von KI in der Produktion, beispielsweise von Flugzeugen oder Autos, sehr begrüßt, aber im Bereich der Gesundheit, der Gesundheitspflege, der Altenpflege strikt ablehnt. Deswegen wird der Arzt, wird die Pflegekraft immer entscheidend sein. Die Anwendungsmöglichkeiten von KI sind insbesondere auf die Diagnose fokussiert. Ein klassisches Einsatzgebiet von der KI im Krankenhaus ist der Bereich der Radiologie und die Interpretation der bildgebenden Daten. Man muss auch dazu sagen, in der Vergangenheit galt: 20 Prozent der ärztlichen Diagnosen sind falsch. Genau da setzt KI an, die Medizin besser zu machen. Aber dass wir in Zukunft in eine Schwarzwaldklinik kommen und Professor Brinkmann ist ein Avatar? Ich halte das persönlich für Science-Fiction beziehungsweise gehe davon aus, dass der Patient das strikt ablehnt. Selbst komplett ohne KI-Einsatz läuft die Medizin und auch viele andere Bereiche nicht fehlerfrei. Gerade in der Interaktion, wenn es um den menschlichen Körper geht, da will der Patient am Ende auch einen echten Arzt haben.

Marvin Bauernfeind: Das ist bei uns nicht anders. Wir haben ein Berufsrecht. Das ist bei Ärzten nicht anders. Solange wir da keine umwälzenden Änderungen haben, die das obsolet machen, dass noch ein Mensch am Ende der Entscheidungskette steht, ist es ein höchstpersönliches Amt. Da ist auch nicht dran zu denken, dass das durch einen Avatar ersetzbar wäre. Da spielen natürlich auch soziale Komponenten mit rein. Du bist Ansprechpartner für den Mandanten und sollst ihm fachlich helfen, aber da gehört sehr viel Psychologie dazu. In der Insolvenzverwaltung ist das nicht anders. Menschen, die aus einer Extremsituation kommen, das führt zu einem ganz anderen Leben. Und da ist das Thema Kontrolle durch Berufsrecht, um ein Beispiel zu nennen: Wir haben auch schon erste Entscheidungen, insbesondere aus dem anglo-amerikanischen Rechtsraum, wo du natürlich auch nicht einfach blind darauf vertrauen darfst. Es ist nicht so, dass wir keine KI-Tools hätten. Es gibt zur Rechtsrecherche Tools, die wir auch einsetzen. Aber nach der Bundesrechtsanwaltsordnung immer mit der Klammer: Höchstpersönliche Leistung, die ich zu erbringen habe und dafür muss ich auch einstehen. Das heißt, ich kann das auch nicht einfach durchwinken, ansonsten fliegt mir das ganz schön um die Ohren. Es gibt so ein schönes Ding aus Texas, da hat die KI einfach irgendwelche Entscheidungen erfunden, die es einfach nicht gab. Und das führt dann auch auf diversen Stufen zu Reputationsverlust und Haftung. Hier im Inland würde ich sagen, irgendwann ist die Zulassung weg. Wenn dir tatsächlich von Gerichtsseite abgesprochen wird, wörtlich da drin steht, dass nicht davon ausgegangen werden kann, dass ein Jurist das gelesen haben kann, dann wird's bitter. Und dann haftest du natürlich auch dafür. Ohne geht's nicht, was den Sachvortrag angeht, aber ohne dass dann doch noch einer, der am Ende die Nase dafür hinhält, da nochmal drüber geguckt hat, fehlt mir da die Fantasie, dass die menschliche Komponente, Klammer auf Haftungskomponente, da rausfliegen würde.

Stephan Eberle: Gut. Wenn man sagt, wir haben da viel Potenzial und der Mensch wird dadurch nicht ersetzt, sondern es wird ihm geholfen. Kann man jetzt ja nicht einfach so frei raus KI einsetzen. Da gibt es Hindernisse regulatorischer Natur und anderer Natur. Wenn wir bei der Regulatorik bleiben: Bei der Medizin kann man sich ja vorstellen, wenn man auf medizinische Daten zugreift, kommt man ja nicht einfach so ran. Die stehen ja nicht öffentlich im Internet. Da muss man gewisse Regularien einhalten. Welche sind das bei euch?

Dr. Karlson Pfannschmidt: Bei uns ist es sehr interessant. Der Prozess, den wir uns anschauen, fängt meistens erst mal an mit Publikationen. Das sind wissenschaftliche Schriftstücke, wo die Ergebnisse von einer Studie dokumentiert werden. Die sind häufig auch schon von Journalen rausgegeben und selbst da haben auch schon aktuell Forschende mit dem Datenzugriff zu kämpfen. Also es ist nicht nur so, dass wir Probleme haben mit KI darauf zuzugreifen, sondern es ist schon so, dass aktuell Forschende Schwierigkeiten haben darauf zuzugreifen, weil die Journale immer mitverdienen wollen. Deswegen hat sich dieser Prozess auch erst so entwickelt, wie er überhaupt aussieht. Was die Forschenden aktuell machen, ist: Sie gucken sich zuerst immer Titel und Abstract an, um eine schnelle Entscheidung zu treffen, weil dazu müssen sie das Ganze gar nicht gekauft haben. Und dann gehen sie dahin über: Alles, was jetzt noch als relevant erachtet wird, das müssen wir kaufen. Und das ist natürlich eine der großen Hürden, die wir in dem Prozess aktuell haben, um an Daten dranzukommen. Aber die Entwicklung ist auf der einen Seite hin zu offener Forschung. Das ist etwas, was wir aktuell auch stark begrüßen. Wenn Forschende staatlich finanziert sind, dann sollten sie auch offen das Ganze publizieren. Und auf der anderen Seite ist es natürlich auch so, dass die Journale auch ein Interesse daran haben, an dem ganzen Prozess mitzuverdienen. Da gibt es dann auch schon erste Lizenzmodelle, wie man den Datenzugriff verbessern kann.

Dr. Nicolas Krämer: Die Regulatorik, die ist im deutschen Gesundheitswesen sehr stark ausgeprägt und die Regulatorik schlägt sich im Krankenhausbereich insbesondere auch in der Finanzierung nieder. Viele Krankenhäuser aktuell sind defizitär. Und während die Krankenkassen für die Finanzierung der operativen Kosten verantwortlich sind, sind es die Bundesländer, wenn es um die Investitionen geht. Und Investitionen in IT, in Digitalisierung, in KI muss man sich leisten können. Da ist das, was die Bundesländer an die Krankenhäuser ausschütten, in der Regel zum Leben zu wenig, aber zum Sterben auch zu viel. Deswegen hat sich Jens Spahn als Bundesgesundheitsminister vor sechs Jahren gedacht: Dann setzen wir mal das sogenannte Krankenhauszukunftsgesetz auf und sorgen dafür, dass in Summe 4,3 Milliarden Euro an die Krankenhäuser ausgeschüttet werden. Fakt ist allerdings, dass bei knapp 2.000 Krankenhäusern in Deutschland dann ungefähr zwei Millionen Euro pro Krankenhaus hängen bleiben. Das heißt, tatsächlich hat die größte Umsetzung von Digitalisierung und KI im Krankenhaus ausgerechnet in der Krankenhausverwaltung stattgefunden und nicht im weißen Bereich, da wo es unmittelbar dem Patienten zugute kommen würde. Das heißt, wir haben da eine ganz gewaltige regulatorische Hausforderung, die schlichtweg in der Finanzierung begründet ist. Und zur Wahrheit gehört natürlich auch dazu, dass wir manchmal das Gefühl haben, dass der Patientendatenschutz im Krankenhaus, zumindest in Deutschland, eine noch größere Rolle spielt als der Patientenschutz. Viele gesunde Menschen machen sich große Sorgen darum: Was passiert eigentlich mit meinen personenbezogenen Daten im Krankenhaus? Interessanterweise in dem Moment, wo der Mensch wirklich krank ist, interessiert er sich gar nicht mal so sehr für den Datenschutz, sondern da geht's schlichtweg um das Leben. Aber in der Tat ist es so, dass der Datenschutz auch an der Stelle immer noch eine ganz gewaltige Rolle spielt. In der von mir zitierten Bosch KI Zukunftsstudie wurden tatsächlich auch datenschutzrechtliche Bedenken bei den Befragten zu 82 Prozent als wesentliches Hemmnis genannt. Neben Kontrollverlust und der fehlenden persönlichen Interaktion war der Datenschutz das ganz wesentliche Momentum, was der Umsetzung der künstlichen Intelligenz im Krankenhaus beziehungsweise in der Medizin entgegensteht.

Marvin Bauernfeind: Dem stimme ich voll zu. Datenschutz ist natürlich die Fußfessel, die immer da ist. Vielleicht wäre es für alle Beteiligten irgendwie schlauer, wenn es hier und da ein wenig geländegängiger strukturiert und angewendet würde. Bei uns, ihr redet über die Gesundheit, wir reden über ein anderes Thema, über das ungern geredet wird: Wenn es um Geld geht oder Geld, was man nicht hat. Gleichzeitig werden aber Daten ohnehin veröffentlicht in den Veröffentlichungen durch das Insolvenzgericht. Das sind also Daten da. Und mit den ganzen Verarbeitungsvereinbarungen mit unseren Dienstleistern schiebst du so viel mittlerweile zwar digitales Papier durch die Gegend, aber da hast du schon mal die Hälfte der Mindestvergütung in so einem Verbraucherinsolvenzverfahren durch. Das soll jetzt kein Jammern sein, das ist einfach Fakt. Und ich gehe stark davon aus, dass das auch ein Hemmschuh ist, diese Tools, auf die wir warten, tatsächlich auch marktreif zu bekommen. Weil du natürlich das zu Ende denken musst. Wenn ich das jetzt hier mache, wo landen die Daten? Sind sie DSGVO-konform? Sind sie EU-Datenschutzrechtlich konform? Oder sind sie gelagert bei vielen Anbietern, die sitzen dann in Amerika. Und dann kommen die ganzen Themen: Was macht der Herr Trump demnächst mit diesen Daten? Er macht ja sowieso was er will. Im Kleinen vermute ich nur, dass es daran unter anderem scheitert, dass man das noch nicht vernünftig abgebildet bekommt und entsprechend diese Tools, die uns insbesondere in der Vereinfachung, in der Entschlackung der Tätigkeiten, in der Entlastung der menschlichen Mitarbeiter, die ich eben nicht mehr einsetzen möchte dafür, dass die Dinge von links nach rechts abschreiben, fehlen.

Dr. Karlson Pfannschmidt: Ich kann auch noch einen Punkt dazu einwerfen. Wenn man drüber nachdenkt, ob man jetzt ein amerikanisches Modell nimmt, oder wir nehmen vielleicht ein Open Source Modell. Man sagt ja ungefähr, sechs Monate hängen die hinterher von der Qualität. Dann beobachten wir ja, dass die Qualität aller Modelle immer besser wird, aber die Schwierigkeit der Probleme, die wir lösen, die wird ja nicht schwieriger. Das heißt, die bleiben ja konstant. Sobald man einmal eine Lösung gefunden hat, die auch gut genug ist, dann kann man dabei auch bleiben. Ich würde auf jeden Fall sagen: Sobald die Open Source Modelle gut genug sind für einen bestimmten Bereich, dann kann man die im Grunde auch selber benutzen, muss nicht mehr auf amerikanische Modelle angewiesen sein. Und deswegen sehe ich da jetzt auch nicht so das große Problem zu sagen, wir müssen unbedingt alles in die amerikanische Cloud werfen.

Dr. Nicolas Krämer: Absolut. Also Datenschutz, vergiss es, sondern das ist schon ganz wichtig. Ich war selber 2016 Krankenhausgeschäftsführer, als unser Krankenhaus Opfer eines Cyberangriffs geworden ist. Ich kann nur sagen, wenn man als Geschäftsführer dann auch in der Haftung steht: Wenn man dann nachts im Bett liegt und sich Gedanken darüber macht, was jetzt mit den Patientendaten ist, ob die möglicherweise in fremde Hände gekommen sind, dann ist das alles andere als ein schönes Gefühl. Aber was ich aktuell tatsächlich sehr gut finde, und das ist jetzt etwas, nachdem ich so ein bisschen Deutschland-Bashing betrieben habe, wo wir als Deutschland jetzt tatsächlich eine Chance haben, vielleicht doch in die Champions League zu kommen. Das ist eine ganz aktuelle Meldung von dieser Woche. Da hat sich Fresenius mit SAP, also zwei große DAX-Konzerne, zusammengeschlossen und haben gesagt: Wir warten jetzt hier nicht auf irgendwelche staatlichen Förderungen, sondern wir gehen privatwirtschaftlich voran. Und SAP unterstützt Fresenius, und insbesondere Europas größten Klinikbetreiber, die Helios Kliniken, dabei ein Patientendaten-Ökosystem zu schaffen, das natürlich im Hinblick auf Datenschutz-Compliance etc. höchsten Sicherheitsstandards genügt. Das aber auf der anderen Seite es erlaubt, diese Patientendaten auf sinnvolle Art und Weise im Sinne der Medizin und im Sinne des Patienten nutzbar zu machen. Und auch die klinischen Abläufe zu vereinfachen, zu optimieren und damit auch das klinische Personal massiv zu entlasten. Das finde ich ganz hervorragend. Wenn wir irgendwas gelernt haben, letztendlich auch in der Corona-Pandemie: Warte nicht darauf, dass der Staat irgendeine Lösung anbietet oder irgendeine Finanzierung anbietet. Deswegen finde ich es gut, dass jetzt gewissermaßen aus der Wirtschaft heraus so ein Impuls kommt. Ich bin sehr optimistisch, dass da am Ende etwas sehr Sinnvolles bei rauskommt, was möglicherweise Standards setzt und dann auch auf andere Krankenhäuser übertragen werden kann.

Marvin Bauernfeind: Sieht bei uns natürlich insofern ein bisschen anders aus, als dass wir die Daten, die da sein müssen, in jedem Fall haben. Wir gehen mal davon aus, in meinem Fall jetzt mit dem Insolvenzverfahren: Ich habe Verfahrensbeteiligte, die mitwirken. Das Gericht ermächtigt mich durch Beschluss, Unterlagen entgegenzunehmen, Informationen einzuholen. Dem Grunde nach habe ich das Recht, mir die Daten zu holen. In der Regel kriege ich die auch geliefert. Geschäftsleitung, natürliche Person, Schuldner gibt mir die Daten. Aber da geht's dann auch schon wieder los. Ich brauche die Daten, aber wenn sich einer auf den Kopf stellt, dann habe ich eventuell mit dem Datenschutz... dann komme ich da auch schon wieder an Grenzen. In der Regel ist es so, zumindest die Verbraucherschuldner wollen ja was, nämlich die Restschuldbefreiung. Das heißt, damit werden sie im Zweifel darüber hinaus motiviert sein. Oder aber ich setze Informationsansprüche gerichtlich durch. Das heißt, ich mache jetzt schon seit 2012 die ganze Geschichte mit digitalen Akten. Das heißt, der Workflow dazu ist da. Die Daten, es wird gescannt, es wird auch mit Software dann Texterkennung etc. gemacht. Als kleiner doofer Anwalt denke ich mir: Cool, die Ausgangsstellung ist ja erst mal gut. Ich habe also irgendwo eine Datendose. Wer dann da dran darf später und ob jetzt der Anbieter, der mir das bietet, was ich dazwischen brauche, nämlich die Verlinkung von der ich vorhin sprach zwischen den Daten, die ich habe, zu den Prozessen, die ich im Hause habe... Das heißt, ich gehe davon aus, die Bedingungen sind eigentlich da. Dass es eigentlich gar nicht so schwer sein kann. Ich kriege die Daten, wie gerade beschrieben. Rein technisch sind sie da und im Zugriff. Und wir sind ja jetzt eine Kanzlei mit vielen Standorten, mit 16 Verwaltern und Verwalterinnen, die am Ende die Möglichkeit liefern würden, einer KI dann relativ schnell begreifbar zu machen. Da rede ich gar nicht von analytischem Hexenwerk, sondern sie soll nur lernen, das in den, als Beispiel, in dem Antragsformular, wie der heißt, wo er wohnt, wie alt er ist, was er für Geld verdient, was für Verbindlichkeiten er hat. Und das ist immer gleich. Das heißt, es muss ja irgendwie möglich sein, die Daten dann zu nehmen und auf der anderen Seite zu lernen: Wo tue ich sie rein? Und dann vielleicht ein bisschen Magie da aus dem Gesamtbild, wenn man's dem Tool beibringt, zu sagen: Okay, das und das sind die Insolvenzgründe hier vermutlicherweise. Und dann mache ich Vorschläge. Das muss ja nicht alles direkt zum Briefträger gehen. Aber ich skaliere halt die Produktivität, indem ich sage, dass dieses Tool, was ich mir dann so wünsche, das spuckt mir diese ganzen Standardsachen aus. Wir haben zum Beispiel so einen Buchungsautomaten in der Buchhaltung. Das erkennt wiederkehrende Vorgänge und es gibt so ein Ampelsystem. Da wo er grün dran malt, das ist gut, das kannst du so nehmen. Gelb: bin ich mir nicht sicher. Aber wenn nur noch das rauskommt beim Sachbearbeiter, dann bearbeitet der nicht mehr X Verfahren, sondern X + Y Verfahren. Und schon sind wir wieder in einer ganz anderen Produktivitätsebene. Das heißt, Daten habe ich. Ich weiß, was rauskommen soll. Und eigentlich brauche ich in meiner kleinen Welt nur irgendwas dazwischen, was es technisch möglich macht, das schneller zu tun.

Stephan Eberle: Ja, dann sollten wir da mal möglichst schnell loslegen. Ich habe mal geguckt, da gibt es inzwischen ein paar Fragen aus dem Publikum, die würde ich gerne mal aufgreifen.

Dr. Karlson Pfannschmidt: Vielleicht eine Frage dazu. KI selbst bauen oder sich vorhandenen Modellen bedienen? Also praktische 'Deep Seek' oder amerikanische Frontier-Modelle verwenden? Und ab wann kommt man eigentlich an den Punkt, wo man sagen muss: Nee, das kann man jetzt nicht nutzen aus Datenschutzgründen. Und dann eher mal ein eigenes Modell aufsetzen, das auch souverän hosten in Europa, in Deutschland. Wie sieht es da so aus, der Zugriff? Wie einfach oder schwierig gestaltet sich das?

Stephan Eberle: Ja, das ist sicher eine Option.

Stephan Eberle: Ein Teilnehmer fragt: Es gibt ja in Deutschland einen massiven Mangel an Pflegekräften. Und was man ja auch hört, ist, dass eine der nächsten Revolutionsstufen nach KI Robotik ist. Wenn man Robotik mit KI kombiniert, dass dann da autonome Systeme entstehen. Und dann stellt sich natürlich die Frage, ob die Kombination von Robotik und KI nicht dann irgendwann dazu führen könnte, dass man bei der Pflege für Entlastung sorgen kann. Und ob das in euren Bereichen diskutiert wird.

Dr. Nicolas Krämer: Ich möchte die Frage mal so beantworten, indem ich sage, dass die Aussage in der Weise vielleicht gar nicht so richtig stimmt. Denn wir haben in Deutschland so viele Pflegekräfte wie in keinem anderen Land. Wir haben sowohl absolut als auch relativ zur Bevölkerung hier unfassbar viele Pflegekräfte. Sie werden nur nicht effektiv eingesetzt. Wir haben sehr viele Krankenhäuser, auf die sich diese Pflegekräfte verteilen. Der Beruf, man hat es den Pflegekräften auch nicht immer leicht gemacht. Wenn man dann noch berücksichtigt, dass eine Pflegekraft in Deutschland drei Stunden pro Tag mit Tätigkeiten beschäftigt ist, die in die Richtung gehen: Formulare ausfüllen, Dokumentation oder irgendwelche Dinge vorbereiten. Dann kriegt man ein Gefühl dafür, wie groß der Nutzen von KI, von Robotik in der Kombination natürlich im Krankenhaus oder auch in Senioreneinrichtungen sein kann. Ich habe das selber kaum glauben können. Ich hatte eine Lungenentzündung, lag sechs Tage im Krankenhaus. Wenn ich die Zeit, die die Pflege bei mir am Bett war, über diese sechs Tage aufaddiere, komme ich auf eine Zahl, die liegt unter 30 Minuten. Das zeigt so ein bisschen, in welche Richtung sich das System entwickelt und das zeigt allerdings auch, wie groß das Potenzial ist. Allerdings muss man auch dazu sagen: Gerade wenn es um die Pflege geht, da ist der 'deutsche Michel' ganz besonders skeptisch. Und gerade die Pflege, die soll doch bitteschön ein Mensch machen. Das haben wir teilweise in Japan schon in Seniorenheimen, da gibt es diese Roboter, die in der Lage sind, mal irgendwas abzuräumen, das Geschirr abzutransportieren. Aber dass jetzt klassische Pflegetätigkeiten am Patienten von einem Roboter durchgeführt werden, da ist noch ganz viel Skepsis. Und ich muss sagen, vollkommen zurecht.

Dr. Karlson Pfannschmidt: Von meiner Perspektive würde ich auch sagen: Wir sollten nicht so tun, als wollen wir am Ende des Tages den Menschen ersetzen und dann die Regulatorik auch darum herum bauen. Was ich häufig sehe ist, dass getan wird: Okay, das soll erreicht werden und deswegen muss die Regulatorik so und so streng sein, weil wir müssen ja die Qualität erreichen. Sondern man sollte bei der Regulatorik auch von vornherein mitdenken: Der Mensch ist immer derjenige, der am Ende noch Entscheidungen trifft und kann im Grunde die KI auch dann verantwortungsbewusst einsetzen. Und wenn man das so von vornherein mitdenkt, dann muss man auch gar nicht erst so stark regulieren und das sollte auch das Ziel sein.

Stephan Eberle: Ich finde 'Unchain AI' heißt eigentlich auch 'Unchain ourselves'. Es ändert sich so viel und man muss Neugier haben. Man muss mit neuen Menschen sprechen, sich über neue Ideen austauschen. Und dann schauen, dass man Herr der Lage bleibt, dass man die Fähigkeit entwickelt, aus diesen neuen Informationen etwas zu machen. Was würdet ihr jetzt als erstes machen, um dieses 'Unchain' Wirklichkeit werden zu lassen?

Marvin Bauernfeind: Ich würde mir tatsächlich da so ein bisschen einen gesünderen Ansatz wünschen, der nicht dazu führt, dass wir uns da selber Fesseln anlegen. Weil mit Augenmaß ja, und dass das Kernbedürfnis abgedeckt wird, aber bitte nicht, dass wir uns da selbst im Weg stehen. Ich würde jetzt mal ganz spontan sagen, wenn wir da irgendwie ein bisschen lockerer, ein bisschen zugänglicher werden, ein bisschen vernünftiger werden, irgendwas dazwischen. Und das nicht so entarten lassen, dann sind wir auf einem guten Weg.

Stephan Eberle: Wenn man in Richtung digitale Souveränität gehen will, dann wird es sicherlich nicht über Nacht gelingen. Aber jeder kann doch mal das ins Kalkül mit einbeziehen, dass man sich Schritt für Schritt in die richtige Richtung bewegt und dann kann man da langfristig sehr viel erreichen. Hat mich gefreut, dass Sie dabei waren. Wir haben auch künftig wieder Veranstaltungen. Am 3. Februar gibt es eine Veranstaltung hier vor Ort in Dortmund zum Thema 'White Coding'. Da geht eine ganze Menge, ist sicher eine spannende Sache für die, die hier in der Nähe sind. Und ansonsten wird es hier weitere Podiumsdiskussionen wieder online geben zum Thema Cyber Security und Secure. Ich hoffe, Ihnen hat es gefallen. Tschüss, auf Wiedersehen und bis zum nächsten Mal.