25teg23 10.3205/25teg23 urn:nbn:de:0183-25teg238 Meeting Abstract Franke Franke Gabriel G Dr.

Landesgymnasium Sankt Afra, Nossener Str. 25a, 01662 Meißen, DeutschlandLG Sankt Afra, Meißen, Deutschland

gabriel.franke@sankt-afra.de author German Medical Science GMS Publishing House

Düsseldorf

610 20251222 germ This is an Open Access article distributed under the terms of the Creative Commons Attribution 4.0 License. Dieser Artikel ist ein Open-Access-Artikel und steht unter den Lizenzbedingungen der Creative Commons Attribution 4.0 License (Namensnennung). M0617 23 9. Fachtagung Technik – Ethik – Gesundheit Künstliche Intelligenz: Die digitale Zukunft in der Pflege gestalten Ethische und soziologische Fragestellungen Nürnberg 20250520 20250521 23 TextKünstliche Intelligenz dringt in alle Lebens- und Gesellschaftsbereiche ein. Ökonomische Zwänge, das Prinzip der technischen Optimierung und die Ausweitung der menschlichen Zugriffsmöglichkeiten durch technologische Innovationen – all das zwingt uns dazu, uns zu positionieren, wie wir unsere Zukunft und die Zukunft späterer Generationen mitgestalten wollen. Unter den zahlreichen Gesellschaftsbereichen, die durch technologische Innovationen maßgebliche Veränderungen erwarten, findet sich auch der Bereich der Pflege. Die Forderung nach Wirtschaftlichkeit, ein erheblicher Fachkräftemangel im Pflegepersonal sowie der Wunsch nach Entlastung führen dazu, dass innovative Wege in den Blick genommen werden. Dieser Artikel stellt sich der Frage, wie technologische Veränderungsprozesse so gestaltet werden können, dass diese einerseits eine Entlastung für Pflegepersonal darstellen und eine effizientere Gestaltung von Arbeitsprozessen ermöglichen können und wie andererseits die Grundbedingungen von Humanität bewahrt bleiben, die zu den Sinndimensionen des menschlichen Lebens im Alter gehören. Es leiten sich folgende konkrete technikethische Fragestellungen ab: Wie kann und muss Pflege gestaltet sein, um alternden Menschen in ihrer Würde, in ihren Bedürfnissen und ihrem Anspruch auf Anerkennung und menschlicher Interaktion zu begegnen? Können robotische Akteure in gleichem Maß ihre Aufgaben erfüllen wie menschliches Pflegepersonal? Ist menschliches Pflegepersonal durch robotische Akteure mit künstlicher Intelligenz ersetzbar? Welche Sinndimensionen von Humanität würden durch eine Verdrängung menschlichen Pflegepersonals unterlaufen? Welche grundlegenden technikethischen normativen Einsichten leiten sich aus einer kritischen Unterscheidung zwischen künstlicher und menschlicher Intelligenz ab? Wie können Innovationen im Bereich von Automatisierung, Robotik und künstlicher Intelligenz so gestaltet werden, dass sie die Kompetenzen menschlichen Pflegepersonals sinnvoll ergänzen? Wie kann durch technologische Innovationen die Arbeit von menschlichem Pflegepersonal in einer Weise unterstützt werden, dass die Innovationen eine bessere Qualität von Pflege für ein „gutes Leben im Alter“ ermöglichen? Unter welchen Bedingungen könnte technologische Innovation womöglich sogar für mehr Humanität in der Pflege sorgen? Selbstverständlich umfasst der Bereich der Pflege auch andere Bereiche als die Versorgung alternder Menschen. Um die hier aufgerissenen Fragestellungen aber prägnant, konkret und so greifbar wie möglich darlegen zu können, beschränken sich die gewählten Beispiele und Literaturbezüge auf die Ethik des Alterns. Die meisten Paradigmen, die dabei beleuchtet werden, können jedoch mit nur wenigen Einschränkungen und Adaptionen auch auf andere Bereiche der Pflege ausgeweitet und übertragen werden. Grundlegende Unterschiede zwischen künstlicher und menschlicher Intelligenz Der Begriff KI („Künstliche Intelligenz“) wird in jüngerer Zeit vor allem für „lernfähige“ neuronale Netze verwendet. Die Diskussionsgeschichte des Begriffs umfasst jedoch seit den Anfängen der Computerentwicklung sowohl deterministische Expertensysteme als auch konnektionistische Ansätze. (vgl. und , S. 37ff). Die fundamentalen Unterschiede zwischen beiden Architektursysteme können hier nicht vollumfänglich systematisch dargestellt werden. Kurz zusammengefasst kann man aber sagen: Deterministische Systeme folgen einer algorithmischen Befehlsverkettung kausaler Abläufe, die einsehbar und logisch nachvollziehbar ist, während neuronale Netze zur Optimierung einer Zielfunktion die Gewichtung von eingehenden Input-Signalen so lange mit unterschiedlichen Wahrscheinlichkeiten und Faktoren umstrukturieren, dass die gewünschte Zielfunktion mit einer immer besseren Genauigkeit erreicht wird; neuronale Netze gelten daher als „lernfähig“. Die Stärken automatisierter Systeme liegen im Vergleich zur menschlichen Intelligenz vor allem in der Zuverlässigkeit und Berechenbarkeit (das gilt vor allem für deterministische Expertensysteme) sowie in der blitzschnellen Verarbeitung enorm großer Datenmengen unter Bezugnahme auf große Mengen von Wissensdaten (das gilt vor allem für konnektionistische Ansätze). Beide Ansätze werden freilich auch in technischen Anwendungen miteinander verbunden. Daraus leiten sich für den Bereich der Pflege verschiedene Ansatzpunkte ab, die aufgrund der spezifischen Stärken von KI-Systemen eine bessere Qualität von Pflege ermöglichen könnten. Hierzu gehört beispielsweise die Erfassung von Gesundheitsdaten und eine Assistenz der medizinischen Diagnostik. Es steht durch die Arbeitsweise von KI-Systemen und durch die Geschwindigkeit der technologischen Entwicklungen zu erwarten, dass bereits in absehbarer Zeit immer zuverlässigere Assistenzsysteme genutzt werden können, die zumindest vollautomatisiert Situationen erkennen, in denen menschliches medizinisches Fachpersonal eingeschaltet werden muss. Die automatisierte medizinische Diagnostik könnte auch eine passgenauere Ernährung in Bezug auf den Gesundheitszustand von Patienten ermöglichen, wenn körperliche Mangelerscheinungen, Unverträglichkeiten und Komplikationen von Medikamenteneinnahme durch KI-basierte Empfehlungen automatisiert zu einer Ernährungsempfehlung führen, die dann für die Planung der Mahlzeiten berücksichtigt wird. Zu den Bereichen der Potentiale in der Entlastung des Pflegepersonals fällt der Bereich der Protokollierung, der durch digitale Technologien nicht nur verbessert werden könnte, sondern der vermutlich bald auch vollautomatisiert durch die Verarbeitung von Input-Daten des mitgezeichneten natürlichen Gesprächs ersetzt werden kann. Die Antworten auf die Fragen nach dem Gesundheitszustand von Patienten können durch Texterkennung vollautomatisch erfasst, systematisch dokumentiert und in übersichtlicher Weise zusammengefasst werden. Dadurch würde für die Qualität der Pflege ein wesentlicher Zugewinn entstehen: Die Aufmerksamkeit des Pflegepersonals wäre in der Begegnung, in der Fürsorge, im Blick und im Zuhören, während die Dokumentation vollautomatisch parallel abliefe und im Anschluss an das Gespräch nur überprüft werden müsste. Eine Entlastung des Personals kann freilich auch im Bereich der Robotik und der Medizintechnik ermöglicht werden, insbesondere in Aufgaben, die eine starke körperliche Belastung darstellen wie etwa das Lagern adipöser Patienten.Problematisch ist hingegen aus ethischer Sicht, wenn robotische KI-Systeme die menschliche Begegnung ersetzen sollen.Aus den in diesem Band skizzierten philosophischen Grundlagen für ein gutes Leben im Alter lässt sich ableiten, welche Bedingungen für die Qualität guter Pflege gelten müssen und unter welchen Bedingungen Robotik und künstliche Intelligenz sinnvollerweise implementiert werden können. Gute Pflege berücksichtigt die Fragilität und Zerbrechlichkeit des Menschen durch die Haltung der Fürsorge. Der alternde Mensch kann sich durch die Versorgung jedoch nur dann auch gesellschaftlich geborgen fühlen, wenn Elemente der Begegnung, des Gesprächs und der Teilnahme gelebt werden. Der französische Element Emmanuel Lévinas hat systematisch herausgearbeitet, wie im „Antlitz“ des Anderen Teilnahme, Zärtlichkeit, Zerbrechlichkeit, ja sogar seine „Heiligkeit“ spürbar und erlebbar werden (, S. 279). Das „Antlitz“ des Anderen wird in der Begegnung auch zum Tor für Vernunft, Bedeutung und Sinn (, S. 289ff). Wenn diese anthropologischen Sinndimensionen in der Pflege nicht unterlaufen werden sollen, dann sind aus einer technikethischen Perspektive digitale Assistenzsysteme lediglich als Unterstützung für menschliches Pflegepersonal akzeptale Maschinelle Systeme können eine Vielzahl von Aufgaben effizient und zuverlässig erledigen. Damit bergen technische Innovationen das Potential, einen größeren Freiraum zu schaffen, um den Aufgaben der genuin menschlichen Fürsorge und Begegnung gerecht zu werden. Anthropomorphe Technik in der Pflege Doch könnte nicht auch ein robotisches System in der Versorgung in gewissem Sinne ein Gegenüber, ein „Antlitz“ werden? Hat ein robotisches System nicht auch ein „Embodiment“, im Sinne eines „Leibes“, der eine Begegnung ermöglicht? Leiblichkeit als Grundbestimmung des Menschlichen kann nicht mit Embodiment einer künstlichen Intelligenz gleichgesetzt werden. Der Unterschied besteht darin, dass jede menschliche Intelligenz sich als leibliche Intelligenz herausbildet: Kognitive und logische Prozesse entstehen nicht losgelöst von körperlichen Prozessen, sondern bilden sich immer aus einer Perspektive der Leiblichkeit heraus. Leiblichkeit bezeichnet damit die Ich-Perspektive als Leib. Robotiksysteme können einen Körper haben, aber kein Leib sein. Robotische Systeme haben einen Körper, in den eine künstliche Intelligenz implementiert wird. Der Programmcode ist jedoch nicht mit dem Körper untrennbar gebunden; weder „stirbt“ der Programmcode mit den Bauteilen, die von ihm bewegt werden noch entfaltet sich die künstliche Intelligenz mit dem Zusammenbauen der Teile. Die menschliche Intelligenz bildet sich im Wachstum heraus, die Intelligenz wächst mit dem Leib, in dem sie agiert. Menschliche Intelligenz ist dadurch immer leiblich geprägt, sie ist nie rein logisch, sondern immer auch verbunden mit Sinnesempfindungen, mit Gefühlen, mit Erinnerungen und mit einer leiblich konstituierten Ich-Perspektive (vgl. , S. 430-432). So ist menschliche Intelligenz auch biographische, personale Intelligenz. Die menschliche Person ist ein Individuum mit einer einzigartigen Geschichte. Künstliche Intelligenz rekurriert hingegen nicht prinzipiell auf eine zuvor emotional und sinnlich erlebte Welt. Künstliche Intelligenz ist keine leiblich entfaltete Intelligenz. Menschliche Intelligenz ist außerdem immer auch eine in sprachlichen, kulturellen und sozialen Kontexten herausgebildete Intelligenz. Sie entfaltet sich in Beziehungen, in Gesprächen, in sozialen Interaktionen. In den Wegen der Sprache entfaltet sich die Welt der zwischenmenschlichen Beziehungen und der gesellschaftlichen Kultur und damit auch die Welt der Normativität. Sämtliche Aspekte der menschlichen Intelligenz sind somit vielschichtig und mehrdeutig, zurückgebunden und verwoben mit emotionalen, kulturellen, sprachlichen, sozialen, leiblichen und biographischen Kontexten, die nie in ihrer Gänze bewusst gemacht, sondern nur partiell rekonstruiert werden können. In ihrer Ganzheit bilden sie als Totalität die menschliche Person, die uns begegnen kann (vgl. , S. 323-335). Erst durch diese Grundlage wird der Andere mir zum Gegenüber, der mir gegenüber Empathie und Mitgefühl zeigen kann. Künstliche Intelligenz ist entweder berechenbar (deterministische Systeme) oder prinzipiell funktional auf die Lösung einer Aufgabe hin ausgerichtet (neuronale Netze). Sprachliche, kulturelle und emotionale Dimensionen können zwar im Sinne eines Simulationsspieles (Turing) nachgeahmt werden, sodass sie formal den Kriterien der Verwechselbarkeit entsprechen. Es besteht jedoch kein gerechtfertigter Grund zur Annahme, dass in automatisierten Systemen von Emotionen oder gar von Empathie gesprochen kann (vgl. , S. 43-90). Auch wenn Robotiksysteme mit künstlicher Intelligenz also in gewisser Weise routinierbare Gespräche führen können, so fehlt in ihnen der für eine echte Begegnung wesentliche Gehalt des personalen Lebens, der in Bezug auf ein Gegenüber eine Resonanzerfahrung (vgl. ) oder eine Ich-Du-Begegnung (vgl. ) ermöglichen könnte. Die Versorgung durch ein robotisches System ersetzt nicht das Bedürfnis nach Begegnung. Auch ohne die Implementierung von robotischen Assistenzsystemen droht der Verlust von Humanität in der Qualität von Pflege, wenn Arbeitsbelastungen ein Maß annehmen, das den Menschen zur Maschine werden lässt und keinen Raum mehr lässt für das genuin Menschliche. Vor der Entmenschlichung des Menschen durch eine Reduktion seines Wertes auf seine Produktivität warnte bereits Norbert Wiener, der Begründer der Kybernetik und Pionier der Regelungstechnik: „Es ist eine Herabsetzung des Menschen, ihn an eine Ruderbank zu ketten und als Kraftquelle zu gebrauchen; aber er ist eine fast ebenso große Herabsetzung, ihm eine sich immer wiederholende Aufgabe in einer Fabrik zuzuweisen, die weniger als ein Millionstel der Fähigkeiten seines Gehirns in Anspruch nimmt“ (, S. 27). Er wies auch auf die Gefahr einer „Maschinisierung des Menschen“ (, S. 27), wenn Menschen durch Abstumpfungsprozesse so herzlos und mechanisch in ihren Abläufen werden, dass sie nur noch wie „Maschinen aus Fleisch und Blut“ (, S. 194) erscheinen. Die Herausforderung für die gesellschaftlichen Transformationsprozesse durch Technologien mit künstlicher Intelligenz und Robotik besteht also nicht darin, menschliches Pflegepersonal ersetzbar werden zu lassen, sondern dieses dafür zu befähigen, wieder Raum und Zeit für das genuin Menschliche zu finden. Wenn digitale Assistenzsysteme menschliche Pflegerinnen und Pfleger soweit unterstützen und entlasten können, dass dieses wieder mehr Zeit und Aufmerksamkeit für Begegnungen und Gespräche haben, wenn sie, mit Lévinas gesprochen, ein „Antlitz“ als Tor zur Welt sein können, dann fördern technologische Innovationen im besten Falle auch die Humanität in der Pflege. Wenn Innovationen verweigert werden, aber stattdessen die Arbeitsbelastung ein solches Maß erreicht, dass man durch die Überlastung von einer Abstumpfung und „Maschinisierung“ des Pflegepersonals sprechen muss, dann bewahrt man gerade nicht die Humanität und die Haltung der Fürsorge, auf der sich das Wertesystem der Pflege gründet. Buber M 2009 Ich und Du Buber M. Ich und Du. Stuttgart: Reclam; 2009. Franke G 2022 Künstliche Intelligenz, Transhumanismus und menschliche Personalität Franke G. Künstliche Intelligenz, Transhumanismus und menschliche Personalität. Darmstadt:wbg; 2022. Lévinas E 2014 Totalität und Unendlichkeit. Versuch über die Exteriorität Lévinas E. Totalität und Unendlichkeit. Versuch über die Exteriorität. München: Karl Alber; 2014. Misselhorn C 2021 Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co Misselhorn C. Künstliche Intelligenz und Empathie. Vom Leben mit Emotionserkennung, Sexrobotern & Co. Stuttgart: Reclam; 2021. Rosa H 2023 Resonanz. Eine Soziologie der Weltbeziehung Rosa H. Resonanz. Eine Soziologie der Weltbeziehung. Frankfurt am Main: Suhrkamp; 2023. Russell S Norvig P 2012 Künstliche Intelligenz. Ein moderner Ansatz Russell S, Norvig P. Künstliche Intelligenz. Ein moderner Ansatz. München; 2012. Turing A Kann eine Maschine denken? 1994 Künstliche Intelligenz. Philosophische Probleme 39-78 Turing A. Kann eine Maschine denken? In: Zimmerli W, Wolf S, Hrsg. Künstliche Intelligenz. Philosophische Probleme. Stuttgart: Reclam; 1994. S. 39-78. Wiener N 1966 Mensch und Menschmaschine. Kybernetik und Gesellschaft Wiener N. Mensch und Menschmaschine. Kybernetik und Gesellschaft. Frankfurt am Main; 1966. 0 0 0 0