KI in der Trauer - Wie viel Empathie ist zu viel?

Mit Hilfe eines Custom GPT haben wir in unserem monatlichen Meetup zum Thema „KI & Trauer“ einen sogenannten „Griefbot“ erstellt. Als Gast durften wir Lukas Spahlinger vom Zentrum Gesellschaftliche Verantwortung der Evangelischen Kirche in Hessen und Nassau (Evangelische Erwachsenenbildung EKHN) begrüßen, der uns durch die Erstellung führte.

Überraschend war die übertriebene Nähe und Empathie, die die erste Version des Griefbots hervorrief. Sätze des Bots: „...ich kann spüren, wie tief der Schmerz gerade sitzt“ oder „Ich bin da, um dir zuzuhören“, lösten eine spannende Diskussion aus: Wie kann ein Bot überhaupt „zuhören“ oder „fühlen“?

Sätze wie „Der Verlust von Frieda muss ein großes Loch in dein Leben gerissen haben...“ wurden als anmaßend und übergriffig empfunden. Muss? großes Loch?

Die Antworten des Bots wurden als sehr lang und überladen wahrgenommen. Wie viel Information sollte in den Antworten des Bots enthalten sein? Können zu viele Rückfragen überfordern?

Viele Fragen sind noch offen:
- Wie muss ein Griefbot entwickelt werden, damit er sinnvoll und angemessen reagiert und eine echte Unterstützung sein kann?

- Welche Rolle kann und oder sollte ein Chatbot in der Trauerbegleitung spielen?

- Wie kann Transparenz über die Herkunft und Funktionsweise des Bots geschaffen werden?

Wichtig bleibt - darin waren wir uns alle einig - den Griefbot als Werkzeug zu verstehen und ihn nicht mit einem menschlichen Gegenüber zu verwechseln.

Um dich für das nächste Meetup anzumelden, schreibe bitte an society@deathtech.de