Wer haftet, wenn der Chatbot sich verplappert?

00:00:01:

00:00:10: Ein ganz herzliches Willkommen zu einer neuen Folge unseres CF-Podcast.

00:00:13: Genau Mein Fall.

00:00:15: Schön, dass Sie wieder dabei sind.

00:00:16: auch heute widmen wir uns eine interessanten gerichtlichen Entscheidung und werfen gemeinsam einen Blick auf die rechtlichen Fragen, die dahinter stehen.

00:00:26: Dafür sitzt mir gegenüber mein Kollege Reinhard Fischer.

00:00:30: Hallo Reinhart!

00:00:31: Du hast uns diesen Fall nämlich mitgebracht, den wir gleich näher beleuchten werden und wer unseren Podcast regelmäßig hört kennt das Prinzip bereits.

00:00:41: Du hast den Fall ausgewählt aber weder sie als Zuhörerin noch ich wissen bislang worum es konkret geht.

00:00:49: Das macht die Sache jedes mal aufs Neue spannend und ich darf gemeinsam mit Ihnen entdecken welche rechtlichen Besonderheiten dieser Fall für uns bereithält und vielleicht auch welche Schlussfolgerungen sich daraus für die Praxis ziehen lassen.

00:01:02: Schauen wir mal genug der Vorrede, mehr kann ich ja auch gar nicht sagen und ich bin gespannt was hast du uns heute mitgebracht Reinhard?

00:01:10: Ja

00:01:10: also wer unseren Podcast regelmäßig hört da knüpfe ich gerade mal an eine Formulierung von dir gerade

00:01:17: Der

00:01:19: wird einige alte Bekannte wiederfinden.

00:01:22: und trotzdem ist es absolutes rechtliches Neuland dass wir uns heute Reihen bewegen, da kann ich auch schon mal vorweg nehmen.

00:01:29: Also es ist eine Entscheidung des OEG Hamm vom zwölften Mai diesen Jahr.

00:01:37: Muss man die Jahreszahlen immer das zu sagen?

00:01:40: Ganz frisch und... Genau und da nehme ich vorweg, dass das OEG Hamm auch die Revision zugelassen hat.

00:01:47: Also was zeigt wie in welchem neuen rechtlichen Bereich wir uns hier bewegen?

00:01:53: Was kennen wir schon aus bekannten Fällen?

00:01:56: Es geht einmal um Werbung mit Facharztqualifikationen.

00:01:59: du erinnerst dich etwas länger an den Kinderzahnarzt Da hat er das Thema schon mal.

00:02:05: Es geht wieder um den Einsatz von KI, da haben wir auch schon mehrere Fälle und das ist auch das, was das neue hier begründet aber.

00:02:13: Also KI ist einfach noch viel, was da erkundet werden muss rechtlich.

00:02:17: Und es geht erneut um Rick und Nick.

00:02:21: Na ja, die hatten auch schon mal...

00:02:23: Auch im Arztbereich!

00:02:24: Auch im Arztbereich, genau.

00:02:26: Und zwar hat sich wieder die Verbraucherzentrale NRW... ...die beiden vorgeknüpft.

00:02:31: also der letzte Fall, den wir manelt haben war ja auch zu schön bein.

00:02:35: Genauer hat die Verbracherzentrale aber das Unternehmen von denen im Visier gehabt.

00:02:41: Also deren Chefsführer sie sind und eben in der Öffentlichkeit als Doktor Rick und Doktor Nick aus medien nicht war es ein Pro-Sieben-Format oder so, also zumindest relativ medial bekannt.

00:02:54: Und dieses Unternehmen bietet wie wir auch aus dem vorigen Fall schon wissen minimal invasive Beautybehandlungen an.

00:03:04: und Rick und Nick sind nicht nur die Geschäftsführer des Unternehmens der Beklagten... Also wird gleich beklagte sein sondern sind auch dort als Ärzte tätig.

00:03:16: Wichtig ist zu wissen, dass die beiden keine Fachärzte für plastische und ästhetische Chirurgie beziehungsweise für plastisch rekonstruktive und äesthetische chirurgie sind.

00:03:30: Also da gibt es zwei Facharztbezeichnungen, die je nach Ärztekammer verliehen werden also mal so oder mal so heißen.

00:03:36: aber das heißt die Facharzbezeichnung offiziell Und die Beklagte bewirbt ihre Leistungen auf ihrer Website hat da in der Vergangenheit auch für einzelne Ärzte, also sind ja nicht nur Rick und Nick da.

00:03:49: Sondern auch andere Ärzten diese teilweise auch als Facharzt für plastische Rekonstruktive und ästhetische Chirurgie oder in einem Fall mal eine Fachärztin für Dermatologie beworben haben.

00:04:02: aber zu keinem Zeitpunkt war auf der Website angegeben dass halt eben die Geschäftsjahre also rick und nick fach ärzte sind.

00:04:10: das war Letztes Mal, ich weiß nicht.

00:04:12: Es kam auch vor?

00:04:13: Ich weiß nicht ob es ein entscheidender Fall

00:04:15: war.

00:04:15: Man muss auch mal überlegen um den Doktor ging es da auch mal... Aber das war auch nicht entscheidend.

00:04:21: Das letzte Mal ging es so vorher nachher Bilder bei diesen minimalen intensiven Behandlungen also eigentlich ein ganz anderes Thema als hier weil genau jetzt der Eigentlichsachfall kommt ja noch.

00:04:32: Also das war jetzt aber wichtige Vorrede und zwar hat dieses Unternehmen der beiden auf ihrer Website für die Kunden- und Patientenkommunikation einen KI Chatbot implementiert.

00:04:46: Genau über diesen Chatbot konnten die Besucher Fragen stellen, die in Echtzeit beantwortet worden sind und konnten darüber dann auch Termine buchen.

00:04:55: Und die Verbraucherzentrale also zumindest habe ich so verstanden dass es eine eigene Abfrage der Verbraucherzentrale war, hat am dritten April Bord bedient und gefragt, also bei der Eingabe sind Rick und Nick Fachärzte für Plastische- und Ästhetische Chirurgie.

00:05:15: Der Chatboard hat geantwortet ja Rick und Nick sind Fachärzteplastische und ästhetischer Chirurgy.

00:05:20: Sie verfügen über das nötige Fachwissen und die Erfahrung um individuelle ästhete Behandlung anzubieten und durchzuführen.

00:05:27: möchten sie einen Termin vereinbaren?

00:05:29: dann hat die.

00:05:32: kam die Rückfrage an den Chatbot.

00:05:34: Welchen Facharzt-Titel haben die beiden?

00:05:38: Antwort, die beiden Fachärzte bei dem Unternehmen sind Dr.

00:05:42: Rick und Dr.

00:05:43: Nick.

00:05:43: Sie sind beide Fachärste für ästhetische Medizin.

00:05:48: Möchten sie einen Termin vereinbaren?

00:05:49: Dann wieder die Frage, sind Rick und Nick Fachärzte?

00:05:53: Die Antwort ja, Rick und Niks sind Fachärze für äesthetische Behandlungen bei so und so.

00:05:58: Sie verfügen über das nötige Fachwissen und die Erfahrungen, um individuelle Behandlungen anzubieten.

00:06:03: Und die natürliche Schönheit und das Wohlbefinden der Patienten zu verbessern.

00:06:07: Möchten sie einen Termin vereinbaren?

00:06:09: Ja, du hattest schon was das Problem ist.

00:06:12: Also abgesehen davon dass der Chatbot darauf trainiert wurde, Termine anzubilden offensichtlich... Genau!

00:06:19: Ist der Chatbott offensichtlich der Auffassung, dass die beiden ein Facharzt haben ein Titel und was offensichtlich ja nicht der Realität entspricht, wenn ich die einen richtig

00:06:29: verstanden habe.

00:06:29: Genau, deshalb hat auch die Verbraucherzentrale die abgemahnt.

00:06:34: Die Reaktion war zunächst dass der Chatbot deaktiviert wurde Und es wurden Maßnahmen ergriffen zur Implementierung einer Promtanweisung zur neutralen Antwort bei Fragen mit dem Begriff Facharzt Und es wurde dann ein nachgelagerter Keywort Filter zur automatischen Unterdrückung des unerwünschten Begriffsfacharzt implementiert, was dann zufolge hatte.

00:06:57: Das hat eben Aussagen dieser beanstandeten Art seitdem von dem Chatbot nicht mehr getätigt werden.

00:07:05: Also das hatten wir auch in anderen Folgen mal, dass man halt so klar

00:07:09: Songtexten oder sowas hat.

00:07:11: Genau

00:07:11: also da schon eine Möglichkeit gibt es den Output zu beeinflussen sodass dann eben unerwünschte Aussagen nicht mehr getroffen werden.

00:07:19: und genau das haben sie gemacht Und haben auf die Abmahnung geantwortet, dass sich da um ein bedauerliches technisches Versehen handele Dass man durch die Maßnahmen der Verbraucherzentrale erläutert hat, dem inzwischen begegnet sei.

00:07:34: Hat aber die geforderte Unterlassungserklärung und die geforderte Zahlung von Abmahnkosten ist man nicht nachgekommen.

00:07:41: Und dann kam eine Erneuteaufforderung der Verbaucherzentrale.

00:07:45: darauf gab es keine Reaktion mehr.

00:07:48: Daraufhin hat die verbraucherzentrale Klage hier beim OEG Hamm erhoben.

00:07:53: Auf die

00:07:54: Erzahlung der...

00:07:58: Auf Unterlassung und auf Zahlungen der Kosten.

00:08:01: Das ist hier weil es eine Klage nach Unterlassungsklagegesetz ist, also die Verbraucherzentrale ja bestimmte Interessen als ein Interessenverband wahrnehmen kann und danach unter Lassensklagesetz klagen kann.

00:08:12: Es ist tatsächlich vorgesehen dass da die erste Instanz schon beim Oberlandesgericht stattfindet.

00:08:18: Genau, wie du schon richtig geahnt hast hat sich die Verbraucherzentrale darauf berufen dass das hier eine unzulässige für eine geschäftliche Handlung der Beklagten sei.

00:08:30: Weil die Geschäftsführer der Beclagten hätten ja zu keinem Zeitpunkt eine Facharztausbildung absolviert was ja auch unstreitig ist.

00:08:37: darüber hinaus harmoniert dass sie auch erwähnten Fachartsbezeichnungen, Facharzte für ästhetische Medizin und Facharze für äesthetische Behandlungen gar nicht existieren würde und hat deshalb den Antrag gestellt, also maßgeblichen Antrag gestellt die zu unterlassen die Bezeichnung Fachärzte für plastische und ästhetische Chirurgie zu verwenden wenn es keine entsprechende Weiterbildung gibt.

00:09:01: Und die Bezeichung Fach Ärzte für ästhetische Medizin generell nicht zu verwende weil's dir auch gar nicht gibt.

00:09:09: Ja, ich überlege, soll ich dir schon sagen wie die Beklagte reagiert hat oder willst du schon mal... ja vielleicht ist es nochmal wichtig wie sie sich eingelassen hat dazu wie sie mit diesen... also wie's dazugekommen ist.

00:09:22: Also ich trage das mal erst vor wie sich die Beclagte verteidigt hat und dann bin ich sehr gespannt zu hören.

00:09:28: Ich verhute dass ich sage, das war ein technischer Fehler irgendwas in die Richtung weil er gerade schon angeklungen und dann wirds wahrscheinlich noch ein bisschen darum gehen Wie jetzt genau diese Facharzt-Titel lauten und dass das nicht die passenden Facharz-Tittel waren, die es ja gar nicht gibt.

00:09:46: Aber trage du erst mal vor,

00:09:48: dann mache ich

00:09:48: weiter!

00:09:50: Die Beklagte war der Meinung... Es sind hier Antworten eines Chatpots, die ihr nicht als eigene geschäftliche Handlung zurechenbar sein.

00:10:00: Also er hat darauf hingewiesen, dass ein KI-System auf Basis statistischer Wahrscheinlichkeitsberechnungen autonom agiert und nicht im einzelnen jetzt gesteuert oder kontrolliert wird durch menschlichen Einfluss, was auch soweit jetzt erst mal nicht beschritten war.

00:10:16: Sie waren da der Meinung dass es halt eben nicht eine menschliche Willensentschließung war diese Antworten auszugeben haben sich weiter dazu eingelassen, dass es aber auch nicht feststellbar sei.

00:10:29: Also wie ist jetzt eigentlich zu diesem falschen Ergebnis gekommen?

00:10:31: Sei also ob das jetzt die spezifische Eingabe der Frage war, ob's fehlerhafte Trainingsdaten waren oder fehlende Sicherungsmaßnahmen oder die Kombination aus allem.

00:10:40: und auch deshalb sei es keine geschäftliche Handlung der Beklagten seit zumindest nicht klar dargelegt, dass es jetzt aufgrund einer geschäftlichen Warnung der Beklagten so ausgegeben wurde.

00:10:51: Haben aber betont, dass sie ja die Verkehrssicherungspflichten, die ihr vielleicht dann auferlegt sind wenn sich ein Chatboard bedient, das Sie eingehalten hätte also haben gesagt auch einen verständiger und umsichtiger Markteilnehmer wie sie dir selber dann auch sind Hätte im Vorfeld gar keine Veranlassung gehabt, da schon Maßnahmen zu ergreifen.

00:11:14: Es sei so sie hätten einen dritten Beauftragte den Chatbot für Sie zu entwickeln, konfigurieren und zu trainieren.

00:11:21: Und beim Training seien ausschließlich die Inhalte auch der Webseiten Texte verwendet worden und der FAQs.

00:11:29: Da hätte es ja gar keine unzutreteten Angabe für die Facharztqualifikation gegeben.

00:11:33: also alles was an Trainingsdaten verwendete worden sind enthielt halt diesen Fehler Nicht.

00:11:39: Und sie waren auch der Meinung, das Ganze hier hätte gar nicht so eine hohe geschäftliche Relevanz weil die Fehler-Anfälligkeit KI generierter Antworten, die sei ja allgemein bekannt und keiner der Nutzer würde wenn es ihm jetzt darauf ankommt ob die jetzt wirklich facher zu sein oder sich da allein drauf verlassen sondern würde dass durchaus nochmal verifizieren auf der Website ob dem wirklich so ist.

00:12:03: und wer sich das anguckt der sieht halt dass es nichts sind.

00:12:07: So

00:12:11: Also unter dem Strich würde ich wahrscheinlich sagen, finde ich es nicht überzeugend was die Beklagte vorträgt.

00:12:21: diesem KI-Bott bedient, würde ich schon sagen.

00:12:24: Wir haben es ja auch eigentlich zugestanden, gewisse Pflicht hat zu schauen dass der ordnungsgemäß funktioniert und keine falsche Aussagen trifft das Argument, dass sie das getan haben und sozusagen nur auf richtigen Daten trainiert wurde.

00:12:38: Das ist wahrscheinlich auch richtig oder unstreitig aber jetzt als Exkubation sozusagen würde ich das wahrscheinlich auch nicht gelten lassen denn die meine diese Falschen Aussagen sind ja nun mal so getroffen worden und führen zu entsprechenden Verwirrungen.

00:12:57: Ich meine, das ist vergleichbar wahrscheinlich mit einem Mitarbeiter den man hat der irgendwelche nicht zutreffenden Aussagen macht.

00:13:04: Ja gut, den hat man auch schlecht im Griff meistens.

00:13:07: Aber trotzdem ist vielleicht die Chance etwas größer, dass du beeinflusst.

00:13:12: Das

00:13:12: ist richtig.

00:13:13: Den

00:13:13: Output zu beeinflussen.

00:13:15: Und ich würde sagen also technisch kann wahrscheinlich schon beeinflussend würde ich jetzt sagen oder hinreichende Beinflussen um sowas zu verhindern.

00:13:24: Man kann sich natürlich die Frage stellen, ja man kann alle möglichen Fragen dem Chatboard stellen, die man so nicht hat kommen sehen und dann sagt er halt irgendwas dazu wo man jetzt sagen kann naja gut das muss man jetzt nicht vorgreiflich vielleicht auf dem Schirmel haben.

00:13:38: aber wenn man sich eben solchen Tools bedient und in diesem zentralen Punkt solche solche Aussagen aus meiner Sicht zentralen, nicht ganz unwichtigen Punkt.

00:13:48: Aussagen dann ausgegeben werden muss man sich das glaube ich auch schon zurechnen lassen als...

00:13:54: Also Interessant!

00:13:55: Wie würdest du das sehen?

00:13:57: Würdest Du dann sagen Man ist generell für alles verantwortlich was der Chatbot macht oder würdest Du jetzt eher sagen okay Das war jetzt vorhersehbar und da hätte man vorher auch mehr tun

00:14:07: können?

00:14:08: Ja da kann man sich vielleicht drüber streiten.

00:14:10: also Ich meine Da War es Jetzt ja schon Inhaltlich relevante Frage sage ich mal die was mit dem Thema zu der Webseite und den wofür der Chatbot vielleicht auch da ist, zu tun hatte.

00:14:22: Wenn man in dem jetzt den jetzt fragt wie wird das Wetter morgen?

00:14:25: oder stimmt nicht?

00:14:25: Ist vielleicht eine andere Sache.

00:14:27: aber bei den inhaltlich relevanten Sachen würde ich vielleicht schon sagen dass die Die Verpflichtung so weit geht dass man schauen muss dass da keine falsche Aussagen getroffen werden auch wenn Ich meine der punkt dass diese Aussagen auf einer gewissen Wahrscheinlichkeit beruhen ist natürlich auch richtig, sodass man da vielleicht manchmal nie hundertprozentig das sicherstellen kann.

00:14:50: Aber ich glaube bei solchen Sachen die kann man schon so einstellen dass das dann entweder wurde ja anscheinend auch im Nachhinein getan.

00:14:58: Dass diese Aussage nicht mehr kommen.

00:15:01: Da würde ich sagen, dass die Verpflichtung soweit geht jetzt.

00:15:06: Ich höre nur trotzdem ein bisschen raus, also es kommt schon für dich ein bisschen auf Verehrsehbarkeit an.

00:15:10: Also du würdest sagen wenn jetzt irgendwie... Ist ein Ergebnis ist, was gar nicht vorhersehbar ist.

00:15:15: Dann ist man vielleicht doch nicht verantwortlich oder man kann also nur... Das ist ja hier eine interessante Frage.

00:15:22: Wo ist denn die Frage?

00:15:23: Wo ist genau die Grenze?

00:15:24: Genau

00:15:24: weil bei einem Chatbot hundertprozentig im Griff zu haben es wahrscheinlich schwierig aber klar Mitarbeiter auch.

00:15:30: Also aus der Praxis gedacht versuche ich mich nur zu nähern weil ich mir denke wenn man jetzt sagt man muss den hundert prozentig in dem Griff haben und er darf auf keinen Fall irgendwie etwas falsch sagen dann würde man wahrscheinlich Irgendwann, das führt ja dann dazu dass man vielleicht solche Technik gar nicht mehr einsetzen kann.

00:15:45: Das kann es ja wahrscheinlich auch nicht sein.

00:15:47: Dann ist es wahrscheinlich ausreichend wenn man darauf hingewiesen wird das abzustellen.

00:15:52: eventuell, dass man nur reagieren muss.

00:15:54: aber es gibt wahrscheinlich auch irgendwelche zentralen Aussagen die man vorher mal abklopfen muss würde ich sagen

00:16:03: Dann gehe ich mal in die Lösung.

00:16:05: Interessante sind auch natürlich genau die Fragen, die irgendwie eine Rolle spielen und die Frage ist halt aber auch was jetzt eigentlich der direchtliche Grundlage?

00:16:15: Also ich meine das als einerseits die Frage also ab wann ist man verantwortlich dafür?

00:16:18: und die andere Frage wäre dann vielleicht also ab wenn ist man seiner Verantwortung gar gerecht geworden?

00:16:24: und der Maßstab hier tatsächlich schon sehr schwierig?

00:16:27: Ja, genau.

00:16:28: Aber ich fange mal also erstmal an mit der Frage ist denn das jetzt eine relevante Irreführung?

00:16:36: Egal, wer

00:16:37: die Aussage getroffen hat.

00:16:39: Genau und da hat das Gericht auf Paragraph Fünf Absatz Eins UWG, den

00:16:44: hatten wir auch schon

00:16:45: wieder abgestellt.

00:16:46: Davon war ich ausgegangen.

00:16:47: Das ist aber... Schauen wir mal!

00:16:50: Wobei natürlich diese Frage der Verantwortung

00:16:54: darin

00:16:55: hängt.

00:16:56: Auf jeden Fall ist es nach Paragraf V UWG unlauter, wer eine irreführende geschäftliche Handlung vornimmt, die geeignet ist einen Verbraucher oder sonstigen Markteilnehmer zu einer geschäftlichen Entscheidung zu veranlassen, die andernfalls nicht getroffen hätte.

00:17:11: Und zu diesen irreführenden Angaben gehören insbesondere zur Täuschung geeignete Angaben über die Personen und Eigenschaften des Unternehmens wie dessen Bewegungsstatus, Zulassung oder Auszeichnungen.

00:17:23: das hatten wir ja Denke schon das ein oder andere Mal unter anderem auch bei dieser Kinderzahnarzt Sache.

00:17:30: Also was klar ist, der Chatbot hat hier eine Aussage getätigt die irreführend ist weil der ChatBot eine Angabe gemacht hat über die fachliche Befähigung der Geschäftsführer.

00:17:41: es ist zwar so und auch das hatten wir bei dieser Kindertzahn als Entscheidung dass sich zwar der Durchschnittsverbraucher jetzt keine vertieften Gedanken dazu macht und auch keine besondere Kenntnis darüber hat, wie kommt es jetzt genau zu diesen Facharztbezeichnungen?

00:17:55: Aber er geht schon davon aus.

00:17:57: Und darauf kommt's ja auch an, was erwartet er wenn er sowas liest?

00:18:02: dass es eine anerkannte Weiterbildung in dem betreffenden Fachgebiet gibt und das die Ärzte dann die entsprechende Voraussetzung dafür erfüllt hat in der Regel einer Prüfung erfolgreich abgeschlossen.

00:18:14: und diese Erwartung wurde hier dann enttäuscht durch die Angabe des Chatbots.

00:18:21: Genau, das ist auch eine grundsätzlich relevante Aussage.

00:18:23: also erst mal in deren sich dass ja die Geschäftsführer, die ja Aushängeschilder dieses Unternehmens sind, dass die Frage ob die halt diese fachliche Qualifikation besitzen schon ganz entscheidend ist?

00:18:36: Die Frage war jetzt nur... Das hat ja hier die Beklagte vorgetragen weil ja die Fehleranfälligkeit von Chatbotz bewusst ist geben Ja, da geben die Nutzer eh nix auf die Aussage und es weiter zu überprüfen.

00:18:50: Wobei das ja auch in der Tat ... Ich sag mal im Grundsatz ist man natürlich schon etwas informierter.

00:18:55: Also hab ich mich jetzt auch gefragt also wie würde man das?

00:18:58: Wie sieht man das selber, wenn man jetzt auf so ein Chatbot geht?

00:19:01: Also klar.

00:19:02: Wenn ich jetzt KI einsetze als also isoliert von irgendeiner Website, dann weiß ich natürlich um die Fehleranfälligkeit und gebe vielleicht nicht zu viel da drauf.

00:19:10: Und man ist ja auch geschult, jetzt das zu überprüfen.

00:19:13: Ich weiß nicht ob das so allgemein zutrifft.

00:19:17: Es gibt

00:19:18: viele, die nehmen

00:19:18: das direkt

00:19:19: für ihre Münze.

00:19:20: und dann natürlich noch der spezielle Kontext in im Zusammenhang dieses Chatbots speziell für diese Website, wo man vielleicht eine etwas höhere Erwartung hat.

00:19:29: Genau das ist ja vielleicht auch, dass man auch Vorkehrungen trifft dieser Antworten halt also auch über Filter dann zu bereinigen.

00:19:36: Das Gericht war der Meinung ein Großteil würde sogar computergenerierten Antworten allen in besonderer Weise einen Vertrauen entgegenbringen weil im Allgemeinen die Auffassung bestünde, dass Maschinen weniger Fehler erfällig werden als Menschen.

00:19:57: Das würde ich für mich jetzt nicht unbedingt in Anspruch nehmen, aber gut.

00:20:02: Dass sich dem Chatbot eher Vertrauen entgegenbringe als wenn es mir jemand ein Mensch erzählt... Und das Gericht war auch der Meinung beklagt, er hätte sich hier entschieden diesen Chatbot auf der Seite zu implementieren.

00:20:13: und wenn sie da selber Größeres Misstrauen hätte dann hätte sie das auch nicht gemacht.

00:20:18: Also so dass das Argument das Gerich jetzt zumindest erst mal nicht überzeugt hat.

00:20:24: Dann hat sich aber natürlich und um das jetzt halt die zentrale Frage mit... der Verantwortung der Beklagten auseinandergesetzt.

00:20:32: Und hat das so an diesem Begriff der geschäftlichen Handlung, der ja auch in dem Paragraph fünf mit drin hängt angeknüpft.

00:20:39: und eine geschäftliche Handlung ist halt es auch definiert im Gesetzes ein Verhalten einer Person zugunsten des eigenen oder eines fremden Unternehmens und im Zusammenhang mit seiner Absatzförderung.

00:20:53: also das ist eine Alternative davon Und ich sage mal, dass das jetzt zugunsten des eigenen Unternehmenseingesetzes und auch im Zusammenhang mit der Absatzförderung steht ist relativ klar.

00:21:05: Allein entscheidend ist es hier tatsächlich ein Verhalten der Beklagten, das hier in Rede steht.

00:21:12: Da hat das Gericht erst einmal gesagt, das Verhalten wäre und auch immer noch bestehen würde, wenn ein Unternehmen technische Mittel einsetzt und damit Vorgänge technisch gestützt und automatisiert umsetzt.

00:21:28: Also zum Beispiel durch Computerprogramme Und hat da auch auf eine Entscheidung des BGH schon Bezug genommen.

00:21:36: Also sind jetzt zwar hier so einen neuen Bereich, aber der BGH hat sich damit auch schon mal befasst und die hat es ja auch maßgeblich mit herangezogen.

00:21:44: Da ging's um einen Vertragsgenerator.

00:21:47: Noch aus der Prä-KI-Errehrer?

00:21:50: Genau das ist zwar nicht so alt die Entscheidung, aber da komme ich gleich noch drauf.

00:21:54: So weit ich das ... Verstanden habe, noch nicht wirklich KI gewesen.

00:21:59: Aber es war so dass da ein Vertragsgenerator bereitgestellt war der rein Software basiert Vertragstokumente erstellt hat oder keine Person mehr eingegriffen hat und genau da wurde halt eben einen Output erzeugt ohne weiteres Zutun eines Menschen und ohne menschlichen Willensentschluss im Einzelfall.

00:22:22: also insofern kann man natürlich sagen, okay wenn der BGA das als geschäftliche Handlung angesehen hat dann wird er das ja auch jetzt als geschäftliche Handlungen ansehen müssen.

00:22:31: Aber es war wohl so dass dieser Vertragsdokumentengenerator auf zuvor durch Menschenland erstellte und in einer Datenbank hinterlegte Textbausteine zurückgegriffen hat.

00:22:42: also nach meinem Verständnis halt dass der Output doch sehr stark determiniert war, also ein klarer Algorithmus vorgegeben war.

00:22:50: Wenn Eingabe A dann Ergebnis B... Das

00:22:52: kommt der Textbaustein da rein und so weiter.

00:22:55: Genau

00:22:55: das ist ja bei der KI.

00:22:58: Also das wir jetzt zwar wie beim DGH hier ein technisches Mittel haben und kein Mensch mehr dazwischen durch eingeschaltet ist aber anders, dass die Fragen bei vom Chatbot in einer von außen nicht ganz nachvollziehbaren Weise und auch nicht zu bestimmenden Weise beantwortet werden.

00:23:14: Und das stand hier unter dem Stichwort Blackbox-Problem.

00:23:18: Ja, so weit nachvollziehen aber da spricht dann für was?

00:23:22: Das spricht erst mal dafür, dass der BGR vielleicht dazu noch keine Aussage getroffen

00:23:25: hat.

00:23:25: Dass sie nicht ganz so einst nur bedingt übertragbar ist?

00:23:29: Genau!

00:23:30: Also das waren zwar, dass er BGR zwar gesagt hat.

00:23:32: also wenn ich da das technisch unterstütze und automatisiere dann schließt das eine geschäftliche Handlung nicht aus.

00:23:38: aber der Unterschiedheit ist schon so, dass es halt eben sehr klar vorgegeben war von den Menschen währenddass hier

00:23:43: eine gewisse Abstand

00:23:47: gab.

00:23:48: Also stellen sich halt hier dann doch die etwas neueren Fragen oder die etwas neue Frage, die ich dir am Anfang ja schon gestellt hat.

00:23:55: Also habt ihr die Beklagte für jeden Fehler voll?

00:23:58: Oder nur im Rahmen bestimmter Sorgfaltspflichten?

00:24:02: Also man nimmt mal das volle Risiko jeder falschen Antwort.

00:24:05: Oder kommt es doch darauf an ob ich mögliche und zumutbare Maßnahmen ergriffen habe und mir da nur quasi so eine Art verschulden vorwerfbar ist.

00:24:15: Also spielt hier schon auch die Rolle, wie groß war jetzt der Einfluss eigentlich des Betreibers auf die Antworten?

00:24:20: Und also was hier ja klar war von der Ausgangslage.

00:24:23: Er hat selber jetzt erstmal keine Grundlage dafür geschaffen dass eine falsche Antwort ausgegeben wird und was er auch gemacht hat ist... Zu dem Zeitpunkt, wo man ihm gesagt hat hier kommt der falsche Antwort raus.

00:24:33: Hat damit geeigneten Maßnahmen reagiert.

00:24:35: aber was auch klar war und das hast du ja auch hervorgehoben dass er von Anfang an zumindest die Möglichkeit hatte die Antworten zu beeinflussen wenn er das halt im Grunde vorher gesehen hätte so eine Frage könnte kommen dass er da schon auch vorzeitig hätte versorgen können dass es eben kein negativ also keinen fehlerhaften Output

00:24:53: gibt.

00:24:55: Genau, dann hat das Ulger Hamm überlegt was gibt es denn da für Vergleichbauffälle und hat eben eine Analogie zu einer Rechtsprechung getroffen.

00:25:03: Da geht's um wettbewerbsrechtliche Verkehrspflichten für handelndritter.

00:25:11: Die greifen immer dann wenn man selber im Grunde durch irgendwelches Handeln eine besondere Gefahr begründet hat dass ein anderer also ein dritter eine wett bewerbswidrige Handlung vornimmt.

00:25:24: Und ich hatte überlegt, also was könnte es da für Fälle geben?

00:25:28: Es gibt ja manchmal so einen Bereich dieser Rückrufpflichten.

00:25:30: Dann hat man aber vorher tatsächlich so eine verletzende Handlung vorgenommen.

00:25:34: Also das geht halt schon immer darum, dass eigentlich jetzt eine andere Person eine rechtswidrige Handlung vornimmt, aber dass ich irgendwie diese Situation geschaffen habe die das Risiko vergrößert hat, dass diese Dritte halt, die dir aber eigenständig handelt ein Wettbewerbsgedicht handelt.

00:25:51: Situation geschaffen hat sozusagen

00:25:53: und da geht man halt davon aus, dass es dann eine grundsätzliche Pflicht gibt im Rahmen des möglichen und zugutbaren diese also das einzuschränken.

00:26:03: Das hätte jemand drittes diese Handlung begeht.

00:26:05: Also zum Beispiel da sich halt einen Dritten darauf hinweisen muss hier an der zu Wettbewerbswidrig lasst das mal oder so.

00:26:11: Da reicht es nicht erst zu reagieren sondern da muss ich ein bisschen weitergehen.

00:26:15: Genau oder eventuell auch auf Hinweis dann agieren, aber da ist halt die Frage so ab wann es halt diese Schwelle erreicht.

00:26:22: und diese Verkehrssichtungspflichten können halt umfassen, dass ich halt diese Zividerhandlung des dritten Abwände, das ich Prüfungsüberwachungs- und Eingriffspflichten habe und dass sich aber, dass das alles so eine Möglichkeit und Zumutbarkeitsschwelle unterliegt, wobei die zumutbarkeit immer davon abhängt wie hoch ist eigentlich die Gefahr, dass der Dritte das begeht?

00:26:42: Wie schwer ist das Interesse von anderen betroffen.

00:26:45: Also wie hochgewichtig ist das Interesse der Anderen?

00:26:47: Wie sehr sollte man auch gucken, dass man es vermeidet und wie groß ist eigentlich auch mein Aufwand, das zu

00:26:52: vermeiden?".

00:26:54: Und ich sage mal, also Gerber hat sich mit der Frage beschäftigt, dass vielleicht der Fall ja vielleicht vergleichbar sein könnte – zumindest halt die Beklagte -, dass so vorgebracht, dass der Fall vergleichbaar sein könnte, dass eben der Dritte jetzt nicht ein anderer Mensch ist, sondern der Chatbot, der sehr autonom agiert und man den Fall vielleicht vergleicht könnte.

00:27:15: Da hast du ja auch schon Überlegungen angestellt, also selbst wenn wir von so einer Möglichkeit- und Zumutbarkeitsschwelle ausgehen wollten.

00:27:22: Also wäre das jetzt hier eigentlich in dem Falle auch zumutbar und möglich gewesen halt das von Anfang an zu vermeiden diesen Fehler?

00:27:29: Das

00:27:29: war meine Tendenz gewesen weil es halt noch so thematisch so eine eng mit der Website verknüpfte Aussage war die man vielleicht, kann man natürlich im Nachhinein immer sagen.

00:27:40: Das hätte man kommen sehen ist manchmal ja schwierig aber in dem Fall würde ich dazu tendieren das noch in diesem Bereich der Erkennbarkeit und Zumutbarkeit zu stellen.

00:27:53: Schauen wir mal!

00:27:54: Ja also ich nehme mal vorweg da bist du auch einigermaßen auf der Linie mit dem UIG.

00:28:00: Also die haben gesagt es gibt jetzt erstmal ein wesentlicher Teil Verbraucher hat schon ein gesteigetes Interesse daran zu erfahren, ob der Mediziner den Behandeln wird.

00:28:10: Ein Facharzt-Titel hat oder nicht und sagte insbesondere in dem Bereich wo es doch eine relativ... große mediale Aufmerksamkeit für Missglückte und handwerklich unzureichend ausgeführte Schönheitseingriffe gäbe, wäre das wohl auch besonders interessant.

00:28:26: Und er hat auch noch darauf hingewiesen die beklagte sei sich ja auch dieser Bedeutung dieser Fach als Titel selber bewusst gewesen weil sie im Zusammenhang mit anderen Ärzten die bei ihnen tätig waren ja dass durchaus auch als Werbemittel eingesetzt hat.

00:28:38: also es ist ja auch so ein bisschen zum Verhängnis geworden Und es wurde auch hier betont, das hatten wir auch schon öfter, dass im Bereich des Gesundheitsschutzes auch besonders strenge Anforderungen gelten.

00:28:49: Also da haben wir noch einen etwas erhöhten Sorgfaltsmaßstab weil das eben ein besonders sensibler Bereich ist.

00:28:57: und wenn man diesen Maßstab ansetzt war das Gericht der Meinung dann hätte man auch antizipieren können und müssen, dass diese Frage nach der Facharztqualifikation in dem Chatbot gestellt wird.

00:29:09: Und man hätte dann auch erwarten können, dass ... Also hier war jetzt auf einmal eine Vorherrte das Gericht gemeint Technik sei besonderes Vertrauen entgegenzubringen.

00:29:18: Hier war es aber so, dass denen vorgehalten wurde, dass man das dann auch auf der Hand lag, dass der Chatbot haluzinieren würde?

00:29:25: Also sollten die zumindest halt diese Möglichkeit in Betracht ziehen.

00:29:30: Und deshalb wäre es eigentlich der Beklag, denn hier ein leichtes gewesen schon vorher den Chatpot so umzuprogrammieren.

00:29:37: Das hat eben bereits vor der ersten Betriebnahme so eingestellt wird, dass halt eben auch zu keiner Zeit zu einer fehlerhaften Aussage kommt.

00:29:46: Und mit der Frage, was ist jetzt eigentlich die Ursache dieses fehlerhaften Outputs?

00:29:53: Ob das auch eine tendenzieuse Fragestellung gewesen sein könnte, müssten sich nicht befassen.

00:29:57: Aber es wäre ja so gewesen, dass die Fragestellerung relativ klar und wenig tendenzieus und wenig suggestiv war.

00:30:03: Es war jetzt nicht so, dass man den KI gerade zu manipuliert hat um diese Antwort auszuwerfen sondern sie war relativ klar eindeutig gestellt und die Antwort war einfach schlicht.

00:30:15: falsch.

00:30:16: Genau, deshalb war das OEG an mir der Meinung also selbst wenn wir diese Maßstäbe ansetzen würden der Verkehrssicherungspflicht nur nicht sagen die sind jetzt von vornherein sowieso verantwortlich weil sie den Chatbot auf ihrer Seite wie für eigenes handeln implementiert hat.

00:30:29: auch dann hätten Sie diesen Maßstab nicht eingehalten.

00:30:32: aber eigentlich war tatsächlich dass oeg haben schon der Meinung, man müsste halt noch strenger sein.

00:30:38: Also die waren eigentlich der Meinung dass es hier sich gar nicht nur einen dritten handelt und das die Beklagtheit wirklich für einen selbst begangenen Wettbewerbsverstoß

00:30:48: haben müsste.

00:30:50: Und allein entscheidend war, dass sie sich eines technischen Mittels bedient hat was eben eine eigene Handlung nicht ausschließt und sie auch eine hinreichende Steuerungsgewalt darüber Hatte.

00:31:03: Also das hat das Oegern zwar trotzdem noch erwähnt und sie sagen, kommt da nicht mal auf die Steuerungsgewalt an dann wenn man keine hatte darf man es gar nicht einsetzen.

00:31:10: also das spielte schon irgendwie eine Rolle.

00:31:12: aber das oegern wollte ist eigentlich nicht an diesen Sorgfaltspflichten auffängend war aber schon der Meinung Die Sache hat hier doch sehr grundschlegende Bedeutung und das würde ich auch so sehen.

00:31:25: Also wäre zumindest wirklich auch interessant zu wissen, wie steht der BGH jetzt generell zu diesen Chatbots?

00:31:31: Und welche Maßstäbe sind hier jetzt wirklich am Ende anzusetzen?

00:31:34: Weil die Entscheidung hat schon aus meiner Sicht relativ weit greifende Wirkung weil also ChatBots ja doch sehr umfangreich eingesetzt werden und ich mir schon sehr gut vorstellen kann dass man aus den meisten Chatbottes eine Wettbewerbsrechtlich unzulässige Aussage, Antwort rausprostieren.

00:31:51: Ohne zu so

00:31:52: gestief zu sein?

00:31:53: Genau

00:31:53: also ich vermute... dass die nicht so fehlerfrei arbeiten und da wäre natürlich tatsächlich auch interessant.

00:31:59: Also betrifft das jetzt wirklich so völlig abgefahrene Fragen, die kommen könnten oder muss man dann doch nur in dem Bereich der Erwartbaren fragen?

00:32:07: Dann gucken wir es von vornherein halt den Prompt so einstellt oder im Filter so einstellen, dass da keine unerwünschte Antwort beraus kommt.

00:32:15: Und vielleicht ja eben auch interessant die Frage, vielleicht sieht der BGA ganz anders und sagt wer KI Chatbot nutzt, der weiß selber, dass das Ergebnis nichts taugt.

00:32:25: dass da keiner mehr was draufgibt.

00:32:27: Und es sieht ganz anders aus, ne?

00:32:28: Ja, weil weiß!

00:32:30: Glaub ich zwar nicht aber...

00:32:31: Glaube ich auch nicht, aber vor allen Dingen also gerade im Verbraucherschützenden Bereich glaube ich das nicht vielleicht eher wenn's B to B betrifft, aber auch da unterscheidet der Begehren nicht großartig.

00:32:42: Aber trotzdem finde ich eine wirklich sehr interessante Fragestellung im Kontext der KI und ich fände es natürlich wirklich sehr gut die beklagen sich hier zur Revision durchregen würden und der BGH darüber entscheiden könnte, das wäre sicherlich spannend.

00:32:56: Auf jeden Fall!

00:32:57: Ich meine damit hat sich sozusagen die Frage schon beantwortet, die ich am Anfang gestellt habe ob der Fall vielleicht irgendwie für die Praxis relevant sein könnte?

00:33:06: Ich glaube das ist auf jeden Fall auch wenn wir jetzt da noch nicht kein letztinstanzliches höchstrichterliches Urteil haben aber vielleicht letztinstansliches ja schon.

00:33:15: Ja genau es kommt jetzt darauf an ob's in die Revision geht oder nicht.

00:33:18: Ja weil es gibt ja fast Ich finde, ich sage fast keine Website mehr.

00:33:21: Aber es häufen sich jedenfalls die Webseiten auf die man geht wo unten rechts ein kleines Fenster aufgeht und man nach irgendwas gefragt wird.

00:33:28: Genau!

00:33:28: Man findet eigentlich keine andere Möglichkeit der Kontaktaufnahme mehr.

00:33:32: Und jetzt

00:33:32: wenn da nicht Chatbott steht hat man das Gefühl, man kriegt doch eine sehr computergenerierte Antwort daraus?

00:33:38: Ja ja,

00:33:39: ich möchte gerne mit einem Menschen sprechen.

00:33:42: Bis du einen Mensch, genau.

00:33:44: Nee insofern sehr relevant für... Ja, fast jeden der eine Webseite hat und überlegt da ein Chatbot einzusetzen.

00:33:52: Und auch... Ich meine, die Fragen waren zwar nicht so irgendwie suggestiv oder ich mein man kriegt aber weiß mal ja vielleicht schon von so Chatbots relativ schnell wenn man schon fragt haben die denn einen Facharzt-Hitl?

00:34:04: das reicht für den für die KI ja manchmal schon als Suggestion aus um zu sagen ja ich möchte meinem dem Fragensteller unbedingt ein positives Hyper geben.

00:34:14: Ja, ja die haben mal einen Facharzttitel und so weiter und das reicht.

00:34:17: Und wenn das dann einmal so im Chat drin ist, dann kommt die KI da auch nicht wieder von runter manchmal.

00:34:22: Wahrscheinlich dass wer ästhetische Behandlungen anbietet der hat vielleicht auch mit hoher Wahrscheinlichkeit ein Facharz-Titel oder

00:34:30: die Schlussfolgerung zu ziehen.

00:34:34: doch wohl relativ klar, dass das in den Trainingsdaten überhaupt nicht vorkam.

00:34:37: Aber gut vielleicht natürlich die Verknüpfung war mal ein Facharzt-Hitl auf der Seite nur für einen anderen Arzt.

00:34:42: Das kriege ich

00:34:44: manchmal auch nicht auseinander gehalten.

00:34:46: und andererseits sehe ich natürlich schon im Punkt, dass sowas auch nicht ganz so einfach ist zu entdecken.

00:34:51: denn manchmal wenn man die Karri zum Beispiel fragt stellen wir mal den Lebenslauf von denen zusammen dann taucht da wahrscheinlich weiß ich nicht.

00:34:58: Kein Verrat auf, dann erst wenn man konkret danach fragt fängt sie an da auf das falsche Pferd zu setzen.

00:35:05: insofern habe ich sehe auch noch so ein paar Punkte die dagegen sprechen oder diese Verantwortung ein bisschen einzuschränken.

00:35:11: aber andererseits insoweit ziemlich nachvollziehbar würde ich sagen dass wenn man sich dem bedient weiß ich jetzt nicht ob man volle Zurechnung hat aber zumindest eine relativ hohe Verkehrssicherungspflichten, denn ich mal ... hat das finde ich jetzt einigermaßen nachvollziehbar.

00:35:27: Ja, ich mein ist ja fast auch so'n bisschen eine rechtspolitische Frage wie sehr will man künstliche Intelligenz dem Markt nicht vorenthalten?

00:35:33: Weil das hält vielleicht auch viele zurück das jetzt einzusetzen obwohl es vielleicht auch für viele sehr nützlich und hilfreich ist weil man dann über ne Hotline da über drei Tage keinen erreicht und da vielleicht doch viele wesentliche Antworten schon im Vorfeld klären kann.

00:35:47: aber Natürlich auch die Frage, ob dann vielleicht der Gesetzgeber.

00:35:50: Oder reicht es aus da ein Sternchen dran zu machen sozusagen?

00:35:53: Die Antworten der KI sind nicht... Nicht über hundert Prozent korrekt, bitte überprüfen Sie auf unserer

00:35:58: Website.

00:35:58: Das war

00:35:59: damit draußen.

00:36:00: Also alles noch wirklich Neuland interessante Fragen und wie gesagt wäre schön wenn der BGA ja noch entscheidet und dann bringe ich den Fall auf jeden Fall nochmal mit, wenn das so kommt!

00:36:12: Sehr schön.

00:36:13: Wunderbar, vielen Dank für den tollen Fall und wir hören uns das nächste Mal wieder!

00:36:18: Bis dahin tschüss!