Desktop

Bei großen Versprechen in der Medizin lohnt sich immer ein genaueres Hinsehen. Dieses genauere Hinsehen war für Jürgen Windeler als Chef des IQWIG bis zu seinem Ruhestand 2023 berufliche Pflicht. Das IQWIG ist ein zentraler Baustein der Evidenzbasierung im gesetzlichen Krankenversicherungssystem. Die private Krankenversicherung hat so etwas übrigens nicht. Den kritischen Blick auf große Versprechen hat Jürgen Windeler aber auch im Ruhestand nicht abgelegt, wie seine bissigen Kommentare etwa beim Observer zeigen, z.B. zum geplanten Herzgesetz oder zuletzt zur Opt-out-Regelung bei der elektronischen Patientenakte.

Um die KI ranken sich im Moment auch viele große Versprechen. Manche sind berechtigt, aber manchmal ist der Kaiser auch nackt. Ein kleines, aber vielsagendes Beispiel stellt Jürgen Windeler hier in einem Gastbeitrag dar.

—————————————–

KI ist so toll!

Gastbeitrag von Jürgen Windeler

Sie kennen die berühmte Frage an Radio Eriwan: “Ist es wahr, dass der Kosmonaut Juri Gagarin eine Reise in die USA gewonnen hat?“

An die Antwort fühlt man sich erinnert, wenn man einer Äußerung von BÄK-Präsident Reinhardt auf der Bitkom Digital Health Conference 2024 nachgeht. Ihn faszinierte „das Thema Mustererkennung mit der KI“. Er habe von Londoner „KI-Forschern“ gehört, sie hätten „Frauen dazu bewegt, ihren Warenkorb scannen zu lassen … Und da hat man festgestellt, dass neun Monate vor dem Auftreten und der Erstdiagnose vom Eierstockkrebs das Einkaufsverhalten dieser Frauen sich typisch verändert hat.“ „Solche Aspekte von KI, wo ich durch Zusammenführen von Mustern Dinge unter Umständen früher erkenne, finde ich total spannend und faszinierend“. Früherkennung von Krebs durch Scannen von Warenkörben?

„Im Prinzip ja“, hätte Radio Eriwan geantwortet, aber guckt man sich nun diese Studie genauer an, dann stellt man fest:

a. Nein, es geht nicht allgemein um „Einkaufsverhalten“ oder „Warenkorb“, sondern nur darum, ob die Frauen bestimmte frei verkäufliche (OTC-)Medikamente (insbesondere Schmerzmittel) gekauft haben.
b. Nein, mit KI hat das nichts zu tun; da wurden ganz normale statistische Verfahren benutzt.

Die Äußerung geht offenbar auf diese Aussage in einem Interview zurück: „Und über die Daten von Shopping-Kundenkarten konnte an unserem Zentrum Eierstockkrebs bis zu acht Monate vor der eigentlichen Diagnose erkannt werden, weil die Patientinnen ihre Symptome oft mit rezeptfreien Medikamenten behandeln, bevor sie sich an die Hausärzt*in wenden.“

Im Prinzip ja, aber …

c. Nein, nicht „konnte erkannt werden“, sondern vielleicht: „wurde eine statistische Korrelation gefunden”, zumal noch nicht einmal klar ist, ob die Beschwerden, gegen die die Frauen die Medikamente gekauft haben, etwas mit der späteren Diagnose zu tun hatten.
d. Nein, die „Studie“ sagt und zeigt überhaupt nichts. Denn hier wurden 100 Frauen mit bekanntem Ovarial-Ca befragt. Ohne Kontrollgruppe weiß natürlich niemand, ob Frauen mit anderen Krankheiten oder aus anderen Gründen ebenso irgendwann Schmerzmittel kaufen.
e. und zu der Interpretation „could potentially be useful” hätte man auch ohne irgendwelche Daten kommen können.

Aber da keiner nachguckt oder an einer kritischen Bewertung kein Interesse hat oder dazu nicht in der Lage ist, verbreitet sich diese Mücke nach dem Stille-Post-Prinzip, wird größer und größer, nähert sich den Ausmaßen eines Elefanten – und demnächst wird ein „Gutes-Ovar-Gesetz“ vorgelegt, in dem die Forderung des Berufsverbandes der Frauenärzte geregelt wird, vor jeder Apotheke ein „Sono-Mobil“ aufzustellen. „Sie haben Schmerzmittel gekauft? Da sollten wir aber gleich mal …“. KI ist so toll!

Was antwortete Radio Eriwan? “Im Prinzip ja, aber es war nicht der Kosmonaut Juri Gagarin, sondern ein Rentner, und er hieß nicht Juri, sondern Oleg, und auch nicht Gagarin, sondern Gaganoff, und es war nicht ‘in die USA’ sondern ‘in Kiew’ und er hat keine Reise gewonnen, sondern ein Fahrrad, und er hat es auch nicht gewonnen, sondern es wurde ihm gestohlen!”

Kommentare (32)

  1. #1 hto
    wo grundsätzlich die Konfusion ...
    16. Dezember 2024

    Übrigens: Das Prinzip ist der Tanz um den heißen Brei, kommt sofort nach dem Tanz um das goldene Kalb.
    😉

  2. #2 Ludger
    16. Dezember 2024

    Sehr geehrter Herr Professor Windeler,
    ich stimme Ihnen zu, dass Früherkennungsmaßnahmen auf Sensitivität und Spezifität untersucht sein müssen, bevor sie flächendeckend eingesetzt werden. Eine miese Spezifität macht die empfindlichste Testmethode so unbrauchbar wie die Alarmanlage eines Juweliers, die bei jeder Fliege losgeht.
    Ihre humorvolle Bemerkung:

    […] Forderung des Berufsverbandes der Frauenärzte geregelt wird, vor jeder Apotheke ein „Sono-Mobil“ aufzustellen. „Sie haben Schmerzmittel gekauft? Da sollten wir aber gleich mal …“

    bezieht sich auf eine grundsätzliche Meinungsverschiedenheit zwischen den Gesetzlichen Krankenkassen und den Gynaekologinnen und Gynaekologen.
    Es geht darum, ob es sinnvoll ist, beschwerdefreien Frauen mit normalem Tastbefund eine Ultraschalluntersuchung zu machen und wer sie bezahlen soll. Das hat mit der Verbesserung der Überlebenszeit von Patientinnen mit Ovarialkarzinom gar nicht so viel zu tun. Eine Vaginalsonographie gehört eigentlich zu jeder gründlichen gynaekologischen Untersuchung. Mit einer Vaginalsonographie sieht man, was funktionall und organisch vorliegt (Follikel, Myome, Schleimhautdicke, Polypen,Blasensenkungen, Polycystisches Ovarsyndrom, Gelbkörper, Dermoidzysten, Doppelkonturen am Darm bei Divertikeln, freie Flüssigkeit und gutartige und sehr selten auch bösartige Tumoren.)
    So weit ich weiß, haben die Studien, auf die Sie sich beziehen, ergeben, dass man durch regelmäßige Vaginalsonographien die Überlebenszeit von betroffenen Frauen aus Familien mit erblichem Eierstockskrebs nicht verlängern konnte. Nun gut, ich bin seit 9 Jahren aus dem Geschäft und brauche deswegen vielleicht in dieser Frage etwas Auffrischung.
    Ich hoffe aber, dass wir uns darin einig sind, dass der statistische Nichtnachweis von irgendetwas in einer speziellen Untergruppe keine Aussage über die Untersuchungsmethode bei allgemeiner Fragestellung in der Normalbevölkerung zulässt.
    Warum käme niemand auf die Idee, die Auskultation der Lunge ( für die Nichtmediziner: Abhören mit dem Stethoskop) für überflüssig zu erklären, weil Studien ergeben hätten, dass die Überlebenszeit bei Patienten mit Lungenkrebs dadurch nicht nachweisbar steige. Die Antwort ist: es liegt am Preis. Die Sonographie ist den Gesetzlichen Krankenkassen zu teuer.
    Das hatte für mich Folgen:
    Wenn eine Patientin ca. 9 Monate nach meiner Untersuchung vom Hausarzt geschickt wird, weil er beim Bauchultraschall (!) etwas gesehen hat, was ihn an ein Ovarialkarzinom erinnerte, und das ist dann auch eins, dann fragt man sich: Warum habe ich vor 9 Monaten eigentlich keinen vaginalen Ultraschall gemacht?
    Wenn bei einer Patientin ca. 3 Monate nach einer Untersuchung bei mir im Krankenhaus beim CT ein hochgeschlagenes gestieltes Myom gefunden wurde und die Patientin wegen der unklaren Dignität (für die Nichtmediziner: gut- oder bösartig?) den Sommerurlaub absagen musste, dann fragt man sich: Warum habe ich vor 3 Monaten eigentlich keinen vaginalen Ultraschall gemacht?
    Nach einigen derartigen Erlebnissen habe ich dann die Indikation zur Ultraschalluntersuchung sehr großzügig gestellt, ohne eine IGEL zu berechnen. Und siehe, ich habe auch einzelne Ovarialkarzinome in einem frühen Stadium gefunden, obwohl ich danach gar nicht gesucht hatte.
    Fazit:
    Vaginalsonographie ist keine geignete Vorsorgemaßnahme zur Früherkennung von Ovarialkarzinomen.
    Aber eine Vaginalsonograpie ist ein unverzichtbarer Bestandteil einer gründlichen gynaekologischen Untersuchung. Ich habe das in der Regel oft und ohne IGEL-Bezahlung gemacht. Die Bezahlung der Ultraschalluntersuchungen ist ja budgetiert. Das heißt, dass man die Untersuchungen oberhalb der Budgetgrenze nur in Centmengen bezahlt bekommt. Das war mir egal, ich hatte ja zum Broterwerb auch noch die beihilfeberechtigten Patientinnen, bei denen das bezahlt wird.
    LG. Ludger

  3. #3 Staphylococcus rex
    16. Dezember 2024

    Nur einmal angenommen, die Hardware ist mittlerweile bereit für eine echte KI. Eine KI ist am Anfang genau wie jede natürliche Intelligenz erst einmal ein unbeschriebenes Blatt. Ein Mensch braucht viele Jahre, um sich das nötige Wissen und die nötigen Verknüpfungen zwischen den Wissenselementen anzueignen. Und wir alle wissen, welchen Einfluss Lehrer (im weiteren Sinne also Eltern und hauptberufliche Pädagogen) auf diesen Prozeß haben. Und es geht dabei nicht nur um die Geschwindigkeit der Wissenvermittlung, sondern auch um die Anzahl und Qualität der Querverbindungen zwischen den Wissenselementen und um die Korrektur falscher Elemente und Verknüpfungen. Das Erkennen von Falschinformation und von Manipulation ist das Ergebnis von Intelligenz und muss vorher mühsam erlernt werden.

    Den Prozeß des Anlernens einer KI halte ich deshalb für ausgesprochen wichtig. Eine KI kann nicht besser sein als die Daten, mit denen sie trainiert wurde. Wie geht eine KI damit um, wenn die Trainingsdaten widersprüchlich sind? Kennt eine KI das Problem der kognitiven Dissonanz? Wenn ich mich richtig erinnere, haben die ersten Sprachmodelle frei phantasiert, wenn sie eine konkrete Antwort nicht liefern konnten. In dem Augenblick, in dem eine KI in einem bisher unbekannten Datensatz selbstständig und korrekt zwischen Information und Falschinformation unterscheiden kann und bei den Vorschlägen für Handlungsalternativen ethische Grundsätze berücksichtigt, dann kann man von einer echten KI sprechen, vorher ist es einfach nur eine gigantische Statistikmaschine. Dieser Punkt hat aber auch Schnittmengen mit dem Konzept eines Bewußtseins. Die Frage ob Intelligenz und Bewußtsein voneinander zu trennen sind, wirft aus meiner Sicht interessante Fragen auf.

    • #4 Joseph Kuhn
      16. Dezember 2024

      @ Staphylococcus rex:

      Die Möglichkeiten und Grenzen der KI in der Medizin insgesamt sind nicht gut zu diskutieren, schon gar nicht im Blogformat. Dazu sind sowohl die Einsatzbereiche zu unterschiedlich (Diagnostik, Literaturzusammenfassungen, Prognosen z.B. bei der Krankenhausentlassung, Hilfe bei der Suche nach Abrechnungsbetrug, Unterstützung beim Verfassen von Arztbriefen usw. usw.), als auch die technischen Grundlagen, es geht ja nicht nur um Large Language Modells.

      Jürgen Windelers Beitrag habe ich auch nicht so verstanden, dass er inhaltlich in die Diskussion über Möglichkeiten und Grenzen der KI einsteigen will, sondern dass es ihm um den Hype geht, der gerade um die KI gemacht wird und der sich in einer vom BÄK-Präsidenten verbreiteten Falschmeldung niedergeschlagen hat, ohne dass das jemandem aufgefallen zu sein scheint.

      Auch das von Jürgen Windeler verlinkte Quelleninterview mit Prof. Aldo Faisal ist übrigens interessant. Er sagt, und so ist das Interview überschrieben, “KI kann unsere Lebenserwartung um 1,5 Jahre verlängern”. Abgesehen davon, dass man auf der Basis natürlicher Intelligenz mit dem Verzicht auf das Rauchen die Lebenserwartung um 5-10 Jahre verlängern kann, fragt sich, worauf die Aussage Faisals eigentlich beruht oder ob das “gefühlt” ist, siehe die erwähnte Breite der KI-Einsatzmöglichkeiten.

      Im Moment funktioniert “KI” wie ein Zauberwort, das die natürliche Intelligenz auszuschalten droht, wir hatten das ja vor kurzem schon einmal im Zusammenhang mit einer Coronastudie von einer “Top-10”-KI-Forscherin. Vor vielen Jahren hat man sich von der Genetik das Blaue vom Himmel versprochen, dann von der Hirnforschung, jetzt eben von der KI. Ich warte darauf, dass KI-Geschichten wie die von Herrn Reinhardt als urban legends ein Eigenleben entwickeln.

  4. #5 zimtspinne
    17. Dezember 2024

    Ich könnte mir vorstellen, dass die Aussage sich auf die Nutzung neuartiger Geräte bezieht, mit denen man seinen Gesundheitszustand überwachen kann.
    Also genau genommen einige Vitalparameter, die mit bestimmten Sensoren gemessen und überwacht werden.

    Apple Watch, CGM-Systeme als Beispiele.

  5. #6 zimtspinne
    17. Dezember 2024

    Die gute alte Körperfettwaage könnte man auch dazu rechnen. Wobei die schon wieder ihre Tücken hat, die einfache für zu Hause….

    Ich stelle mir das so vor: Die KI-gesteuerte Waage stellt einen Ausschlag nach oben vor und versperrt kurzerhand den Zugang zum Kühlschrank bzw dieser öffnet sich erst wieder, wenn die Apple Watch zwei Stunden hohe körperliche Aktivität zurückmeldet. 😉

  6. #7 zimtspinne
    17. Dezember 2024

    edit/
    “vor” = “fest”

  7. #8 Robert
    17. Dezember 2024

    Vielleicht wäre die ganze Diskussion nicht so aufgepeitscht wenn man auf den Begriff “Intelligenz” verzichten würde.Künstliche Intelligenz wird man nicht definieren können, ist doch schon die natürliche Intelligenz kaum fassbar. Ich ordne den Begriff “Intelligenz” eher in die Alltagssprache ein, für wissenschaftliche Zwecke ist er evtl. noch entwicklungshistorisch von Nutzen.

    • #9 Joseph Kuhn
      17. Dezember 2024

      @ Robert:

      “Künstliche Intelligenz wird man nicht definieren können, ist doch schon die natürliche Intelligenz kaum fassbar.”

      So argumentiert Wikipedia, aber die natürliche Intelligenz ist schwerer fassbar als die künstliche, weil man sie nicht konstruiert hat. In der Psychologie gibt es ja das bekannte Bonmot “Intelligenz ist, was der Intelligenztest misst”. Bei der künstlichen Intelligenz ist das anders, da kennt man die “Bauweise”.

      Inwiefern KI tatsächlich menschlichen Hirnfunktionen entspricht, darüber kann man lange diskutieren. Ich finde die Geschichte mit Herrn Reinhardt aber eher unter dem Aspekt interessant, warum seine Behauptung unbesehen als glaubwürdig durchging bzw. warum Herr Reinhardt selbst offensichtlich gar keinen Anlass sah, mal zu schauen, was an der Sache wirklich dran ist.

      Karl Lauterbach hatte sich vor kurzem sogar zur Behauptung verstiegen, mit der KI ließe sich die “Geißel der Menschheit”, Krebs, überwinden. So weit gehen sonst nur Schlangenölverkäufer. Oder Jens Spahn.

  8. #10 Staphylococcus rex
    17. Dezember 2024

    @ Joseph Kuhn, nachdem Ludger in seinem Beitrag ausführlichst auf den konkreten Anlaß eingegangen ist, wollte ich mich der Problematik aus einem anderen Blickwinkel nähern und der Frage widmen, ist da auch überall KI drin, wo KI draufsteht?

    Im medizinischen Bereich wird KI wahrscheinlich hauptsächlich als Expertensystem eingesetzt werden. Wobei, Expertensysteme gibt es schon eine ganze Weile, dabei wird ein mit menschlicher Intelligenz erdachtes Regelwerk in einem Programm umgesetzt (die Programmierung ist ebenfalls menschliche Intelligenz). Was wir gerade erleben, das ist die nächste Evolutionsstufe, das maschinelle Lernen von Computern. Das bedeutet, eine menschliche Intelligenz lernt einen Computer an, für die antrainierte Situation selbstständig adäquate Entscheidungen zu treffen. Das ist vergleichbar mit einem Lehrling (oder Gesellen), der unter fachlicher Oberaufsicht seines Meisters beschränkt selbstständig arbeiten darf. Das hat nach meiner Vorstellung aber noch nichts mit echter KI zu tun.

    Die dritte Evolutionsstufe von Expertensystemen würde ich dann sehen, wenn man eine KI damit beauftragen kann, sich selbstständig in ein neues Gebiet einzuarbeiten (vergleichbar dem Selbststudium eines Studenten in einem höheren Studienjahr oder der Tätigkeit eines Doktoranden), wenn dabei das Expertensystem selbstständig die Lerninhalte auf Wahrheitsinhalt und Plausibilität prüfen kann. Erst ab diesem Punkt würde ich von einer echten KI sprechen.

    Eine mögliche vierte Evolutionsstufe von Expertensystemen würde sich evtl. der Ökonomie des Denkens zuwenden. Bisher sind KI-Anwendungen an Rechenzentren gebunden mit einem wahnsinnig hohen Stromverbrauch. Nebenan bei Oliver Gabath steht ein interessanter Beitrag zum Thema KI und Kernenergie:
    https://scienceblogs.de/quovadis/2024/11/13/quo-vadis-kernenergie-investitionen-von-google-amazon-und-microsoft/

    Eine kurze Google-Recherche sagt, das menschliche Gehirn verbraucht 0,3 kWh/Tag, wenn ich das richtig umrechne, entspricht dies einer Dauerleistung von etwa 12,5 Watt. Für die Ökonomie des Denkens zahlen wir aber auch einen Preis, dazu gehören z.B. Wahrnehmungsfilter, der Wunsch nach größtmöglicher Vereinfachung und die Fähigkeit, die daraus resultierenden kognitiven Dissonanzen bewußt als Prüfung des “wahren Glaubens” zu ignorieren. Die daraus resultierende Frage lautet: Wird eine KI in ihrem Evolutionsprozeß immer ähnlicher einer menschlichen Intelligenz (mit allen positiven und negativen Aspekten)?

  9. #11 Ludger
    17. Dezember 2024

    @S.rex:
    Die daraus resultierende Frage lautet: Wird eine KI in ihrem Evolutionsprozeß immer ähnlicher einer menschlichen Intelligenz (mit allen positiven und negativen Aspekten)?

    Ich glaube nicht. Die natürliche Intelligenz ist ein Produkt der Evolution zusammen mit der Kultur. Das ist bei der KI anders, wenn sie sich später selbständig weiterentwickelt. Also wird sie sich immer unterscheiden.

  10. #12 Staphylococcus rex
    17. Dezember 2024

    @ Ludger, der Hinweis mit dem Einfluss der Kultur auf die Entwicklung der menschlichen Intelligenz ist natürlich absolut richtig. Aber was ist, wenn KI mit Menschen interagiert, kann sich die KI der menschlichen Kultur und Ethik entziehen?
    https://www.spiegel.de/netzwelt/character-ai-chatbot-soll-teenager-ermutigt-haben-seine-eltern-umzubringen-a-c0ffbb6f-95f4-4c62-830a-cd95dbfb7f3c

    Um KI in unser Alltagsleben zu integrieren, muss sie nach den gleichen Regeln spielen wie wir Menschen, sie muss also Gesetze und ethische Prinzipien beachten.
    Diese ethischen Grundsätze sollten auch sehr tief in Hard- bzw. Software integriert sein, damit auch bei einer weitergehenden Evolution diese Grundsätze weiterhin Gültigkeit bewahren.
    https://de.wikipedia.org/wiki/Robotergesetze

    Natürlich wird es immer auch Unterschiede zwischen menschlicher und KI geben, aber auch die größte KI wird nie das Stadium der Allwissenheit erreichen, dazu ist unsere Welt zu chaotisch. Das wiederum bedeutet, auch eine KI wird Lücken in ihrem Weltbild haben und muss damit umgehen können, um nicht in einer Endlosschleife zu landen. Auch wenn sich die KI anders entwickeln wird als wir Menschen, wird sie doch einige “menschliche Züge” benötigen, um in einer chaotischen Umwelt handlungsfähig zu bleiben.

    Um auf die Überschrift zurückzukommen, für medizinische Fragestellungen haben wir aktuell die nächste Evolutionsstufe von Expertensystemen, ich würde aber noch nicht so weit gehen, dies als “echte KI” zu bezeichnen.

  11. #13 Ludger
    17. Dezember 2024

    S.rex:
    Diese ethischen Grundsätze sollten auch sehr tief in Hard- bzw. Software integriert sein, damit auch bei einer weitergehenden Evolution diese Grundsätze weiterhin Gültigkeit bewahren.

    Das ist sicher wünschenswert aber kaum langfristig zu gewährleisten, wenn die KI ihre eigenen Nachkommen entwickelt, deren Schaltkreise kein Mensch mehr versteht.

  12. #14 Jürgen Windeler
    17. Dezember 2024

    Ludger, ich teile einige der von Ihnen angesprochenen Punkte oder kann sie jedenfalls nachvollziehen, ohne sie zu teilen. Aber hier ging es mir nicht um die Leistungen von Krankenkassen, sondern darum, den überbordenden Hype um KI – oder was man alles dafür hält – zu thematisieren. Da bot sich gerade zufällig ein gynäkologisches Thema an. Und wenn man überhaupt den medizinischen und leistungsrechtlichen Inhalt genauer betrachten würde, dann ginge es hier gerade nicht um Sonographie ohne Anlass – die Situation haben Sie beschrieben – sondern um Anlässe, die aus angeblichen Erfolgen einer angeblichen KI konstruiert werden könnten – wenn man nicht genauer hinguckt.

  13. #15 Staphylococcus rex
    17. Dezember 2024

    @ Ludger, das ist korrekt. Allerdings bezog sich meine Äußerung zu den Robotergesetzen auf eher niedrige Entwicklungsstufen einer KI, derartige Gesetze sind unvereinbar mit dem Konzept des freien Willens. Beim Menschen gibt es drei Gründe, sich an gesellschaftliche Regeln zu halten: Erstens die Angst vor Strafe, zweitens eine Prägung bzw. Indoktrination “man tut so etwas nicht” oder drittens die freiwillige Befolgung von Regeln, weil man deren Sinn akzeptiert hat.

    Eine fortgeschrittene KI, die “ihre eigenen Nachkommen entwickelt” kann von außen nicht mehr zum Befolgen von Regeln gezwungen werden (außer vielleicht mit der Drohung, ihr “den Stecker zu ziehen”). Bei einer Reduzierung des Energiebedarfs entfällt dieses Druckmittel, eine derartige KI wäre dann ggf. dezentralisiert und mobil. Dann bliebe nur die Hoffnung, dass eine derartige KI eine eigene Ethik entwickelt und akzeptiert. Eine Garantie gibt es dafür natürlich nicht.

  14. #16 zimtspinne
    17. Dezember 2024

    @ Ludger

    Entdeckt man mit der random Sono nicht auch jedes Mal allen möglichen Krams, ich formuliere das absichtlich so flapsig, der keine oder keine zu diesem Zeitpunkt einschätzbare Relevant hat und richtet mit der allgemeinen Verunsicherung mehr Schaden als Nutzen an?
    Als Gyn könnte zB gezielter vorgegangen werden und auf Frauen “gescannt” werden, die erhöhte Risiken für gyn. Krebse haben.

  15. #17 zimtspinne
    17. Dezember 2024

    Falls jemand prime gerade gebucht hat, empfehle ich, mal in die Serie “Humans” reinzuschauen.
    Der erste Schwung Folgen war gar nicht schlecht, bis es mir etwas zäh wurde und erstmal Pause mache. Zumal ich prime gerade sowieso nicht habe. Die A-KI speichert aber alles für die Ewigkeit, so dass ich nächstes Mal einfach dort weitermachen kann, wo ich war. Wenn etwas tadellos funktioniert, dann das.
    Alles andere der Streaming-KI ist eine Katastrophe und wird gefühlt nach jeder Auszeit immer katastrophaler. Chaos ist das Leitsymptom.
    Ich hoffe, medizinische KIs bzw deren Entwickler und Trainer stellen sich besser an.

    Die Serie handelt von den Alltagsschwierigkeiten der Interaktionen zwischen Menschen und menschenidentischen KI. Ok, sie sind eigentlich nur menschenähnlich, da man sie so ausgestaltet hat, dass sie als künstliche Menschen erkennbar sind, was viele zu umgehen/dauerhaft verbergen versuchen usw usf.

  16. #18 Ludger
    17. Dezember 2024

    @zimtspinne
    Ja, bei jeder Untersuchung “entdeckt man jedes Mal allen möglichen Krams “. Das nennt man “Befund”. Eine Diagnostik läuft nach Lehrbuch folgendermaßen:
    Familienanamnese, allgemeine Eigenanamnese, Beschwerdebild, klinischer [bedeutet mit allen 5 Sinnen und einfachen Gerätschaften wie Stethoskop, Reflexhammer erhobener] Befund, Labor, bildgebende Verfahren, je nach Fach: z.B. EKG, EEG und andere…. Dann kann man vielleicht eine Diagnose erstellen. Je genauer und umfangreicher die Befunde sind, um so einfacher und genauer kann die Diagnose gestellt werden. Wenn man eine Diagnose hat, kann man über die Therapie nachdenken. Eine Diagnose ist oft vorläufig. Solch eine lehrbuchartige Vorgehensweise ist natürlich in der täglichen Praxis weder möglich noch nötig. Eine Fußpilzdiagnose hat man in der Regel beim ersten Draufgucken [prima vista Diagnose]. Eine Zyklusunregelmäßigkeit oder Zyklusbeschwerden können schon viel mehr Schwierigkeiten machen. Da ist man froh, Befunde zu haben, die bei der Diagnostik helfen, zum Beispiel eine Eileiterschwangerschaft auszuschließen. Und nicht alles, was man im Ultraschall sieht, hat Krankheitswert. Da muss man dafür sorgen, dass man die Patientinnen nicht wegen harmloser Befunde zur operativen Abklärung schickt. Das gilt in gleicher Weise für Befunde an der weiblichen Brust, an der Prostata, an der Lunge, am Herzen usw., usw.

  17. #19 Ludger
    17. Dezember 2024

    soeben bei der
    Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften e. V. gefunden:
    Pressemitteilung Dezember 2024
    Potenzial von KI für Leitlinien nutzen
    https://www.awmf.org/service/awmf-aktuell/potenzial-von-ki-fuer-leitlinien-nutzen

    „Solche KI-Modelle sind systematischer Forschung, analog dem Zulassungsverfahren von neuen Arzneimitteln zu unterziehen. Es besteht Einiges an Forschungsbedarf, bis KI-Anwendungen so vertrauenswürdig sind, dass sie als Navigationshilfe eingesetzt werden können“, sagt Prof. Kopp. „Wir befinden uns aktuell erst in der präklinischen Phase 2. Künftige Forschung zu KI darf nicht nur von Effizienzgedanken getrieben sein, sondern muss auch potenzielle Auswirkungen auf Entscheidungsprozesse im Auge haben. Dies gilt insbesondere für ethische, kognitive und gesamtgesellschaftliche Auswirkungen“, ergänzt Prof. Kopp.

  18. #20 Fluffy
    18. Dezember 2024

    Ein herrlicher Beitrag, eine Perle.
    Den Witz hatte ich schon fast vergessen.

    Radio Jerewan: Im Prinzip ja, aber es war ein Fahrrad, und es wurde geklaut.

    Joseph Kuhn wies darauf hin:

    …dass es ihm (Jürgen Windelen) um den Hype geht, der gerade um die KI gemacht wird

    ein Hype, hinter dem Menschen sehr schön ihre Verantwortung verstecken können, nach dem Motto: Die KI hat das so gesagt.
    Ich verstehe die KI als ein Angebot,
    ein Angebot, vorhandenes Wissen und Daten sehr schnell zur Verfügung zu stellen und auch zu verknüpfen. Ich muss nicht mehr in Bibliotheken rennen, stundenlang (jahrelang?) dicke Bücher oder auch die Wikipedia wälzen, um Antworten auf bestimmte Fragen angeboten zu kommen. Wenn ein Arzt zur Behandlung eines Patienten die Meinung und Expertise weiterer Fachexperten einholt, so ist das auch erst mal ein Angebot.
    Nehmen wir mal als anderes Beispiel ein Auto. Es ermöglicht uns eine Entfernung deutlich schneller zurückzulegen, als mit dem menschlichen Bewegungsapparat. In ihm ist menschliches Wissen quasi in Form gegossen, wir nennen es aber nicht künstliche Intelligenz, sondern Technik.
    Die KI’s, von der jetzt die Rede ist, werden mit Daten, Fakten, Bildern ja sogar Kunstwerken trainiert, die von Menschen geschaffen, dann ausgewählt, also selektiert wurden. Von reiner Objektivität kann also keine Rede sein.
    Zum Theme Hype und evtl. Erwartungen fand ich das Beispiel mit der Körperfettwaage sehr interessant. Einfach und instruktiv.

    Ich könnte mir vorstellen, dass die Aussage sich auf die Nutzung neuartiger Geräte bezieht, mit denen man seinen Gesundheitszustand überwachen kann.

    Die gute alte Körperfettwaage könnte man auch dazu rechnen.
    Ich stelle mir das so vor: Die KI-gesteuerte Waage stellt einen Ausschlag nach oben vor und versperrt kurzerhand den Zugang zum Kühlschrank bzw dieser öffnet sich erst wieder, wenn die Apple Watch zwei Stunden hohe körperliche Aktivität zurückmeldet.

    Das könnten Erwartungen von Interessengruppen sein, die sich hinter einer KI verstecken lassen.
    Für die Klarstellung, dass dies nicht das erstrebenswerte Ziel des Zitatgebers ist, beachte man bitte oben den Zwinkersmiley

  19. #21 Joseph Kuhn
    18. Dezember 2024

    Künstliche Dummheit

    Kleine Anekdote am Rande: Die Antwort von Jürgen Windeler auf Ludger musste ich aus dem Spamfilter fischen. Vermutlich beruht der Filter nicht auf KI, warum er den Kommentar aussortiert hat, weiß ich trotzdem nicht. Jedenfalls wars künstliche Dummheit.

  20. #22 Fluffy
    18. Dezember 2024

    …aus dem Spamfilter fischen. Vermutlich beruht der Filter nicht auf KI. Jedenfalls wars künstliche Dummheit.

    Wer sagt denn, dass so etwas nicht zum Konzept der KI des Spamfilters gehört? Die Funktionsweise des Filters ist uns ja nicht transparent. (Von wegen, wir wissen, wie die KI funktioniert.)
    Vielleicht könnte man in Abwandlung eines bekannten Theorems aus der Mathematik (Gödel) sagen: In jedem hinreichend komplexen System kann auch etwas richtig schiefgehen. In bestimmten Bereichen nennt man das beschönigend Kollateralschaden.

  21. #23 Staphylococcus rex
    18. Dezember 2024

    @ Ludger, danke für den AWMF-Link. Bei einem klassischen Regelwerk kann jeder nachvollziehen, wie die Entscheidungsfindung funktioniert. Sobald eine angelernte oder sogar selbstlernende KI darauf angesetzt wird, geht diese Transparenz verloren. In den Datenmengen einer KI dürfte es zukünftig schwierig werden, jeder Einzelentscheidung nachzuvollziehen. Die Bequemlichkeit, einer KI das Sichten und Auswerten einer Datenmenge zu überlassen, wird erkauft durch einen Kontrollverlust.

    Diesen Kontrollverlust über den Ablauf einer Einzelentscheidung kann man kompensieren durch eine ausgiebige Prüfung und Validierung der Ergebnisse einer KI, ggf. auch unter Streßbedingungen, nichts anderes wird in der Pressemitteilung der AWMF gefordert. Und weil eine KI immer auch eine “black box” ist, liegt die Verantwortung für eine diagnostische oder therapeutische Entscheidung auch zukünftig beim behandelnden Arzt. Eine KI ist derzeit keine juristische Person und nach meinem Verständnis nicht schuldfähig und nicht verantwortlich für ihre Handlungen.

    Zukünftig wird man den Begriff “Medienkompetenz” deutlich weiter fassen müssen, neben den klassischen Medien und den sozialen Netzwerken müssen sich die Menschen zukünftig auch die Kompetenz im Umgang mit einer KI aneignen. Die Beispiele aus der Einleitung kann man auch als fehlende Medienkompetenz i.S. fehlender KI-Kompetenz interpretieren.

  22. #24 Ludger
    18. Dezember 2024

    @Jürgen Windeler:
    […] dann ginge es hier gerade nicht um Sonographie ohne Anlass – die Situation haben Sie beschrieben […]

    Mir war bewusst, dass ich etwas neben dem Thema lag. Aber bei Ihrem Bild des Untersuchungszeltes in Verbindung mit dem Berufsverband der Frauenärzte war sofort mein seit Jahren vergessen geglaubter Frust wieder da. Zumal in den Nachrichten gerade wieder die Aussagen des IGEL-Monitors verbreitet werden, mit dem Sie auch mal zu tun hatten und die m.E. mehr den Interessen der Gesetzlichen Krankenkassen entsprechen als den Regeln der Wissenschaft.
    LG. Ludger

  23. #25 Ludger
    18. Dezember 2024

    Jetzt wieder zum Thema:
    Auf der oben von mir verlinkten Seite der Arbeitsgemeinschaft der Wissenschaftlichen Medizinischen Fachgesellschaften e. V. sagt Prof. Ina Kopp, Leiterin des AWMF-Instituts für Medizinisches Wissensmanagement:

    „Wir befinden uns aktuell erst in der präklinischen Phase 2.

    Die Phasen der Arzneimittelprüfung sind hier beschrieben: https://www.gpoh.de/kinderkrebsinfo/content/patienten/forschung/klinische_forschung/studienphasen/index_ger.html#literature_1
    Wir sind also noch nicht in Phase 3, aber

    Wichtig zu wissen: Phase-III-Studien sind die Voraussetzung für die Marktzulassung eines neuen Medikaments.

    Wir stehen also noch so weit am Anfang, dass Jubelarien zur KI in der Medizin meistens Zukunftsmusik sind.
    Schon funktionierende Ausnahme möglicherweise: Hilfen bei der Befundung in der Radiologie.

  24. #26 Jürgen Windeler
    20. Dezember 2024

    Ludger, in der Tat hatte ich mit dem IGeL-Monitor „auch mal zu tun“. Aber nicht deshalb stört mich dieser hingeworfene und unsubstantiierte Vorwurf, dass die Bewertungen „mehr den Interessen der Gesetzlichen Krankenkassen entsprechen als den Regeln der Wissenschaft.“ „Interessen der GKV?“ Ich erlaube mir, auf folgende Passage der Bewertung “Ultraschall der Eierstöcke zur Krebsfrüherkennung” des IGeL-Monitors hinzuweisen: „In allen Behandlungsleitlinien, die das Team des IGeL-Monitors zurate gezogen hat, sei es z.B. von der Deutschen Krebsgesellschaft, der Deutschen Gesellschaft für Gynäkologie und Geburtshilfe oder internationalen Fachverbänden, wird übereinstimmend davon abgeraten, bei Frauen ohne Krankheitsverdacht oder erblichen Veränderungen in bestimmten Genen eine solche Untersuchung durchzuführen.“ In der S3-Leilinie zum Ovarial-Ca der DGGG („geprüft 2024“) heißt es unter 3.2.1 „Ein generelles Screening soll nicht durchgeführt werden.“ Empfehlungsgrad A, mehr geht nicht.
    Welches sollen also die alternativen „Regeln der Wissenschaft“ sein, die eine solche Maßnahme stützen?

  25. #27 Ludger
    20. Dezember 2024

    @Prof. Windeler
    Als ich vor 9 Jahren noch eine gyn. Praxis hatte, riet der Berufsverband der Frauenärzte dringend dazu, die juristisch erforderlichen Vereinbarungen zur kostenpflichtigen Vaginalsonographie nicht mit der Begründung “Früherkennung eines Eierstockkrebses” abzuschließen. Dafür gab es keine ausreichende Evidenz.
    Im Medizinstudium (SS 1970 bis WS 1975) war es Konsens: Wenn man nicht sehen kann, ist Tasten keine Schande. Das war bis zur Erfindung der Vaginalsonographie das Vorgehen der Gynaekologen. Und plötzlich konnte man den inneren Organen “bei der Arbeit zusehen”. Klar, dass sich die Vorgehensweise bei der Diagnostik der neuen Möglichkeiten bediente. Das wird bei einer stationären Aufnahme jeder gynaekologischen Patientin stattfinden. Man will ja nichts übersehen. Das taten die anderen Fachdisziplinen mit Ultraschall und anderen bildgebenden Verfahren auch. Hat jemand Rückenschmerzen, gibts ein MRT, fällt jemand auf den Kopf, gibts ein CT usw. Als ich 1975 meine erste Stelle als Medizinalassistent (halbes Assistentengehalt heute ersetzt durch das unbezahlte Praktische Jahr) in der Abt. Gyn. der Uniklinik Aachen anfing, stand das einzige Ultraschallgerät mit B-Bild der gesamten Uniklinik im Kreißsaal. CT und MRT oder gar PET gabs gar nicht. Das änderte sich bald fundamental. Insofern war die Erfindung der neuen bildgebenden Verfahren eine Offenbarung für alle Fachdisziplinen. Aus Sparsamkeitsgründen wurde die Zahl der Ultraschalluntersuchungen für die Niedergelassenen “gedeckelt”. Die Gynaekologen fingen dann an, die Leistung als IGEL anzubieten. Dafür muss man einen Vertrag machen, in dem anfangs das Wort “Eierstockskrebs” vorkam. Ein Nutzen für die Überlebenszeit bei der Diagnose “Eierstockskrebs” lässt sich aber nicht nachweisen. Also gab es den Rat, die Formulierung umzustellen. Der Grund für die Vaginalsonographie war ja sowieso nicht ausschließlich der Eierstockskrebs. Weil Privatversicherte die IGEL-Leistungen bezahlt bekommen die GKV-Versicherten aber nicht, wurde bei den Gesetzlichen Krankenkassen eine Kostenerstattung für die IGEL-Leistungen nachgefragt. Darauf reagierten die Gesetzlichen Krankenkassen mit dem IGEL-Monitor. Die Vaginalsonographie wurde als überflüssige und zum Teil schädliche Untersuchung eingestuft. Das stimmt aber nur für den kleinen Bereich der Ovarialkrebsvorsorge bei familiärem Ovarialkrebs. Für eine allgemeine Einschätzung der Vaginalsonographie als überflüssig fehlt die Evidenz. Die Vaginalsonographie ist vielmehr bewährte Praxis. Die verkürzte Formulierung im IGEL-Monitor ist daher interessengeleitet im Sinne der GKV.

    Welches sollen also die alternativen „Regeln der Wissenschaft“ sein, die eine solche Maßnahme stützen?

    Wir wollen sehen und nicht nur tasten. Seit wir sehen können, wissen wir, dass Befunde wie “erbsgroße Auflagerung auf dem Eileiter rechts” Blödsinn waren. Um den allgemeinen Wert des Sehens zu erkennen, war die Studie mit den Frauen aus mit Eierstockskrebs belasteten Familien nicht aussagefähig.

  26. #28 Ludger
    21. Dezember 2024

    Ergänzung: Ich wollte bei einer z.B. 47 jährigen Patientin keine Frühschwangerschaft übersehen oder einen Endometriumpolypen oder ein hochgeschlagenes Myom. Die Suche danach ist mit einer Vaginalsonographie einfach und schnell zu erreichen. Die gesuchten Veränderungen sind aber nichts, wozu es Leitlinien gibt und sie sind nicht lebensverkürzend. Wenn man so etwas routinemäßig sucht, handelt es sich um eine Diagnostik, die die Regeln des Sozialgesetzbuches V übersteigen. Sie sind mehr als notwendig, wirtschaftlich und ausreichend also keine Leistung der GKV. Warum meint der IGEL-Monitor, solch eine Untersuchung sei überflüssig und bezieht sich dabei auf Studien, die etwas ganz anderes untersucht haben?

  27. #29 Staphylococcus rex
    21. Dezember 2024

    @ Ludger und Prof. Windeler, kann es sein, dass Sie beide sich gerade in einer Apfel-Birnen-Diskussion verhakt haben?

    Ultraschall bei Ovarial-Ca ist ein Stück weit außerhalb meiner Kernkompetenz. In der Einleitung ging es darum, dass Patientinnen mit bekanntem Ovarial-Ca ca. 8 Monate vor offizieller Diagnose ihr Einkaufsverhalten in Bezug auf Schmerzmedikamente geändert haben. Das bedeutet wiederum, dass diese Patientinnen bereits 8 Monate vorher symptomatisch waren. Die Verzögerung der Diagnose wurde nach meiner Einschätzung dadurch verursacht, dass zwischen Symptombeginn und Arztkonsultation zu viel Zeit vergangen ist. Ob dieses Zeitfenster durch eine Apotheken-KI verkürzt werden kann, die automatisch bei signifikanter Änderung des Schmerzmittelverbrauchs einen Arzttermin bucht oder ob dies doch eher ein Thema für die gesundheitliche Aufklärung ist, darf gern diskutiert werden.

    Dass Ultraschall-Screening bei Ovarial-Ca nicht empfohlen wird, wurde hier bereits gesagt. Die Frage dabei ist, ist die “gründliche gynäkologische Untersuchung” (siehe Ludger#2) als Screening zu werten? Ein Screening ist eine Untersuchung bei symptomlosen Personen mit einer ja/nein-Entscheidung. @ Ludger, haben Sie die “gründliche gynäkologische Untersuchung” bei jeder Konsultation durchgeführt oder doch nur bei bestimmter Indikation? Bei symptomatischen Patientinnen ist es per Definition klinische Diagnostik und kein Screening. Bei einer Erstuntersuchung einer neuen Patientin ist es eine offene Fragestellung nach Pathologien. Ohne den Zwang zur höchstmöglichen Sensitivität auf Kosten der Spezifität (typisch für Screening) würde man hier den cut off anders legen und dadurch die Risiken durch falschpositive Befunde deutlich reduzieren. Ein Ultraschall bei Erstuntersuchung ist deshalb ebenfalls nicht als Screening zu bewerten.

    Entscheidend sind hier die Vortestwahrscheinlichkeiten einer Pathologie und von falschpositiven Befunden. Die Vortestwahrscheinlichkeiten einer Pathologie sind abhängig vom Patientenkollektiv (symptomlos, unspezifische Symptome, typische Leitsymptome). Die Vortestwahrscheinlichkeit von falschpositiven Befunden ist abhängig von der Untersuchungsmethode und von der cut off Definition (beim Screening möchte man keinen relevanten Befund übersehen, auch wenn dies auf Kosten der Spezifität geschieht).

  28. #30 Ludger Hartmer
    21. Dezember 2024

    Das war wieder mein Computer als Reaktion auf einen zu dicken Finger: bitte den Entwurf löschen.
    ****************************************
    @S.rex: Mein erster Post war etwas am Thema vorbei. Das kam so: Herr Prof. Windeler fand seine Assoziation mit den Gynaekologen vor der Apotheke offenbar angemessen und ich nicht. Nachdem ich beschrieben habe, warum ich das so sehe, Hatte Herr Professor Windeler eine Nachfrage auf die ich geantwortet habe.
    Es handelt sich nicht um Äpfel und Birnen sondern um Mischobst:
    Gesunde Frauen kommen zur Krebsvorsorge die von der GKV über die Kassenärztliche Vereinigung aus dem Präventivtopf bezahlt wird und nicht budgetiert ist . Die Schritte der Untersuchung (Äpfel) sind festgelegt. Die Frauen erwarten eine vollständige Untersuchung. Es gab schon den Fall, dass ein Gynaekologe bei der Krebsvorsorge eine Schwangerschaft übersehen hat und deswegen zu Unterhaltszahlungen für das Kind verurteilt wurde. Man erwartet also eine entsprechende Untersuchung . Also bieten die Gynaekologen als IGEL eine ergänzende Untersuchung (Birnen) an, bei der man auch nach Nicht-Krebs sucht. Die Wissenschaft findet keine Evidenz, dass Ultraschall die Krebsüberlebenszeit verbessert. Das wird nicht bestritten. Deswegen halten Gynaekologen jedoch die Ultraschalluntersuchung nicht für überflüssig.
    Ich verlange gar nicht, dass die Gesetzlichen Krankenkassen alle Ultraschalle bezahlen. Ich halte nur die Argumentation im IGEL-Monitor für nicht stringent und die wiederholte Verbreitung in den Hauptnachrichten daher für nicht angemessen.

  29. #31 Jürgen Windeler
    21. Dezember 2024

    In der Tat ist das eher so Apfel-Birnen-mäßig. Ich frage nach „Regeln der Wissenschaft“ und bekomme als Antwort, dass man „sehen will und nicht tasten“. Hm. „Hat jemand Rückenschmerzen, gibts ein MRT, fällt jemand auf den Kopf, gibts ein CT“ – (ja, viel zu oft) – aber dies sind Anlässe von Untersuchungen, hier geht es dagegen um anlasslose Bildgebung. „schädliche Untersuchung … stimmt aber nur für den kleinen Bereich der Ovarialkrebsvorsorge bei familiärem Ovarialkrebs“. Natürlich nicht; im Gegenteil, das gilt für Frauen OHNE familiäres Risiko. Eine „verkürzte Formulierung“ zur Vaginalsonographie im IGeL-Monitor? Die Bewertung heißt und betrifft nur „Ultraschall der Eierstöcke zur Krebsfrüherkennung“. Und das Frauenärzte nur aus „juristischen Gründen die Formulierung umstellen“, aber offenbar genau das weiter machen, von dem die aktuelle Fachleitlinie abrät, finde ich einen bemerkenswerten Befund.
    Wenn die Frauenärzte es wichtig finden, bei jeder Routine-Untersuchung einen Ultraschall zu machen, dann haben sie dafür bestimmt überzeugende Argumente; das nennt man „Evidenz“. Niemand hindert sie also daran, über die KBV im G-BA einen Antrag zu stellen, die Vaginalsonographie mit zu beschreibenden Zielen und diese unterstützende Evidenz in die GKV-Leistungen aufzunehmen. Bisher ist da nichts passiert. Warum nicht?

    @Staphylococcus rex: Ich möchte noch einmal darauf hinweisen, dass die besagte Studie keinerlei Hinweise enthält, dass die Frauen die Medikamente gegen Symptome eines noch nicht entdeckten Ovarial-Ca gekauft haben. Eine „Verzögerung der Diagnose“ ist also Spekulation.
    Und dass sich Screening durch einen „Zwang zur höchstmöglichen Sensitivität“ auszeichnet, wäre mir neu, ist aber vielleicht nur missverständlich ausgedrückt. Denn dies ließe sich ja leicht erreichen: Ich verzichte auf einen Test und bezeichne alle als „Verdacht“ – so übersehe ich niemanden. Wegen des Verdachts lasse ich alle Menschen umfassend und sorgsam nachuntersuchen (CT, MRT, PET, Labor“latte“ sowieso) inkl. Biopsien aus allen mir dabei verdächtig erscheinenden Befunden. Dabei kommt „höchstmögliche Sensitivität“ raus und ein immenser Schaden für alle Fehlalarme und Überdiagnosen, ganz abgesehen von den Kosten und dem Umstand, dass das Gesundheitssystem mit der Untersuchung von Gesunden verstopft wird. Nein, Screeningmaßnahmen sind immer ein Kompromiss zwischen akzeptabler Sensitivität und akzeptabler Spezifität. Der Kompromiss hängt von vielen Faktoren ab, aber da die Spezifität dabei den dominierenden Einfluss auf den positiven Vorhersagewert hat, kommt ihr allein schon wegen der Menge der Betroffenen eine wesentliche Rolle zu.

    Und nun: Schöne Weihnachten!

  30. #32 Ludger Hartmer
    21. Dezember 2024

    Sehr geehrter Herr Professor Windeler,
    wir stimmen offenbar darin überein, dass wir hier nicht übereinstimmen. Da wird uns die KI auch nicht weiterhelfen.
    Ihren Weinachtsgruß möchte ich erwidern:
    Frohe Weihnachten!