KI in der Medizin, chatGPT etc.

[anignu]

Ich fang jetzt einfach mal ein neues Thema an um die ganzen gekaperten Threads bzw. Themen die in die KI-Diskussion abrutschen vielleicht mal zu bündeln und die eigentlichen Themen zu entschlacken.

Meine persönliche Meinung zum Thema KI ist dass sie unglaublich weit davon entfernt ist irgendwelche ärztlichen Tätigkeiten zu ersetzen.

Thema Richtung Radiologie: es gibt schon sehr viel Software die verschiedenste Anwendungen machen kann. Die wird auch genutzt. Mir bekannt sind dabei vor allem Programme mit denen man irgendwelche Darstellungen oder Analysen machen kann. Also z.B. Philips IntelliSpace Portal, 3mensio, von GE die AW-Server oder ganz einfach Osirix. Alle diese Programme haben gemein, dass sie für einen sehr genauen Anwendungsfall bei guter Grundlagenbildgebung und wenig Anomalien eine sehr genaue Analyse liefern können. Und hat jemand schon die ganzen Einschränkungen bemerkt? Erstmal sind die jeweils nur für ganz bestimmte Anwendungsfälle, wenn die zugrundeliegende Bildgebung schlecht ist klappt gar nichts mehr und bei zu großen Anomalien auch nicht. Der Patient sollte also ein nicht voroperierter Standard-Patient mit guter Bildgebung für eine Standard-Prozedur sein. Juhu. Gewonnen. Da hilft mir die KI dann dass ich schneller werde... :rolleyes: und jeder von uns kennt die Realität: voroperierte Patienten, eine Bildgebung bei der es mir selbst graut (veratmet, mit Artefakten, den KM-Bolus überholt etc.) und prinzipiell erstmal noch nicht klar ob man die geplante Standard-Prozedur überhaupt machen kann. Ist ja schön wenn man eine EVAR planen will aber die Anatomie nicht dazu passt. Wenn die Erfahrung des Operateurs mit den entsprechenden Prothese einfach eine andere ist als der Computer vorschlägt. Wenn... Und ich hab nur einen kleinen isolierten Fall und es klappt schon schlecht.

Thema Richtung chatGPT: ja, OP-Berichte und Arztbriefe schreiben geht. Vor allem wenn es Standard-Briefe sind. Aber Moment, für Standard-Briefe hab ich doch meine copy-paste-Vorlagen. Glaubt jemand ernsthaft dass ich bei den standardisiertesten OPs die wir so haben noch ernsthaft einen OP-Bericht mir aus den Fingern sauge? Da wird eine Vorlage angepasst, Standard-Fälle operiere ich eh immer gleich. Man nehme Fem-TEA oder Carotis-TEA, Shunt-Neuanlage, Demers-Implantation etc. Das läuft immer gleich ab und das ist auch gut so. Somit ist der OP-Bericht in einer Minute geschrieben. Was soll mir chatGPT bringen wenn ich Standard-Berichte eh schnell hab und Besonderheiten eh extra erwähnen und nachkontrollieren muss. Bei Arztbriefen ist es ja ähnlich. Briefe für elektive Standard-Sachen ohne Komplikationen haben wir in unseren Vorlagen. Bei Bedarf muss halt was angepasst werden.

Das Problem ist doch: sowohl bei chatGPT als auch bei Bild-Analysen muss man immer drauf schauen und das ganze verifizieren bzw. kontrollieren. Und diese Zeit darf man nicht ignorieren! Eine KI könnte einen ausführlichen CT-Bericht bei z.B. CT-Thorax-Abdomen zum Staging vorschreiben. Aber man müsste ihn dennoch kontrollieren. Und ob das dann soviel Zeitersparnis ist wage ich zu bezweifeln.
Mir persönlich erspart die KI ein paar Minuten bei einer Centerline-Berechnung für meine Messungen. Und die paar Minuten nur deshalb weil ich sie selbst so selten manuell mache dass ich dafür eine gewisse Zeit brauche. Das war es dann aber auch schon. Müsste ich es öfter selbst machen wäre die Ersparnis geringer und die KI somit nutzloser. Aber nachdem sie eh schon da ist erspart mir die KI jede Woche ein paar kleine Minuten...

Ich persönlich sehe die KI daher meilenweit davon entfernt tatsächlich ärztliche Tätigkeiten ersetzen zu können. Ich denke man muss so fair sein und sagen dass Automatisierungsprozesse z.B. bei Laboren zur Einsparung von ärztlichen Mitarbeitern geführt hat. Ein Diff-BB wird schon lange nicht mehr per Hand bestimmt. Echte KI ist das aber nicht, das ist ein Messverfahren das 1953 patentiert wurde. In welchen Bereichen im Labor tatsächlich eine KI eingesetzt wird würde mich interessieren. Irgendwelche Messverfahren haben ja nichts mit KI zu tun.

[cartablanca]

Das ist nicht mehr vergleichbar mit der Erfindung des Buchdrucks sondern eher mit der Entdeckung des Feuers.
Wie sollen Universitäten Staatsexamina mit Wissensfragen abhalten wenn jedes Smartphone in der Lage ist diese zu lösen? Wozu soll man überhaupt 6 Jahre studieren, wenn es eine 1 jährige Ausbildung auch tut und beim Rest hilft die K.I. - so learning by doing?
Vielleicht macht K.I. JETZT noch Fehler, aber sie lernt erstaunlich schnell. Es hat nicht lange gedauert bis PCs besser Schach oder Go spielen konnten als jeder Mensch. Warum sollte sie also nicht sehr bald schon bessere Bildanalysen liefern als jeder Mensch?
Aber es gibt Grund zur Hoffnung: wir leben im Land der Faxgeräte und hier werden erst mal 2 Jahrzehnte Diskussionen über die rechtliche Machbarkeit geführt werden bevor sich überhaupt was bewegt.
Die Handwerker unter den Ärzten können sich zurück lehnen. Die können ohnehin nicht so schnell ersetzt werden.

[Bonnerin]

Ja, eine Schulbildung braucht man eigentlich schon seit dem Großen Brockhaus nicht mehr und seit Wikipedia ohnehin nicht mehr...

Letztlich ist das ein rein juristisches Problem. Irgendwer muss seinen/ihren Namen unter einen Befund setzen und damit für das, was drinsteht geradestehen. Ich kann dir garantieren, dass das keine KI-Firma dieser Welt tun wird. Dementsprechend braucht es immer eine Anzahl x an Personen, die das übernehmen und die eine entsprechende Qualifikation dafür vorweisen müssen (aka die Approbation). Ob man aktuell einen Arztbrief des PJlers nun durchliest oder abwinkt ist da ein gutes Beispiel.

Die Texte werden die Arztbriefe massiv verbessern, das steht außer Frage. Was man da manchmal lesen musste war dem sprachlichen Niveau von Erstklässleraufsätzen gleichzustellen. Auch die Bildbewertung wird besser. Aber wie gesagt, jemand muss am Ende die Verantwortung tragen. Eventuell wird es dazu kommen, dass der Ärztemangel stark reduziert wird, weil die Arbeit schneller erledigt wird. Das würde ich als positiv sehen. Vollständige Ersetzung ist sehr weit weg.

[cartablanca]

Den Brockhaus braucht man seit wikipedia nicht mehr. Wikipedia konnte nicht eigenständig Aufgaben lösen, z.B. Aufsätze schreiben. Das ist jetzt anders.
Ja das rechtliche Problem sehe ich auch. Man kann sich aber auch fragen wozu Menschen überhaupt haften und warum zwingend immer jemand haften muss? Lernt eine KI nicht unabhängig von Sanktionen?

[docdean]

Den Brockhaus braucht man seit wikipedia nicht mehr. Wikipedia konnte nicht eigenständig Aufgaben lösen, z.B. Aufsätze schreiben. Das ist jetzt anders.

Gutes Beispiel. Wikipedia ist voller Fehler, subjektiven Meinungen und Selection Bias. Aufsätze von ChatGPT klingen immer sehr überzeugend, können aber grundlegend falsch sein, ohne dass man es direkt merkt. ChatGPT ist eine Textmaschine, keine Faktenauskunft.


Vielleicht macht K.I. JETZT noch Fehler, aber sie lernt erstaunlich schnell. Es hat nicht lange gedauert bis PCs besser Schach oder Go spielen konnten als jeder Mensch. Warum sollte sie also nicht sehr bald schon bessere Bildanalysen liefern als jeder Mensch?

Schach und Go sind trivial, dafür muss man nur Algorithmen verarbeiten, dafür sind Computer optimal geeignet. Aber z.B. Poker gegen echte Menschen liegt Computern nicht, weil es nicht darum geht, das beste Blatt zu haben, sondern einzuschätzen, was der Gegner für ein Blatt hat. Ein Computer kann vielleicht noch Gesichtsausdrücke erkennen und mit Erfahrung korrelieren, aber nicht jeder Mensch verhält sich rational oder planbar. Aber davon ab, auch bei Bildanalysen haben Computer bisher nicht geglänzt. Computer können nur Pixel angucken, Muster erkennen und mit ihrer Erfahrung korrelieren. Aber sie können nicht sprichwörtlich zwischen den Zeilen lesen, den gesamten Kontext berücksichtigen, etwas einschätzen, oder etwas sehen, das nicht abgebildet ist.

Aber vor allem ist Bildanalyse nicht der ganze Job. Wie wir als Ärzte alle wissen, ist Medizin nicht binär, vieles ist Abwägungssache. Es heißt nicht immer Ileus ja/nein, Cholezystitis ja/nein, Subduralhämatom ja/nein. Oft muss man Wahrscheinlichkeiten gegeneinander abwägen, um zum Ergebnis zu kommen: Kann sich das von selber lösen, kann sich das verschlimmern, muss ich das jetzt operieren, oder ist die OP für diesen Patienten ein besonderes Risiko? Ist beim Patientenkollektiv meines Hauses die eine Diagnose wahrscheinlicher oder die andere? War die Bildgebung trotz irgendwelcher Fehler ausreichend, um die Frage zu beantworten? Hat der Zuweiser überhaupt die richtige Frage gestellt, ich weiß ja, dass der bei der Untersuchung immer einen bestimmten Fehler macht oder die Patienten falsch versteht? Alles Dinge, die sich nicht gut objektivieren lassen, bei denen man aber als Mensch einen Vorteil haben kann, wenn man ein Gespür für andere Menschen entwickelt, die ein Computer nicht haben kann.

[Haffi]

Edit.

[Schubbe]

Mal so als kleiner Denkanstoß:

Regression ist, wenn die Funktion vordefiniert ist und die Parameter anhand des Input/Output optimiert werden. Ein neuronales Netzwerk approximiert hingegen die Funktion mittels Input/Output. Das bedeutet, dass die neuronalen Netzwerke sehr viel flexibler als die klassische Regression sind, aber eben genauso spezifisch für die Fragestellung. Deshalb haben neuronale Netzwerke auch keine interne Validierung der Ergebnisse. Dieser echte Teil einer "Intelligenz" fehlt gänzlich.

Die Maschine macht nur eines: Tensor rein, Tensor raus. Das macht sie gut, schnell und sicherlich bald auch supportiv. Aber behandeln werden die Dinger erstmal nichts.

[OhDaeSu]

Der Denkfehler liegt (wie auch bei der Argumentation pro/contra Midlevel creep) darin sich auf die Tätigkeiten / Haftungsfragen zu beschränken, die absehbar einen Arzt benötigen. Welchen Anteil der Arbeitszeit machen komplexe Patienten, cleveres Kombinieren, abstraktes, kreatives Denken, emphatisches Abwägen etc aus, und wie viel ist mehr oder weniger stumpfe Routine? Natürlich wird nicht der Arztberuf an sich obsolet. Aber wie wird sich 30% schnelleres Befunden, Briefe schreiben, Vorbefunde sichten, Laborwerte durchgehen, Aufklären etc auf die Personalplanung auswirken? Die Zeit hat man dann wieder für "das Menschliche", stimmts?

[Endoplasmatisches Reticulum]

Hat man nicht, weil der Stellenschlüssel sofort (über)proportional reduziert werden wird.

[cartablanca]

Gutes Beispiel. Wikipedia ist voller Fehler, subjektiven Meinungen und Selection Bias.

Das sagen meist Leute, die dann wikipedia jeden Tag nutzen. Wer hat heutzutage noch Brockhaus zu Hause? Ich bitte dich.
Und Go ist mit Sicherheit nicht trivial.
Was wäre denn wenn rauskommt, dass KI weniger Fehler macht als der Mensch? Ich habe keinen Zweifel daran, dass die Software erstmal unterstützend eingesetzt werden wird. Ist ja jetzt bereits so. Die grossen Unikliniken setzen bei seltenen Diagnosen KI ein. Mit der Zeit werden bestimmte Berufe aber verschwinden. Nicht nur im medizinischen Bereich. Das war aber immer schon so, dass Technologie alte Berufe verdrängt hat. Oder die Produktivität derart erhöht hat, dass Menschen aus ihren Berufen gedrängt wurden.
Es entstehen dann in der Regel aber neue Berufe.

[OhDaeSu]

Hat man nicht, weil der Stellenschlüssel sofort (über)proportional reduziert werden wird.

Exakt.

[Thomas24]

Der Denkfehler liegt (wie auch bei der Argumentation pro/contra Midlevel creep) darin sich auf die Tätigkeiten / Haftungsfragen zu beschränken, die absehbar einen Arzt benötigen. Welchen Anteil der Arbeitszeit machen komplexe Patienten, cleveres Kombinieren, abstraktes, kreatives Denken, emphatisches Abwägen etc aus, und wie viel ist mehr oder weniger stumpfe Routine? Natürlich wird nicht der Arztberuf an sich obsolet. Aber wie wird sich 30% schnelleres Befunden, Briefe schreiben, Vorbefunde sichten, Laborwerte durchgehen, Aufklären etc auf die Personalplanung auswirken? Die Zeit hat man dann wieder für "das Menschliche", stimmts?

Absolut. Für den Großteil des Patientenguts in der Routineversorgung gilt doch die Pareto Verteilung.
Ich kann mir für mein Fach absolut eine Entlastung und teilweise auch Ersatz von menschlicher Arbeitskraft in der Routineversorgung vorstellen. Allein der Workload, der durch das beständige Monitoring moderner intravitrealer Therapiestrategien bei nAMD, DMÖ usw. verursacht wird (teils monatliche Injektionen mit Ranibizumab usw. erforderlich- über Jahre) bindet extrem viel Personal. Alle Patienten brauchen regelmäßige Visusprüfungen und Therapiemonitoring durch Bildgebung, nach jeder Injektion Kontrolluntersuchung auf Endophthalmitis/ Druckentgleisung usw. Das sind hunderttausende von augenärztlichen Untersuchungen pro Jahr- und aufgrund der neu verfügbaren Therapieoptionen und der ansteigenden Prävalenz des Diabetes mellitus (DMÖ und andere retinale Komplikationen) bei einer alternden Bevölkerung (nAMD und demnächst vermutlich auch geographische Atrophie behandelbar) werden es immer mehr.

Was spräche denn dagegen ein automatisiertes Verfahren zu verwenden? Patient wird in eine dementsprechende Kabine gesetzt, es erfolgt eine kurze Abfrage von Beschwerden auf einer visuellen Analogskala (Schmerzen, Lichtempfindlichkeit/ Veränderung des Visus), es erfolgt eine automatisierte Visusprüfung, Non Contact Tonometrie, eine non mydriatische Fundus Aufnahme, sowie ein aktuelles OCT - die Bilder werden von der KI gegradet (Zunahme/ Abnahme/ Stagnation der intra- und subretinalen Flüssigkeit), die Glaskörperaufnahme wird ebenfalls gegradet (Vorhandensein von vitrealem Haze, Blutungen, retinalen Infiltraten usw.) und erst, wenn es signifikante Veränderungen zum Vorbefund gibt, spuckt die Maschine einen Befund aus, dass sich das bitte mal ein Mensch ansehen soll.

Sobald die Kostenträger feststellen, dass diese Art der Therapieüberwachung effektiver/ weniger Fehleranfällig/ vielleicht sogar Kostengünstiger sein sollte, als die bisherige Überwachung, wird bei mir im Fachgebiet viel Arbeitskraft frei, die für andere Dinge verwendet werden kann.

[anignu]

Was wäre denn wenn rauskommt, dass KI weniger Fehler macht als der Mensch? Ich habe keinen Zweifel daran, dass die Software erstmal unterstützend eingesetzt werden wird.
Da kommt man dann zu dem Thema wieviel Fehler von der Maschine toleriert werden? Akzeptiert man es dass eine Maschine statistisch gesehen 10% weniger Fehler macht? Reicht das schon um die Entscheidung alleine der Maschine zu überlassen? Oder müssen es 90% weniger Fehler sein? Und wieso ist die Frage so ketzerisch? Weil oft auch ein einzelner Arzt eine Entscheidung trifft...

Mit der Zeit werden bestimmte Berufe aber verschwinden. Nicht nur im medizinischen Bereich. Das war aber immer schon so, dass Technologie alte Berufe verdrängt hat. Oder die Produktivität derart erhöht hat, dass Menschen aus ihren Berufen gedrängt wurden.
Es entstehen dann in der Regel aber neue Berufe.
Pauschalaussagen die in ihrer Pauschalität nicht falsch sind aber im Konkreten dann schon wieder. Mit Einführung der EDV glaubte man Papierberge reduzieren zu können, das Gegenteil war der Fall...

Bleib doch mal spezifisch bei Ärzten und denk dir Szenarien aus bei denen Chirurgen, Internisten, Radiologen etc. verschwinden könnten. Ok, die genannten Fachrichtungen arbeiten in absteigender Reihung entfernt von PCs und damit von KI. Aber glauben wir ernsthaft dass die KI Radiologen ersetzt? Reduziert?

Ich kann mir für mein Fach absolut eine Entlastung und teilweise auch Ersatz von menschlicher Arbeitskraft in der Routineversorgung vorstellen.
Danke für deine Ausführungen. Ich gehe somit davon aus dass die reine Durchführung der Untersuchung auch von entsprechend geschultem Personal gemacht werden kann und "nur" die Beurteilung/Befundung von Ärzten gemacht werden soll/muss? Dann wäre das ja ein konkreter und interessanter Ansatz.

[Haffi]

In meinem Fach, der Allgemeinmedizin, fallen mir nur wenige Aspekte meiner täglichen Arbeit ein, in denen ich nicht zeitnah durch eine KI ersetzt werden könnte. Mit dem weiteren Aussterben dieser Zunft ist man ohnehin zeitnah auf eine alternative Lösung angewiesen und auch die KV wird sich irgendwann fragen, ob man nicht doch besser in dieses eine große Projekt investiert statt weiter zigtausende Jungärzte mit Förderungen zuzusch... Das Konzept, sich mit seinem Diabetes oder Hypertonus stundenlang in ein Wartezimmer zu setzen ist schon lange nicht mehr zeitgemäß und für die Gen Z, alpha und Nachfolgende realitätsfern.

[Christoph_A]

Und wo will die Gen Z dann ihren Hypertonus oder Diabetes eingestellt haben, bei Dr. Google?
Insgesamt denke ich, daß eine gut funktionierende KI sicher ein Gewinn ist (siehe z.B. bereits beim Hautkrebsscreening), allseeligmachend ist sie aber auch nicht.
Bzgl der EDV wäre ich ja schon froh, wenn endlich mal eine vernünftige digitale Patientenakte aufgebaut würde, aber das scheitert ja, wie immer, an der heiligen Kuh Datenschutz.
Bin ja gespannt, ob bis zu meiner Rente wenigstens die Faxe aus der deutschen Medizinlandschaft verschwinden, habe aber so meine Zweifel daran....:-music

[Bonnerin]

Die Tendenz wird sicherlich weg vom Wartezimmer (außer für Ausnahmen) und hin zur Videosprechstunde gehen. Die Software muss dann natürlich entsprechend sicher sein um die Daten gut zu schützen. Die Reduzierung (Abschaffung wird es sicher nie geben) der in-persona Sprechzeiten wäre durchaus auch erstmal nichts schlechtes, sondern würde im Rahmen von Homeoffice-Möglichkeiten einiges an Attraktivität für die Ärzt:innen bedeuten.
Die Terminvergaben laufen größtenteils ja auch schon ohne persönlichen Kontakt, was ich sehr angenehm finde. Mir reichts schon, wenn ich für einen fachlichen Rückruf Ewigkeiten in diversen Warteschleifen hänge.

[cartablanca]

Pauschalaussagen die in ihrer Pauschalität nicht falsch sind aber im Konkreten dann schon wieder. Mit Einführung der EDV glaubte man Papierberge reduzieren zu können, das Gegenteil war der Fall...


Die EDV ist doch ein gutes Beispiel. Den Beruf des EDVlers gab es vor paar Jahrzehnten nicht mal. Dafür verschwinden zunehmend Sekretärinnen und werden durch Spracherkennung ersetzt.
Dass Papierberge nicht reduziert wurden hängt mit rechtlichen Problemen in D zusammen. Das ist auch der einzige Grund warum wir Ärzte in D uns NOCH keine Sorgen machen müssen. Hier gibts ja immer noch Faxgeräte, die in anderen Ländern im Museum stehen.
Da wird sich noch einige Zeit nichts ändern.

[Christoph_A]

Die Tendenz wird sicherlich weg vom Wartezimmer (außer für Ausnahmen) und hin zur Videosprechstunde gehen. Die Software muss dann natürlich entsprechend sicher sein um die Daten gut zu schützen. Die Reduzierung (Abschaffung wird es sicher nie geben) der in-persona Sprechzeiten wäre durchaus auch erstmal nichts schlechtes, sondern würde im Rahmen von Homeoffice-Möglichkeiten einiges an Attraktivität für die Ärzt:innen bedeuten.
Die Terminvergaben laufen größtenteils ja auch schon ohne persönlichen Kontakt, was ich sehr angenehm finde. Mir reichts schon, wenn ich für einen fachlichen Rückruf Ewigkeiten in diversen Warteschleifen hänge.

Fun fact am Rande: Wir haben unsere Videosprechstunde mehr oder weniger wieder abgeschafft, weil nach Corona so gut wie keine Nachfrage mehr danach bestand, soviel mal zum Thema weg vom Wartezimmer.....da sind mittlerweile alle 3 bei uns jeden Tag wieder brechend voll. Die Leute hier scheinen irgendwie den Trend noch nicht mitbekommen zu haben.

[Bonnerin]

Fun fact am Rande: Wir haben unsere Videosprechstunde mehr oder weniger wieder abgeschafft, weil nach Corona so gut wie keine Nachfrage mehr danach bestand, soviel mal zum Thema weg vom Wartezimmer.....da sind mittlerweile alle 3 bei uns jeden Tag wieder brechend voll. Die Leute hier scheinen irgendwie den Trend noch nicht mitbekommen zu haben.

Wie viel U30-Patientengut habt ihr denn in etwa? Ich sehe das Ganze halt nur bei meiner Generation und den Jüngeren kommen...

Ansonsten ist natürlich bei Kardio auch viel dabei, wo man aktuell nur mit Reden + Sprechen nicht weiterkommt. EKG und Echo fallen mir da ein, wenn sie in der Praxis gemacht werden.

[Christoph_A]

Naja, das Gros isses sicher nicht, aber ganz so wenige U30 sinds auch nicht, da ja insbesondere junge Frauen, v.a. mit Untergewicht,gerne zu Palpitationen und sonstigen atrialen Ereignissen neigen, die ganzen SVTs darf man da auch nicht unterschätzen.
Würde mal sagen, irgendwas zwischen 5 bis 10 Prozent.
Die Videosprechstunde haben eigentlich aber die best ager zu covid Zeiten gefüllt, die kommen jetzt wieder ganz normal in die Praxis. Rummeckern im Wartezimmer scheint einen nicht zu knappen psychohygienischen Wert zu haben!