künstliche intelligenz (KI) – Planungen MO/Integration?
Zitat von Fiermann am 17. Juli 2025, 9:23 UhrIch hätte Interesse am KI-Telefonassistenten… – wie funktioniert die Integration ins System? Was kostet es?
T.
Ich hätte Interesse am KI-Telefonassistenten… – wie funktioniert die Integration ins System? Was kostet es?
T.
Zitat von Stefan Knobl am 17. Juli 2025, 9:47 UhrHallo Herr Dr. Fiermann,
ich habe Ihnen hierzu gerade eine Mail geschrieben.
Hallo Herr Dr. Fiermann,
ich habe Ihnen hierzu gerade eine Mail geschrieben.
Viele Grüße
Stefan Knobl
Zitat von l.kruse am 17. Juli 2025, 13:21 UhrZitat von Stefan Knobl am 17. Juli 2025, 9:47 Uhrich habe Ihnen hierzu gerade eine Mail geschrieben.
Ob Sie mir auch eine schreiben könnten zu der Frage? 😉
Zitat von Stefan Knobl am 17. Juli 2025, 9:47 Uhrich habe Ihnen hierzu gerade eine Mail geschrieben.
Ob Sie mir auch eine schreiben könnten zu der Frage? 😉
Zitat von l.kruse am 17. Juli 2025, 13:26 UhrZitat von Peter Quick am 16. Juli 2025, 21:28 Uhr[…]
@Herr Streit: wenn es die Möglichkeit gäbe, schon einmal per Knopfdruck die eingescannten und mit OCR erkannten Arztbriefe zu durchsuchen und zusammenzufassen, würde ich mir das gerne einmal anschauen, wenn es soweit ist… könnte interessant sein. Denn man möchte ja sicherlich nicht die Personaldaten und die ganzen Arzt Daten einfach in ChatGPT hochladen….
[…]
Bleibt die Frage nach der berühmten Halluzinose. Kann man den Zusammenfassungen vertrauen, oder muss man sie doch wieder selbst überprüfen, womit dann ja nichts gewonnen wäre.
Denn plausibel klingen ja leider auch die halluzinierten Ergebnisse der KI.Aber wenn das sicher gelöst ist, wäre das eine echte Erleichterung. Nicht nur für Arztbriefe, sondern auch in den von @Dr. M. Rothsching überlegten Gebieten.
Zitat von Peter Quick am 16. Juli 2025, 21:28 Uhr[…]
@Herr Streit: wenn es die Möglichkeit gäbe, schon einmal per Knopfdruck die eingescannten und mit OCR erkannten Arztbriefe zu durchsuchen und zusammenzufassen, würde ich mir das gerne einmal anschauen, wenn es soweit ist… könnte interessant sein. Denn man möchte ja sicherlich nicht die Personaldaten und die ganzen Arzt Daten einfach in ChatGPT hochladen….
[…]
Bleibt die Frage nach der berühmten Halluzinose. Kann man den Zusammenfassungen vertrauen, oder muss man sie doch wieder selbst überprüfen, womit dann ja nichts gewonnen wäre.
Denn plausibel klingen ja leider auch die halluzinierten Ergebnisse der KI.
Aber wenn das sicher gelöst ist, wäre das eine echte Erleichterung. Nicht nur für Arztbriefe, sondern auch in den von @Dr. M. Rothsching überlegten Gebieten.
Zitat von Stefan Knobl am 17. Juli 2025, 14:39 UhrZitat von l.kruse am 17. Juli 2025, 13:21 UhrZitat von Stefan Knobl am 17. Juli 2025, 9:47 Uhrich habe Ihnen hierzu gerade eine Mail geschrieben.
Ob Sie mir auch eine schreiben könnten zu der Frage? 😉
Gerne, können Sie mir bitte Ihre Kontaktdaten an die sales@termed.de zukommen lassen? 🙂
Zitat von l.kruse am 17. Juli 2025, 13:21 UhrZitat von Stefan Knobl am 17. Juli 2025, 9:47 Uhrich habe Ihnen hierzu gerade eine Mail geschrieben.
Ob Sie mir auch eine schreiben könnten zu der Frage? 😉
Gerne, können Sie mir bitte Ihre Kontaktdaten an die sales@termed.de zukommen lassen? 🙂
Viele Grüße
Stefan Knobl
Zitat von Dr. M. Rothsching am 17. Juli 2025, 15:57 UhrZitat von l.kruse am 17. Juli 2025, 13:26 UhrZitat von Peter Quick am 16. Juli 2025, 21:28 Uhr[…]
@Herr Streit: wenn es die Möglichkeit gäbe, schon einmal per Knopfdruck die eingescannten und mit OCR erkannten Arztbriefe zu durchsuchen und zusammenzufassen, würde ich mir das gerne einmal anschauen, wenn es soweit ist… könnte interessant sein. Denn man möchte ja sicherlich nicht die Personaldaten und die ganzen Arzt Daten einfach in ChatGPT hochladen….
[…]
Bleibt die Frage nach der berühmten Halluzinose. Kann man den Zusammenfassungen vertrauen, oder muss man sie doch wieder selbst überprüfen, womit dann ja nichts gewonnen wäre.
Denn plausibel klingen ja leider auch die halluzinierten Ergebnisse der KI.Aber wenn das sicher gelöst ist, wäre das eine echte Erleichterung. Nicht nur für Arztbriefe, sondern auch in den von @Dr. M. Rothsching überlegten Gebieten.
Für das Halluzinieren gibt es in der KI Wissenschaft schon Ansätze, wie man das recht gut abstellen kann. Grob gesagt z.B. indem man die KI darauf trainiert, in einem zweiten Durchlauf die Antwort nur aus den Texten der Stichprobe zu generieren, ohne den Rest LLM. Wenn die Ergebnisse dann übereinstimmen, passt das. Die Uni Marburg hat z.B. einen Lehrstuhl für KI in der Medizin.
Zitat von l.kruse am 17. Juli 2025, 13:26 UhrZitat von Peter Quick am 16. Juli 2025, 21:28 Uhr[…]
@Herr Streit: wenn es die Möglichkeit gäbe, schon einmal per Knopfdruck die eingescannten und mit OCR erkannten Arztbriefe zu durchsuchen und zusammenzufassen, würde ich mir das gerne einmal anschauen, wenn es soweit ist… könnte interessant sein. Denn man möchte ja sicherlich nicht die Personaldaten und die ganzen Arzt Daten einfach in ChatGPT hochladen….
[…]
Bleibt die Frage nach der berühmten Halluzinose. Kann man den Zusammenfassungen vertrauen, oder muss man sie doch wieder selbst überprüfen, womit dann ja nichts gewonnen wäre.
Denn plausibel klingen ja leider auch die halluzinierten Ergebnisse der KI.Aber wenn das sicher gelöst ist, wäre das eine echte Erleichterung. Nicht nur für Arztbriefe, sondern auch in den von @Dr. M. Rothsching überlegten Gebieten.
Für das Halluzinieren gibt es in der KI Wissenschaft schon Ansätze, wie man das recht gut abstellen kann. Grob gesagt z.B. indem man die KI darauf trainiert, in einem zweiten Durchlauf die Antwort nur aus den Texten der Stichprobe zu generieren, ohne den Rest LLM. Wenn die Ergebnisse dann übereinstimmen, passt das. Die Uni Marburg hat z.B. einen Lehrstuhl für KI in der Medizin.
Zitat von Julian Hartig am 18. Juli 2025, 11:10 UhrWen der Datenschutzhintergrund zum KI-Telefonassistenten interessiert: dieser wird (zumindest aktuell) nicht direkt von Indamed betrieben, sondern es läuft über Termed (übernimmt vermutlich die Verknüpfung zwischen MO und dem Telefonassistenten, also sozusagen die „Middleware“) und die MediForm GmbH (ein Karlsruher Unternehmen), welche den eigentlichen KI-Assistenten bereitstellt. Gemäß des Vertrags zur Auftragsdatenverarbeitung der MediForm GmbH werden Cloud-Kapazitäten von AWS genutzt, dies ist aber auf deutsche und europäische Rechenzentren beschränkt, ein Datenabfluss nach außerhalb der EU *sollte* somit nicht stattfinden. AWS ist am Ende des Tages natürlich immer noch ein US-amerikanisches Unternehmen… Für mich ist das jetzt kein Hinderungsgrund, das zu testen, aber falls jemanden das stört wollte ich das hier mal geschrieben haben.
Die MediForm GmbH weist außerdem darauf hin, dass für die KI-gestützte Verarbeitung der transkribierten Daten die europäische Version der OpenAI-KI (ergo ChatGPT) genutzt wird. Dabei werden die Daten jedoch nicht für das Training genutzt und sollen von OpenAI auch nicht gespeichert werden.
Zumindest für das Kapitel Telefonassistent muss man damit zum aktuellen Zeitpunkt festhalten, dass die von Herrn Streit weiter oben getätigte Aussage
„deshalb werden wir für alle Funktionen, die mit den medizinschen Daten von Patienten zu tun haben, wie Dikat, Arztbrief oder Dokumentationsassistent, keines der öffentlich verfügbaren KI-Lösungen wie Chatgpt nutzen. Wir hosten ein eigenes Modell in einem deutschen zertifizierten Rechenzentrum und keinerlei Daten verlassen dieses Rechenzentrum. Das unterscheidet unsere Lösungen von allen derzeit auf dem Markt befindlichen Angeboten.“
zumindest für den Bereich KI-Telefonassistent derzeit nicht vollständig bzw. ganz korrekt ist. Was in Zukunft geplant ist weiß ich natürlich nicht – vielleicht wird die aktuell laufende Beta-Phase auch genutzt, um tatsächlich ein eigenes KI-Modell zu trainieren, welches dann im Anschluss in einem deutschen Rechenzentrum auf eigens dafür von Indamed angemieteten Servern laufen wird.
VG Julian Hartig
Wen der Datenschutzhintergrund zum KI-Telefonassistenten interessiert: dieser wird (zumindest aktuell) nicht direkt von Indamed betrieben, sondern es läuft über Termed (übernimmt vermutlich die Verknüpfung zwischen MO und dem Telefonassistenten, also sozusagen die „Middleware“) und die MediForm GmbH (ein Karlsruher Unternehmen), welche den eigentlichen KI-Assistenten bereitstellt. Gemäß des Vertrags zur Auftragsdatenverarbeitung der MediForm GmbH werden Cloud-Kapazitäten von AWS genutzt, dies ist aber auf deutsche und europäische Rechenzentren beschränkt, ein Datenabfluss nach außerhalb der EU *sollte* somit nicht stattfinden. AWS ist am Ende des Tages natürlich immer noch ein US-amerikanisches Unternehmen… Für mich ist das jetzt kein Hinderungsgrund, das zu testen, aber falls jemanden das stört wollte ich das hier mal geschrieben haben.
Die MediForm GmbH weist außerdem darauf hin, dass für die KI-gestützte Verarbeitung der transkribierten Daten die europäische Version der OpenAI-KI (ergo ChatGPT) genutzt wird. Dabei werden die Daten jedoch nicht für das Training genutzt und sollen von OpenAI auch nicht gespeichert werden.
Zumindest für das Kapitel Telefonassistent muss man damit zum aktuellen Zeitpunkt festhalten, dass die von Herrn Streit weiter oben getätigte Aussage
„deshalb werden wir für alle Funktionen, die mit den medizinschen Daten von Patienten zu tun haben, wie Dikat, Arztbrief oder Dokumentationsassistent, keines der öffentlich verfügbaren KI-Lösungen wie Chatgpt nutzen. Wir hosten ein eigenes Modell in einem deutschen zertifizierten Rechenzentrum und keinerlei Daten verlassen dieses Rechenzentrum. Das unterscheidet unsere Lösungen von allen derzeit auf dem Markt befindlichen Angeboten.“
zumindest für den Bereich KI-Telefonassistent derzeit nicht vollständig bzw. ganz korrekt ist. Was in Zukunft geplant ist weiß ich natürlich nicht – vielleicht wird die aktuell laufende Beta-Phase auch genutzt, um tatsächlich ein eigenes KI-Modell zu trainieren, welches dann im Anschluss in einem deutschen Rechenzentrum auf eigens dafür von Indamed angemieteten Servern laufen wird.
VG Julian Hartig
Zitat von Uwe Streit am 18. Juli 2025, 12:15 UhrHallo Herr Hartig,
danke für die Klarstellung. Vielleicht war das von mir etwas missverständlich. Ich bezog mich rein auf die medizinischen KI-Funktionen, die wir planen und nicht auf den KI-Telefonassistenten, da dies ja datenschutzrechtlich nochmal deutlich brisanter sind als die Infos beim Anruf.
Mit freundlichen Grüßen
Uwe Streit
Hallo Herr Hartig,
danke für die Klarstellung. Vielleicht war das von mir etwas missverständlich. Ich bezog mich rein auf die medizinischen KI-Funktionen, die wir planen und nicht auf den KI-Telefonassistenten, da dies ja datenschutzrechtlich nochmal deutlich brisanter sind als die Infos beim Anruf.
Mit freundlichen Grüßen
Uwe Streit
Uwe Streit
INDAMED Team
Zitat von Julian Hartig am 18. Juli 2025, 12:33 UhrZitat von Uwe Streit am 18. Juli 2025, 12:15 UhrHallo Herr Hartig,
danke für die Klarstellung. Vielleicht war das von mir etwas missverständlich. Ich bezog mich rein auf die medizinischen KI-Funktionen, die wir planen und nicht auf den KI-Telefonassistenten, da dies ja datenschutzrechtlich nochmal deutlich brisanter sind als die Infos beim Anruf.
Mit freundlichen Grüßen
Uwe Streit
Hallo Herr Streit,
Sie hatten ja tatsächlich in Ihrem Post über die konkreten Fälle Dikat, Arztbrief oder Dokumentationsassistent geschrieben und nicht über den KI-Telefonassistenten. Ich hatte das nur ergänzt, weil in vorherigen Posts der KI-Telefonassistent mit diesen anderen Funktionen quasi zusammengeworfen worden war.
Dessenungeachtet haben Sie sicherlich recht, dass die während der Sprechstunde erfassten Daten noch einmal sensibler sein dürften als am Telefon mit dem Assistenten kommunizierte Inhalte (wobei es auch hier ja um Überweisungen, Medikation und ähnliches gehen kann). Es wäre also auch hier begrüßenswert, eine komplett aus einer Hand und auf deutschem Boden stehende Lösung zur Auswahl zu haben – vielleicht können Sie da ja in der Zukunft auch was machen? Das Thema Transkription von Sprache in Text müssen Sie für die von Ihnen selbst entwickelten Lösungen ja ohnehin lösen, wenn Sie dann noch ein Modell hinzufügen für Konversation (auch die gibt es mittlerweile ja sogar als selbst hostbare Alternativen zum Mainstream, z.B. OpenLlama aufbauend auf der Meta-KI) könnte man das doch vielleicht künftig hinbekommen.
Super toll wäre natürlich auch eine selbst in der Praxis hostbare Fassung. Da dies bei KI-Bildgeneratoren sehr gut funktioniert (siehe z.B. die Flux-KI von BlackForest Labs) und der rechenintensive Aufwand vor allem das Training der Modelle ist könnte ich mir das auch für die Sprachvariante vorstellen. Ich würde mir dafür durchaus einen Rechner mit ein oder zwei potenten Grafikkarten in die Praxis stellen (und ein entsprechendes MO-Modul selbstverständlich zusätzlich honorieren).
VG Julian Hartig
Zitat von Uwe Streit am 18. Juli 2025, 12:15 UhrHallo Herr Hartig,
danke für die Klarstellung. Vielleicht war das von mir etwas missverständlich. Ich bezog mich rein auf die medizinischen KI-Funktionen, die wir planen und nicht auf den KI-Telefonassistenten, da dies ja datenschutzrechtlich nochmal deutlich brisanter sind als die Infos beim Anruf.
Mit freundlichen Grüßen
Uwe Streit
Hallo Herr Streit,
Sie hatten ja tatsächlich in Ihrem Post über die konkreten Fälle Dikat, Arztbrief oder Dokumentationsassistent geschrieben und nicht über den KI-Telefonassistenten. Ich hatte das nur ergänzt, weil in vorherigen Posts der KI-Telefonassistent mit diesen anderen Funktionen quasi zusammengeworfen worden war.
Dessenungeachtet haben Sie sicherlich recht, dass die während der Sprechstunde erfassten Daten noch einmal sensibler sein dürften als am Telefon mit dem Assistenten kommunizierte Inhalte (wobei es auch hier ja um Überweisungen, Medikation und ähnliches gehen kann). Es wäre also auch hier begrüßenswert, eine komplett aus einer Hand und auf deutschem Boden stehende Lösung zur Auswahl zu haben – vielleicht können Sie da ja in der Zukunft auch was machen? Das Thema Transkription von Sprache in Text müssen Sie für die von Ihnen selbst entwickelten Lösungen ja ohnehin lösen, wenn Sie dann noch ein Modell hinzufügen für Konversation (auch die gibt es mittlerweile ja sogar als selbst hostbare Alternativen zum Mainstream, z.B. OpenLlama aufbauend auf der Meta-KI) könnte man das doch vielleicht künftig hinbekommen.
Super toll wäre natürlich auch eine selbst in der Praxis hostbare Fassung. Da dies bei KI-Bildgeneratoren sehr gut funktioniert (siehe z.B. die Flux-KI von BlackForest Labs) und der rechenintensive Aufwand vor allem das Training der Modelle ist könnte ich mir das auch für die Sprachvariante vorstellen. Ich würde mir dafür durchaus einen Rechner mit ein oder zwei potenten Grafikkarten in die Praxis stellen (und ein entsprechendes MO-Modul selbstverständlich zusätzlich honorieren).
VG Julian Hartig
Zitat von Noah Ludescher am 18. Juli 2025, 15:38 UhrZitat von Uwe Streit am 18. Juli 2025, 12:15 UhrHallo Herr Hartig,
danke für die Klarstellung. Vielleicht war das von mir etwas missverständlich. Ich bezog mich rein auf die medizinischen KI-Funktionen, die wir planen und nicht auf den KI-Telefonassistenten, da dies ja datenschutzrechtlich nochmal deutlich brisanter sind als die Infos beim Anruf.
Mit freundlichen Grüßen
Uwe Streit
Wenn ich das richtig verstehe, sehen den Telefonassistenten nicht kritisch.
Da muss ich widersprechen, zumindest nach meinem Kenntnisstand.
Jeglicher Telefonkontakt mit dem Patient ist gleich schützenswert wie die Patietenakte selbst.
Wenn ich als Patient zB. ein Rezeptwunsch per Telefon mitteile, dann sind das bereits hochsensible Daten die verarbeitet werden müssen und die dementsprechenden Regeln der DSGVO greifen dazu.Wird für den TEL Assistent die OpenAI EU Enterprise Lösung verwendet, dann bieten diese einen AV-Vertrag im Sinne der DSGVO an und man kann dann auch damit unter gewissen Voraussetzungen med. Daten verarbeiten. Sonst gibt es nur noch die Microsoft B2B ChatGPT Instanz die auch in Europa/Deutschland gehostet wird. Auch da gibts einen Auftragsverarbeitungsvertrag (AV-Vertrag).
Alle anderen ChatGPT Zugänge sind auch für einen TEL-Assistent nicht konform, da der AV-Vertrag fehlt.
Zitat von Uwe Streit am 18. Juli 2025, 12:15 UhrHallo Herr Hartig,
danke für die Klarstellung. Vielleicht war das von mir etwas missverständlich. Ich bezog mich rein auf die medizinischen KI-Funktionen, die wir planen und nicht auf den KI-Telefonassistenten, da dies ja datenschutzrechtlich nochmal deutlich brisanter sind als die Infos beim Anruf.
Mit freundlichen Grüßen
Uwe Streit
Wenn ich das richtig verstehe, sehen den Telefonassistenten nicht kritisch.
Da muss ich widersprechen, zumindest nach meinem Kenntnisstand.
Jeglicher Telefonkontakt mit dem Patient ist gleich schützenswert wie die Patietenakte selbst.
Wenn ich als Patient zB. ein Rezeptwunsch per Telefon mitteile, dann sind das bereits hochsensible Daten die verarbeitet werden müssen und die dementsprechenden Regeln der DSGVO greifen dazu.
Wird für den TEL Assistent die OpenAI EU Enterprise Lösung verwendet, dann bieten diese einen AV-Vertrag im Sinne der DSGVO an und man kann dann auch damit unter gewissen Voraussetzungen med. Daten verarbeiten. Sonst gibt es nur noch die Microsoft B2B ChatGPT Instanz die auch in Europa/Deutschland gehostet wird. Auch da gibts einen Auftragsverarbeitungsvertrag (AV-Vertrag).
Alle anderen ChatGPT Zugänge sind auch für einen TEL-Assistent nicht konform, da der AV-Vertrag fehlt.