Gesundheitsinfos suchen mit KI-Chatbots: Worauf muss ich achten?

15.04.2025 - Doktor Google bekommt Konkurrenz: Anstatt seitenweise Suchergebnisse zu durchforsten, können Internetnutzer auf der Suche nach Gesundheitsinfos auch einfach eine künstliche Intelligenz (KI) befragen. Die KI-Chatbots ChatGPT und Co. liefern schnelle Antworten auf alle möglichen Fragen. Aber stimmen ihre Antworten auch? Erfahren Sie auf dieser Seite, wie Sie diese Anwendungen nutzen und die Ergebnisse beurteilen können.

Was sind KI-Chatbots und wie benutzt man sie?

KI-Chatbots wie ChatGPT oder Google Gemini basieren auf sogenannten Large Language Models (LLM). Diese künstlichen Intelligenzen sind darauf trainiert, menschliche Sprache zu verarbeiten und zu generieren. In der Praxis funktioniert das wie ein Chat mit einem Freund oder einem Mitarbeiter im Kundensupport: Man gibt eine Frage oder eine Anweisung in ein Textfenster ein und der Chatbot antwortet darauf.

KI-Chatbots können auf gezielte Fragen antworten, z. B.:
Welche Hausmittel helfen gegen Erkältung?
Man kann der KI aber auch größere Arbeitsaufträge geben, z. B.:
Stelle mir die wichtigsten Infos über Asthma zusammen.

Wie funktioniert die Suche mit KI-Chatbots?

Anders als bei der Suchmaschine werden bei KI-Chatbots keine Suchbegriffe verwendet. Stattdessen stellt man der KI Fragen oder gibt ihr Anweisungen, was sie tun soll. Je konkreter man die Frage oder Anweisung formuliert, desto zufriedenstellender fällt in der Regel auch das Ergebnis aus.

Mögliche Fragestellungen oder Anweisungen sind:

• Wie entferne ich eine Zecke richtig?
• Zeige mir Tipps, um mit dem Rauchen aufzuhören.
• Liste Hausmittel gegen Erkältung auf.
• Erkläre mir, wie Antibiotika funktionieren.

Wichtig: Manche KI-Chatbots können Ihre Eingaben benutzen, um zu lernen und sich weiterzuentwickeln, oder sie können diese für die Fragen anderer Nutzer und Nutzerinnen verwenden. Geben Sie den Bots deshalb keine persönlichen Informationen wie Namen, Diagnosen oder Ihre Adresse.

Wie kann ein KI-Chatbot meine Frage beantworten?

Suchmaschinen durchsuchen das Internet nach den eingegebenen Suchbegriffen und liefern passende Websites, die eine Antwort auf die Nutzerfrage enthalten können. KI-Chatbots dagegen erzeugen selbst Antworten auf Nutzerfragen aus Material, das sie während ihres Trainings erhalten haben.

In diesem Text sprechen wir über textbasierte Large Language Models. Diese sind im Kern dem menschlichen Gehirn nachempfunden: Sie bestehen aus vielen Schichten von künstlichen Nervenzellen, die Informationen verarbeiten und analysieren. So können sie in großen Textmengen Muster und Zusammenhänge erkennen und Bedeutungen erfassen.

Bevor ein KI-Chatbot Nutzerfragen beantworten kann, muss er trainiert werden. Dafür erhält er große Mengen an Textdaten. Diese stammen aus Webseiten, digitalisierten Artikeln, Büchern und anderen Quellen. Mit diesen Daten erfasst die KI Muster unserer Sprache: Sie lernt, Wahrscheinlichkeiten für Wörter und Wortfolgen bestmöglich vorherzusagen. Diese Wahrscheinlichkeiten, die sie sich während des Trainings angeeignet hat, verwendet die KI später auch, um Antworten auf Nutzeranfragen zu generieren. Es ist also nicht so, als würde die KI unsere Frage oder ihre eigene Antwort darauf tatsächlich verstehen. Vielmehr reiht sie Wörter aneinander, die ihrer Erfahrung nach mit großer Wahrscheinlichkeit zusammengehören.

Sind die Antworten von KI-Chatbots vertrauenswürdig?

Antworten von KI-Chatbots sind nicht immer richtig. Dafür gibt es mehrere mögliche Ursachen:

• Die Daten, mit denen die KI trainiert wurde, können veraltet oder fehlerhaft sein.
• Die KI bevorzugt die Informationen, die am häufigsten in ihrem Speicher sind. So besteht eine höhere Wahrscheinlichkeit, dass die Informationen zur eingegebenen Frage passen. Bezieht sich die Frage auf einen Sonderfall, besteht jedoch ein höheres Risiko eine falsche oder unpassende Antwort zu erhalten.
• Die Antwort des Chatbots ist abhängig von der Aufforderung oder Frage, die der Benutzer eingibt. Voreingenommene Fragen, s.g. Suggestivfragen können zu falschen oder ungenauen Ausgaben führen.
• KI-Chatbots sind darauf programmiert, auf jede Frage eine Antwort zu liefern. Das tun sie auch, wenn ihnen keine passenden Informationen zur Frage vorliegen. Dann erzeugt die KI eine Halluzination: einen Inhalt, der auf den ersten Blick zwar plausibel klingt, aber frei erfunden ist.

KI-Chatbots haben keine Vorstellung von wahr und falsch, sondern erzeugen ihre Informationen anhand von Mustern und Wahrscheinlichkeiten. Auch wenn richtige Trainingsdaten vorliegen, kann die KI eine falsche Information erzeugen, wenn diese genauso plausibel oder plausibler klingt als die richtige Information. Auch Quellenangaben können frei erfunden sein.

Wie kann ich die Ergebnisse überprüfen?

Da Informationen von KI-Chatbots fehleranfällig sind oder sogar frei erfunden sein können, sollte man sie nicht ohne weitere Überprüfung annehmen – schon gar nicht, wenn es dabei um Gesundheitsthemen geht. Es gibt verschiedene Wege, die Antwort von einem KI-Chatbot zu überprüfen:

• Lesen Sie die Antwort kritisch durch: Passt sie zu Ihrer Frage? Klingt sie glaubwürdig und nachvollziehbar? Oder entdecken Sie Widersprüche? Stellen Sie im Zweifelsfall Nachfragen.
• Fordern Sie den Chatbot auf, Quellen für die Information anzugeben. Überprüfen Sie, ob Sie diese Quellen aufrufen können und ob der Inhalt mit der Information übereinstimmt. Finden Sie die Quellen vertrauenswürdig?
• Gleichen Sie die Informationen des KI-Chatbots mit anderen vertrauenswürdigen und aktuellen Quellen ab.
• Fordern Sie die KI auf, ihre Antwort selbst zu beurteilen: Wie hoch ist die Wahrscheinlichkeit, dass die Antwort zutreffend ist? Wo liegen möglicherweise Fehler? Fordern Sie die KI auf, diese Fehler zu korrigieren.

Sie sind sich unsicher, ob die Antwort stimmt? Oder haben Sie eine wichtige Frage zu Krankheitsbeschwerden oder einer medizinischen Behandlung? Zeigen Sie die Informationen Ihrem Arzt, Ihrer Ärztin oder anderen Gesundheitsfachleuten und ziehen Sie weitere seriöse Quellen zurate.

Studien: Wie zuverlässig sind Gesundheitsinfos von ChatGPT?

Regelmäßig untersuchen Studien, wie genau KI-Chatbots überhaupt auf Gesundheitsfragen eingehen. Am häufigsten wird die Anwendung ChatGPT untersucht. Auswertungen zeigen, dass ChatGPT auf Gesundheitsfragen überwiegend korrekt und vertrauenswürdig antwortet. Zum Teil bevorzugten Studienteilnehmende sogar die Antworten der KI, da diese länger waren und deshalb als vertrauenswürdiger und mitfühlender bewertet wurden. Forschende sehen daher ein großes Potenzial in der Bereitstellung von Gesundheitsinformationen. Dennoch kommen die Forschenden auch zu dem Ergebnis, dass die Aussagen der Chatbots stets kritisch hinterfragt und geprüft werden sollten, denn manchmal sind falsche, veraltete oder widersprüchliche Antworten enthalten. Ebenso hängt die Informationsausgabe auch stark von der Formulierung der Frage oder Anweisung ab.

Welche KI-Chatbots gibt es?

Es gibt eine ganze Reihe an KI-Chatbots und sprachbasierten Assistenten von verschiedenen Anbietern, die mit unterschiedlichen LLMs arbeiten. Neben den kostenlosen Open-Source-Programmen stehen auch kostenpflichtige Anwendungen zur Verfügung.

Hier ein paar ausgewählte Sprachmodelle:

Open-Source-Programme

ChatGPT von OpenAI: In der Version GPT-4 kann das Programm auf Nutzerfragen oder Aufgaben in natürlicher Sprache reagieren. In der kostenlosen Version kann man ChatGPT eine begrenzte Anzahl von Anfragen stellen. Dafür benötigt man ein Nutzerkonto.

Google Gemini von Google: Dies ist ein KI-Chatbot, der gesprächsähnlich auf Anfragen reagiert. Hier können Nutzer nicht nur Text, sondern z. B. auch Fotos oder Codes eingeben oder sich anzeigen lassen. Google Gemini ist kostenlos. Man benötigt ein Google-Nutzerkonto.

Meta AI von Meta: Dabei handelt es sich um einen kostenlosen Sprachassistenten, der auf Facebook, Instagram, WhatsApp und Messenger eingesetzt wird.

Copilot: Copilot ist ein KI-Assistent, der in verschiedene Microsoft-Produkte wie Word, Excel, Powerpoint und Microsoft Teams integriert wurde und bei unterschiedlichen Aufgaben helfen kann.

Perplexity: Perplexity generiert Antworten mithilfe von ausgewiesenen Quellen aus dem Internet und zitiert die Links innerhalb seiner Antwort. Der Chatbot arbeitet mit verschiedenen Sprachmodellen, u. a. mit Modellen von OpenAI und Claude.

Kostenpflichtige Anwendungen

Claude von Claude Anthrophic ist ein Sprachmodell, das von einigen Aussteigern von OpenAI gegründet wurde.

Vorteile:

• Der Chatbot mit der KI fühlt sich eher wie ein richtiges Gespräch an.
• KI-Chatbots erzeugen zusammenhängende Antworten, statt nur Links zu Webseiten zu liefern.
• KI-Chatbots können den Kontext einer Anfrage besser erfassen und relevantere Ergebnisse liefern.
• KI-Chatbots können Informationen aus verschiedenen Quellen zusammenführen.
• KI-Chatbots können neben der Beantwortung von Fragen oder Anweisungen auch andere Aufgaben lösen, wie z. B. Texte als Artikel, Gedichte oder Geschichten schreiben, Texte zusammenfassen, korrigieren oder bearbeiten, Texte in andere Sprachen übersetzen oder Texte analysieren.

Nachteile:

• KI-Chatbots können Fehlinformationen enthalten.
• Ohne regelmäßige Aktualisierung der Trainingsdaten veralten die Informationen von KI-Chatbots.
• KI-Chatbots können Informationen frei erfinden.
• Es ist oft schwierig nachzuvollziehen, wie die Chatbots zu ihren Antworten kommen, da viele Chatbots keine Quellen angeben.
• KI-Chatbots benötigen für Training und Betrieb sehr viel Energie.

Studien: Google und Chat GPT im Vergleich

Beim Vergleich der Suchmaschine Google mit Chat GPT bewerteten Ärzte die Qualität der Antworten auf Gesundheitsfragen und der bereitgestellten Quellen. Dabei beurteilten sie die Antworten von ChatGPT als besser und umfassender. Ein weiterer Pluspunkt: Die KI erkennt auch vorhandene Wissenslücken und berichtet diese in ihren Antworten. Allerdings gab ChatGPT nicht immer zuverlässige Quellen an oder es fehlten sogar Quellen.