WHO: WHO veröffentlicht ersten globalen Bericht über Künstliche Intelligenz (KI) im Gesundheitswesen und sechs Leitprinzipien für deren Gestaltung und Anwendung

(C) photocrew

Der zunehmende Einsatz von KI im Gesundheitswesen stellt Regierungen, Anbieter und Gemeinden vor Chancen und Herausforderungen

Künstliche Intelligenz (KI) ist vielversprechend für die Verbesserung der Gesundheitsversorgung und Medizin weltweit, aber nur, wenn Ethik und Menschenrechte in den Mittelpunkt ihrer Gestaltung, ihres Einsatzes und ihrer Nutzung gestellt werden, so die heute veröffentlichten neuen Leitlinien der WHO.

Der Bericht „Ethics and Governance of Artificial Intelligence for Health“ ist das Ergebnis einer zweijährigen Konsultation eines von der WHO ernannten Gremiums internationaler Experten.

„Wie jede neue Technologie birgt künstliche Intelligenz ein enormes Potenzial zur Verbesserung der Gesundheit von Millionen von Menschen auf der ganzen Welt, aber wie jede Technologie kann sie auch missbraucht werden und Schaden anrichten“, sagte Dr. Tedros Adhanom Ghebreyesus, Generaldirektor der WHO. „Dieser wichtige neue Bericht bietet den Ländern einen wertvollen Leitfaden, wie sie den Nutzen der KI maximieren, gleichzeitig ihre Risiken minimieren und ihre Fallstricke vermeiden können.“

Künstliche Intelligenz kann sein und wird in einigen wohlhabenden Ländern bereits eingesetzt, um die Geschwindigkeit und Genauigkeit der Diagnose und des Screenings auf Krankheiten zu verbessern; um bei der klinischen Versorgung zu helfen; Stärkung der Gesundheitsforschung und Arzneimittelentwicklung und Unterstützung verschiedener Interventionen im Bereich der öffentlichen Gesundheit wie Krankheitsüberwachung, Reaktion auf Ausbrüche und Management von Gesundheitssystemen.

KI könnte Patienten auch in die Lage versetzen, ihre eigene Gesundheitsversorgung besser zu kontrollieren und ihre sich entwickelnden Bedürfnisse besser zu verstehen. Es könnte auch ressourcenarmen Ländern und ländlichen Gemeinden, in denen Patienten oft nur eingeschränkten Zugang zu Gesundheitspersonal oder medizinischem Fachpersonal haben, ermöglichen, Lücken beim Zugang zu Gesundheitsdiensten zu schließen.

Der neue Bericht der WHO warnt jedoch davor, den Nutzen von KI für die Gesundheit zu überschätzen, insbesondere wenn dies zu Lasten der Kerninvestitionen und Strategien geht, die für eine allgemeine Gesundheitsversorgung erforderlich sind.

Er weist auch darauf hin, dass Chancen mit Herausforderungen und Risiken verbunden sind, einschließlich der unethischen Erhebung und Verwendung von Gesundheitsdaten; in Algorithmen kodierte Verzerrungen und Risiken der KI für die Patientensicherheit, die Cybersicherheit und die Umwelt.

Während beispielsweise Investitionen des privaten und öffentlichen Sektors in die Entwicklung und den Einsatz von KI von entscheidender Bedeutung sind, könnte der unregulierte Einsatz von KI die Rechte und Interessen von Patienten und Gemeinschaften den mächtigen kommerziellen Interessen von Technologieunternehmen oder den Interessen von Regierungen bei der Überwachung unterordnen und soziale Kontrolle.

Der Bericht betont auch, dass Systeme, die hauptsächlich auf Daten von Personen in Ländern mit hohem Einkommen trainiert wurden, für Personen mit niedrigem und mittlerem Einkommen möglicherweise nicht gut funktionieren.

KI-Systeme sollten daher sorgfältig entworfen werden, um die Vielfalt der sozioökonomischen und gesundheitsbezogenen Einstellungen widerzuspiegeln. Sie sollten von Schulungen in digitalen Fähigkeiten, gesellschaftlichem Engagement und Sensibilisierung begleitet werden, insbesondere für Millionen von Gesundheitspersonal, die digitale Kompetenzen oder Umschulungen benötigen, wenn ihre Rollen und Funktionen automatisiert sind, und die mit Maschinen zu kämpfen haben, die die Entscheidung in Frage stellen könnten. Herstellung und Autonomie von Anbietern und Patienten.

Letztlich müssen Regierungen, Anbieter und Designer, geleitet von bestehenden Gesetzen und Menschenrechtsverpflichtungen sowie neuen Gesetzen und Richtlinien, die ethische Prinzipien verankern, zusammenarbeiten, um ethische und menschenrechtliche Bedenken in jeder Phase des Designs, der Entwicklung und des Einsatzes einer KI-Technologie anzugehen .

Sechs Prinzipien, um sicherzustellen, dass KI in allen Ländern im öffentlichen Interesse arbeitet
Um die Risiken zu begrenzen und die Chancen zu maximieren, die mit dem Einsatz von KI für die Gesundheit verbunden sind, stellt die WHO die folgenden Prinzipien als Grundlage für die KI-Regulierung und -Governance bereit:

Schutz der menschlichen Autonomie: Im Kontext der Gesundheitsversorgung bedeutet dies, dass der Mensch die Kontrolle über Gesundheitssysteme und medizinische Entscheidungen behalten sollte; Privatsphäre und Vertraulichkeit sollten geschützt werden, und die Patienten müssen durch geeignete rechtliche Rahmenbedingungen für den Datenschutz eine gültige Einwilligung nach Aufklärung geben.

Förderung des menschlichen Wohlbefindens und der Sicherheit sowie des öffentlichen Interesses. Die Entwickler von KI-Technologien sollten regulatorische Anforderungen an Sicherheit, Genauigkeit und Wirksamkeit für genau definierte Anwendungsfälle oder Indikationen erfüllen. Maßnahmen zur Qualitätskontrolle in der Praxis und zur Qualitätsverbesserung beim Einsatz von KI müssen vorhanden sein.

Gewährleistung von Transparenz, Erklärbarkeit und Verständlichkeit. Transparenz erfordert, dass ausreichende Informationen veröffentlicht oder dokumentiert werden, bevor eine KI-Technologie entwickelt oder bereitgestellt wird. Solche Informationen müssen leicht zugänglich sein und eine sinnvolle öffentliche Konsultation und Debatte darüber ermöglichen, wie die Technologie konzipiert ist und wie sie verwendet werden soll oder nicht.

Förderung von Verantwortung und Rechenschaftspflicht. Obwohl KI-Technologien spezifische Aufgaben erfüllen, liegt es in der Verantwortung der Stakeholder, sicherzustellen, dass sie unter angemessenen Bedingungen und von entsprechend geschulten Personen eingesetzt werden. Es sollten wirksame Mechanismen zur Befragung und zur Wiedergutmachung von Einzelpersonen und Gruppen zur Verfügung stehen, die durch Entscheidungen auf der Grundlage von Algorithmen beeinträchtigt werden.

Inklusion und Gerechtigkeit sicherstellen. Inklusion erfordert, dass KI für die Gesundheit so konzipiert ist, dass sie die größtmögliche gerechte Nutzung und den möglichst gleichberechtigten Zugang fördert, unabhängig von Alter, Geschlecht, Geschlecht, Einkommen, Rasse, ethnischer Zugehörigkeit, sexueller Orientierung, Fähigkeit oder anderen durch Menschenrechtskodizes geschützten Merkmalen.

Förderung einer reaktionsschnellen und nachhaltigen KI. Designer, Entwickler und Nutzer sollten KI-Anwendungen während der tatsächlichen Nutzung kontinuierlich und transparent bewerten, um festzustellen, ob KI angemessen und angemessen auf Erwartungen und Anforderungen reagiert. KI-Systeme sollten auch so konzipiert sein, dass sie ihre Umweltfolgen minimieren und die Energieeffizienz steigern. Regierungen und Unternehmen sollten sich mit erwarteten Störungen am Arbeitsplatz befassen, einschließlich Schulungen für Gesundheitspersonal, um sich an den Einsatz von KI-Systemen anzupassen, und potenzielle Arbeitsplatzverluste aufgrund des Einsatzes automatisierter Systeme.

Diese Grundsätze werden die zukünftige Arbeit der WHO leiten, um die Bemühungen zu unterstützen, sicherzustellen, dass das volle Potenzial der KI für das Gesundheitswesen und die öffentliche Gesundheit zum Nutzen aller genutzt wird.

Autor:in

  • Studiengangsleiter "GuK" IMC FH Krems, Institutsleiter Institut "Pflegewissenschaft", Diplomierter Gesundheits- und Krankenpfleger, Pflegewissenschaft BScN (Umit/Wien), Pflegewissenschaft MScN (Umit/Hall)

Hinterlasse jetzt einen Kommentar

Kommentar hinterlassen