Healthcare technology
Künstliche Intelligenz
Der Medtronic KI-Kompass
Unsere Leitprinzipien für den ethischen Einsatz von künstlicher Intelligenz in der Gesundheitstechnologie zum Nutzen der Anwender*innen, einschließlich der Patient*innen und medizinischen Fachkräfte.
Seit 1949 entwickelt Medtronic außergewöhnliche gesundheitstechnologische Lösungen – Engineering the Extraordinary. Als weltweit führendes Unternehmen der Gesundheitstechnologie verfügen wir über fundierte klinische Kenntnisse und Erfahrungen in der Entwicklung neuer lebensrettender und lebenserhaltender Gesundheitstechnologie. Unsere Innovationsreise geht weiter mit Fortschritten bei der Anwendung von künstlicher Intelligenz (KI) in unserer Gesundheitstechnologie. Der KI-Kompass steht für die Grundsätze, an denen wir uns auf unserem Weg orientieren werden, und für die Verpflichtungen, die wir gegenüber den Nutzenden unserer Technologien, einschließlich Patient*innen und medizinischen Fachkräften, eingehen.
Diese Technologien haben großes Potenzial, die Versorgung von Patient*innen zu verbessern und die Mission von Medtronic, Schmerzen zu lindern, die Gesundheit wiederherzustellen und das Leben zu verlängern, zu unterstützen. Wir sind uns jedoch auch bewusst, dass KI-gestützte Technologien neue und wichtige Fragen aufwerfen. Dieser KI-Kompass bekräftigt unsere Verpflichtung, KI auf ethische Weise dort einzusetzen, wo sie dazu beiträgt, die Behandlungsergebnisse für Patient*innen und die Bedingungen der Versorgung von Patient*innen zu verbessern.
Auf unserem Weg der KI-Innovation verpflichten wir uns zu ständigem Lernen und Verbessern und sind uns bewusst, dass sich der Stand unseres Wissens sowie die Erwartungen der Nutzer*innen und der Öffentlichkeit ständig weiterentwickeln werden.
Unsere Leitprinzipien
Grundsatz 1: Nutzbringende Verwendung
Wir entwickeln KI-gestützte Technologien, die das Ziel von Medtronic unterstützen, Schmerzen zu lindern, die Gesundheit wiederherzustellen und das Leben zu verlängern.
Verpflichtungen:
- Bei der Konzeption, Entwicklung und Bereitstellung unserer KI-gestützten Technologien verfolgen wir einen Ansatz, der die Patient*innen in den Mittelpunkt stellt. Unser Ziel ist es, KI so in unsere Produkte und Therapien zu integrieren, dass der Einsatz der KI die Behandlungsergebnisse der Patient*innen bzw. die Rahmenbedingungen für die Versorgung von Patient*innen sinnvoll verbessert.
Grundsatz 2: Sicherheit und Wirksamkeit
Wir wenden Best Practices und wissenschaftliche Erkenntnisse an, um KI-gestützte Technologien zu entwickeln, die sicher und wirksam sind.
Verpflichtungen:
- Wir nutzen unser umfangreiches medizinisches und klinisches Wissen zur Entwicklung sicherer und effektiver KI-gestützter Technologien.
- Bei der Entwicklung von KI-gestützten Technologien und der Verbesserung unserer KI-Lösungen im Laufe der Zeit wenden wir „gute Praktiken des maschinellen Lernens“ (Good Machine Learning Practices, GMLP) an, die den aktuellen Best-in-Class-Branchenstandards entsprechen.
- Die Zuverlässigkeit unserer KI-Systeme hinsichtlich Leistung, Zuverlässigkeit, Sicherheit und Schutz bewerten wir mit geeigneten Verfahren.
- Wir verfolgen bei unseren KI-gestützten Technologien einen Ansatz für den gesamten Produktlebenszyklus, um unsere Technologien auf der Grundlage von Leistungsdaten aus der Praxis anzupassen und zu verbessern.
- Wir halten uns bei der Erforschung, Entwicklung, Testung, Herstellung, dem Vertrieb und der Überwachung unserer KI-gestützten Technologien an die geltenden Gesetze, Vorschriften und Standards für Sicherheit und Wirksamkeit.
Grundsatz 3: Fairness und Diskriminierungsverbot
Wir entwickeln, validieren und überwachen Lösungen anhand hochwertiger, zuverlässiger und klinisch relevanter Daten bei Gruppen von Patient*innen mit dem Ziel, mögliche Vorurteile und mögliche Diskriminierung in unserer KI-gestützten Technologie zu identifizieren und zu beheben.
Verpflichtungen:
- Wir bemühen uns, ungerechtfertigte Vorurteile und diskriminierende Muster in unserer KI zu erkennen und anzusprechen.
- Wir arbeiten mit externen Beteiligten zusammen, um ein Ökosystem für Gesundheitsdaten zu schaffen, das zuverlässige und repräsentative Daten zur Verfügung stellt, um Vorurteile zu vermeiden und gleichzeitig die Privatsphäre der Patient*innen zu schützen.
Grundsatz 4: Qualität und Rechenschaftspflicht
Im Einklang mit der Mission von Medtronic hat die Verpflichtung zur Qualität für uns oberste Priorität. Diese Philosophie leitet uns auch bei der Entwicklung und Nutzung von KI-gestützten Technologien.
Verpflichtungen:
- Wir bemühen uns, Probleme zu vermeiden, bevor sie entstehen, und wir kontrollieren sorgfältig, um mögliche Qualitäts- oder Sicherheitsprobleme zu erkennen und zu bewerten. Wir handeln schnell und mutig, um alle festgestellten Probleme zu lösen, wobei das Interesse der Patient*innen bei allen Entscheidungen an oberster Stelle steht.
- Wir sorgen mit zuverlässigen Daten- und Algorithmus-Governance sowie mit Test- und Validierungsverfahren für Verantwortlichkeit.
- Bei der Entwicklung von KI-gestützten Technologien bieten wir den Nutzer*innen die Möglichkeit, in Übereinstimmung mit unseren Richtlinien zur Behandlung von Beschwerden und den geltenden Vorschriften Rückmeldungen zu geben und etwaige Probleme mitzuteilen.
- Wir wenden unsere Qualitätsmanagementsysteme auf KI-gestützte Technologien während des gesamten Produktlebenszyklus an.
Grundsatz 5: Menschliche Kontrolle und Aufsicht
Wir entwickeln und konzipieren KI-gestützte Technologien, um Nutzer*innen, einschließlich Patient*innen und medizinischen Fachkräften, eine angemessene menschliche Kontrolle und Aufsicht zu ermöglichen.
Verpflichtungen:
- Wir stellen sicher, dass die KI-gestützten Technologien je nach Nutzungskontext mit angemessener menschlicher Interaktion und Aufsicht entwickelt werden.
- Wir stellen sicher, dass KI-gestützte Technologien nach den Grundsätzen der Anwendungsfreundlichkeit und der Ergonomie entwickelt werden, um die sichere und effektive Interaktion der Benutzer*innen mit der Technik in den Vordergrund zu stellen.
- Wir stellen sicher, dass das angemessene Maß an menschlicher Kontrolle und Aufsicht ermittelt, bewertet und in unserer Kennzeichnung und Gebrauchsanweisung klar kommuniziert wird.
- Wir stellen geeignete Materialien und Werkzeuge zur Verfügung, die es den Nutzer*innen ermöglichen, fundierte Entscheidungen über die Nutzung unserer KI-gestützten Systeme und die Interaktion mit ihnen zu treffen und die vom System bereitgestellten Informationen und Funktionen vernünftig zu bewerten und zu hinterfragen.
Grundsatz 6: Datenschutz und Sicherheit
Medtronic schützt die persönlichen Daten und die Privatsphäre von Anwender*innen, Patient*innen, medizinischen Fachkräften und Partner*innen während des gesamten Produktlebenszyklus.
Verpflichtungen:
- Wir arbeiten mit Patient*innen, medizinischen Fachkräften und anderen Beteiligten zusammen, um die beabsichtigte Datennutzung klar zu kommunizieren und für sie eine entsprechende Genehmigung einzuholen.
- Wir nutzen „Privacy-by-Design“-Verfahren und Techniken zur Wahrung der Privatsphäre, um die Privatsphäre der Patient*innen zu schützen.
- Wir setzen Verfahren des „Security-by-Design“ ein, um Cybersicherheitsrisiken und -schwachstellen zu ermitteln und zu mindern, einschließlich derer, die nur bei KI-Technologien auftreten.
- Wir respektieren die persönlichen und sensiblen Daten, die uns anvertraut werden, und stellen sicher, dass wir die branchenüblichen Datenschutz- und Sicherheitsstandards erfüllen oder übertreffen und die geltenden Gesetze und Vorschriften einhalten.
Grundsatz 7: Transparenz
Wir machen transparent, ob unsere Gesundheitstechnologie KI-fähig ist, wie das System eingesetzt werden soll, welche Algorithmen zu KI-fähigen Ergebnissen führen und wer die Verantwortung für die endgültigen Entscheidungen trägt.
Verpflichtungen:
- Um eine optimale Transparenz zu gewährleisten, verwenden wir eine Sprache, die der jeweiligen Zielgruppe angemessen ist, z. B. Patient*innen, Aufsichtsbehörden, medizinische Fachkräfte und Forscher*innen.
- Wir kommunizieren, wie und warum wir KI in unserer Gesundheitstechnologie einsetzen, und zeigen auch die Grenzen der KI auf.
- Wir stellen den Nutzern unserer KI-gestützten Technologien aussagekräftige Informationen zur Verfügung, damit sie fundierte Entscheidungen über die Nutzung und Interaktion mit unseren KI-Systemen treffen können.
Der KI-Kompass wendet die ethischen Standards aus dem Medtronic Verhaltenskodex auf die Entwicklung von KI-gestützten Technologien an und insbesondere darauf, wie wir KI auf ethische Weise in unseren Produkten und Lösungen einsetzen, wo sie einen einzigartigen und wertvollen Beitrag zu den Behandlungsergebnissen leisten wird. Der Medtronic Verhaltenskodex bildet den Rahmen, in dem alle Mitarbeitenden unsere Mission leben sollen, und enthält Werkzeuge für ethische Entscheidungen.
Weitere Inhalte ansehen
Thema:
-
-
Robotic-assisted surgeryNutzen der roboterassistierten Chirurgie
-
Healthcare technologyDie heilende Kraft der Elektrizität
-
Artificial intelligenceVorreiter für die Zukunft der individualisierten Medizin
-
Healthcare technologyVernetzte Gesundheitsversorgung, überall
-
Healthcare technologyMit bahnbrechender Technologie das Leben der Menschen verbessern