Wie lassen sich KI-Systeme im Gesundheitswesen prüfen und zertifizieren? Welche Rolle spielen dabei neue regulatorische Vorgaben wie der EU AI Act? Und wie lässt sich ein agiler, zukunftsfähiger Zertifizierungsprozess gestalten? Diese und viele weitere Fragen diskutieren Host Anisa Idris und Gast Co-Host Dr. Udo Heintz in dieser Folge mit Alexander von Janowski, AI Certification Manager beim TÜV AI.Lab und Leiter des Arbeitspakets Zertifizierung im europäischen Forschungsprojekt TEF-Health. Gemeinsam werfen sie einen praxisnahen Blick auf die aktuellen Herausforderungen bei der Zulassung KI-basierter Medizinprodukte und beleuchten zentrale Unterschiede zu klassischen Softwarelösungen. Alexander von Janowski teilt wertvolle Einblicke in die Arbeit des TÜV AI.Lab und zeigt auf, warum Real-Time-Monitoring, Standardisierung und eine klare Rollenverteilung zwischen Herstellern, Benannten Stellen und Gesetzgeber entscheidend für die Zukunft der KI-Zertifizierung sind. Zum Schluss gibt er einen inspirierenden Einblick in sein Herzensprojekt: den Responsible Technology Hub, der sich für verantwortungsvolle technologische Innovationen einsetzt und junge Stimmen in den gesellschaftlichen Diskurs einbindet.

In der neuesten Folge von "Digitalversorgt mit KI" sprechen wir mit Dr. Christoph Weinrich, Leiter des Stabsbereichs Recht bei der Kassenärztlichen Bundesvereinigung (KBV). Gemeinsam werfen wir einen spannenden Blick auf die rechtlichen Rahmenbedingungen, Herausforderungen und Chancen beim Einsatz von Künstlicher Intelligenz in der ambulanten Gesundheitsversorgung. Themen sind unter anderem: 🎯 Wie klar müssen KI-Systeme für Ärztinnen und Ärzte verständlich sein? ⚖️ Brauchen wir mehr oder weniger Regulierung beim KI-Einsatz? 🚀 Welche Potenziale bietet KI konkret für den ambulanten Bereich?

In dieser Folge unseres Podcasts Digitalversorgt mit KI tauchen wir tief in die EU-Verordnung zur künstlichen Intelligenz ein. Gemeinsam mit unserem Experten Dr. Julian Braun diskutieren wir die definierten Rollen des EU-AI-Acts, wie Anbieter, Importeur, Händler und Betreiber, sowie die damit verbundenen Rechte und Pflichten. Besonderes Augenmerk liegt auf der menschlichen Aufsicht, einem zentralen Element dieser Verordnung, das sicherstellen soll, dass KI-Systeme menschenzentriert und sicher betrieben werden. Wir beleuchten die Herausforderungen und potenziellen Lösungsansätze für eine effektive Überwachung durch den Menschen.