Uni-Tübingen

attempto online

29.04.2020

Zertifizierung von Künstlicher Intelligenz

Expertengruppe ver?ffentlicht Impulspapier

Künstliche Intelligenz (KI) kommt in vielen Branchen zum Einsatz. Um das Vertrauen in KI-Systeme und die mit ihnen verbundenen Prozesse und Entscheidungen zu st?rken, k?nnte eine Zertifizierung ein Schlüssel sein. In einem Impulspapier haben Expertinnen und Experten der Plattform Lernende Systeme skizziert, welchen Nutzen dies verspricht und welche Anforderungen sich mit Blick auf technische Umsetzung, Gemeinwohl und Erhalt der Innovationskraft stellen. Die Autorinnen und Autoren, zu denen PD Dr. Jessica Heesen vom Internationalen Zentrum für Ethik in den Wissenschaften (IZEW) der Universit?t Tübingen geh?rt, geben überblick über Zertifizierungsprojekte in Deutschland und bieten eine Grundlage für weiterführende Diskussionen.

Insbesondere in sensiblen Anwendungsbereichen wie der Medizin kann eine Zertifizierung von KI-Systemen dazu beitragen, das Vertrauen in ihre Leistungsf?higkeit, Zuverl?ssigkeit und Sicherheit zu st?rken. Im betrieblichen Kontext erleichtert eine Zertifizierung die Interoperabilit?t verschiedener Systeme und f?rdert so den weiteren Einsatz von Künstlicher Intelligenz. Nicht zuletzt k?nnte eine Zertifizierung die Wettbewerbsdynamik bei der Entwicklung von KI-Anwendungen f?rdern und – über die Etablierung einer vertrauenswürdigen Marke ?KI made in Europe“ – international Wettbewerbsvorteile schaffen.

Besondere Herausforderungen bei Lernenden Systemen

Auf dem Weg zu einer Zertifizierung von KI sind jedoch zahlreiche Fragen zu kl?ren. ?Zum Beispiel muss beantwortet werden, wie Lernende Systeme verl?sslich verifiziert werden k?nnen, oder wie ein Weiterlernen im Betrieb – etwa durch strukturierte Updates – sichergestellt werden kann“, sagt Prof. Dr. Stefan Wrobel, Leiter des Fraunhofer-Instituts für Intelligente Analyse- und Informationssysteme IAIS und Mitglied der Arbeitsgruppe Technologische Wegbereiter und Data Science der Plattform Lernende Systeme. ?Eine weitere Herausforderung ist, dass KI-Anwendungen oft hybride Systeme sind – das hei?t, sie beruhen auf einer Kombination von unterschiedlichen KI-Technologien. Im Bereich der Sprachtechnologie werden beispielsweise h?ufig maschinelle Lernverfahren mit modellhaftem Wissen kombiniert. Auch solche komplexen Systeme muss eine Zertifizierung abdecken.“

Entscheidend für eine sinnvolle Zertifizierung von KI-Systemen sei auch, das richtige Ma? zu finden. ?Die Aufgabe besteht darin, ein allgemeines Prüfsystem zu entwickeln, um eine Zertifizierung hochgradig verschiedener KI-Systeme für unterschiedliche Einsatzgebiete vergleichbar zu gestalten. Dabei gilt es, etablierte Normen und Standards zu berücksichtigen und vorhandene Lücken zu schlie?en“, erl?utert Wrobel, einer der vier Co-Autoren.

Geeignetes Ma? für Zertifizierung finden

Das von einem interdisziplin?ren Autorenteam erstellte Impulspapier ?Zertifizierung von KI-Systemen“ der Plattform Lernende Systeme beleuchtet nicht nur technische, sondern auch juristische und ethische Aspekte. ?Eine Zertifizierung kann für eine Vielzahl von KI-Systemen dazu beitragen, ihr gesellschaftliches Nutzenpotential sicher und gemeinwohlorientiert auszusch?pfen. Damit dies im Einklang mit gesellschaftlich anerkannten Werten geschieht, muss eine Form von Zertifizierung gefunden werden, die von wichtigen ethischen Prinzipien geleitet wird, aber gleichzeitig auch ?konomische Prinzipien erfüllt, überregulierung vermeidet sowie Innovationen f?rdert“, sagt Jessica Heesen, ebenfalls Autorin und Leiterin des Forschungsschwerpunkts Medienethik und Informationstechnik am IZEW der Universit?t Tübingen sowie der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik der Plattform Lernende Systeme. ?Im besten Fall kann eine Zertifizierung selbst zum Ausl?ser neuer Entwicklungen für einen europ?ischen Weg in der KI-Anwendung werden.“

                                                           
Pressemitteilung der Plattform ?Lernende Systeme“

 

über das Impulspapier

Das Impulspapier "Zertifizierung von KI-Systemen" beleuchtet Potentiale und Herausforderungen, die eine Zertifizierung von KI-Systemen birgt und gibt einen überblick über bestehende Zertifizierungsprojekte in Deutschland. Das Papier wurde von Mitgliedern der Plattform Lernende Systeme unter der Leitung der Arbeitsgruppe IT-Sicherheit, Privacy, Recht und Ethik sowie der Arbeitsgruppe Technologische Wegbereiter und Data Science verfasst und versteht sich als Grundlage für weitere Diskussionen zum Thema.

Kontakt:

PD Dr. Jessica Heesen
Universit?t Tübingen
Forschungsschwerpunkt Medienethik und Informationstechnik (Leitung)
Internationales Zentrum für Ethik in den Wissenschaften
07071-29 77516
jessica.heesenspam prevention@www.breewood.com 

Weitere Informationen:

Linda Treugut / Birgit Obermeier
Presse- und ?ffentlichkeitsarbeit
Lernende Systeme – Die Plattform für Künstliche Intelligenz
+49 89/52 03 09-54 /-51
: +49 172/144 58-47/-39
pressespam prevention@plattform-lernende-systeme.de 

Zurück
汤姆叔叔