Direkt zum Inhalt
Künstliche Intelligenz (KI)

Wie ist garantiert, dass KI menschlichen Regeln und Werten folgt? VDI interviewt Dr. Kurt D. Bettenhausen

Bild: Miriam Doerr, Martin Frommherz / Shutterstock.com

KI-basierte Systeme und Maschinen werden immer autonomer, selbstständiger und intelligenter. Ob und wie ist es zu schaffen, dass sie auf Dauer menschlichen Werten und Regeln folgen? Dr. Kurt D. Bettenhausen, Vorsitzender des interdisziplinären Gremiums Digitale Transformation im VDI und Vorstandsmitglied der VDI/VDE-GMA, im Gespräch mit dem VDI.

VDI: Die Leistungsfähigkeit autonomer Systeme nimmt kontinuierlich zu. Wie stellen Sie sicher, dass diese Systeme auf Dauer die geplanten Aufgaben übernehmen und nicht darüber hinausgehen, also beherrschbar bleiben?

Bettenhausen: Lassen Sie uns für einen Moment von der Annahme ausgehen, dass die Leistungsfähigkeit tatsächlich in einen Bereich steigt, in dem Autonome Systeme sich selbständig über ihren eigentlichen Bestimmungszweck hinaus weiterentwickeln können. Grundsätzlich bleiben drei Möglichkeiten:

  1. Dem Erbauer des autonomen Systems ethische Regeln für das Design der Systeme zu geben oder
  2. das System selbst zu reglementieren oder
  3. dem System Regeln mitzugeben, die seine Weiterentwicklung lenken.

VDI: Welche dieser drei Möglichkeiten halten Sie langfristig für die wirksamste?

Bettenhausen: Solange wir über Systeme reden, die nicht KI-basiert sind, ist es vollkommen ausreichend, wenn die Personen, die sie konstruieren und programmieren, ethischen Werten folgen.

Das System selbst reglementieren zu wollen, wird sich auf Dauer als Hase-und-Igel Spiel entwickeln, bei dem die Regeln und die Regelnden mit hoher Wahrscheinlichkeit nicht mit dem technologischen Fortschritt werden mithalten können.

In dem Moment jedoch, in dem das eigenständige Lernen eines Systems ins Spiel kommt, z.B. über Methoden wie Deep Learning, müssen wir uns über übergeordnete, sogenannte Meta-Regeln Gedanken machen. Und das müssen wir tun, bevor wir die Maschinen in unsere Umwelt lassen.

Denken Sie beispielsweise nur an den Chatbot, der innerhalb eines einzigen Tages rassistische Propaganda verbreitete oder an die Chatbots, die in kürzester Zeit eine für Menschen unverständliche Sprache entwickelten. Wir dürfen nicht die Kontrolle verlieren und wir müssen den Maschinen zugleich Meta-Regeln mitgeben, die sie zwingend befolgen müssen.

VDI: Das bedeutet, Deep-Learning-Systeme können wir nicht mehr kontrollieren?

Bettenhausen: Zumindest können wir nicht zu jedem Zeitpunkt schnell genug vorhersagen, was genau sie lernen und gegebenenfalls  in Echtzeit anwenden werden. Bei Maschinen, die aus der immer größer werdenden Menge an Daten Wissen und über deren Analyse Erkenntnisse ziehen, können wir nicht sagen, was sie in einem Jahr lernen werden. Sie tun dies selbstverständlich nur im vorgegebenen Bereich.

Isaac ASIMOV 1942: Robotergesetze

1. Ein Roboter darf einem menschlichen Wesen keinen Schaden zufügen oder durch Untätigkeit zulassen, dass einem menschlichen Wesen Schaden zugefügt wird.
2. Ein Roboter muss den Befehlen gehorchen, die ihm von Menschen erteilt werden, es sei denn, dies würde gegen das erste Gebot verstoßen.
3. Ein Roboter muss seine eigene Existenz schützen, solange solch ein Schutz nicht gegen das erste oder zweite Gebot verstößt.

Quelle: https://de.wikipedia.org/wiki/Robotergesetze

Ein smarter Staubsauger wird, so intelligent er auch werden mag, morgen nicht Ihre Spülmaschine ausräumen. Aber bleiben wir bei diesem Beispiel: Wenn der intelligente Staubsauger erkennt, dass es besonders der Hund ist, der den größten Dreck verursacht, muss er einen effizienten Weg finden, Haare und Dreck schnell zu entfernen. Er darf nicht auf die Idee kommen, den Hund rauszuschmeißen und ihm den Eingang zu verwehren oder ihn vorsorglich komplett kahl zu scheren – oder eben Schlimmeres.

Er braucht also übergeordnete Regeln. Als Ausgangsbasis können die bekannten Robotergesetze von Asimov herhalten. Gerade das zweite Gesetz, der Roboter muss den menschlichen Befehlen gehorchen ist angesichts von Kriegen und Terroranschlägen wohl differenzierter zu betrachten. Aber sie sind ein erster Schritt und eben schon 75 Jahre alt.


VDI: Der Ansatz, Maschinen ethische Grundlagen beizubringen, ist also ist nicht neu – was ist heute anders?

Bettenhausen: Einer der wichtigsten Unterschiede zwischen den humanoiden Robotern, an die Asimov und seine Kollegen vor 75 Jahren dachten, und heutigen Maschinen, die mit starker KI ausgestattet werden (können), ist, dass die damaligen Maschinen nicht vernetzt waren – weder untereinander, noch über das Internet.

Sie konnten so weder eine Schwarmintelligenz entwickeln, noch von den riesigen Datenmengen profitieren, über die wir heute verfügen – und die stündlich mehr werden. Zudem operieren heutige Smarte Maschinen bei vielen ihrer Entscheidungen auf Basis von Daten, die sie erhalten und damit auf der Basis von Wahrscheinlichkeiten. Sie können dazu lernen und müssen diese Erfahrung weder selbst gemacht haben, noch muss die Erfahrung zwingend von einer anderen Maschine real erlebt worden sein, sondern kann als Simulation vorgegeben werden.

Hierüber können wir beispielsweise steuernd eingreifen und das Lernen, auch zu einem späteren Zeitpunkt, nachdem die Maschinen sich bereits im Betrieb befinden, in eine bestimmte Richtung lenken – übrigens positiv wie negativ, wenn die zugehörigen Menschen nicht ethischen Grundsätzen folgen.

Es ist also komplexer geworden und eine einfache Regel wie die „Du sollst nicht töten“ reicht schon lange nicht mehr aus. Was geschieht beispielsweise, wenn die Maschine, indem sie wenige Menschen opfert, viele Menschen retten kann? Nicht umsonst haben im April EU-Experten ethische Richtlinien für Künstliche Intelligenz vorgelegt. Sie sind sich einig, dass ohne ethischen Rahmen Fehlentwicklungen passieren können, die Verbreitung von KI-basierten Systemen behindert und damit „die Realisierung der potenziell enormen sozialen und ökonomischen Vorteile verhindert“ werden.

Herausgekommen sind sieben Regeln, die es jetzt in der Praxis zu testen gilt. Das erste Asimov’sche Gesetz fehlt hier leider. Auch finden sich unter den Regeln viele Konjunktive. Hier behaupte ich, dass sie Menschen wie Maschinen genauso als Konjunktiv, als eine Möglichkeit verstehen werden.

EU Fachexperten-Gremium 2019:

1. Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln und die Wahrung der Grundrechte unterstützen‚ keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten.
2. Robustheit und Sicherheit: Eine vertrauenswürdige KI setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen.
3. Privatsphäre und Datenqualitätsmanagement: Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten und die sie betreffenden Daten sollten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren.
4. Transparenz: Die Rückverfolgbarkeit der KI-Systeme muss sichergestellt werden.
5. Vielfalt, Nichtdiskriminierung und Fairness: KI-Systeme sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten.
6. Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern.
7. Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten.

Quelle: https://ec.europa.eu/commission/news/artificial-intelligence-2019-apr-08_de


VDI: Die zweite Ethische Anforderung beschäftigt sich mit Vertrauen in KI-basierte Systeme, die dritte mit Datenkontrolle – über Ethik von Maschinen steht hier nichts. Wie schaffen wir tatsächlich Vertrauen in autonome Systeme?

Bettenhausen: Vertrauen baut sich dann auf, wenn Interaktion stattfindet – wiederholt und berechenbar bzw. vorhersagbar. Zugegeben – mit einem Parkautomaten interagieren Sie auch, aber da dieser nicht lernen und vor allem nicht individuell reagieren kann, werden Sie auch kein Vertrauen aufbauen können.  Eine weitere Grundvoraussetzung ist also eine Reaktion und die Möglichkeit der Adaption der Maschine an den Menschen. Idealerweise passt sich die Maschine durch die Möglichkeiten von KI individuell an ihr Gegenüber an. 

Das entspricht am ehesten dem sozialen Wesen Mensch. Das gilt nicht nur für Service-Roboter, sondern für alle Arten von Maschinen, mit denen wir zu tun haben und die jetzt oder in Zukunft über KI verfügen werden. Denken Sie nur an Ihr Smartphone: Wenn Ihnen das wegen eines bevorstehenden Termins vorschlägt, früher als geplant loszufahren, weil ein Stau auf der Strecke für massive Verzögerungen sorgt, so werden Sie dieser Empfehlung möglicherweise schon heute folgen. Ähnliches gilt zum Beispiel auch für Streckenvorschläge für Wanderungen am Wochenende, weil Ihr Smartphone (oder eine von Ihnen angelegte App) weiß, dass Sie gerne Natur fotografieren.

Auch hier haben Sie wahrscheinlich ein größeres Vertrauen. Der Grund: Sie haben diese Maschine – in diesem Fall das Smartphone – selbst gemäß Ihren Bedürfnissen individualisiert. Mit der heutigen KI ist es möglich, dass Maschinen sich sehr schnell an ihr Gegenüber anpassen. Das wird das Vertrauen stärken. Und dann brauchen wir ethische Grundlagen für die Maschinen als übergeordnete Regeln und zusätzlich moderne ethische Grundsätze für deren Entwickler und Programmierer.


VDI: Genau deshalb überarbeitet der VDI aktuell die ethischen Grundlagen für Ingenieure. Im Herbst werden wir diese veröffentlichen.

Bettenhausen: Lassen Sie uns mit dieser weiteren Grundlage für Ingenieure optimistisch in eine Zukunft schauen, in der Roboter weit mehr leisten als die DDD-Jobs (Dull, Dirty and Dangerous), sondern uns sinnvoll im privaten wie beruflichen Alltag unterstützen.

Das Interview führte Dr.-Ing. Dagmar Dirzus, Geschäftsführerin der VDI/VDE-Gesellschaft Mess- und Automatisierungstechnik.

Redaktion: Thomas Kresser

Alle Interviews zu "KI und autonome Systeme - 10 offene Fragen" finden Sie auf unserer Themenspecial-Seite.