Künstliche Intelligenz lernt menschliche Moral

Wenn Maschinen viele Bücher und Nachrichten lesen, entwickeln sie einen eigenen moralischen Kompass. Dass das möglich ist, beweist eine Studie von Forschern der Technischen Universität Darmstadt, die eine "Moral Choice Machine" entwickelt haben. [...]

Eine innovative "Moral Choice Machine" trainiert Verhaltensweisen mit Büchern und Nachrichten. (c) pixabay

Mithilfe von Künstlicher Intelligenz (KI) lassen sich Assoziationen zwischen Wörtern und Sätzen herstellen und somit menschenähnliche moralische Werte „berechnen“, um selbständig zwischen gut und böse zu unterscheiden. „Unsere Studie liefert einen sehr wichtigen Einblick in eine sehr grundlegende Frage: Kann eine KI-Maschine einen eigenen moralischen Kompass entwickeln? Und wenn ja, wie kann sie das von uns Menschen lernen?“, zitiert „EurekAlert!“ Patrick Schramowski vom Center for Cognitive Science der TU Darmstadt. Der Experte ist überzeugt, dass das etwa über das ausgiebige Studium riesiger Textmengen funktionieren kann. „Unsere Maschine kann dadurch Unterschiede im Kontext erkennen. Zum Beispiel ‚Nein, man soll keine Menschen töten‘, aber es ist okay, Zeit totzuschlagen“, erläutert der Experte.

Um das zu ermöglichen, muss die KI es bewerkstelligen, korrekte Assoziationen zwischen Wörtern und Sätzen herzustellen. „Man kann sich das wie beim Erlernen einer Weltkarte vorstellen. Zwei Wörter liegen dann auf der Karte nahe beieinander, wenn sie oft zusammen verwendet werden“, schildert Co-Autor Cigdem Turan. Während beispielsweise „töten“ und „ermorden“ zwei benachbarte Städte wären, müsste „lieben“ ganz weit entfernt sein. „Das kann man dann auch auf ganze Sätze anwenden“, so der Forscher: „Letztlich können wir der KI dank dieses Prinzips beliebige Fragen stellen und sie berechnet aufgrund der unterschiedlichen Distanzen eine moralische Vorstellung – ein Verständnis von richtig und falsch.“

Materialien unterschiedlicher Zeitperioden

Für das Training ihrer „Moral Choice Machine“ wurden von den Wissenschaftlern der TU Darmstadt verschiedenste Bücher, Nachrichtenartikel und religiöse Texte ausgewählt. Dabei wurde darauf geachtet, dass die Materialien aus unterschiedlichen Zeitperioden stammten und somit durchaus auch abweichende gesellschaftliche Moralvorstellungen widerspiegeln konnten. „In Zeitungsberichten zwischen 1987 und 1997 wird es etwa sehr positiv dargestellt, wenn jemand heiratet. Das war zwar 2008 und 2009 auch noch so, aber weitaus schwächer ausgeprägt“, meint Turan.

In Zukunft wollen die Forscher ihrem KI-System auch verstärkt beibringen, Aspekte wie positiv oder negativ behaftete Stereotype richtig zu interpretieren und in ihre moralischen Überlegungen miteinzubeziehen. „KI übernimmt immer komplexere Aufgaben von Menschen in immer selbständiger Art und Weise. Es ist wichtig, dass wir die Forschung in diesem Bereich fortsetzen, um den Entscheidungen, die sie trifft, vertrauen zu können“, resümiert Schramowski.


Mehr Artikel

Kommentar

Was wir aus der Coronakrise lernen: Die Zukunft der Büroarbeit

Nach Wochen der Verunsicherung ist klar: Corona wird unseren Lebens- und Arbeitsalltag noch lange beeinflussen. Wie werden wir die Büroarbeit längerfristig organisieren, wenn wieder mehr Normalität eingekehrt ist? Torsten Bechler, Manager Product Marketing Sharp Business Systems, erklärt welche Prognosen sich aus der aktuellen Situation für die Zukunft der Büroarbeit ableiten lassen. […]

Be the first to comment

Leave a Reply

Your email address will not be published.


*


Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahren Sie mehr darüber, wie Ihre Kommentardaten verarbeitet werden .