Das dunkle Geheimnis im Herzen der KI

Niemand weiß heute wirklich, was die am weitesten entwickelten Algorithmen tun. Das könnte ein Problem werden.

Originaltext im Englischen von Will Knight vom 11. April 2017
Übersetzt von Markus Schranner am 20. April 2017

Im letzten Jahr wurde still und leise ein etwas seltsames selbstfahrendes Auto auf den Straßen von Monmouth County, New Jersey getestet. Das experimentelle Fahrzeug, entwickelt von Forschern des Chipherstellers Nvidia, sah nicht wirklich anders aus als die von Google, Tesla oder General Motors entwickelten Fahrzeuge, zeigte aber in Wahrheit die wachsenden Fähigkeiten der künstlichen Intelligenz. Das Auto folgte keiner einzigen Anweisung durch einen Ingenieur oder Programmierer. Stattdessen wurde es vollständig durch einen Algorithmus gesteuert, der sich das Fahren beigebracht hatte, indem er Menschen beim Fahren beobachtete.

Das Auto so dazu zu bringen zu fahren, ist bereits sehr beeindrucken. Es ist allerdings auch ein wenig beängstigend, da es nicht völlig klar ist, wie das Fahrzeug Entscheidungen trifft. Informationen aus den Sensoren des Fahrzeugs werden direkt an ein riesiges Netzwerk von künstlichen Neuronen gesendet, in dem die Daten verarbeitet werden und dann die entsprechenden Kommandos an das Lenkrad, die Bremsen und andere Systeme schickt. Das Ergebnis scheint dem eines menschlichen Fahrers zu gleichen. Aber was passiert, wenn die KI eines Tages etwas Unerwartetes, wie z.B. gegen einen Baum fahren, oder an einer grünen Ampel stehen zu bleiben. So wie die Dinge heute stehen, wird es sehr schwer herauszufinden sein, warum das passiert ist. Die Systeme sind so komplex, dass es selbst den Ingenieuren, die das System entwickelt haben, schwer fällt eine bestimmte Entscheidung zu isolieren und den Grund dafür zu erkennen. Fragen kann man leider [noch] nicht. Es gibt heute noch keinen bekannten Weg, ein System zu designen, das zu jedem Zeitpunkt die Entscheidungen begründen kann.

Der mysteriöse Geist dieses Fahrzeugs zeigt ein großes Problem hinsichtlich der künstlichen Intelligenz auf. Die Technologie, die dem Auto zugrunde liegt, bekannt als Deep Learning, hat sich in den letzten Jahren als sehr mächtig im Lösen von Problemen erwiesen und wird bereits in der Breite eingesetzt, z.B. für Bilderkennung, Spracherkennung, oder zur Übersetzung. Es gibt sogar die Hoffnung, dass die gleichen Technologien in der Lage sein werden, tödliche Krankheiten zu diagnostizieren, Millionen-Dollar-Entscheidungen zu treffen. Vorstellbar sind bereits heute jedoch viele andere Dinge, die ganze Wirtschaftszweige verändern werden.

Dies wird jedoch nicht passieren, zumindest sollte es nicht, bis wir Möglichkeiten finden, die Techniken des Deep Learnings für ihre Macher verständlich und für ihre Nutzer verantwortlich zu machen. Ansonsten wird es sehr schwer werden vorherzusagen, wann schwerwiegende Fehler passieren werden – und diese werden passieren. Dies ist ein Grund dafür, warum Nvidias Auto noch immer als Prototyp gilt.

Es existieren bereits mathematische Modelle, die dabei helfen zu entscheiden, welche Leute entlassen werden, wer einen Kredit bekommt und wer eingestellt werden soll. Wenn man Zugriff auf diese mathematischen Modelle erhalten könnte, wäre es möglich, ihre Begründungen zu verstehen. Allerdings haben Banken, das Militär, Arbeitgeber und andere, die sich aktuell den Machine-Learning-Ansätzen zuwenden, die automatische Entscheidungen treffen, diese völlig erforschbar zu machen. Deep Learning, der bekannteste dieser Ansätze, ist ein komplett neuer Weg, Computer zu programmieren. „Dieses Problem ist bereits relevant, und es wird in Zukunft immer relevanter“, sagt Tommi Jaakkola, ein MIT-Professor, der an Machine Learning arbeitet. „Gleich, ob es sich um eine Investitionsentscheidung, eine medizinische Entscheidung, oder ein militärisches Problem handelt, wir möchten eher nicht auf eine ‚Black Box‘-Methode vertrauen.“

Hier geht es weiter…

0 Kommentare

Dein Kommentar

Want to join the discussion?
Feel free to contribute!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.