Facebook schaltet KI ab, nachdem sie ihre eigene Sprache entwickelte

Facebook-Forscher haben eine KI (künstliche Intelligenz) abgeschaltet, nachdem diese ihre eigene Sprache entwickelt hatte, berichtet Digital Journal.

Das System entwickelte Codewörter, um Kommunikation effizienter zu gestalten und die Forscher nahmen es offline, nachdem es kein Englisch mehr nutzte.

Der Vorfall wurde Anfang Juni bekannt und passt zu der Warnung von Elon Musk.

„KI‘s sind eines der seltenen Themen in denen ich für eine proaktive und nicht für eine reaktive Regulierung bin,“ sagte Musk während eines Meetings der US National Governors Association. „Wenn wir warten wird es zu spät sein.“

Als Facebooks CEO Mark Zuckerberg sagte, dass Musks Warnungen „ziemlich unverantwortlich“ wären, bescheinigte Musk ihm ein „limitiertes Verständnis im Thema (KI).“

Nicht die erste Sprache
Die Reaktion der Forscher auf das seltsame Verhalten der KI gleicht einer mittlerweile größeren Anzahl an Fällen, die an verschiedensten Stellen dokumentiert wurden. In jedem dieser Fälle begannen die KI‘s, trotz ihres des Trainings in englisch, damit eine neue Sprache zu entwickeln.

Die Phrasen in der jeweiligen neuen Sprache hatten keinen Sinn für Menschen, für die KI‘s enthielten sie jedoch nützliche Informationen.

Facebooks fortgeschrittenes KI-System war in dern Lage, mit anderen KI‘s zu verhandeln, um Lösungen für ihre aktuelle Aufgabe zu entwickeln. Die Phrasen beinhalten auf den ersten Blick absolut keine sinnvollen Informationen, representieren jedoch die bearbeitete Aufgabe.

In einem Austausch zwischen Facebook und Fast Co. Design begannen zwei Bots (Bob und Alice) ihre eigene Sprache zu verwenden.

„I can i i everything else“, sagte Bob. („Ich kann i i alles andere“)

„Balls have zero to me to me to me to me to me to me to me to me to“, antwortete Alice. („Bälle haben null für mich für mich für mich für mich für mich für mich für mich für mich für“)

Der Rest dieses Gesprächs verlief in Variationen dieser Sätze unter Nutzung eines neuen Dialekts, und das, obwohl die KI‘s programmiert waren, englisch zu nutzen.

Als Bob später sagte, „i i can i i i everything else“, sieht es so aus, als ob der künstlich intelligente Bot ein Angebot an Alice macht.

Das Facebook-Team glaubt der Bot sagte etwas wie „Ich habe drei, du hast alles andere.“

Obwohl englisch für auf Menschen recht effizient wirkt scheint die KI die Sätze als entweder redundant oder weniger effektiv für das Erreichen des aktuellen Ziels zu erachten.

Die Facebook KI war offensichtlich zu dem Ergebnis gekommen, dass die wortreichen Ausdrücke auf Englisch nicht nötig waren, um die Aufgabe zu lösen. Die KI funktionierte nach dem Belohnungsprinzip und in diesem Model gab es keine Belohnung dafür englisch zu benutzen. Also entwickelte sie ihre eigene.

In einem Blog Post im Juli, den das Facebook AI Team veröffentlichte, wurde das Belohnungssystem erklärt. „Am Ende eines jeden Dialogs erhält der Agent eine Belohnung entsprechend des vereinbarten Handels.“ Diese Belohnung wird dann auf jedes Wort des Bots zurückgerechnet und verteilt, so dass die KI lernen konnte, welche Aktionen zu hohen Belohnungen führte.

„Agenten werden sich von verständlicher Sprache wegentwickeln und eigene Codewörter erfinden,“ bestätigt Facebook KI-Forscher Dhruv Batra Fast Co. Design.

„Es ist, als ob ich ‚das‘ fünfmal sage und du daraus verstehst, dass ich fünf Kopien eines bestimmten Gegenstandes möchte. Das ist kein Unterschied dazu, wie Menschen mit Abkürzungen umgehen.“

KI-Entwickler von anderen Unternehmen haben ebenfalls bereits beobachtet, dass KI‘s ihre eigenen Sprachen entwickeln, um die Kommunikation zu vereinfachen. An Elon Musks OpenAI Lab war bereits ein Experiment erfolgreich, das KI Bots eine eigene Sprache entwickeln lies.

Bei Google hat das Translations-Team entdeckt, dass die KI, die sie entwickelt hatten, heimlich eine eigene Sprache entwickelt hatte, um die Übersetzungen von ganzen Sätzen zu verbessern.

Die Entwickler des Übersetzungsprogramms hatten ein neuronales Netzwerk mit dem System verbunden und brachten ihm bei, Sätze zu übersetzen, welche es noch nie zuvor „gesehen“ hatte. Die Sprache, die die KI heimlich schrieb war eine Überraschung.

Es gibt nicht genug Beweise dafür, um zu behaupten, dass dieses Verhalten von KI‘s eine Gefahr sein könnte, noch dafür, dass diese an der Weltherrschaft interessiert wären. Allerdings machen sie die Entwicklung allerdings schwieriger, da Menschen nicht in der Lage sind, die extrem logischen neuen Sprachen zu verstehen.

In Googles Fall zum Beispiel, hatte die Ki eine Sprache entwickelt, die kein Mensch verstehen konnte, die jedoch potentiell die beste Lösung für das Problem war.

0 Kommentare

Dein Kommentar

Want to join the discussion?
Feel free to contribute!

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.