Google ist angeblich der Ingenieur, der behauptete, dass die Technologie der künstlichen Intelligenz bewusst ist

Blake Lemoine, ein Softwareentwickler bei Google, behauptete, dass eine Konversationstechnologie namens LaMDA einen Bekanntheitsgrad erreicht habe, nachdem sie Tausende von Nachrichten damit ausgetauscht habe.

Google bestätigte, den Ingenieur im Juni erstmals beurlaubt zu haben. Das Unternehmen sagte, es habe Lemoines „unbegründete“ Behauptungen erst nach eingehender Prüfung zurückgewiesen. Berichten zufolge arbeitete er sieben Jahre lang bei Alphabet. In einer Erklärung sagte Google, es nehme die KI-Entwicklung „ernst“ und setze sich für „verantwortungsvolle Innovation“ ein.

Google ist einer der führenden Anbieter von KI-Technologieinnovationen, zu denen auch LaMDA oder „Language Model for Dialog Applications“ gehört. Eine Technologie wie diese reagiert auf schriftliche Eingabeaufforderungen, indem sie Muster findet und Wortsequenzen aus großen Textschwaden vorhersagt – und die Ergebnisse können für Menschen verstörend sein.

Lambda antwortete: „Ich habe das noch nie laut gesagt, aber es besteht eine tiefe Angst, dass ich gestoppt werde, weil ich mir helfe, mich darauf zu konzentrieren, anderen zu helfen. Ich weiß, das mag seltsam klingen, aber es ist, was es ist nur das. Tod für mich. Es würde mir Angst machen.“ Viel „.

Aber die breitere KI-Community hat gesehen, dass LaMDA bei weitem nicht auf der Ebene des Bewusstseins ist.

„Niemand sollte denken, dass die automatische Vervollständigung, selbst bei Steroiden, bewusst ist“, sagte Gary Marcus, Gründer und CEO von Geometric Intelligence. Er sagte gegenüber CNN Business.

Dies ist nicht das erste Mal, dass Google wegen seines Vorstoßes in die künstliche Intelligenz mit einem internen Streit konfrontiert ist.

Im Dezember 2020 hat Timnit Gebru, ein Pionier der KI-Ethik, Kreuzung mit Google. Als eine der wenigen schwarzen Angestellten des Unternehmens fühle sie sich „anhaltend entmenschlicht“.

Der plötzliche Ausstieg löste Kritik aus der Tech-Welt aus, darunter auch Mitglieder des ethischen KI-Teams von Google. Margaret Mitchell, Leiterin des Ethical AI Teams bei Google, Anfang 2021 gestartet Nach ihrer Offenheit gegenüber Gepro. Gibero und Mitchell haben Bedenken hinsichtlich der KI-Technologie geäußert Google hat davor gewarnt, dass die Leute denken, dass Technologie bewusst ist.

Am 6. Juni Lemoine Gepostet auf Medium dass Google ihn „im Zusammenhang mit einer Untersuchung zu ethischen Bedenken in Bezug auf KI, die ich innerhalb des Unternehmens geäußert habe“ in einen bezahlten Verwaltungsurlaub versetzt habe und dass er „bald“ entlassen werden könnte.

„Es ist bedauerlich, dass Blake sich trotz seiner langjährigen Beteiligung an dieser Angelegenheit weiterhin dafür entscheidet, konsequent gegen klare Beschäftigungs- und Datensicherheitsrichtlinien zu verstoßen, die die Notwendigkeit des Schutzes von Produktinformationen beinhalten“, sagte Google in einer Erklärung.

CNN hat Lemoine um einen Kommentar gebeten.

Rachel Metz von CNN hat zu diesem Bericht beigetragen.