Amazon Alexa stellt eine neue Technologie vor, die Geräusche imitieren kann, einschließlich der von Toten

„Statt Alexas Stimme, die das Buch liest, ist es die Stimme der Großmutter des Babys“, erklärte Rohit Prasad, Alexas Senior Vice President und leitender KI-Wissenschaftler, am Mittwoch begeistert während einer Grundsatzrede in Las Vegas. (Amazon-Gründer Jeff Bezos besitzt die Washington Post.)

das Angebot Es war der erste Blick auf die neueste Funktion von Alexa, die es dem Sprachassistenten – obwohl noch in der Entwicklung – ermöglichen wird, die Stimmen von Personen aus kurzen Audioclips zu wiederholen. Das Ziel, sagte Prasad, sei es, mehr Vertrauen bei den Benutzern aufzubauen, indem KI mit „den menschlichen Eigenschaften von Empathie und Einfluss“ ausgestattet werde.

Das neue Feature kann ‚machen [loved ones’] Flashbacks“, sagte Prasad. Aber obwohl die Aussicht, die Stimme eines toten Verwandten zu hören, sehr bewegend sein mag, wirft es auch eine Vielzahl von Sicherheits- und ethischen Bedenken auf, sagten Experten.

„Ich habe nicht das Gefühl, dass unsere Welt für eine einfach zu bedienende Technologie zum Klonen von Stimmen bereit ist“, sagte Rachel Tobak, CEO von SocialProof Security mit Sitz in San Francisco, gegenüber der Washington Post. Sie fügte hinzu, dass eine solche Technologie verwendet werden könnte, um die Öffentlichkeit durch gefälschte Audio- oder Videoclips zu manipulieren.

„Wenn Cyberkriminelle die Stimme einer anderen Person mithilfe einer kleinen Stimmprobe einfach und zuverlässig replizieren können, können sie die Stimmprobe verwenden, um sich als andere Personen auszugeben“, fügte Tupac, ein Experte für Cybersicherheit, hinzu. „Dieser schlechte Schauspieler kann dann andere glauben machen, dass sie die Person sind, die sie imitieren, was zu Betrug, Datenverlust, Kontoübernahme und mehr führen kann.“

Es besteht auch die Gefahr, dass die Grenzen zwischen dem Menschlichen und dem Mechanischen verschwimmen, sagte Tama Lever, Professorin für Internetstudien an der Curtin University in Australien.

„Du wirst dich nicht daran erinnern, mit den Tiefen von Amazon gesprochen zu haben … und Seine Datenerfassungsdienste Ob er mit deiner Großmutter spricht, oder mit der Stimme deines Großvaters, oder mit der Stimme eines geliebten Menschen.“

„Es ist ein bisschen wie eine Episode von Black Mirror“, sagte Leaver und bemerkte. Eine Science-Fiction-Serie, die eine Zukunft unter dem Titel Technologie darstellt.

Ein Google-Ingenieur, der glaubt, dass die künstliche Intelligenz des Unternehmens erreicht wurde

Leaver fügte hinzu, dass die neue Alexa-Funktion auch Fragen zur Einwilligung aufwirft – insbesondere für Menschen, die sich nie vorgestellt haben, dass ihre Stimme nach ihrem Tod von einem automatisierten persönlichen Assistenten getragen werden würde.

„Es ist ein wirklich rutschiger Abhang, die Daten von Verstorbenen auf eine Weise zu verwenden, die einerseits beängstigend, aber andererseits sehr unethisch ist, weil sie nie daran gedacht haben, diese Effekte auf diese Weise zu nutzen“, sagte Leaver.

Nachdem Lever kürzlich seinen Großvater verloren hatte, sagte er, er sympathisiere mit der „Versuchung“, die Stimme eines geliebten Menschen hören zu wollen. Aber, sagte er, die Möglichkeit öffnet eine Tür für Konsequenzen, die die Gesellschaft möglicherweise nicht zu tragen bereit ist – zum Beispiel Wer hat das Recht auf die kleinen Schnipsel, die Leute den Influencern im World Wide Web hinterlassen?

Wenn mein Großvater mir 100 Nachrichten geschickt hat, habe ich dann das Recht, diese in das System einzufügen? Und wenn ja, wem gehört es? Hat Amazon dann diese Aufzeichnung? « fragte er. »Haben Sie das Recht auf die Stimme meines Großvaters aufgegeben?«

Prasad ging während der Rede am Mittwoch nicht auf solche Details ein. Er postulierte jedoch, dass die Fähigkeit, Geräusche zu imitieren, ein Produkt des „zweifellosen Lebens im goldenen Zeitalter der künstlichen Intelligenz, in dem unsere Träume und Science-Fiction Wirklichkeit wurden“ sei.

Dieses KI-Modell versucht, den Geist von Ruth Bader Ginsburg nachzubilden

Wenn die Demo von Amazon zu einem echten Feature wird, müssen die Menschen laut Leaver möglicherweise darüber nachdenken, wie ihre Stimmen und ihr Abbild verwendet werden, wenn sie sterben.

„Sollte ich in meinem Testament berücksichtigen, dass ich sagen muss: ‚Meine Stimme und meine dargestellte Geschichte in den sozialen Medien sind Eigentum meiner Kinder, und sie können entscheiden, ob sie das im Chat mit mir wiederbeleben wollen oder nicht? “, fragte Hebel.

„Das ist jetzt seltsam, das zu sagen. Aber es ist wahrscheinlich eine Frage, auf die wir eine Antwort haben müssen, bevor Alexa morgen anfängt, so zu reden wie ich.“