Das FBI sagt, dass KI für „Sextortion“ und Belästigung eingesetzt wird

WASHINGTON (Reuters) – Das Federal Bureau of Investigation hat die Amerikaner gewarnt, dass Kriminelle zunehmend künstliche Intelligenz nutzen, um sexuell eindeutige Bilder zu erstellen, um Opfer einzuschüchtern und zu erpressen.

In Diese Woche wurde eine Warnung verbreitetDas Büro sagte, es habe kürzlich einen Anstieg der Zahl der Erpressungsopfer festgestellt und erklärt, sie seien mit gefälschten Kopien unschuldiger Fotos aus Online-Posts, privaten Nachrichten oder Video-Chats angegriffen worden.

„Die Bilder werden dann von böswilligen Akteuren direkt an die Opfer gesendet, um sie sexuell zu erpressen oder zu belästigen“, heißt es in der Warnung. „Nach der Verbreitung stehen Opfer vor erheblichen Herausforderungen, wenn es darum geht, die weitere Weitergabe von manipulierten oder aus dem Internet entfernten Inhalten zu verhindern.“

Das Büro sagte, die Bilder seien „echt“ und in einigen Fällen seien Kinder gezielt angegriffen worden.

Das FBI ging nicht näher auf die Software oder Software ein, die zur Erstellung der sexuellen Bilder verwendet wurde, stellte jedoch fest, dass der technologische Fortschritt „die Qualität, Personalisierung und Zugänglichkeit der Erstellung von Inhalten mit künstlicher Intelligenz (KI) ständig verbessert“.

Das Büro reagierte am Mittwoch nicht auf ein Folgeschreiben mit der Bitte um Einzelheiten zu dem Phänomen.

Die Manipulation unschuldiger Fotos zur Erstellung expliziter sexueller Bilder ist so alt wie die Fotografie selbst, aber die Veröffentlichung von Open-Source-KI-Tools hat den Prozess einfacher denn je gemacht. Die Ergebnisse sind oft nicht von realen Bildern zu unterscheiden, und in den letzten Jahren sind mehrere Websites und Social-Media-Kanäle entstanden, die sich auf die Erstellung und den Austausch von KI-gestützten sexuellen Bildern spezialisiert haben.

Berichterstattung von Raphael Satter. Bearbeitung durch David Gregorio

Unsere Standards: Thomson Reuters Trust-Grundsätze.