Der Bold Glamour-Schönheitsfilter von Tiktok beunruhigt KI-Experten über die Realität

Nov 18, 2023

In den letzten Wochen hat TikTok einen Echtzeit-Spezialeffekt überschwemmt, der das Kinn meißelt, die Lippen auffüllt und jedem mit einem Smartphone Make-up-Konturen im Kardashian-Stil verleiht. Während es als bemerkenswert überzeugender Schönheitsfilter angepriesen wird, sagen KI-Forscher, dass der Effekt keine Hinweise auf seine Präsenz hinterlässt und ihm eine beispiellose Fähigkeit verleiht, Menschen innerhalb und außerhalb einer App zu manipulieren, die von Regierungen auf der ganzen Welt unter die Lupe genommen wurde.

Bold Glamour, das seit seiner Veröffentlichung im letzten Monat mehr als 16 Millionen Mal heruntergeladen wurde, bietet einen der überzeugendsten Effekte, mit denen jeder mit einem Smartphone in Echtzeit eine erweiterte Version oder einen Avatar von sich selbst erstellen kann, sagen unabhängige Filterersteller , Forscher und kreative Technologen.

Im Gegensatz zu anderen Fotofiltern gerät Bold Glamour nicht ins Stocken, wenn es zu viel Bewegung gibt oder wenn eine Hand vor dem Gesicht des Benutzers vorbeifährt. Es verändert Gesichter in Echtzeit und es gibt keine verirrten falschen Wimpern. Benutzer ziehen die Wangen und ziehen die Augenbrauen, weil sie nicht glauben können, was sie sehen.

TikTok-Sprecherin Alexa Youssefian lehnte es ab, auf die Technologie hinter dem Filter einzugehen, aber Benutzer und Forscher sagen, dass der Filter den Hautton, das wahrgenommene Geschlecht und die Haarfarbe der Menschen liest und dann die Menge an Make-up, Lippenfüllern und Hautstraffung bestimmt, die für einen bestimmten SoCal anzuwenden ist Influencer-Look. Und KI könnte diesen Prozess vorantreiben.

„Es sieht so aus, als hätte der Filter Kylie Jenners Gesicht als Modell für einen maschinellen Lernalgorithmus verwendet und dann ihr Gesicht mit meinem verschmolzen“, sagte Laura Gouillon, eine Erfinderin von Social-Media-Filtern, gegenüber der Washington Post.

Der Effekt liegt wahrscheinlich darin, dass man sich selbst Make-up-Techniken beibringt, sagte sie. „In früheren Schönheitsfiltern wurde ein Gesichtsnetz über das Gesicht eines Benutzers gelegt. Wenn also eine Hand oder ein Haar das Gesicht bedeckte, war der Effekt fehlerhaft“, sagte Gouillon. „Dieser Filter nutzt wahrscheinlich maschinelle Lerntechnologie, um diese Merkmale in Ihr Gesicht zu integrieren.“

Hany Farid, Informatikprofessor an der University of California in Berkeley, sagte, der Filter nutze wahrscheinlich „generative KI“, eine Technologie, die Millionen von Bildern und Textproben untersucht, die oft aus dem Internet stammen, um neue Bilder oder Wörter zu erstellen. (Farid war von 2020 bis 2022 Mitglied des Content Advisory Council von TikTok.)

Luke Hurd, der Snapchat- und Instagram-Filter erstellt, twitterte, dass der Bold Glamour-Effekt maschinelles Lernen nutzt.

„Sie nutzen etwas namens Generative Adversarial Network“, sagte er. „Sie machen ein Bild des Benutzers und vergleichen es dann mit einem Datensatz anderer Bilder und zeichnen dann Ihr Gesicht Pixel für Pixel auf der Ausgabe Ihres Kamera-Feeds neu.“

„Die Zugänglichkeit des Filters unterscheidet ihn von früheren Mitteln der visuellen Manipulation“, sagte Halsey Burgund, ein kreativer Technologe am MIT Open Documentary Lab.

So probieren Sie die neue KI-Technologie aus, über die alle reden

„Die Fähigkeit, sich selbst und bald auch andere in Videos glaubhaft zu manipulieren, ist [durch diesen Effekt] zur Ware geworden, und das ist der eigentliche Sprung“, sagte er. „Diese Technologie existiert schon seit einiger Zeit in Laboren, Unternehmen und in eher esoterischen Umgebungen im Internet, aber jetzt kann sie jeder kostenlos nutzen und sehen, wie sie funktioniert.“

Videos mit „Bold Glamour“ können ohne Kennzeichnung im Internet gepostet werden, was darauf hinweist, dass der Benutzer den hyperrealistischen Effekt angewendet hat, und Forscher warnten, dass es zunehmend schwieriger werden wird, zu glauben, was im Internet real ist.

„Der Bold-Glam-Effekt ist ein Zeichen dafür, dass sehr bald auch Technologien, die Deepfakes erzeugen, Mainstream werden können“, sagte Memo Akten, Professor für Computerkunst und Design an der University of California in San Diego. „Das bedeutet nicht, dass Technologie veröffentlicht wird, sondern nur, dass es ein Zeichen dafür ist, dass sie veröffentlicht werden kann.“

Deepfakes sind Videos oder andere Medien, die mithilfe künstlicher Intelligenz zeigen, wie Menschen Dinge tun, die nie wirklich passiert sind.

Big Tech ging bei der KI vorsichtig vor. Dann kam ChatGPT.

Auffällige Glamour-Videos auf TikTok werden aus Gründen der Benutzertransparenz mit einem Tag direkt im Video angezeigt. Dieses Tag verschwindet jedoch, wenn die Videos außerhalb der App verschoben werden.

Unternehmenssprecher Youssefian lehnte es ab, auf Bedenken hinsichtlich der Entfernung von Videos durch den Warnhinweis einzugehen, die in andere Apps exportiert werden. „TikTok kann nur über die Erfahrungen der Benutzer mit TikTok sprechen“, sagte sie.

Der TikTok-Mutterkonzern ByteDance steht seit Jahren unter Beobachtung, weil befürchtet wird, dass die Datenerfassung des chinesischen Unternehmens ein Sicherheitsrisiko darstellen könnte.

Kürzlich haben die Regierungen der USA, Kanadas und anderer Länder angeordnet, dass Bundesbedienstete TikTok von Regierungsgeräten löschen sollen, und begründen sich dabei auf Bedenken hinsichtlich einer möglichen Überwachung. Mindestens 28 US-Bundesstaaten haben die App auf Regierungsgeräten wegen nicht näher bezeichneter Risiken für sensible und vertrauliche Daten verboten. Eine überparteiliche Gruppe von Senatoren hat am Dienstag einen Gesetzentwurf vorgelegt, der dem US-Handelsministerium die Befugnis geben würde, TikTok oder andere im Ausland ansässige Apps zu verbieten.

Am Mittwoch sagte die Pressesprecherin des Weißen Hauses, Karine Jean-Pierre, die Biden-Regierung habe „Bedenken“ hinsichtlich der nationalen Sicherheit im Zusammenhang mit ByteDance.

Abgesehen von den technologischen Bedenken, die der Filter hervorgerufen hat, kann Bold Glamour auch zu Gefühlen der Unzulänglichkeit und unrealistischen Erwartungen bei Nutzern, insbesondere Teenagern und anderen jungen Menschen, beitragen, sagte Linda Charmaraman, leitende Wissenschaftlerin an den Wellesley Centers for Women.

Der porenlose Airbrush-Schönheitsstandard, den es vorantreibt, ist ohne plastische Chirurgie und Make-up im Wert von Tausenden von Dollar weit von der realen Norm entfernt.

„Schönheitsfilter, die ohne Aufsicht verwendet und dann von jüngeren Menschen verinnerlicht werden, sind besorgniserregend“, sagte Charmaraman. „Der Bold Glam-Filter ist sehr realistisch und es ist weniger offensichtlich, dass es sich um einen Filter handelt. Und deshalb könnte er sich nachteilig auf das Selbstwertgefühl jüngerer Nutzer, insbesondere Frauen, auswirken.“

Die Leute haben schockierte Reaktionen darüber gepostet, wie „beängstigend gut“ der Bold Glamour-Effekt ist; Einige sagten, der Effekt lasse sie so aussehen, als ob sie als Model vorsprechen sollten, und andere scherzten, dass der Filter so real aussehe, dass er illegal sein sollte. „Ich sehe aus wie ein ganz anderer Mensch“, schrieb ein TikTok-Nutzer.

Apps verbessern seit Jahren Gesichter und filtern das Erscheinungsbild, aber es schien „verspielt“ zu sein, sagte Akten. Der Bold Glamour-Effekt fühle sich „unheilvoll“ an, sagte sie.

„Es ist ein Schritt in Richtung der Welt, die wir in Science-Fiction-Filmen gesehen haben, in der wir nicht mehr sagen können, was real ist“, sagte Akten. „Dadurch werden wir nicht mehr wissen, was wir glauben oder wem wir vertrauen sollen.“

Heather Kelly und Tony Romm haben zu diesem Bericht beigetragen.