Erste „Miss AI“-Wahl wegen unrealistischer Schönheitsstandards in der Kritik

Eine Influencer-Plattform namens Fanvue gab kürzlich die Ergebnisse ihres ersten Schönheitswettbewerbs „Miss AI“ bekannt, bei dem KI-generierte Social-Media-Influencer bewertet wurden. Der „Gewinner“ ist eine fiktive Instagram-Influencerin aus Marokko namens Kenza Layli, die mehr als 200.000 Follower hat. Der Wettbewerb hat bereits Kritik von Frauen in der KI-Branche hervorgerufen.

Künstliche Influencer und echte Bedenken

Dr. Sasha Luccioni, Forscherin bei Hugging Face AI, drückte gegenüber Ars Technica ihre Enttäuschung aus: „Ein weiterer Schritt in Richtung Objektifizierung von Frauen durch KI. Als Frau, die in diesem Bereich arbeitet, bin ich nicht überrascht, aber enttäuscht“.

Seit der Einführung frei verfügbarer Bildsynthesetools wie Stable Diffusion ist die Zahl der KI-generierten Instagram-Influencer stark angestiegen. Diese Tools ermöglichen die Erstellung einer unbegrenzten Anzahl provokativer Bilder von Frauen. Techniken wie Dreambooth ermöglichen die Feinabstimmung eines KI-Modells auf ein bestimmtes Motiv, um es in verschiedenen Umgebungen zu platzieren.

Die Auswirkungen von KI-generierter Ästhetik

Die Technologie steht seit ihrer Einführung im Jahr 2022 in der Kritik, und es ist nicht überraschend, dass Kritiker den Miss-AI-Wettbewerb als negativen Präzedenzfall betrachten, der Frauen objektiviert. In einer Branche, in der ein eklatanter Mangel an Geschlechtervielfalt herrscht, ist es nicht verwunderlich, dass KI-generierte Bilder als Idealbild für Frauen verwendet werden.

Der Wettbewerb, der Teil der sogenannten „World AI Creator Awards“ (WAICAS) ist, scheint so gestaltet zu sein, dass selbst negative Berichterstattung als Werbung für ein Unternehmen dient, das jede Art von Aufmerksamkeit monetarisiert, ob mit KI oder ohne. Eine bemerkenswerte Entwicklung ist, dass KI-generierte Fälschungen die Kultur so weit durchdrungen haben, dass Medien wie CNN nun scheinbar auf KI-generierte Bilder von falschen Personen verweisen, als wären sie menschlich.

In dem CNN-Artikel mit dem Titel „Die erste Miss AI wurde gekrönt – und sie ist eine marokkanische Lifestyle-Influencerin“ schreibt die Modejournalistin Jacqui Palumbo: „Lernen Sie Kenza Layli kennen, eine marokkanische Lifestyle-Influencerin, die hofft, ‚Vielfalt und Inklusivität‘ in die AI-Kreativlandschaft zu bringen. Mit fast 200.000 Followern auf Instagram und weiteren 45.000 auf TikTok ist Layli vollständig KI-generiert, von ihren Bildern bis hin zu ihren Bildunterschriften und ihrer mit Schlagwörtern gefüllten Dankesrede“.

Natürlich ist es unmöglich, Layli zu treffen – sie ist nicht real. Layli ist das Werk von Myriam Bessa, Gründerin der Agentur Phoenix AI, die für ihre Kreation ein Preisgeld von 5.000 Dollar erhalten soll. In ihrer Video-Dankesrede, die wie ein Video einer echten Person mit einem KI-generierten Gesichtsausdruck aussieht, sagt Layli: „Während wir voranschreiten, setze ich mich dafür ein, Vielfalt und Inklusivität in der Technologie zu fördern und sicherzustellen, dass jeder einen Platz am Tisch des technologischen Fortschritts hat“. Die Rede ist nicht sehr aussagekräftig, da sie entweder von einer Software oder von ihrem menschlichen Schöpfer verfasst wurde.

Zwei weitere Gewinner

Der Miss-AI-Wettbewerb hatte auch einen zweiten und einen dritten Platz: Lalina aus Frankreich und Olivia C. aus Portugal. Ein kurzer Blick auf ihre Instagram-Feeds zeigt Bilder der virtuellen Frauen im Bikini in exotischen und künstlerischen Umgebungen. Eine vierköpfige Jury, von denen zwei selbst KI-generiert sind, entschied über die Gewinner.

(Hinweis: Über Aitana Lopez haben wir HIER berichtet.)

Verwirrung bei den Wettbewerbsregeln

Die Wettbewerbsregeln schienen fiktive Charaktere und ihre Schöpfer zu vermischen. Die Teilnehmer wurden nach drei Kriterien bewertet: Schönheit (einschließlich Standards von Schönheitswettbewerben wie „Haltung“ und Antworten auf Fragen wie „Wenn du einen Traum hättest, um die Welt zu einem besseren Ort zu machen, was wäre das?“), Technologie (Punkte für die Fähigkeit, das KI-Modell zu implementieren und visuelle Details zu rendern) und soziale Relevanz (basierend auf der Anzahl der Social-Media-Follower und der Interaktion mit den Fans).

Dr. Margaret Mitchell, ebenfalls Forscherin bei Hugging Face, äußerte sich ähnlich verwirrt. „Sollte das die KI-Schöpfer stärken? Aber dann war die Gewinnerin KI-generiert? Sind das Schöpfer oder KI-generierte Menschen? Oder ist nur ‚Kenza‘ KI-generiert und hat gewonnen, die anderen aber nicht? Was ist hier los?“

Als auf den erwähnten CNN-Artikel hingewiesen wurde, antwortete Mitchell: „Okay, ich verstehe. Der Wettbewerb ist für KI-generierte Frauen, aber die WAICAS-Website lässt es eher so aussehen, als würde sie die Kreativen stärken, als das, was sie tatsächlich tut, nämlich unrealistische Schönheitsstandards zu verfestigen.“

Mögliche Gefahren und gesellschaftliche Auswirkungen

Mitchell zufolge beschleunigt der Trend zu KI-Influencern bestehende Probleme mit menschlichen Influencern: Sie können Bilder manipulieren, um eine unrealistische Sicht der Realität zu vermitteln, die nach Ansicht von Forschern potenziell schädlich für Mädchen und Frauen ist, die sie online sehen.

„Ich zittere bei dem Gedanken an den Schaden, den dies dem Selbstbild von Mädchen zufügen könnte“, sagt Mitchell. „Barbie hat schon genug Probleme verursacht, und sie ist nicht einmal so gestaltet, dass sie wie eine echte Person aussieht. Wenn unrealistische Weiblichkeitsnormen belohnt werden, werden Mädchen, die zu Frauen heranwachsen, in den Spiegel schauen und all die Wege sehen, auf denen sie nicht mithalten können. Als Nächstes: Massive Zunahme von fragwürdigen Hautprodukten, Essstörungen und Körperdysmorphien bei jungen Teenagern“.

Häufig gestellte Fragen (FAQ)

1. Was ist der „Miss AI“-Wettbewerb und warum ist er umstritten?
   Der „Miss AI“-Wettbewerb ist ein Schönheitswettbewerb für KI-generierte Social-Media-Influencer, der von der Plattform Fanvue organisiert wird. Der Wettbewerb ist umstritten, weil er unrealistische Schönheitsstandards fördert und die Objektivierung von Frauen durch KI verstärkt. Kritiker bemängeln, dass solche Wettbewerbe dazu beitragen, die Kluft zwischen realen und idealisierten Schönheitsbildern zu vergrößern und sich negativ auf das Selbstbild von Frauen auswirken können.
2. Wer hat den ersten „Miss AI“-Wettbewerb gewonnen?
   Die erste Gewinnerin des „Miss AI“-Wettbewerbs ist Kenza Layli, eine fiktive Instagram-Influencerin aus Marokko, die von der Agentur Phoenix AI kreiert wurde. Sie hat über 200.000 Follower auf Instagram und weitere 45.000 auf TikTok. Kenza Layli ist vollständig KI-generiert, einschließlich ihrer Bilder, Bildunterschriften und Danksagungen.
3. Was sind die Bewertungskriterien beim „Miss AI“-Wettbewerb?
   Die Teilnehmerinnen und Teilnehmer des „Miss KI“-Wettbewerbs werden nach drei Hauptkriterien bewertet: Schönheit, Technik und soziale Relevanz. Schönheit umfasst typische Standards von Schönheitswettbewerben wie Haltung und Antworten auf Fragen. Technik bezieht sich auf die Fähigkeiten bei der Implementierung des KI-Modells und der visuellen Darstellung. Soziale Relevanz basiert auf der Anzahl der Follower in sozialen Medien und der Interaktion mit den Fans.
4. Welche Auswirkungen haben KI-generierte Influencer auf die Gesellschaft?
   KI-generierte Influencer können bestehende Probleme menschlicher Influencer verstärken, wie etwa die Darstellung unrealistischer Schönheitsideale. Diese Ideale können sich negativ auf das Selbstbild von Frauen und Mädchen auswirken, die sich mit diesen virtuellen Bildern vergleichen. Es besteht die Gefahr, dass solche Trends zu einer Zunahme von Essstörungen, Körperdysmorphien und der Verwendung fragwürdiger Schönheitsprodukte führen.
5. Was sagen Experten zu den möglichen negativen Auswirkungen des „Miss AI“-Wettbewerbs?
   Experten wie Dr. Sasha Luccioni und Dr. Margaret Mitchell äußern sich besorgt über die negativen Auswirkungen des „Miss AI“-Wettbewerbs. Sie warnen davor, dass die Belohnung unrealistischer Schönheitsstandards durch KI zu einem verzerrten Selbstbild von Frauen und Mädchen führen kann. Die Experten betonen die Notwendigkeit, die ethischen Implikationen des Einsatzes von KI in solchen Kontexten zu berücksichtigen und Maßnahmen zu ergreifen, um die Förderung schädlicher Schönheitsideale zu verhindern.

Fazit

Der „Miss AI“-Wettbewerb von Fanvue hat eine hitzige Debatte über den Einsatz von KI zur Schaffung unrealistischer Schönheitsstandards ausgelöst. Während die Technologie zur Erzeugung von KI-generierten Influencern voranschreitet, müssen die ethischen und gesellschaftlichen Auswirkungen sorgfältig abgewogen werden. Es ist von entscheidender Bedeutung, dass künftige Entwicklungen in diesem Bereich Vielfalt und Inklusivität fördern, ohne schädliche Ideale zu verstärken. Die Gesellschaft muss wachsam bleiben und Maßnahmen ergreifen, um sicherzustellen, dass Fortschritte in der KI-Technologie zum Wohle aller genutzt werden.

Quelle: derStandard; arstechnica

Abonnieren Sie unseren Newsletter für weitere wichtige Informationen und melden Sie sich für unsere monatlichen Online-Vorträge und Workshops an.