KI-gestützte Online-Gewalt gegen Frauen: Zahlen und Muster

Die Ära ist da: Digitale Angriffe werden mit generativer KI schneller, billiger und massenhaft. Eine globale Umfrage unter 641 Frauen aus 119 Ländern, durchgeführt in Arabisch, Englisch, Französisch, Portugiesisch und Spanisch, zeigt das Ausmaß. Die Befragten stammen aus Netzwerken von UN Women, Unesco und dem International Center for Journalists, unterstützt von 22 Fachberaterinnen und -beratern.

Wer ist besonders betroffen?

70% der Befragten berichteten von Online-Gewalt im beruflichen Kontext. Davon machten 24% KI-gestützte Online-Gewalt gegen Frauen als Quelle oder Verstärker aus. Die Belastung variiert nach Beruf:

• Autorinnen und öffentliche Kommunikatorinnen: 30,3%
• Frauenrechtsverteidigerinnen und Aktivistinnen: 28,2%
• Journalistinnen und Medienarbeiterinnen: 19,4%

Die Definition von Online-Gewalt umfasst alle Taten mit digitalen Werkzeugen, die körperlichen, sexuellen, psychischen, sozialen, politischen oder wirtschaftlichen Schaden verursachen oder Rechte einschränken.

Wie KI Angriffe skaliert

Seit der breiten Verfügbarkeit von Tools wie ChatGPT Ende 2022 sind Hürden für Deepfakes, genderbasierte Desinformation und andere Angriffe gesunken, die Reichweite steigt. KI-gestützte Online-Gewalt gegen Frauen wird mit einem Smartphone erzeugt und durch Social-Media-Algorithmen verstärkt. Hasserfüllte Inhalte verbreiten sich schneller, und Angreifer – bis hin zu Plattformen – erzielen persönliche, politische oder finanzielle Gewinne.

Gleichzeitig gibt es Forschung zu KI als Teil der Lösung, etwa bei Erkennungssystemen für synthetische Inhalte. Doch die Evidenz zur Wirksamkeit solcher Detektoren ist begrenzt.

Wenn digitale Angriffe offline eskalieren

Die Grenze zwischen digitaler und physischer Gewalt verschwimmt. 40,9% der Befragten erlebten Offline-Angriffe, die sie mit Online-Gewalt verknüpfen – darunter körperliche Übergriffe, Stalking, Swatting und verbale Belästigung. KI-gestützte Online-Gewalt gegen Frauen ist damit keine „virtuelle“ Gefahr, sondern oft der Auftakt einer Eskalation.

Besonders gefährdet: Journalistinnen

Der Trend ist deutlich: In einer vergleichbaren Umfrage 2020 berichteten 20% der Journalistinnen von Offline-Angriffen in Verbindung mit Online-Gewalt. Fünf Jahre später sind es 42%. Das bedroht nicht nur Einzelne, sondern auch Pressefreiheit und Demokratie.

Politik spielt eine Rolle: 2020 nannten 37% der Journalistinnen Politikerinnen, Politiker und Amtsinhaber als häufigste Täter. Öffentliche Beschimpfungen von Journalistinnen können Online-Hass antreiben – und wiederum offline verstärken.

Die Spirale ist weltweit dokumentiert, etwa bei Maria Ressa auf den Philippinen, Rana Ayyub in Indien und der ermordeten maltesischen Investigativjournalistin Daphne Caruana Galizia.

Recht, Plattformen, Schutz: Was jetzt zu tun ist

Lücken schließen

Viele Rechtsordnungen haben keine klaren Regeln gegen Deepfake-Missbrauch, digitale Imitation oder KI-gestützte Betrugsformen – besonders, wenn Angriffe geschlechtsspezifisch sind. Misogynen Hass zu erkennen und zu ahnden ist komplex, und politische Untätigkeit verschärft das Problem.

Verantwortung verankern

• Stärkere Werkzeuge: Angriffe erkennen, überwachen, melden und abwehren – schneller und verlässlicher.
• Pflichten für Plattformen und KI-Entwickler: Missbrauch vorbeugen, nicht nur reagieren.
• Proaktive Rechts- und Regulierungsrahmen: Schutzrechte durchsetzen, Sanktionsmöglichkeiten schaffen.
• Plattform- und politische Verantwortung: Algorithmen prüfen, Transparenz und Sicherheit erhöhen.
• Support-Systeme für Betroffene: Bessere Sicherheits- und Unterstützungsangebote in Redaktionen, NGOs und Behörden.

Menschenrechte by Design

Schutz muss in Technologien eingebaut werden. „Human rights by design“ bedeutet: Menschenrechte an jeder Stelle der KI-Entwicklung berücksichtigen – von Datensätzen über Modellarchitektur bis zur Moderation. Technologische Interventionen und Frühwarn- sowie Reaktionssysteme können helfen, wenn sie wirksam und überprüfbar sind.

Fazit: Die Daten zeigen eine deutliche, globale Eskalation – online wie offline. KI-gestützte Online-Gewalt gegen Frauen bedroht Stimmen, die Demokratien schützen. Wir brauchen belastbare Erkennung, klare Gesetze, konsequente Plattformregeln und Unterstützung für Betroffene. Nur so lässt sich KI-gestützte Online-Gewalt gegen Frauen eindämmen und die freie Meinungsäußerung sichern.

(Source: https://theconversation.com/ai-tools-are-being-used-to-subject-women-in-public-life-to-online-violence-271703)

For more news: Click Here

FAQ