Extremismus in der digitalen Welt

Das Internet bietet Nutzern neben diversen Kommunikations- und Vernetzungsmöglichkeiten auch vielfältige Potenziale im Bereich der Künstlichen Intelligenz (KI). Die Anwendungsbereiche erstrecken sich dabei von der Bilderstellung über die Bildmanipulation bis hin zur Erstellung von sog. „Deepfakes“.

Im Phänomenbereich Rechtsextremismus ist die Nutzung solcher Technologien vermehrt festzustellen. Authentisch wirkende Bilder und Videos werden von Rechtsextremisten zielgruppenorientiert für Propagandazwecke genutzt. Oft geschieht dies, um in Beiträgen oder Postings das eigene Weltbild durch grafische Darstellungen zugänglicher zu machen. Aus dem Bereich des Linksextremismus sind hierzu noch keine Aktivitäten bekannt geworden.

Auch in rechtsextremistischen Subkulturen wird KI dazu genutzt, um sich selbst als agil und zeitgemäß darzustellen. Welche Zielgruppen adressiert werden, richtet sich vor allem nach der jeweiligen Gruppierung und ihrer Altersstruktur. Während rechtsextremistische Parteien grundsätzlich nach Mitgliedern jeder Alterskohorte suchen, wenden sich aktivistische Jugendgruppen, wie die rechtsextremistische Identitäre Bewegung (IB), an ein jüngeres Publikum.

Im Ringen um Aufmerksamkeit müssen auch extremistisch agierende Influencer zeitgemäße und attraktive Wege der Ansprache finden. Musik und Memes sind deshalb für diese Szenen ein effektives Mittel. Während sich Musik eignet, um Emotionen zu wecken und eine Gemeinschaft zu schaffen, eigenen sich Memes als Weg, um Standpunkte zugänglich und humorvoll zu verpacken. Nutzer können so – auch zufällig – in Kontakt mit rechtsextremistischen Inhalten und Accounts geraten. Anders als im Rechtsextremismus gibt es im Linksextremismus bislang keine Influencer mit großer Reichweite.

Die Verbreitung von KI-Inhalten lässt sich im Phänomenbereich Rechtsextremismus plattformübergreifend feststellen, unter anderem auf Telegram, Instagram und TikTok. Plattformalgorithmen spielen eine entscheidende Rolle bei der Sichtbarkeit von Inhalten, einschließlich rechtsextremistischer Musik und Videos. Diese Algorithmen sind darauf ausgelegt, Nutzern Inhalte vorzuschlagen, die wahrscheinlich ihr Interesse wecken.

Hinzu kommt, dass sich extremistische Inhalte häufig starker Emotionen wie Angst und Hass bedienen und dadurch Reaktionen hervorrufen, die sie für die Algorithmen attraktiv machen können. Durch die personalisierten Empfehlungen können Nutzer innerhalb kürzester Zeit in Filterblasen geraten, in denen sie hauptsächlich Inhalte sehen, die ihre bestehenden Überzeugungen und vorhandene „Echokammern“ verstärken.

Über den erlaubten Inhalt auf den bekannten Streaming Plattformen entscheiden die Betreiber und die geltenden Gesetze. Sollten strafrechtlich relevante Inhalte bekannt werden oder Material, das potenziell jugendgefährdend ist, können die Strafverfolgungsbehörden oder die Bundezentrale für Kinder- und Jugendmedienschutz (BzKJ) informiert werden.

In Bayern wurde mit der Meldestelle Respekt! Im Netz ein Kooperationsmodell gestartet, das eine niedrigschwellige Meldung von Hass, Hetze oder Gewaltdarstellungen ermöglicht.