Es geht darum, sexuell anzügliche Bilder zu erstellen.

Der britische Premierminister Keir Starmer kündigte an, alle möglichen Lösungen zu prüfen, um die Nutzung von Grok, einem auf der X-Plattform verfügbaren Tool, zu verhindern. Mit diesem Tool wurden sexuell explizite Grafiken und Fotos erstellt.

Grok ist ein KI-Tool, das von Spezialisten im Umfeld von Elon Musk entwickelt wurde. Es steht Nutzern des ehemaligen Twitter, jetzt „X“, zur Verfügung. Das soziale Netzwerk, das von Politikern, Journalisten und Bürgern gleichermassen genutzt wird, erfreut sich weltweit enormer Beliebtheit. Leider verfügen die Nutzer nun über ein gefährliches Werkzeug – im Rahmen einer künstlichen Intelligenz –, das Fotos und Grafiken generiert.

Grok AI hat seine Funktionen aktualisiert und generiert nun sexuell anzügliche Bilder. Der britische Premierminister Keir Starmer nannte dies „schändlich, widerlich und unerträglich“. „Es ist illegal. Wir werden es nicht dulden. Ich habe darum gebeten, alle Optionen zu prüfen“, so der Premierminister.

Das Tool ist gefährlich, weil es die Verwendung von Fotos von Persönlichkeiten des öffentlichen Lebens ermöglicht. Dies führt zur Erstellung falscher Bilder, die irreführend sind und den Ruf und das Image bekannter Persönlichkeiten schädigen.

Laut CBS News wurde Grok angewiesen, Fotos von Persönlichkeiten wie Melania Trump, der First Lady der USA, zu bearbeiten.

Nach einer Welle der Kritik gab Elon Musk bekannt, dass der Algorithmus einige „Sicherheitslücken“ aufweise. Er fügte hinzu, dass das Bildgenerierungstool nur eingeschränkt nutzbar und nur für Nutzer verfügbar sein werde, die den Dienst abonniert und bezahlt hätten.

Nach dem britischen Internet Safety Act ist das Teilen intimer Bilder ohne Einwilligung in sozialen Medien eine Straftat, und Social-Media-Unternehmen sind verpflichtet, solche Inhalte proaktiv zu entfernen und deren Erscheinen von vornherein zu verhindern.

Bei Nichteinhaltung drohen Unternehmen hohe Geldstrafen oder im schlimmsten Fall ein faktisches Verbot durch die britische Medienaufsichtsbehörde Ofcom. Ofcom kann Zahlungsdienstleister, Werbetreibende und Internetanbieter zwingen, die Geschäftsbeziehung mit einer Website einzustellen, wodurch diese keine Einnahmen mehr generiert und aus Großbritannien nicht mehr zugänglich ist.

Quelle: CBS News