DeepMind testet das KI-Inhaltslabel inmitten von Desinformationsängsten

DeepMind, ein in London ansässiges KI-Unternehmen im Besitz von Google, testet ein digitales Wasserzeichen-Tool, das künstlich generierte Inhalte erkennen und kennzeichnen kann.

Das als SynthID bezeichnete Tool bettet die Beschriftung in die einzelnen Pixel eines Bildes ein. Menschen können die Markierung nicht sehen, aber Computer können sie erkennen und feststellen, dass sie von der KI erzeugt wurde.

SynthID, das derzeit intern für Googles eigenes Bildgenerierungsmodell getestet wird, ist ein Versuch von DeepMind, Desinformation durch KI-Inhalte zu bekämpfen, ein zentrales Anliegen beim Aufstieg der Technologie.

DeepMind warnte jedoch davor, dass sein Wasserzeichensystem nicht „narrensicher gegen extreme Bildmanipulation“ sei.

Während generative KI-Tools mit der Fähigkeit, realistische Bilder zu erstellen, erst seit kurzer Zeit öffentlich verfügbar sind, gibt es bereits Falschmeldungen, die von harmlosen Witzen bis hin zu politischer Propaganda reichen.

Anfang dieses Jahres verbreitete sich ein Bild von Papst Franziskus in einer Designer-Pufferjacke viral, bevor den Leuten klar wurde, dass es von KI erstellt wurde. Etwa zur gleichen Zeit kursierten in den sozialen Medien Bilder, die eine fiktive Verhaftung von Donald Trump zeigten, und täuschten eine Reihe von Menschen, bevor sie als Fälschung gemeldet wurden.

KI-gestützte Desinformation ist zu einem umso größeren Problem geworden, da sowohl im Vereinigten Königreich als auch in den USA große Wahlen bevorstehen.

Diesen Monat wurde die Debatte über gefälschte Bilder, die die Politik im Vereinigten Königreich beeinflussen, weiter angeheizt, als ein Labour-Abgeordneter ein Foto von Premierminister Rishi Sunak veröffentlichte, der neben einer missbilligenden Frau ein Pint Bier einschenkte. Später stellte sich heraus, dass es geändert worden war, um Sunak in einem schlechten Licht darzustellen.

Obwohl nicht mit KI erstellt, löste das bearbeitete Bild eine aggressive Reaktion aus, und Technikministerin Michelle Donelan teilte auf Twitter ihre Missbilligung mit.

„Im Zeitalter von Deepfakes und digital verzerrten Bildern ist es umso wichtiger, über verlässliche Informationsquellen zu verfügen, denen man vertrauen kann. „Kein gewählter Parlamentsabgeordneter sollte die Öffentlichkeit mit gefälschten Bildern irreführen“, sagte Donelan. „Das ist ziemlich verzweifeltes Zeug von Labour.“

Die Erkennung von durch KI erzeugten gefälschten Bildern wird wahrscheinlich auf dem bevorstehenden AI Safety Summit diskutiert, bei dem internationale Führungskräfte und Experten zusammenkommen, um einen globalen Ansatz zur Regulierung der Technologie zu erkunden.

Mehr lesen:KI-Regulierung ist eine „große Herausforderung für politische Entscheidungsträger“, sagt Lib Dem MP