BSI - Detektion von Bildern multimodaler KI-Modelle (RealOrRender)

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sucht eine Übersicht und Evaluierung von Methoden zur Detektion maschinell erzeugter oder modifizierter Bilder. Ziel ist die Entwicklung und der Aufbau eines Demonstrators für eine zuverlässige und nachvollziehbare Erkennungsmethode, um Missbrauchspotenziale von KI-generierten Bildern zu minimieren. Das Projekt umfasst die Erstellung einer Übersicht über aktuelle Detektionsmethoden, deren Evaluierung hinsichtlich Zuverlässigkeit und Nachvollziehbarkeit sowie die Weiterentwicklung und den Aufbau eines Demonstrators.