Bundesamt für Sicherheit in der Informationstechnik - Prüfanforderungen für LLM-basierte agentische KI (PRAKI)

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) sucht die Entwicklung von Prüfkriterien und Best Practices für agentische KI-Systeme, insbesondere solche, die auf Large Language Models (LLMs) basieren. Ziel ist die Identifizierung von Use-Cases, die Entwicklung spezifischer und generalisierter Prüfkataloge sowie die Übertragung der Ergebnisse in BSI-Standards. Das Projekt umfasst die Erfassung von Use-Cases, Risikoanalysen, die Erstellung von Prüfkatalogen und Best Practices für zwei ausgewählte Use-Cases, deren exemplarische Erprobung, die Generalisierung zu einem übergreifenden Prüfkatalog und die Erstellung einer Abschlussstudie.