Forschungprojekt Sicherheitsargumentation für KI-gestützte Personenerkennung

Beschreibung

Ziel des Vorhabens ist die Entwicklung einer praxisnahen, methodischen Prüfmethode in Form einer strukturierten Sicherheitsargumentation (Assurance Case), mit der sich die Sicherheit und Zuverlässigkeit eines KI-gestützten Personen- und Objekterkennungssystems im konkreten Anwendungsfall nachvollziehbar bewerten lässt. Die Sicherheitsargumentation soll anhand eines exemplarischen Anwendungsfalls entwickelt und erprobt werden. Der Anwendungsfall umfasst einen sicherheitsrelevanten Einsatz an Maschinen. Berücksichtigt wird sowohl der Einsatz von KI zur Ergänzung bestehender Sicherheitsfunktionen (Assistenzsysteme) als auch eine potenzielle Substitution klassischer Schutzmaßnahmen durch KI-Systeme. Der Fokus liegt auf der Personen- und Objekterkennung mittels neuronaler Netze unter Verwendung von Kamera-, Radar- und/oder Lidar-Daten. Das Vorgehen beinhaltet eine systematische Analyse bestehender regulatorischer und normativer Anforderungen. Die Ergebnisse dienen als Grundlage für Prüfgrundsätze, die künftig von der Auftraggberin und vor allem auch in der DGUV Test Prüf- und Zertifizierungsstelle Holz und Metall, für die die Auftraggeberin federführender Unfallversicherungsträger ist, eingesetzt werden sollen. Die entwickelte Methode soll der Auftraggeberin ermöglichen, zukünftig KI-Systeme systematisch und transparent hinsichtlich ihrer Eignung zu prüfen. Langfristig soll das Projekt einen Beitrag zur Standardisierung der Prüfmethoden von sicherheitsgerichteten KI-Systemen leisten. Das geschätzte Auftragsvolumen über die gesamte Vertragslaufzeit beträgt ca. 200.000 € netto. Das Forschungsvorhaben ist über 22 Projektmonate vorgesehen. Der Vertragsbeginn ist voraussichtlich der 01.04.2026.