Prof. Dr. Nils Jansen leitet den Lehrstuhl für Künstliche Intelligenz und Formale Methoden an der Ruhr-Universität.
Dohne
RUB, Marquard
ERC Starting Grant 2023
Vertrauen in Künstliche Intelligenz erhöhen
Nils Jansen erforscht mit seinem ERC Starting Grant, wie Anwendungen der Künstlichen Intelligenz verlässlicher und sicherer werden.
Künstliche Intelligenz (KI) ist bereits Teil des Alltags und wird zunehmend in mehr Lebensbereichen Einzug halten. Anwendungen im Gesundheitswesen, dem Verkehr oder im Finanzsektor sind nur wenige Beispiele. Doch alle diese Bereiche erfordern verlässliche und sichere Anwendungen von KI-Systemen. Mit der Technik des Reinforcement Learning, bestärkendes Lernen, können KI-Anwendungen lernen, autonom Entscheidungen für optimale Ergebnisse zu treffen. Nur erfolgt das bisher durch „Trial and Error“, was im Prinzip bedeutet, dass alle möglichen Lösungsansätze so lange ausprobiert werden, bis eine gute Lösung gefunden ist. Dieses Problem, im Englischen als „Safe Reinforcement Learning“ bezeichnet, verhindert bislang, dass Reinforcement Learning in sicherheitskritischen Anwendungen genutzt werden kann. Für mehr Sicherheit möchte Prof. Dr. Nils Jansen sorgen.
In seinem DEUCE Projekt (Data-Driven Verification and Learning Under Uncertainty) möchte er neuartige und datengesteuerte Verifikationsmethoden entwickeln, die sich in das Reinforcement Learning integrieren lassen und somit KI helfen, sicherer zu sein. Damit auch das Vertrauen in die KI-Anwendungen erhöht wird.
Der Starting Grant ist mit 1,5 Millionen Euro dotiert.
ERC-Grant-Projekte