S4OS: SCALABLE ANALYSIS OF SAFE, SMALL AND SECURE STRATEGIES FOR CYBER-PHYSICAL SYSTEMS

I dagligdagen er vi omgivet af cyberfysiske systemer. Disse systemer omfatter software- og hardwarekomponenter, der kommunikerer med og styrer en fysisk virkelighed. Det kan være vindmøller, biler eller noget så vitalt som pacemakere. I disse systemer er brugen af machine learning meget udbredt.

Anvendelsen af machine learning medfører imidlertid en række udfordringer, der kan få fatale konsekvenser, hvis de ikke bliver taget hånd om i tide. Professor Kim Guldstrand Larsen har modtaget en VILLUM Investigator-bevilling på 30 millioner kroner til et projekt, der skal sikre, at cyber-fysiske systemer i langt højere grad opfylder krav til pålidelighed og sikkerhed.

Problemet med machine learning opstår, når systemet udsættes for en situation, der ikke er anvendt i træningsdata. En Tesla kan eksempelvis hamre ind i en vejside, fordi den ikke genkendte de objekter, der var i omgivelserne.

I projektet er målet derfor at kombinere matematisk velfunderede og forståelige teknikker, som kan give absolutte garantier, med maskinlæring. Der skal så at sige sættes grænser for, hvad man kan gøre, når man anvender maskinlæring.