MR8404 Systemsikkerhet - analyse og modellering

Teknologiske systemer blir stadig mer komplekse, med en økende grad av programvare og autonom funksjonalitet. Autonomi kan forårsake kompleksitet og koblinger som er vanskelige å identifisere og analysere. Nye typer farekilder og uønskede hendelser kan forårsakes på grunn av uforutsette gjensidige avhengigheter i et systems design, operasjon og miljø. Autonomi og delt kontroll utfordrer situasjonsforståelsen og beslutningstakingen mellom mennesker og det autonome systemet, samt offentlighetens oppfatning og aksept av slike systemer. Dette betyr at risikovurdering og sikkerhetsstyring av disse systemene bør bli en drivkraft i design og drift. Dette faget tar for seg grunnleggende begreper og metoder innen systemsikkerhetsteori, som STAMP, STPA og CAST, for å analysere, evaluere og verifisere sikkerhet i avanserte og komplekse systemer. Simuleringsbasert probabilistisk risikovurdering (DPRA) dekkes, inkludert online risikovurdering og modellering, og "supervisory" risikokontroll. Online risikomodeller benytter data fra ulike kilder, som historiske data, målinger fra sensorer og erfaringsdata. Datamodellene kan variere fra empiriske modeller basert på historiske eller online data til fysikkbaserte modeller. Supervisory risikokontroll kan betraktes som et bidrag til forbedret kunstig intelligens, som støtter og gjør det mulig for det autonome systemet å modellere og planlegge sine handlinger; dvs. ta "bevisste" valg. Det er viktig å merke seg at autonome systemer i kurset inkluderer både bemannede og ubemannede systemer med viss kontrollfunksjonalitet som kan karakteriseres som autonome, noe som betyr at temaene i faget også er relevante for sikkerhet i software - baserte systemer.