AI – 7 steg till ett tryggare samhälle

Vi har med vår bok Dockfabriken inte bara velat underhålla utan även väcka debatt. Samhället står inför stora utmaningar som vi måste ta oss an i god tid. Vi behöver systematiskt hantera riskerna för att dra fördel av de spännande möjligheter som väntar oss.

Därför har vi spaltat upp sju saker som skulle göra oss bättre rustade inför framtidens samhälle.

1. Definiera grundprinciper för artificiell intelligens.

Vi behöver på̊ nationell nivå̊, eller ännu hellre på̊ Europanivå, definiera vilka grundprinciper som ska gälla för artificiella system ur perspektiven säkerhet, rättvisa, etik, transparens och ansvar. Ett antal initiativ finns redan men dessa behöver testas och vidareutvecklas för att kunna bli allmän standard. 

2. Lagstifta mot oansvarig utveckling av artificiell intelligens 

Redan idag behöver vi undersöka möjligheterna till en lagstiftning för att hantera oansvarig utveckling av AI. Den kan till exempel likna Dataskyddsförordningen, men istället skydda samhället och inte bara den enskilde personens information.

3. Utveckla en modell för säker utveckling av artificiell intelligens 

Vi bör definiera en modell för säker utveckling av system med AI. Denna bör inte avvika från utan istället komplettera befintliga modeller. Annars blir det ett alltför stort steg för organisationer att ta till sig dem, och införandet kommer därmed att fallera. 

4. Oberoende uppföljning av artificiella system och deras processer. 

Organisationer som utvecklar högrisksystem med AI behöver ha en process för uppföljning. Ett exempel kan vara ett oberoende ombud som kontrollerar att organisationen följer de lagstadgade processerna, ett AI-skyddsombud. 

5. Definiera ansvaret för användning av artificiell intelligens.

Inget är säkert om vi inte vet vem som ansvarar för säkerheten. I vissa fall är det komplicerat, som till exempel förarlösa bilar med leverantörer, operatörer, ägare och det som vi nu kallar förare, men som så småningom snarare blir passagerare. Det kommer antagligen att innebära att vi får se helt nya affärsmodeller där konsumenter inte längre äger produkter de använder, eftersom de som privatpersoner inte vill ta ansvaret. Här behöver vi en tydlig lagstiftning och praxis. 

6. Kombinerade utbildningar i artificiell intelligens och cybersäkerhet. 

Både i Sverige och internationellt finns det en stor brist på kompetens inom cybersäkerhet och artificiell intelligens. För att inte tala om personer som kan båda delarna. En unik satsning som kombinerar ämnena skulle markant öka möjligheterna med att förebygga våra risker. 

7. En kraftfull incidenthantering.

Inom en snar framtid kommer det att inträffa allvarliga incidenter inom området. Vi har idag inte en tillräckligt hög säkerhetsnivå i våra system eller saker som är uppkopplade mot Internet. Om vi sedan adderar artificiell intelligens medför detta ytterligare nya risker. Incidenter blir inte alls lika allvarliga om vi snabbt kan minimera konsekvenserna av dem. Därför kommer de länder och organisationer som har en riktigt bra incidenthantering att vara de som blir mest framgångsrika inom området. 

Lena Karlin & Åsa Schwarz