Varnir frá 2019, ógnir frá 2026

Í síðustu viku sagði Fjarskiptastofa það upphátt sem fáir hafa viljað segja: Ísland hefur dregist aftur úr öðrum Evrópuþjóðum í netöryggi.

Þetta kemur fram í umsögn stofnunarinnar um grænbók stjórnvalda um fjarskipti og netöryggi. Þetta er ekki gagnrýnandi úti í bæ. Þetta er eftirlitsstofnunin sjálf.

Áður en lengra er haldið þarf þó að segja það sem er líka satt. Ísland á mjög sterk netöryggisfyrirtæki. Syndis hefur vaxið hratt og sótt á Norðurlandamarkað, Defend Iceland vinnur með íslenska bankakerfinu og hér starfar hópur sérhæfðra fyrirtækja á borð við Nanitor, Aftra, Varist, Secure IT, AwareGo og Keystrike.

Vandinn er því ekki að kunnáttuna vanti.

Vandinn er að reglurnar og framkvæmdin hafa ekki haldið í við ógnina.

Reglurnar sem eru ekki komnar

Evrópusambandið samþykkti NIS2-reglurnar til að styrkja netöryggi mikilvægrar starfsemi. Aðildarríkin áttu að vera búin að innleiða þær fyrir 18. október 2024.

Á Íslandi gilda enn lög frá 2019 sem byggja á eldra NIS-regluverki.

NIS2 nær til mun fleiri geira en fyrri reglur, alls 18 starfssviða, og leggur aukna ábyrgð á stjórnendur fyrirtækja og stofnana. Reglurnar ná almennt til meðalstórra og stærri fyrirtækja í viðkvæmum geirum, en ýmsir lykilaðilar falla undir þær óháð stærð.

Viðurlög geta orðið veruleg. Fyrir mikilvægustu aðilana geta sektir numið allt að tíu milljónum evra eða tveimur prósentum af heimsveltu.

Fjarskiptastofa hefur bent á að innleiðingin hafi ekki fengið nægilegan forgang og að ekki liggi fyrir nægilega skýr, tímasett og fjármögnuð áætlun um að ljúka henni.

Það er kjarninn.

Við höfum ekki efni á að bíða eftir því að nýju reglurnar komi áður en undirbúningur hefst.

Við eigum lásasmiðina, en ekki alls staðar lásana

Fjarskiptastofa telur einnig að nokkuð stór hluti þeirra aðila sem þegar teljast mikilvægir innviðir hafi ekki byggt upp nægilega öflugt stjórnkerfi netöryggis.

Þetta eru fyrirtæki og stofnanir sem samfélagið treystir á daglega.

Þarna er munurinn skýr: Við eigum lásasmiðina. Það þýðir ekki að búið sé að setja lásana í.

Og ógnin er ekki fræðileg.

Háskólinn í Reykjavík varð fyrir gagnagíslatöku þar sem hópurinn Akira stal gögnum og krafðist lausnargjalds. Skólinn greiddi ekki. Sambærileg atvik hafa einnig komið upp hjá öðrum íslenskum fyrirtækjum.

Ísland er sérstaklega viðkvæmt vegna smæðarinnar. Við eigum fá stóru kerfin, fá fjármálafyrirtæki, fá orkufyrirtæki og mjög samþætta stafræna innviði.

Í stærri hagkerfum eru oft fleiri staðgenglar. Hér getur truflun hjá einum lykilrekstraraðila haft hlutfallslega meiri áhrif á samfélagið allt.

Vélin sem framkvæmir

Síðan kemur gervigreindin.

Umræðan hefur mest snúist um að AI geti skrifað betri vefveiðapósta, búið til falskar raddir og hermt eftir fólki.

Það er rétt, en það er aðeins hálf sagan.

Stærsta breytingin er að gervigreind er farin að framkvæma.

AI-agentar geta lesið tölvupóst, leitað í skjölum, notað forritaskil, sent skilaboð og jafnvel breytt gögnum fyrir hönd starfsmanna.

Hættan er ekki sú að vélin „verði vond“.

Hættan er að við gefum henni verkfærin áður en við setjum mörkin.

Hugsum okkur fyrirtæki sem setur upp gervigreindarþjón til að lesa skjalasafn og svara starfsfólki. Til þæginda fær hún aðgang sem getur ekki aðeins lesið skjöl heldur líka breytt þeim eða eytt.

Árásarmaður þarf þá ekki endilega að brjótast inn.

Hann getur reynt að koma földum fyrirmælum inn í skjal sem gervigreindin les.

Þetta kallast fyrirmælainnspýting, eða prompt injection.

Venjuleg forrit gera skýran greinarmun á fyrirmælum og gögnum. Gervigreindarlíkön eiga mun erfiðara með þann aðskilnað.

Þess vegna getur hættan legið í texta sem lítur út eins og venjuleg gögn.

„En við notum Microsoft“

Margir hugsa: Við notum traustan stóran birgi, erum við þá ekki varin?

Að miklu leyti er það kostur. Stórir birgjar hafa gríðarlega öryggisgetu og geta lagað veikleika miðlægt fyrir milljónir notenda.

En það leysir ekki allt.

Veikleikinn EchoLeak í Microsoft 365 Copilot sýndi hversu flókið þetta er orðið. Með sérútbúnum tölvupósti var hægt að hafa áhrif á gervigreindarkerfið með óbeinni fyrirmælainnspýtingu og skapa hættu á að gögn úr Microsoft 365-umhverfi lækju út.

Notandinn þurfti ekki að smella á hefðbundinn skaðlegan hlekk.

Microsoft lagaði veikleikann miðlægt og engin staðfest dæmi voru um raunverulega misnotkun hans þegar málið kom upp.

En lærdómurinn stendur.

Vörnin getur ekki eingöngu falist í því að laga hvern veikleika þegar hann finnst.

Hún þarf að byrja á því að afmarka hvað gervigreindin má sjá og hvað hún má gera.

Þetta er ekki tölvudeildarmál

NIS2 færir ábyrgðina upp á stjórnunarstig. Það er rétt nálgun.

Sá sem situr í stjórn eða framkvæmdastjórn ætti nú þegar að geta svarað þremur spurningum:

Telja: Hvaða gervigreindarkerfi hafa aðgang að gögnum okkar?

Taka af: Hvaða kerfi geta breytt, sent eða eytt gögnum og þurfa þau raunverulega þau réttindi?

Ákveða: Hvaða aðgerðir má gervigreind aldrei framkvæma án samþykkis manneskju?

Ekkert af þessu krefst nýrra laga.

Það krefst ákvörðunar.

Ísland hefur eitt stórt forskot: smæðina. Við eigum sérþekkinguna og við eigum tiltölulega fáa mikilvæga innviði.

Það sem tekur mörg ár í stærri ríkjum gæti tekið misseri hér.

Við getum áfram verið tveimur árum á eftir.

Eða við getum orðið eitt fyrsta ríkið sem setur skýrar reglur um hvað gervigreind má gera fyrir hönd fólks og hvað hún má aldrei gera án samþykkis.

Við eigum góða lása og góða lásasmiði.

En byggingarreglurnar eru á eftir, of margir hafa ekki sett lásana í og nýju dyrnar opnast stundum þegar vélin les rangt skjal.

Vélin margfaldar. Maðurinn samþykkir.

Höfundur er stofnandi Alvitur.is og starfar að þróun og stefnumótun á sviði gervigreindar.