Gervi­greind skýrsla gervigreindrar ríkis­stjórnar

C2PA er ekki ný persóna í Stjörnustríðsmyndunum, þótt nafnið hljómi óneitanlega eins og týndur ættingi R2-D2. Sá síðarnefndi er þó ekki bara gagnlegur félagi sem kann að segja sögur, heldur hefur hann líka nokkuð sem sífellt verður verðmætara í heimi gervigreindarinnar. Hann hefur unnið sér inn traust.

C2PA er hins vegar hvorki vélmenni né gervigreind. Það er alþjóðlegt samstarf um tæknistaðla sem gera okkur kleift að sannreyna upplýsingar um uppruna og breytingasögu stafræns efnis. Þannig má meðal annars staðfesta hvort ákveðnar upplýsingar um ljósmynd, myndskeið eða skjal hafi haldist óbreyttar.

C2PA tryggir ekki að ljósmynd sýni sannleikann, enda hefur ljósmyndin aldrei verið óskeikull sannleiksvottur. Það getur hins vegar hjálpað okkur að vita hvaðan hún kemur, hver hefur staðfest tilteknar upplýsingar um hana og hvort þeim upplýsingum hafi verið breytt.

Þetta snýst ekki eingöngu um ljósmyndir, heldur einnig hljóð, myndskeið, skjöl, opinber gögn og þær upplýsingar sem við byggjum ákvarðanir okkar á.

Í nýútkominni, 95 blaðsíðna skýrslu sérfræðihóps á vegum íslenskra stjórnvalda um gervigreind er margt ágætlega hugsað. Þar er fjallað um menntun, íslenska tungu, atvinnulíf, lýðræði, öryggi og traust. Þar er meira að segja lögð áhersla á að traust sé áunnið.

En C2PA er hvergi nefnt.

Það vekur athygli, ekki vegna þess að fjórir stafir eigi endilega heima í hverri skýrslu um gervigreind, heldur vegna þess að við stöndum frammi fyrir grundvallarbreytingu á því hvernig við getum treyst því sem við sjáum, heyrum og lesum.

Það nægir ekki lengur að merkja efni sem búið er til með gervigreind. Við þurfum líka að geta sannreynt uppruna þess efnis sem okkur er sagt að sé raunverulegt. Traust snýst ekki aðeins um hvort við getum treyst upplýsingunum, heldur líka hvort við getum treyst þeim sem ráða kerfunum.

Og þá vaknar stærri spurning. Hvernig ætlum við að byggja upp samfélag sem treystir í síauknum mæli á gervigreind, ef við höfum ekki jafnframt byggt upp leiðir til að sannreyna það sem hún segir okkur?

Kolbeinn Kafteinn hefði sjálfsagt sagt um mig að ég væri húðlatur hundingi með heilaþoku á Hellisheiði þar sem ég nennti ekki að lesa alla skýrsluna sjálfur heldur lét gervigreindina um að greina skýrsluna og kosti hennar og galla.

Þar kemur ýmislegt fram sem ég er sammála um og ýmislegt sem vantar að mér finnst í alla umræðu um gervigreind á íslandi. Við erum langt á eftir í allri hugsun og þróun greindarinnar fer um á hraða spretthlaupara meðan við erum enn að klæða okkur í skóna.

Áhrif gervigreindarinnar á samfélagið verður mun meiri en flestir gera sér grein fyrir á þessari stundu og hún mun smeygja sér inn mun víðar en í símann þinn sem hún þó gerði fyrir margt löngu án þess að þú áttaðir þig á því að hún skjallaði þig reglulega með breytingum á sjálfsmyndunum þínum. Gervigreindin hefur þannig þegar breytt því hver þú ert og hvað þú sérð.

Ríkisstjórnin vill byggja framtíð Íslands á gervigreind, en hefur hún hugsað nægilega vel út í hvernig við tryggjum traust, ábyrgð og að ávinningurinn skili sér til samfélagsins alls? Skýrslan viðurkennir raunar að stjórnvöld hafi ekki heildaryfirsýn yfir hvar viðkvæm gögn hins opinbera liggja, hvert þau flæða eða hjá hvaða birgjum þau eru. Hún leggur til að þetta verði kortlagt. Það segir sína sögu að við séum farin að ræða gervigreindarfullveldi áður en við höfum einu sinni fullnægjandi yfirsýn yfir hvar mikilvægustu gögnin okkar eru geymd.

Það sem mér finnst sérstaklega athyglisvert við lesturinn er að tæknilegar forsendur skýrslunnar eru víða betur útfærðar en afleiðingarnar fyrir efnahagsgerð samfélagsins. Starfshópurinn sjálfur segir í skýrslunni að hann hafi ekki getað greint skiptingu ávinnings, skatttekna og eignarhaldstengd áhrif nægilega vel innan umboðsins. Einhverjar þær mikilvægustu spurningar sem samfélagið þarf að spyrja sig voru þannig skildar eftir.

Hún skilgreinir ágætlega hvað þarf til að byggja upp tæknilega getu: gögn, menntun, reikniafl, íslenska máltækni og sjálfstæði frá birgjum. Hún fjallar einnig um mikilvæga samfélagsáhættu, svo sem djúpfalsanir, börn, fjölmiðla og vinnumarkað.

En erfiðustu spurningarnar um skatttekjur, eignarhald, skiptingu ávinnings og tilfærslu efnahagslegs valds bíða áfram frekari vinnu. Verður þá aðeins mælt hvort verkefni leysist hraðar og ódýrar, eða líka hvaða áhrif breytingarnar hafa á starfsfólk, þjónustu, tekjudreifingu og möguleika fólks til að ráða eigin gögnum?

Ef sífellt meiri hluti vinnu, samskipta, upplýsingaleitar og stjórnsýslu fer fram í kerfum sem örfá erlend fyrirtæki stjórna, vakna spurningar um aðgang, verðlagningu, gagnanotkun og möguleika samfélagsins til að skipta um kerfi. Nú þegar reiða opinberir aðilar sig á hugbúnað og þjónustu erlendra fyrirtækja, og bókhaldsgögn íslenskra fyrirtækja eru í vaxandi mæli vistuð í skýjaþjónustum. En hver hefur í raun yfirráð yfir þessum gögnum, hver getur nálgast þau og hvað gerist ef þjónustunni er lokað eða viðskiptasambandinu slitið?

Skýrslan svarar hluta þessa með gervigreindarfullveldi og opnum gagnaskilum. En það sem vantar í framhaldið er víðari greining á því hvernig vald yfir samfélagslegum innviðum getur færst til.

Og þá erum við aftur komin að traustinu. Það er ekki nóg að geta sannreynt hvaðan ljósmynd kemur eða hvort henni hafi verið breytt. Við þurfum líka að geta sannreynt hver tekur ákvarðanir, hver ber ábyrgð á þeim og hver fær ávinninginn þegar vélarnar fara að vinna fyrir okkur. Traust á gervigreind verður aldrei meira en traust okkar á þeim sem stjórna henni.

Spurningin sem stendur eftir er þessi:

Hvernig ætlum við að tryggja að íslenskt samfélag njóti ávinnings af gervigreindarbyltingunni, jafnvel þótt sífellt minni mannlega vinnu þurfi til að skapa sömu verðmæti?

Þetta er ekki eingöngu tæknileg spurning. Hún snýst um hvernig samfélag við viljum byggja upp og hver á að hafa áhrif á það hvernig verðmætum þess er ráðstafað.

Höfundur er Ljósmyndari með áhuga á gervigreind.