Hvernig á ekki að nota gervi­greind!

Fyrir um það bil 100 árum hóf rafmagnið innreið sína á Íslandi. Rafmagnið breytti miklu fyrir venjuleg heimili, og fylgdi tækninni meiri lýsing, meira hreinlæti og möguleiki á notkun á nýrra tækja. Innleiðingunni fylgdi þó áhætta og þurfti að fræða notendur um hættur rafmagnsins. Til dæmis var bent á að hvorki væri sniðugt að stinga fingri í innstungu eða að fara í bað með útvarp á baðkarsbrúninni.

Í dag erum við að upplifa nýja tæknibyltingu sem mun mögulega hafa meiri áhrif en rafmagnið gerði á sínum tíma. Gervigreindin er komin til að vera, og eins og rafmagninu þá fylgja henni bæði kostir og hættur.

Fyrirspurnir gleymast ekki

Gervigreindin er í stöðugt að afla sér nýrrar þekkingar, ferli sem er kallað þjálfun. Hún notar fyrirspurnir frá þér til að læra af, og með þeim upplýsingum er ný útgáfa af gervigreind búin til. Ef þú notar gervigreind í skýinu til að greina upplýsingar um viðskiptavin þá getur annar notandi í öðru landi fræðilega spurt gervigreindina um þær upplýsingar einhverjum vikum seinna. Mörg dæmi eru um gervigreindarfyrirtæki sem framkvæma þannig þjálfun án leyfis.

Eru gögnin örugg?

Gervigreind er einstaklega góð í að greina og umrita texta. Algengt er að fyrirtæki og stofnanir visti gögn í skýi eða hlaði gagnasöfnum í gervigreind svo hún geti hjálpað til með greiningu og umritun.

Ef fyrirtæki eða stofnun í Evrópu sendir gögn til bandarískra eða kínverskra fyrirtækja þá geta stjórnvöld þar nálgast gögnin. Bæði löndin hafa sérstök lagaúrræði tengd öryggislögum til að lesa upplýsingarnar. Þetta er alvarlegt vegna þess að öll stærstu gervigreindarfyrirtækin eru frá þeim löndum.

Ef til dæmis fyrirtæki í orkugeiranum vinnur með upplýsingar um nýjar framkvæmdir á Grænlandi hjá Microsoft þá eru þær upplýsingar opnar fyrir stjórnvöldum í Bandaríkjunum með dómsúrskurði.

Jafnvel þótt gögnin og fyrirspurnirnar séu geymd í Evrópu eru þau aðgengileg stjórnvöldum í Bandaríkjunum og Kína ef hýsingaraðilarnir eru lögaðilar í þeim löndum.

Til viðbótar er rétt að geta þess að strangar reglur eru um meðferð viðkvæmra gagna hjá ESB, reglur sem Ísland hefur gengist undir. Fylgja verður GDPR persónuverndarlöggjöfinni til hins ítrasta ella er hætta á verulegum fjársektum.

Óráð og gamlar upplýsingar

Þótt gervigreind virki stundum eins og alvitur vera þá er hún það ekki. Í grunninn er gervigreindin líkindavél og þegar hún fær spurningu skilar hún því svari sem líklegast er rétt. Í flestum tilfellum

reynist það vera hið rétta svar en oft verður henni illa á messunni. Ef þú spyrð um staðreynd sem gervigreindin hefur ekki fengið næga þjálfun í þá er líklegt að þú fáir rangt svar án þess að hún (eða þú) geri sér grein fyrir því. Nýlega hafa komið upp mjög alvarleg mál þar sem svör gervigreindar hafa valdið gríðarlegum skaða með því að skila niðurstöðum sem áttu sér enga stoð í raunveruleikanum.

Flestöll gervigreind hefur tímatakmörk á þekkingu sinni. Gervigreind getur hafa verið þjálfuð fyrir einu ári og þá veit hún ekkert um staðreyndir eftir þann tíma - en mun ekki endilega segja frá því heldur bara skálda staðreyndir á sannfærandi hátt.

Hvernig á þá að nota gervigreind?

Ef þú vinnur með viðkvæm gögn eða ert að mata gervigreind á gögnum sem eru persónugreinanleg þá er eina lausnin að nota gervigreind sem keyrir innan fyrirtækisins eða hjá aðila sem ekki er hægt að sækja gögn frá. Skiptir þar öllu máli frá hvaða landi þjónustuaðilinn er, en ekki að gögnin séu hýst í Evrópu. Ef gervigreindin er hýst hjá ytri aðila þá þarf einnig að vera öruggt að ekki sé verið að þjálfa nýjar útgáfur með þínum gögnum og fyrirspurnum.

Til að minnka líkur á ranghugmyndum í niðurstöðum er nauðsynlegt að yfirfara svör gervigreindarinnar og sérstaklega tilvísanir. Ágæt regla er að taka svör frá einni gervigreind og setja þau í aðra og biðja um að svarið sé yfirfarið.

Gervigreind er að valda byltingu á öllum sviðum samfélagsins. Með einungis nokkrum varúðarráðstöfunum er hægt að tryggja öryggi og nýta byltinguna til góðs í stað þess að stinga fingrunum í innstunguna!

Höfundur er sérfræðingur í gerð hugbúnaðarkerfa.