Gervi­greindin er ekki ógnin. Ábyrgðar­laus notkun hennar er

Umræða um gervigreind hefur á skömmum tíma orðið ein sú háværasta í nútímasamfélagi. Fyrirsagnir hafa verið stórar, viðvaranir dramatískar og oft er talað eins og mannkynið standi frammi fyrir sjálfstæðri veru sem muni brátt taka yfir. Slík framsetning er ekki aðeins villandi, heldur dregur hún athyglina frá því sem raunverulega skiptir máli.

Gervigreind er ekki siðferðileg vera. Hún hefur engan eigin vilja, enga samvisku, enga ábyrgðarkennd og enga innri stefnu. Hún er ekki lifandi afl sem ákveður eitt eða neitt af sjálfsdáðum. Hún er tæki. Öflugt tæki, vissulega, en tæki engu að síður.

Þess vegna liggur kjarni málsins ekki í því að óttast tæknina sjálfa, heldur í því að spyrja réttu spurninganna um fólkið sem hannar hana, rekur hana og notar hana. Hver á kerfin? Hver stýrir aðgangi að gögnunum? Hver skilgreinir markmiðin? Hver ber ábyrgð þegar notkunin fer yfir mörk? Þar liggur raunveruleg áhætta.

Allt frá upphafi tæknivæðingar hefur maðurinn haft þann eiginleika að skapa verkfæri sem geta bæði bætt líf og valdið skaða. Sama á við um gervigreind. Hún getur hjálpað læknum að greina fyrr, létt undir með kennurum, stutt þjónustu, einfaldað rekstur fyrirtækja og aukið framleiðni í samfélaginu. Hún getur einnig verið notuð til eftirlits, rangfærslna, hegðunarmótunar og valdasöfnunar. Það er þó ekki vegna þess að tæknin hafi tekið siðferðilega afstöðu. Það er vegna þess að fólk tók hana.

Þar með verður umræðan skýrari. Gervigreind er ekki ógn vegna þess að hún „vill“ eitthvað. Hún verður ógn þegar hún er sett í hendur þeirra sem skortir ábyrgð, siðferði eða skýr mörk. Það er ekki reikniritið sem ber siðferðilega ábyrgð. Það gera mennirnir á bak við það.

Af þessum sökum þarf samfélagsumræðan að þroskast. Við þurfum minna af hræðsluáróðri og meira af skýrri umræðu um gagnsæi, eignarhald, menntun, regluverk og ábyrgð. Við þurfum að ræða hvernig kerfi eru þjálfuð, hvaða gögn eru notuð, hvaða hagsmunir ráða ferðinni og hvernig við tryggjum að þessi tækni þjóni fólki í stað þess að fólk verði undir henni.

Það er líka mikilvægt að halda í ákveðna auðmýkt gagnvart því sem er mannlegt. Sama hversu sannfærandi gervigreind verður í tali, greiningu eða hermun, þá er hún ekki manneskja. Hún býr ekki yfir meðvitund í mannlegum skilningi, og hún býr ekki yfir þeirri innri vídd sem margir myndu kalla sál, anda eða kjarna verunnar. Hún getur unnið með orð, mynstur og líkindi, en hún lifir ekki. Hún upplifir ekki. Hún ber ekki innri ábyrgð á tilveru sinni.

Þess vegna er hættulegt þegar umræðan fer út í að persónugera tæknina sjálfa en afpersónugera ábyrgð þeirra sem byggja hana. Þá hættum við að sjá skýrt. Við förum að óttast verkfærið en gleymum hendinni sem heldur á því.

Við eigum ekki að hafna gervigreind. Þvert á móti eigum við að nýta hana þar sem hún getur aukið gæði, stutt við nýsköpun og styrkt samfélagið. En sú nýting verður að byggjast á skýrum siðferðilegum mörkum og raunverulegri ábyrgð. Tæknin má aldrei verða afsökun fyrir siðleysi, valdaójafnvægi eða ábyrgðarleysi.

Niðurstaðan er einföld. Gervigreindin sjálf er ekki ógnin. Ógnin birtist þegar öflug tækni er beitt án siðferðis, án gagnsæis og án ábyrgðar. Þar hefst hin raunverulega umræða. Og þar á hún að vera.

Höfundur er með 30 ára reynslu í tæknigeiranum og hefur aldrei óttast gervigreind. Enginn sem hefur forritað óttast gervigreind. Eins og alltaf með tækni, frá upphafi, þá er það notendur sem þarf að óttast. Ekki tæknina.

Höfundur er stofnandi COB.