Veist þú í raun hvernig gervi­greind virkar?

Margir tala um gervigreind eins og hún búi yfir sinni eigin vitneskju, en veruleikinn er flóknari. Þegar gervigreindartól á borð við ChatGPT eða Claude svara spurningum eru þau ekki að fletta upp staðreyndum í gagnagrunni eða rifja upp vistaðar skrár. Vélbúnaðurinn á bak við svörin gerir í raun aðeins eitt: hann giskar á næsta brot úr orði. Allt annað, málfræðin, þekkingin og rökfærslan, sprettur af þessu eina verkefni. Hvernig það gengur upp er ein áhugaverðasta spurning tækninnar í dag.

Hér er rétt að staldra við og útskýra hvernig gervigreindin les texta. Hún sér ekki heil orð eins og við, heldur brýtur hún textann niður í svokallaða tóka (e. tokens). Einn tóki getur verið heilt orð, en oftast er hann aðeins hluti úr orði eða jafnvel eitt atkvæði. En hvað eru þessir tókar fyrir vélinni?

Til að geta unnið með textann breytir líkanið hverjum tóka í samansafn af þúsundum talna, sem kallast vigur (e. vector). Í grunninn má hugsa um hvern vigur sem stefnu í gríðarstóru, stærðfræðilegu rými. Orð sem eru skyld eða merkja eitthvað svipað, eins og „hundur" og „köttur", fá vigra sem benda í mjög svipaða átt, en orð sem eiga ekkert sameiginlegt benda hvort í sína áttina. Og hér gerist það sem gerir tæknina svo öfluga: þessir vigrar eru ekki fastir. Eftir því sem textinn ferðast í gegnum lög líkansins mótast hver vigur af samhenginu í kring. Vigurinn fyrir orðið „gengi" endar þannig á gjörólíkum stað eftir því hvort textinn fjallar um gjaldmiðla eða fótboltalið.

Til að vega og meta þetta samhengi notar líkanið svokallað athygliskerfi (e. attention mechanism), sem reiknar út hvaða fyrri tókar skipta mestu máli hverju sinni. Út frá því reiknar líkanið líkindin á því hvaða tóki ætti rökréttast að fylgja á eftir. Þannig giskar það á næsta tóka, og svo þann næsta, koll af kolli þar til svarið í heild sinni er komið.

Þetta hljómar eflaust kunnuglega, enda er þetta í grunninn skyld hugmynd og sjálfvirk orðafylling (e. auto-complete) í snjallsímanum þínum. Munurinn liggur í umfanginu. Stóru mállíkönin eru þjálfuð á gríðarlegu magni af texta sem mannkynið hefur skapað. Í þjálfunarferlinu leggur vélin textann þó ekki á minnið og vistar engar skrár. Þess í stað notar hún textann til að stilla af milljarða talsins af innri stærðfræðilegum breytum, sem kallast vigtir (e. weights). Í hvert sinn sem vélin reynir að giska á næsta tóka fær hún að vita hvort giskið var rétt eða rangt, og vigtirnar fínstillast örlítið í kjölfarið. Til að giskið gangi upp í öllum þessum aragrúa af texta neyðist vélin til að tileinka sér málfræði, staðreyndir og jafnvel rökhugsun í gegnum vigtirnar. Ekki af því að henni hafi verið kennt það sérstaklega, heldur vegna þess að annars gengi giskið einfaldlega ekki upp.

Er þetta þá „skilningur"? Um það er raunverulega deilt meðal fremstu vísindamanna á sviðinu. Sumir benda á að vélin sé í eðli sínu líkindavél án nokkurrar vitundar um heiminn. Aðrir benda á að til að spá rétt fyrir um texta um heiminn þurfi vélin óhjákvæmilega að byggja upp einhvers konar innra líkan af honum. Svarið skiptir kannski minna máli í daglegri notkun en hitt: að vita hvað vélin gerir vel og hvar henni skrikar fótur.

Ofskynjanir og mörk tækninnar

Tæknin hefur tekið stakkaskiptum á skömmum tíma. Nýjustu líkönin giska ekki lengur eingöngu í blindni. Þau eru farin að geta „hugsað sig um" áður en þau svara. Þau brjóta flókin vandamál niður í smærri skref, rökleiða sig áfram og yfirfara eigin lausnir áður en endanlegt svar birtist. Þau geta jafnvel keyrt eigin kóða eða leitað á netinu til að sannreyna upplýsingar. Í einfaldari verkefnum, eins og að draga saman fyrirliggjandi skjöl, er villutíðni bestu líkananna orðin hverfandi.

En vandinn er ekki úr sögunni. Í flóknari verkefnum fara líkönin stundum enn með fleipur og gera það af fullkominni sannfæringu. Erlendar lögfræðistofur hafa til að mynda lent í því að skila inn skjölum með tilvísunum í dóma sem aldrei féllu. Á fagmáli kallast þetta ofskynjanir (e. hallucinations), og rótin liggur í eðli tækninnar sjálfrar. Þekking líkansins er ekki geymd sem stakar staðreyndir í gagnagrunni, heldur sem flókið mynstur af líkindum í vigtum vélarinnar. Vélin greinir ekki alltaf muninn á mynstri sem byggir á raunverulegum staðreyndum og mynstri sem hljómar bara vel og rökrétt. Þannig getur hún soðið saman ranga niðurstöðu og sett hana fram af sömu fullvissu og blákaldar staðreyndir.

Það kemur svo mörgum á óvart að jafnvel þrautþjálfaðir sérfræðingar eiga erfitt með að meta hvenær vélin hjálpar og hvenær ekki. Bandaríski rannsóknarhópurinn METR gerði tilraun þar sem reyndir forritarar unnu í kóðagrunnum sem þeir þekktu vel, ýmist með eða án gervigreindaraðstoðar. Niðurstaðan var sláandi: forritararnir voru að jafnaði hægari með aðstoð vélarinnar, en töldu sjálfir að hún hefði flýtt fyrir sér. Lærdómurinn er ekki að tólin séu gagnslaus, heldur að ávinningurinn kemur ekki af sjálfu sér. Hann veltur á því hvernig verkefnið er valið, hvernig vélinni er stýrt og hvort notandinn yfirfer vinnuna með gagnrýnum augum. Dómgreind þess sem situr við lyklaborðið hefur með öðrum orðum aldrei skipt meira máli.

Hvað er framundan?

Næsta stóra stökkið liggur í svokallaðri umboðsgervigreind (e. agentic AI). Þar verða vélarnar ekki aðeins aðgerðalaus viðmælandi sem bíður eftir skipunum, heldur sjálfstæðir gerendur. Í stað þess að fá stök svör við stökum spurningum geta notendur falið gervigreindinni yfirgripsmikil verkefni sem hún vinnur að sleitulaust, allt frá því að greina flókin gagnasöfn yfir í að stýra öðrum hugbúnaði og eiga í samskiptum við önnur kerfi. Við erum að færast frá tólum sem við notum yfir í stafræna aðstoðarmenn sem vinna sjálfstætt. Um leið eykst mikilvægi þess að kunna að afmarka verkefni, setja vélinni skorður og sannreyna niðurstöður, því eftir því sem sjálfstæðið vex, vaxa líka afleiðingarnar af villum sem enginn grípur.

Bilið milli notkunar og kunnáttu

Ný könnun Hagstofu Íslands dregur upp áhugaverða mynd af stöðunni hér á landi. Um helmingur íslenskra fyrirtækja notar gervigreind í einhverri mynd. En aðeins fjórðungur getur tilgreint í hvaða verkefnum tæknin er nýtt, og einungis 14 prósent hafa mótað sér stefnu um notkun hennar. Með öðrum orðum: notkunin er útbreidd, en markviss beiting er sjaldgæf. Flest fyrirtæki eru á tilraunastigi án þess að vita hvað þau eru að reyna að ná fram.

Þarna liggur bilið sem mun skipta sköpum á næstu árum. Ávinningurinn af gervigreind er nefnilega ekki línulegur, heldur fellur hann að langmestu leyti í skaut þeirra sem beita tækninni markvisst. Við sjáum þetta hvað skýrast í hugbúnaðargerð, þar sem tólin margfalda afköst þeirra forritara sem kunna á þau: sjá um tímafreka grunnvinnu, finna villur og flýta þróun svo um munar. Verkefni sem áður tóku daga eða vikur geta nú tekið klukkustundir, en aðeins ef sérfræðingurinn við lyklaborðið veit hvernig á að afmarka verkefnið, stýra vélinni og yfirfara vinnuna hennar. Sami einstaklingur með sömu tól en enga aðferðafræði situr uppi með niðurstöður METR-rannsóknarinnar: hægari vinnu og falska öryggistilfinningu.

Gervigreindin mun líklega ekki koma í stað sérfræðinga í bráð, en sérfræðingarnir sem kunna að beita henni munu vafalaust taka fram úr þeim sem gera það ekki. Vélin er í grunninn öflugt líkindatól en ekki alvitur vél. Þeir sem skilja hvort tveggja, styrkleikana og takmarkanirnar, og byggja notkun sína á þeim skilningi frekar en hrifningu einni saman, verða sigurvegarar morgundagsins í atvinnulífinu.

Höfundur er mastersnemi í gervigreind við KTH og meðeigandi í Vestra AI og Slapp.