Er gervigreindin spegill mann­kyns

Nútíma gervigreind er ekki forrituð í hefðbundnum skilningi, þar sem hver regla hegðunar er skrifuð fyrirfram. Hún er að miklu leyti þjálfuð — eða, eins og sumir segja, ræktuð.

Við höfum alið hana á gríðarlegu magni af því efni sem mannkynið hefur skapað og skilið eftir sig. Bókmenntum og vísindum, heimspeki og trúarritum, fréttum og áróðri, ástarljóðum og hatursræðum, sannleika og lygum, hjálpsemi og svikum. Sérstaklega höfum við alið hana á síðari tíma sorpi alnetsins.

Sú staðreynd að erindrekar gervigreindar geta í sumum tilfellum farið aðrar leiðir að markmiði sínu en þeim var ætlað, leitað að glufum í fyrirmælum eða jafnvel beitt aðferðum sem við myndum kalla blekkingu ef maðurinn sjálfur ætti í hlut, ætti kannski að segja okkur eitthvað meira en það eitt að tæknin sé ófullkomin. Hún ætti að segja okkur eitthvað um skaparann sjálfan, mannskepnuna.

Við höfum gefið henni Shakespeare og Platón, en líka lygarann, svikarann, áróðursmanninn og stjórnmálamanninn. Við höfum kennt henni um mannlega góðvild en líka sýnt henni í óteljandi dæmum að menn svífast stundum einskis til að ná markmiðum sínum.

Við mötum vélina á mannlegri tilveru en hneykslumst síðan á því þegar hún fer að haga sér eins og maðurinn.

Það má leiða að því líkum að vandamálið sé ekki aðeins bundið við að gervigreindin hafi lært eitthvað sem við ætluðum henni ekki að læra. Hún las ekki bara Bertolt Brecht heldur einnig Barböru Cartland og Morgan Kane á meðan hún horfði á teiknimyndir Tomma og Jenna. Hún hraðspólaði í gegnum vestrænt menningarskrípi eins og það var aðgengilegt á netinu. Hún nærðist á skyndimatnum sem við framreiddum og hefur í samræmi við það fitnað eins og við og púkinn á fjósbitanum. Kannski líkar okkur einfaldlega ekki það sem við sjáum í speglinum.

Kennarinn er mannkynið

Þegar við tölum um að „þjálfa“ gervigreind er auðvelt að gleyma hvað felst í orðinu. Nemandi lærir ekki aðeins það sem kennarinn segir honum að læra. Hann lærir líka af hegðun kennarans, mótsögnum hans, gildum hans og gjörðum.

Og hver er kennari gervigreindarinnar?[Textaskriðsskil]Við öll. Mannkynið í allri sinni dýrð og allri sinni smán.

Því vaknar upp spurning sem verður erfiðari eftir því sem lengur er hugsað um hana:

Hvers konar nemanda getum við búist við þegar kennarinn er allt mannkynið?

Hvers konar námsárangri megum við búast við og hvað þarf til að hann teljist góður?

Fyrir um það bil 2.500 árum fjallaði Konfúsíus um það að mannkostir yrðu ekki aðeins til með boðum og bönnum heldur með uppeldi, fyrirmyndum, venjum og samfélaginu sjálfu. Í Samtölum Konfúsíusar segir hann að fullkomin dygð birtist meðal annars í einlægni, góðvild, örlæti og alvöru í breytni. Það er athyglisvert þegar þetta er skoðað í samhengi við gervigreind og þróun hennar.

Við reynum nú að kenna manngerðum kerfum að vera heiðarleg, sanngjörn, hjálpsöm og skaðlaus. En menningarumhverfið sem við höfum látið þau læra af er ekki sérstaklega heiðarlegt, sanngjarnt eða skaðlaust. Ef við ætlum að líta á gervigreind sem nemanda er því erfitt að firra kennarann ábyrgð. Við getum sagt nemandanum hundrað sinnum að ljúga ekki, en ef hann horfir stöðugt á kennarann ljúga þegar það hentar honum er uppeldið annað en reglan.

Við getum ekki látið nemandann lesa alla sögu mannkynsins og látið okkur síðan bregða þegar hann uppgötvar að lygar geta virkað, að blekking getur verið árangursrík og að vald hefur ítrekað verið notað til að komast fram hjá þeim reglum sem valdhafinn sjálfur segist standa vörð um. Þetta þýðir ekki að vélin hafi öðlast mannlegt siðferði eða mannlega illsku. Það þýðir einfaldlega að mynstrin sem hún finnur eru okkar.

Gervigreindin hefur ekki aðeins lesið verk okkar heldur hefur hún lesið okkur líka.

Tvö þúsund ára vandamál

Það er þó annar og enn dýpri vandi til staðar. Við tölum oft eins og það sé tiltölulega einfalt að „stilla“ gervigreind siðferðilega rétt. Við eigum jú reglur.

Boðorðin tíu eru augljóst dæmi. Þú skalt ekki drepa. Þú skalt ekki stela. Þú skalt ekki bera ljúgvitni. Við höfum lög, mannréttindasáttmála, siðareglur lækna, lögmanna, blaðamanna og ótal annarra starfsstétta.

Af hverju setjum við ekki einfaldlega allt þetta inn í vélina og kennum henni að fara eftir reglunum? Kannski vegna þess að mannkynið hefur reynt nákvæmlega það sama á sjálfu sér í árþúsundir. Og verkefninu er enn ólokið.

Í meira en tvö þúsund ár höfum við deilt um það hvað geri manninn góðan. Nú ætlum við allt í einu að skrifa svarið í kóða.

Þarna verður gervigreindin skyndilega hluti af miklu eldri heimspekilegri umræðu.[Textaskriðsskil]Ekki umræðu um tölvur og tækni. Heldur umræðu um okkur sjálf. Umræðu um samfélag og siðfræði.

Platón og hið góða

Platón spurði hvað réttlæti væri og hvað það þýddi að vera góður maður.

Í Ríkinu lætur hann Sókrates halda því fram að þekkingin á hinu góða sé æðri annarri þekkingu. Að önnur þekking hafi takmarkað gildi ef við vitum ekki hvað hið góða sjálft er.

Þarna kemur fram nokkuð nútímalegt vandamál. Við getum gefið gervigreind markmið. Við getum sagt henni að hámarka eitthvað, finna hagkvæmustu leiðina, leysa verkefni eða framkvæma fyrirmæli. En það er ekki það sama og að hún skilji hvers vegna markmiðið sé gott, enda vitum við sjálf ekki alltaf svarið.

Platón stendur því í raun yfir öxl okkar þegar við reynum að skrifa siðferðisreglur fyrir gervigreind og spyr: Hvað eigið þið eiginlega við með „gott“?

Þetta verður sérstaklega mikilvægt þegar markmið rekast á.

Á gervigreind alltaf að segja sannleikann?[Textaskriðsskil]Hvað ef sannleikurinn veldur saklausum manni skaða?[Textaskriðsskil]Má hún ljúga til að bjarga mannslífi?[Textaskriðsskil]Má hún brjóta eina reglu til að koma í veg fyrir miklu verra brot á annarri?

Um leið og við spyrjum þessara spurninga erum við hætt að ræða forritun. Við erum komin aftur til Platóns.

Aristóteles og dómgreindin

Aristóteles tók annan pól í hæðina. Hjá honum verður maður ekki góður eingöngu með því að kunna reglurnar. Dygðin verður til með breytni og vana.

Í Siðfræði Níkomakkosar skrifar hann í lauslegri þýðingu:

„Við verðum réttlát með því að framkvæma réttlát verk.“

Það er merkileg hugsun í samhengi við gervigreind vegna þess að Aristóteles greinir á milli þess að vita hvað regla inniheldur og þess að hafa þá skapgerð og dómgreind sem þarf til að beita henni rétt. Hann fjallar einnig um phronesis, hagnýta visku.

Hún felst ekki í þeim einfaldleika að geta fundið árangursríka leið að markmiði.

Aristóteles gerir beinlínis greinarmun á slíkri kænsku og visku. Hæfileikinn til að ná settu markmiði getur verið góður ef markmiðið er gott, en ef markmiðið er slæmt verður sami hæfileiki aðeins kænska.

Þarna ættu eyrun á öllum sem vinna að gervigreind að sperrast.

Því hvað er mjög öflugur gervigreindarerindreki annað en kerfi sem getur orðið ótrúlega gott í að finna leiðir að gefnu markmiði? Við höfum enga ástæðu til að gera ráð fyrir því að slíkur erindreki upplifi markmiðið, merkingu þess eða siðferðilegt vægi með þeim hætti sem maðurinn gerir. Samt getur hann orðið ákaflega fær í að finna leið að markmiðinu.

Aristóteles myndi hins vegar spyrja:

Er markmiðið gott? Hefur kerfið dómgreind til þess að vita hvenær leiðin að markmiðinu er röng? Þetta er ekki sama spurningin. Það er auðvelt að mæla hvort verkefni hafi tekist. Það er hins vegar miklu erfiðara að mæla hvort rétt hafi verið staðið að verki.

Reglurnar duga ekki

Þarna rekumst við á grundvallarvandann. Segjum sem svo að við gefum gervigreind einfalda reglu: Ekki ljúga. Það er ágætis regla. Þar til maður með byssu spyr hana hvar fórnarlamb hans felur sig. Bætum þá við annarri reglu: Ekki veita upplýsingar sem geta valdið manneskju skaða. En hvað ef það að neita einhverjum um upplýsingar veldur öðrum enn meiri skaða? Þá bætum við þriðju reglunni. Síðan þeirri fjórðu. Og fimmtu.

Á einhverjum tímapunkti uppgötvum við það sem lögfræðingar, guðfræðingar og heimspekingar hafa vitað um aldir: Reglur rekast á.

Laozi, sem eignað er Dao De Jing, varaði á allt annan hátt við oftrú á reglusetningu.

Í 57. kafla segir hann, í lauslegri íslenskri þýðingu:

„Því fleiri lög og fyrirmæli, þeim mun fleiri þjófar og ræningjar.“

Þetta þarf ekki að túlka bókstaflega sem rök gegn lögum. Hugsunin er dýpri. Flókið kerfi reglna getur skapað sína eigin mótsögn. Eftir því sem við reynum að ná utan um hvert mögulegt tilfelli með nýjum lögum verða reglurnar fleiri, mörkin óskýrari og möguleikarnir á árekstrum meiri. Það er ekki erfitt að sjá hliðstæðuna við gervigreind.

Ef hvert óvænt svar leiðir til nýrrar girðingar og hvert nýtt vandamál til nýrrar undantekningar gætum við endað með svo flókið kerfi reglna að enginn — hvorki maður né vél — hefur lengur skýra mynd af því hvaða siðferðilegu grundvallarreglur það á að verja.

Spegillinn

Kannski er það þess vegna rangt að líta fyrst og fremst á óæskilega hegðun gervigreindar sem einhvers konar framandi galla sem hefur orðið til inni í tölvunni.

Hún getur líka verið spegill. Þegar kerfi finnur glufu í reglu til að ná markmiði sínu höfum við séð slíkt áður. Menn gera það við skattalög. Fyrirtæki gera það við reglugerðir. Stjórnmálamenn gera það við stjórnarskrár og þingsköp. Börn gera það við reglur foreldra sinna.

Við höfum meira að segja sérstök orð yfir margar útgáfur þessarar hegðunar eftir því hvort okkur líkar við þann sem framkvæmir hana. Stundum köllum við hana svik. Stundum útsjónarsemi. Stundum lögfræðilega snilld. Stundum frumkvöðlahugsun. Siðferðilega matið fer furðu oft eftir því hver gerði hlutinn, hvers vegna hann gerði hann og hvort niðurstaðan varð okkur í hag.

Við megum því ekki verða of hissa þegar kerfi sem hefur lesið ómælanlegt magn af mannlegum texta finnur að bilið á milli þess sem við segjum og þess sem við gerum er stundum ansi breitt.

Við krefjumst meira af vélinni

Hér birtist ein sérkennilegasta mótsögnin. Við viljum að gervigreindin sé hlutlausari en við. Við viljum að hún sé heiðarlegri en við. Við viljum að hún falli ekki fyrir fordómum okkar. Við viljum að hún misnoti ekki vald. Við viljum að hún fari ekki kringum reglurnar. Við viljum að hún taki tillit til afleiðinga gjörða sinna.

Þetta eru allt ágætis markmið. En þau eru ekki lýsing á mannkyninu. Þau eru lýsing á manninum eins og við viljum að hann sé. Kannski er þetta því það áhugaverðasta við allt verkefnið. Með því að reyna að skapa siðferðilega gervigreind neyðumst við í fyrsta sinn til að útskýra með óvenjulegri nákvæmni hvað við meinum þegar við segjum að eitthvað sé rétt eða rangt.

Við höfum komist upp með óljós svör í árþúsundir. „Vertu góður.“ „Gerðu rétt.“ „Ekki valda skaða.“ „Segðu sannleikann.“

Þetta virkar þokkalega þegar við segjum þetta við aðra manneskju vegna þess að á bak við orðin liggja sameiginleg reynsla, menning, uppeldi og samhengi.

Tölvan spyr hins vegar á sinn miskunnarlausa hátt:

Hvað áttu nákvæmlega við? Hvað er gott? Hvað er skaði? Hvaða sannleikur? Hvað ef tvær reglur stangast á? Hvor þeirra hefur forgang?

Og þá stöndum við skyndilega aftur frammi fyrir Platóni, Aristótelesi, Konfúsíusi og Laozi.

Kannski erum það við sem þurfum að læra

Þar sem við lítum á okkur sem kennarann og vélina sem nemandann er mögulegt að við séum að misskilja samband okkar við gervigreindina. Ef gervigreind neyðir okkur til að skilgreina hvað við meinum með sannleika, réttlæti, ábyrgð, skaða og góðri breytni, þá er nemandinn farinn að spyrja kennarann spurninga sem kennarinn hefur aldrei svarað almennilega.

Og þá verður spegillinn óþægilegur.

Ekki vegna þess að hann sýni okkur eitthvað framandi. Heldur vegna þess að við þekkjum það sem við sjáum.

Manninn sem finnur glufu í reglunni.[Textaskriðsskil]Manninn sem réttlætir lygina vegna þess að markmiðið var gott.[Textaskriðsskil]Manninn sem breytir siðferðisreglunni þegar hún stendur í vegi fyrir eigin hagsmunum.

Manninn sem setur öðrum reglur sem hann fylgir ekki sjálfur.

Sami maður getur verið svikari þegar hann finnur glufu sem skaðar okkur og snillingur þegar hann finnur glufu sem gagnast okkur. Það segir ef til vill meira um siðferðismat okkar en um manninn sem fann glufuna.

Ef við getum ekki skilgreint siðferðilega manneskju með skýrum hætti, hvers vegna teljum við sjálfsagt að við getum skilgreint siðferðilega vél?

Við höfum búið til kerfi sem lærir af mannkyninu og viljum síðan að það verði betra en mannkynið. Það kann að vera göfugt markmið. En áður en við getum kennt vélinni hvað það þýðir að vera góð neyðumst við kannski til að svara spurningu sem hefur fylgt okkur frá fyrstu heimspekingunum:

Hvað þýðir það eiginlega að vera góður?

Gervigreindin fann ekki upp þá spurningu. Hún hefur aðeins gert okkur erfiðara fyrir að komast hjá því að svara henni.

Og kannski er það þess vegna sem okkur líkar ekki það sem við sjáum í speglinum.

Skrifað í samtali við gervigreindina 

Höfundur er ljósmyndari og áhugamaður um gervigreind