Þurfum við að óttast gervi­greind?

Í síðustu viku sagði einn helsti öryggisrannsakandi Anthropic, fyrirtækisins á bak við Claude, að hann teldi meira en tíu prósenta líkur á að gervigreind gæti tortímt mannkyninu innan næstu tíu ára. Tíu prósent! Það er ansi há tala þegar niðurstaðan er útrýming mannkyns.

Kannski er því ekki skrýtið að fólk sé farið að finna fyrir kvíða vegna gervigreindar.

Slíkur ótti er ekki með öllu nýr. Ný tækni hefur lengi vakið áhyggjur. Ritmálið átti að veikja minnið, prenttæknin að skapa upplýsingaóreiðu og síðar komu sjónvarp, tölvur, internetið og samfélagsmiðlar. Stundum reyndust áhyggjurnar ýktar. Stundum alls ekki.

Þess vegna er ekki skynsamlegt að afgreiða ótta við gervigreind sem enn eitt siðfárið. Þróunin er hröð, afleiðingarnar óljósar og jafnvel fólkið sem þróar tæknina segist ekki vita hvert hún leiðir.

Frá sjónarhóli sálfræðinnar er þetta nánast fullkomin uppskrift að kvíða.

Kvíði nærist á óvissu. Hvað ef starfið mitt hverfur? Hvað ef börnin mín læra ekki að hugsa sjálf? Hvað ef kerfin verða öflugri en við ráðum við? Við reynum gjarnan að minnka slíka óvissu með meiri upplýsingum. Lesum fleiri fréttir, hlustum á fleiri hlaðvörp og fylgjumst með næsta stóra stökkinu í gervigreind. En stundum gerist hið gagnstæða. Dag einn lesum við að gervigreind muni lækna sjúkdóma og auka framleiðni. Daginn eftir að hún muni útrýma milljónum starfa. Þriðja daginn að tíu prósenta líkur séu á að hún útrými okkur öllum. Við ætlum að minnka óvissuna en endum á að mata hana.

Þetta þýðir ekki að áhyggjurnar séu órökréttar. Við eigum að taka alvarlega mögulega áhættu af tækni sem verður sífellt öflugri. En tvær öfgar eru lítið hjálplegar. Að hlæja að allri gagnrýni sem tæknifælni eða haga sér eins og heimsendir sé nánast ákveðinn. Að mínu mati er synsamlegri afstaða að tileinka sér varfærna forvitni. Kynnast tækninni. Prófa hana. Sjá hvað hún getur gert og hvað hún getur ekki gert. Krefjast þess að alvarleg áhætta sé rannsökuð og að einhver beri ábyrgð þegar vélar taka sífellt stærri þátt í mikilvægum ákvörðunum. Við eigum að nota gervigreind þar sem hún hjálpar okkur.

En hugsa okkur vel um áður en við afhendum henni þá hæfni sem við viljum sjálf halda í. Sérstaklega hæfnina til að hugsa. Það er það sem gerir okkur mannleg, jafnvel þó gervigreindin virðist stundum á yfirborðinu betri í að hugsa. Það er ástæða að við köllum þetta „gervi“greind.

Og þegar kemur að kvíðanum sjálfum er kannski gagnlegt að muna að kvíði er ekki alltaf bara vandamál. Í hæfilegu magni er hann gagnlegur. Hann fær okkur til að undirbúa okkur, hugsa okkur um og taka áhættu alvarlega. Andstæðan við kvíða er nefnilega ekki alltaf hugrekki. Stundum er það kæruleysi.

Markmiðið er því ekki að losna við alla óvissu eða allan kvíða. Það tekst sjaldnast, hvorki í meðferð né í lífinu. Markmiðið er að þola óvissuna nógu vel til að geta hugsað skýrt, metið áhættuna og haldið áfram að lifa eðlilegu lífi þótt við höfum ekki öll svörin. Það á við um heilsu, framtíð barna okkar, störfin okkar og nú líka gervigreind.

Við eigum ekki að afneita óttanum. En við eigum heldur ekki að leyfa honum að stjórna. Rétt eins og við eigum ekki að leyfa gervigreindinni að stjórna.

Höfundur er sálfræðingur og lektor við Háskóla Íslands.