Gagn­rýnin hugsun skipti máli

Greint var frá því í gær að yfirstjórn Bifrastar hafi notast við gervigreindina Claude til að meta hvort þrír starfsmenn skólans væru réttilega skráðir meðhöfundar tveggja fræðigreina. Eftir því sem fram kemur í gögnum málsins var persónugreinanlegum upplýsingum og höfundarréttarvörðu efni starfsmanna hlaðið upp í spjallmennið.

Fréttastofa hefur minnisblað sem er merkt rannsóknarstjóra og deildarforseta viðskiptadeildar skólans undir höndum. Þar segir að minnisblaðið sé skrifað af gervigreind og ber þess augljós merki. Gervigreindin ber fræðigrein eftir einn starfsmann Bifrastar saman við aðra grein sem tveir starfsmenn eru merktir fyrir og metur hana því ekki á eigin grundvelli. Lögmaður starfsmannanna segir röksemdafærslu gervigreindarinnar loðna og rökin óskýr. Minnisblaðið má berja augum í spilaranum hér að neðan.

Starfsmenn Bifrastar hafa lýst yfir vantrausti á rektor, deildarforseta viðskiptadeildar og rannsóknarstjóra. Málið er nú til skoðunar hjá stjórn og siðanefnd skólans. Persónuvernd barst veður af málinu í desember. Helga Þórisdóttir, forstjóri Persónuverndar, staðfesti í samtali við fréttastofu í dag að málið væri nú formlega til skoðunar.

María Rún Bjarnadóttir, sérfræðingur í tæknirétti, segir gervigreindinni takmörk sett. Gæði gagna og eðli vinnu skipti máli. Hún tekur fram að hún þekki ekki til þessa tiltekna máls.

„Það skiptir máli að við nýtum gervigreind með gagnrýnum hætti, að við tökum því ekki sem gefnu sem kemur út úr henni heldur beitum einmitt mannlegri dómgreind á það sem út úr henni kemur. Við verðum að treysta því að það sé gert á viðeigandi stöðum.“

Í gögnum málsins kemur fram að rektor hafi óskað eftir því við siðanefnd skólans að starfsmennirnir þrír yrðu ekki upplýstir um að mál þeirra væri til skoðunar. Í svörum siðanefndar segir að það verklag gangi ekki upp þar sem það fari gegn reglum stjórnsýsluréttar.

„Reglur stjórnsýsluréttarins eru tiltölulega skýrar um það hvaða réttindi aðilar eiga þegar um er að ræða mál sem að þau varða.“

Lögmaður starfsmannanna telur vinnubrögð yfirstjórnar Bifrastar vinna gegn sjónarmiðum um persónuvernd og höfundarrétt.

„Það kemur fram í skilmálum flestra gervigreindarforrita að það sé ekki heimilt að nýta þau með þeim hætti sem brýtur í bága við lög. Til að nýta persónugreinanlegar upplýsingar þá þurfa að liggja fyrir heimildir. Þær geta verið lögbundnar eða með samþykki.“

Logi Einarsson, menningar-, nýsköpunar- og háskólaráðherra, sagði nýjar áskoranir fylgja nýrri tækni þegar fréttastofa ræddi við hann um málið að loknum ríkisstjórnarfundi í morgun.

„Fólk þarf bara að fóta sig í þessari nýju tækni og beita varúð.“