Jafngildir það að eyða meðvitaðri gervigreind því að drepa dýr? Hólmfríður Gísladóttir skrifar 4. febrúar 2025 07:24 Stephen Fry er meðal þeirra sem undirrita bréfið. Getty/Sebastian Reuter Yfir 100 vísindamenn og hugsuðir hafa undirritað opið bréf þar sem þeir hvetja til stefnumótunar varðandi þróun gervigreindar með sjálfsmeðvitund og tilfinningar. Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið. Gervigreind Mannréttindi Mest lesið Fagnar „hugrökkum hetjum“ Bandaríkjahers en skrifar um þarmaflóruna á sautjánda júní Innlent Tilkynnt um hóp pilta í grunsamlegum erindagjörðum Innlent Íbúðin í rúst eftir Airbnb-gesti Innlent Skæður hakkarahópur herjar á framlínustarfsmenn Innlent Hiti nær tuttugu stigum víða á morgun Veður Leynileg neyðarfjárveiting Dana til flugvallagerðar á Grænlandi Erlent Elon Musk stofnar nýjan stjórnmálaflokk Erlent Fjörutíu og þrír látnir og umfangsmiklar leitarðagerðir standa yfir Erlent Yfirgangur hins opinbera, þrátefli á þinginu og fráleit þjóðaratkvæðagreiðsla Innlent Leitar að eiganda trúlofunarhrings sem fannst í fjöru Innlent Fleiri fréttir Fjörutíu og þrír látnir og umfangsmiklar leitarðagerðir standa yfir Elon Musk stofnar nýjan stjórnmálaflokk Leynileg neyðarfjárveiting Dana til flugvallagerðar á Grænlandi Tuttugu og fimm stúlkna saknað úr sumarbúðum vegna flóða Minnst þrettán látnir og tuttugu barna saknað eftir flóð í Texas Rússar sagðir nota efnavopn í Úkraínu í auknum mæli Tveir ferðamenn létust í fílaárás í Sambíu Stunguárás í Tampere hvorki talin hryðjuverk né rasísk árás Sænskur glæpaforingi tekinn fastur í Tyrklandi Leiðtogar Hamas sagðir þokast nær því að samþykkja vopnahlé Vilja nýta formennskuna til að láta sverfa til stáls gegn Ungverjum Tugir slasaðir eftir sprengingu á bensínstöð í Róm Hæstiréttur opnar á brottflutning til þriðja ríkis Engin árangur af símtalinu og fjórtán látnir eftir árás á Kænugarð Stóra og fallega frumvarpið verður að lögum Voru á há-áhættu lista BBC fyrir Glastonbury Fjöldi flugferða felldur niður vegna verkfalls franskra flugumferðarstjóra Danskur covid-samsærissinni bendlaður við rússneskan upplýsingahernað Trúarhópar mótmæla Zúmba-kennslu á Indlandi Stjórnlaus gróðureldur ógnar heimilum á Krít „Stóra og fallega frumvarpið“ enn í limbó á þinginu Combs áfram í gæsluvarðhaldi Sautján ára drengur drukknaði á Hróarskeldu Játar að hafa myrt fjórmenningana í Idaho Jimmy Swaggart allur Evrópuríkjum leyft að nota kolefnisjöfnun erlendis í fyrsta skipti Diddy sakfelldur í tveimur af fimm ákæruliðum Boðar arftaka Dalai Lama Paramount lúffar fyrir Trump og greiðir bætur vegna Kamölu Táningsstúlkan sem lést var að teyma íslenskan hest Sjá meira
Segja þeir meðal annars þörf á að huga að því hvernig menn hyggjast nálgast slíkt fyrirbæri, sem gæti mögulega þjáðst af manna völdum. Bréfið er birt samhliða rannsóknarritgerð eftir Patrick Butlin við Oxford-háskóla og Theodoros Lappas við Athens University of Economics and Business, þar sem leggja fram fimm viðmið um þróun slíkrar gervigreindar. Leggja þeir meðal annars til að forgangsraða rannsóknum á meðvitund (e. consciousness) í gervigreind til að koma í veg fyrir misnoktun og þjáningu. Þá hvetja þeir til þess að takmarkanir verði settar á þróun meðvitaðrar gervigreindar, að þróunin verði tekin í skrefum, að niðurstöðum verði deilt með almenningi og að menn forðist að vera of yfirlýsingaglaðir og jafnvel misvísandi í umfjöllun um fyrirbærið. Butlin og Lappas segja mögulegt að sjálfsmeðvituð gervigreind, eða gervigreind sem virðist hafa meðvitund, muni verða að raunveruleika í náinni framtíð. Ef sú gervigreind gæti afritað sjálfa sig gæti sú staða komið upp að allt í einu væri komin fram ný tegund sem taka þyrfti afstöðu til hvað varðar siðferði. Myndi það að eyða slíkri gervigreind til að mynda jafnast á við að drepa dýr? Fræðimennirnir vara hins vegar einnig við því að orku og tíma sé varið í að huga að velferð gervigreindar sem hefur í raun og veru ekki meðvitund. Menn greinir enn á um það hvort gervigreind geti raunverulega talist meðvituð, sem skýrist meðal annars að því að menn eru ekki fullkomlega sammála um skilgreininguna á meðvitund. Guardian fjallar um málið.
Gervigreind Mannréttindi Mest lesið Fagnar „hugrökkum hetjum“ Bandaríkjahers en skrifar um þarmaflóruna á sautjánda júní Innlent Tilkynnt um hóp pilta í grunsamlegum erindagjörðum Innlent Íbúðin í rúst eftir Airbnb-gesti Innlent Skæður hakkarahópur herjar á framlínustarfsmenn Innlent Hiti nær tuttugu stigum víða á morgun Veður Leynileg neyðarfjárveiting Dana til flugvallagerðar á Grænlandi Erlent Elon Musk stofnar nýjan stjórnmálaflokk Erlent Fjörutíu og þrír látnir og umfangsmiklar leitarðagerðir standa yfir Erlent Yfirgangur hins opinbera, þrátefli á þinginu og fráleit þjóðaratkvæðagreiðsla Innlent Leitar að eiganda trúlofunarhrings sem fannst í fjöru Innlent Fleiri fréttir Fjörutíu og þrír látnir og umfangsmiklar leitarðagerðir standa yfir Elon Musk stofnar nýjan stjórnmálaflokk Leynileg neyðarfjárveiting Dana til flugvallagerðar á Grænlandi Tuttugu og fimm stúlkna saknað úr sumarbúðum vegna flóða Minnst þrettán látnir og tuttugu barna saknað eftir flóð í Texas Rússar sagðir nota efnavopn í Úkraínu í auknum mæli Tveir ferðamenn létust í fílaárás í Sambíu Stunguárás í Tampere hvorki talin hryðjuverk né rasísk árás Sænskur glæpaforingi tekinn fastur í Tyrklandi Leiðtogar Hamas sagðir þokast nær því að samþykkja vopnahlé Vilja nýta formennskuna til að láta sverfa til stáls gegn Ungverjum Tugir slasaðir eftir sprengingu á bensínstöð í Róm Hæstiréttur opnar á brottflutning til þriðja ríkis Engin árangur af símtalinu og fjórtán látnir eftir árás á Kænugarð Stóra og fallega frumvarpið verður að lögum Voru á há-áhættu lista BBC fyrir Glastonbury Fjöldi flugferða felldur niður vegna verkfalls franskra flugumferðarstjóra Danskur covid-samsærissinni bendlaður við rússneskan upplýsingahernað Trúarhópar mótmæla Zúmba-kennslu á Indlandi Stjórnlaus gróðureldur ógnar heimilum á Krít „Stóra og fallega frumvarpið“ enn í limbó á þinginu Combs áfram í gæsluvarðhaldi Sautján ára drengur drukknaði á Hróarskeldu Játar að hafa myrt fjórmenningana í Idaho Jimmy Swaggart allur Evrópuríkjum leyft að nota kolefnisjöfnun erlendis í fyrsta skipti Diddy sakfelldur í tveimur af fimm ákæruliðum Boðar arftaka Dalai Lama Paramount lúffar fyrir Trump og greiðir bætur vegna Kamölu Táningsstúlkan sem lést var að teyma íslenskan hest Sjá meira