„Ég er ekki ég, ég er annar“ Þorsteinn Siglaugsson skrifar 31. janúar 2024 11:31 Ég rakst um daginn á auglýsingu frá ansi hreint sniðugu sænsku fyrirtæki, sem hefur þróað gervigreindarlausn sem sendir út tölvupósta og skilaboð, svarar og bókar sölufundi, allt í nafni nafngreindra sölufulltrúa. Þetta fyrirtæki virðist fara vel af stað og mikill áhugi á þjónustunni. Það kemur ekki á óvart, enda mikill ávinningur af sjálfvirkninni Þetta er afmarkað svið, en langt í frá það eina þar sem slíkar lausnir munu ná fótfestu og eru nú þegar teknar að ná henni. Innan skamms verður orðið algengt að fólk láti gervigreind ekki aðeins skrifa og svara tölvupóstum og öðrum skilaboðum í eigin nafni, heldur einnig að líkja eftir eigin rödd í símtölum og líkja bæði eftir eigin rödd og persónu á fjarfundum. Þannig verður hægt að margfalda eigin afköst með því að afrita sjálfan sig. "Ég er ekki ég, ég er annar" söng Megas forðum. Það verða brátt orð að sönnu. Hvar liggja mörkin milli einstaklingsins og afritsins? Gervigreindarlíkönin eru bæði mjög vel fær um að líkja eftir ritstíl og þess vegna talanda einstaklinga og auðvelt er að mata þau með upplýsingum sem gera eftirlíkinguna trúverðuga. Fyrst um sinn má búast við að slíkar eftirlíkingar verði helst notaðar í starfstengdum tilgangi, en það á eftir að breytast fljótt. Innan skamms má gera ráð fyrir að fólk noti slíka möguleika einnig í persónulegum samskiptum. Vandinn er að þau okkar sem nýta tæknina á þennan hátt geta fljótt hætt að vita nákvæmlega hvað hefur verið sagt og gert í þeirra nafni og hvaða skilaboðum hefur verið komið á framfæri við eftirmyndina. Á endanum grundvallast sjálfsmynd einstaklingsins og sú mynd sem aðrir hafa af honum á þeim samskiptum sem hann á við samferðafólk sitt og þeim endurminningum sem á þeim byggja. Freistingin til að afrita okkur sjálf er því líklega ein stærsta ógnin af gervigreindinni. Þessi freisting getur nefnilega á undraskömmum tíma valdið því að við glötum stjórn á eigin lífi, missum sjónar á því hver við erum. Ábyrgðin liggur hjá okkur sjálfum Litlar sem engar líkur eru á að löggjöf eða reglugerðir muni hindra þessa þróun. Tæknin er komin til að vera, freistingin til að nota hana er of sterk, þörfin of rík til að við látum það eiga sig. Þeim sem ná að nýta sér þessa möguleika markvisst mun farnast betur, rétt eins og þeim sem ná að nýta sér önnur tækifæri til að auka eigin hæfni og afköst sem gervigreindin býður upp á. En verði ekkert að gert er ljóst að sá hópur verður miklu stærri sem fer hallloka, þau sem glata stjórn á eigin lífi og renna saman við eftirlíkingarnar. Nýju mállíkönin eru eðlisólík öllum öðrum tækninýjungum. Þessi sérstaða grundvallast á hæfileika þeirra til að beita tungumálinu og læra af og líkja eftir lifandi fólki. Afleiðingarnar eru okkur flestum enn aðeins að litlu leyti ljósar. Við munum nýta okkur þessa tækni, því gerum við það ekki drögumst við aftur úr öðrum. Um leið er hættan á því að við missum stjórn á eigin lífi raunveruleg. Enginn getur hindrað það nema við sjálf. Til þess verðum við að þekkja tæknina og tækifærin og ógnirnar sem henni fylgja. Það er þó ekki nóg. Til að halda stjórninni verðum við að styrkja markvisst okkar eigin meðvitund um hvað skiptir okkur máli og okkar eigin getu til að hugsa skýrt. Og við verðum að hefjast handa strax. Höfundur er stjórnendaþjálfari og sérfræðingur í röklegri greiningu og hagnýtingu gervigreindar. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Mest lesið 90 milljarða vannýtt útflutningstækifæri Vilhjálmur Hilmarsson Skoðun Við getum öll bjargað lífi Kristófer Kristófersson Skoðun Opið bréf til innviðaráðherra Eyjólfur Þorkelsson Skoðun Hin dásamlega sturlun: Umræðan á Íslandi Davíð Bergmann Skoðun Að bjarga þjóð Jón Baldvin Hannibalsson Skoðun „Hristir í stoðum“ RÚV? Hermann Stefánsson Skoðun Háskóli Íslands. Opinn og alþjóðlegur? Styrmir Hallsson,Abdullah Arif Skoðun Nýtt örorkulífeyriskerfi Inga Sæland Skoðun Látum verkin tala fyrir börnin á Gaza Gunnar Axel Axelsson Skoðun Það er heldur betur vitlaust gefið á Íslandi Jónas Yngvi Ásgrímsson Skoðun Skoðun Skoðun Það sem gerist þegar formúlur og fordómar hafa of mikil áhrif Matthildur Björnsdóttir skrifar Skoðun Látum verkin tala fyrir börnin á Gaza Gunnar Axel Axelsson skrifar Skoðun 90 milljarða vannýtt útflutningstækifæri Vilhjálmur Hilmarsson skrifar Skoðun Tvær sögur Egill Þ. Einarsson skrifar Skoðun Stærsta kjarabót öryrkja í áratugi Ingjibjörg Isaksen skrifar Skoðun Að bjarga þjóð Jón Baldvin Hannibalsson skrifar Skoðun Háskóli Íslands. Opinn og alþjóðlegur? Styrmir Hallsson,Abdullah Arif skrifar Skoðun Nýtt örorkulífeyriskerfi Inga Sæland skrifar Skoðun Það er heldur betur vitlaust gefið á Íslandi Jónas Yngvi Ásgrímsson skrifar Skoðun Að bera harm sinn í hljóði Gunnhildur Ólafsdóttir skrifar Skoðun Velferð sem virkar Guðrún Hafsteinsdóttir skrifar Skoðun Gleðileg ný fiskveiðiáramót …von eða ótti? Arnar Laxdal skrifar Skoðun „Hristir í stoðum“ RÚV? Hermann Stefánsson skrifar Skoðun Opið bréf til innviðaráðherra Eyjólfur Þorkelsson skrifar Skoðun Hin dásamlega sturlun: Umræðan á Íslandi Davíð Bergmann skrifar Skoðun Áhrif, evran, innviðir, öryggi Magnús Árni Skjöld Magnússon skrifar Skoðun Hugleiðing um rauð epli og skynjun veruleikans Gauti Páll Jónsson skrifar Skoðun Tumi þumall og blaðurmaðurinn Kristján Logason skrifar Skoðun Tímamót í velferðarmálum: Nýtt örorkulífeyriskerfi tekur gildi Guðmundur Ingi Guðbrandsson skrifar Skoðun Stefnum á að veita 1000 börnum innblástur fyrir framtíðina Dr. Bryony Mathew skrifar Skoðun Samgönguáætlun – skuldbinding, ekki kosningaloforð skrifar Skoðun Menntun til framtíðar Bryngeir Valdimarsson skrifar Skoðun Við getum öll bjargað lífi Kristófer Kristófersson skrifar Skoðun Finnst ykkur þetta í lagi? Opinn pistill til heilbrigðisráðherra, landlæknis og forystu heilbrigðiskerfisins Steindór Þórarinsson skrifar Skoðun Menntastefna stjórnvalda – ferð án fyrirheits? Sigvaldi Egill Lárusson skrifar Skoðun Fyrir hvern erum við að byggja? Jóhanna Dýrunn Jónsdóttir skrifar Skoðun Beint og milliliðalaust Jón Steindór Valdimarsson skrifar Skoðun Áfengissala: Þrýstingur úr tveimur áttum Ögmundur Jónasson skrifar Skoðun Hver vill heyra um eitthvað jákvætt sem er gert í skólunum? Rakel Linda Kristjánsdóttir skrifar Skoðun Enn af ferðum Angelu Müller. Eru erlendir ferðamenn afætur? BJarnheiður Hallsdóttir skrifar Sjá meira
Ég rakst um daginn á auglýsingu frá ansi hreint sniðugu sænsku fyrirtæki, sem hefur þróað gervigreindarlausn sem sendir út tölvupósta og skilaboð, svarar og bókar sölufundi, allt í nafni nafngreindra sölufulltrúa. Þetta fyrirtæki virðist fara vel af stað og mikill áhugi á þjónustunni. Það kemur ekki á óvart, enda mikill ávinningur af sjálfvirkninni Þetta er afmarkað svið, en langt í frá það eina þar sem slíkar lausnir munu ná fótfestu og eru nú þegar teknar að ná henni. Innan skamms verður orðið algengt að fólk láti gervigreind ekki aðeins skrifa og svara tölvupóstum og öðrum skilaboðum í eigin nafni, heldur einnig að líkja eftir eigin rödd í símtölum og líkja bæði eftir eigin rödd og persónu á fjarfundum. Þannig verður hægt að margfalda eigin afköst með því að afrita sjálfan sig. "Ég er ekki ég, ég er annar" söng Megas forðum. Það verða brátt orð að sönnu. Hvar liggja mörkin milli einstaklingsins og afritsins? Gervigreindarlíkönin eru bæði mjög vel fær um að líkja eftir ritstíl og þess vegna talanda einstaklinga og auðvelt er að mata þau með upplýsingum sem gera eftirlíkinguna trúverðuga. Fyrst um sinn má búast við að slíkar eftirlíkingar verði helst notaðar í starfstengdum tilgangi, en það á eftir að breytast fljótt. Innan skamms má gera ráð fyrir að fólk noti slíka möguleika einnig í persónulegum samskiptum. Vandinn er að þau okkar sem nýta tæknina á þennan hátt geta fljótt hætt að vita nákvæmlega hvað hefur verið sagt og gert í þeirra nafni og hvaða skilaboðum hefur verið komið á framfæri við eftirmyndina. Á endanum grundvallast sjálfsmynd einstaklingsins og sú mynd sem aðrir hafa af honum á þeim samskiptum sem hann á við samferðafólk sitt og þeim endurminningum sem á þeim byggja. Freistingin til að afrita okkur sjálf er því líklega ein stærsta ógnin af gervigreindinni. Þessi freisting getur nefnilega á undraskömmum tíma valdið því að við glötum stjórn á eigin lífi, missum sjónar á því hver við erum. Ábyrgðin liggur hjá okkur sjálfum Litlar sem engar líkur eru á að löggjöf eða reglugerðir muni hindra þessa þróun. Tæknin er komin til að vera, freistingin til að nota hana er of sterk, þörfin of rík til að við látum það eiga sig. Þeim sem ná að nýta sér þessa möguleika markvisst mun farnast betur, rétt eins og þeim sem ná að nýta sér önnur tækifæri til að auka eigin hæfni og afköst sem gervigreindin býður upp á. En verði ekkert að gert er ljóst að sá hópur verður miklu stærri sem fer hallloka, þau sem glata stjórn á eigin lífi og renna saman við eftirlíkingarnar. Nýju mállíkönin eru eðlisólík öllum öðrum tækninýjungum. Þessi sérstaða grundvallast á hæfileika þeirra til að beita tungumálinu og læra af og líkja eftir lifandi fólki. Afleiðingarnar eru okkur flestum enn aðeins að litlu leyti ljósar. Við munum nýta okkur þessa tækni, því gerum við það ekki drögumst við aftur úr öðrum. Um leið er hættan á því að við missum stjórn á eigin lífi raunveruleg. Enginn getur hindrað það nema við sjálf. Til þess verðum við að þekkja tæknina og tækifærin og ógnirnar sem henni fylgja. Það er þó ekki nóg. Til að halda stjórninni verðum við að styrkja markvisst okkar eigin meðvitund um hvað skiptir okkur máli og okkar eigin getu til að hugsa skýrt. Og við verðum að hefjast handa strax. Höfundur er stjórnendaþjálfari og sérfræðingur í röklegri greiningu og hagnýtingu gervigreindar.
Skoðun Það sem gerist þegar formúlur og fordómar hafa of mikil áhrif Matthildur Björnsdóttir skrifar
Skoðun Tímamót í velferðarmálum: Nýtt örorkulífeyriskerfi tekur gildi Guðmundur Ingi Guðbrandsson skrifar
Skoðun Finnst ykkur þetta í lagi? Opinn pistill til heilbrigðisráðherra, landlæknis og forystu heilbrigðiskerfisins Steindór Þórarinsson skrifar
Skoðun Hver vill heyra um eitthvað jákvætt sem er gert í skólunum? Rakel Linda Kristjánsdóttir skrifar
Skoðun Enn af ferðum Angelu Müller. Eru erlendir ferðamenn afætur? BJarnheiður Hallsdóttir skrifar