Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Enn einn kvennahópurinn sem þarf bara að vera duglegri að harka af sér? Diljá Mist Einarsdóttir Skoðun Flumbrugangur í framhaldsskólum Jón Pétur Zimsen Skoðun Ert þú meðalmaðurinn? Jóhann Óskar Jóhannsson Skoðun PCOS: Er ódýrara að halda heilsu eða meðhöndla veikindi? Elísa Ósk Línadóttir Skoðun Miðbær Selfoss vekur ánægju Bragi Bjarnason Skoðun „Words are wind“ Skoðun Be Kind - ekki kind Aðalheiður Mjöll Þórarinsdóttir ,Perla Magnúsdóttir Skoðun Opinn og alþjóðlegur: Krísa erlendra nemenda við íslenska háskóla Melissa Anne Pfeffer Skoðun Nútímaviðskipti og lögin sem gleymdist að uppfæra Fróði Steingrímsson Skoðun Illa verndaðir Íslendingar Sighvatur Björgvinsson Skoðun Skoðun Skoðun Nú þarf bæði sleggju og vélsög Trausti Hjálmarsson,Ólafur Stephensen skrifar Skoðun Nútímaviðskipti og lögin sem gleymdist að uppfæra Fróði Steingrímsson skrifar Skoðun Sjálfsvíg eru ekki óumflýjanleg Sigurþóra Bergsdóttir skrifar Skoðun „Words are wind“ skrifar Skoðun Ert þú meðalmaðurinn? Jóhann Óskar Jóhannsson skrifar Skoðun Enn einn kvennahópurinn sem þarf bara að vera duglegri að harka af sér? Diljá Mist Einarsdóttir skrifar Skoðun Flumbrugangur í framhaldsskólum Jón Pétur Zimsen skrifar Skoðun Miðbær Selfoss vekur ánægju Bragi Bjarnason skrifar Skoðun PCOS: Er ódýrara að halda heilsu eða meðhöndla veikindi? Elísa Ósk Línadóttir skrifar Skoðun Opinn og alþjóðlegur: Krísa erlendra nemenda við íslenska háskóla Melissa Anne Pfeffer skrifar Skoðun Be Kind - ekki kind Aðalheiður Mjöll Þórarinsdóttir ,Perla Magnúsdóttir skrifar Skoðun Illa verndaðir Íslendingar Sighvatur Björgvinsson skrifar Skoðun Viðreisn afhjúpar sig endanlega Hjörtur J. Guðmundsson skrifar Skoðun Heimalestur – gæðastund en ekki grátur og gnístan tanna Svava Þ. Hjaltalín skrifar Skoðun Frelsi til sölu Erling Kári Freysson skrifar Skoðun Vangaveltur um íslenskt barnaefni – Hvers vegna skiptir það máli að börn heyri sjálf sig? Tinna Björg Kristinsdóttir,Valdimar Gylfason skrifar Skoðun Móðir í Breiðholti hjólar 5.000 kílómetra Sara Björg Sigurðardóttir skrifar Skoðun Viðreisn lætur verkin tala Þorgerður Katrín Gunnarsdóttir skrifar Skoðun Sterkara framhaldsskólakerfi Guðmundur Ingi Kristinsson skrifar Skoðun Hægfara endalok sjónvarps útsendinga fyrir móttöku á loftneti á Íslandi Jón Frímann Jónsson skrifar Skoðun Eru Íslendingar feigir? Olíuvinnsla! Sigurður Loftur Thorlacius skrifar Skoðun Ástæðan fyrir því að við þurfum möguleika á dánaraðstoð Ingrid Kuhlman skrifar Skoðun Heimur á heljarþröm? Innflutningur á hatursorðræðu til Íslands! Arna Magnea Danks skrifar Skoðun Einföld og skiljanleg kerfi sem virka fyrir fólk og fyrirtæki Hanna Katrín Friðriksson skrifar Skoðun Er veganismi á undanhaldi? Aldís Amah Hamilton,Kristín Helga Sigurðardóttir,Adelina Antal,Hanna Halldórsdóttir,Sigrún Elfa Kristinsdóttir,Lowana Veal skrifar Skoðun Lýðræðið tekið úr höndum nemenda í Lundarskóla Benedikt Már Þorvaldsson skrifar Skoðun Geðheilbrigði er mannréttindamál Svava Arnardóttir skrifar Skoðun Stuðningsyfirlýsing forstöðumanna Sólheima Elfa Björk Kristjánsdóttir skrifar Skoðun Sniðganga fyrir Palestínu Hólmfríður Drífa Jónsdóttir,Ragnhildur Hólmgeirsdóttir,Hrönn G. Guðmundsdóttir,Katrín Björg Þórisdóttir,Þorbjörg Ída Ívarsdóttir,Yvonne Höller skrifar Skoðun Tími skyndilausna á húsnæðismarkaði er liðinn Gunnar Axel Axelsson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Enn einn kvennahópurinn sem þarf bara að vera duglegri að harka af sér? Diljá Mist Einarsdóttir Skoðun
Skoðun Enn einn kvennahópurinn sem þarf bara að vera duglegri að harka af sér? Diljá Mist Einarsdóttir skrifar
Skoðun Opinn og alþjóðlegur: Krísa erlendra nemenda við íslenska háskóla Melissa Anne Pfeffer skrifar
Skoðun Vangaveltur um íslenskt barnaefni – Hvers vegna skiptir það máli að börn heyri sjálf sig? Tinna Björg Kristinsdóttir,Valdimar Gylfason skrifar
Skoðun Hægfara endalok sjónvarps útsendinga fyrir móttöku á loftneti á Íslandi Jón Frímann Jónsson skrifar
Skoðun Einföld og skiljanleg kerfi sem virka fyrir fólk og fyrirtæki Hanna Katrín Friðriksson skrifar
Skoðun Er veganismi á undanhaldi? Aldís Amah Hamilton,Kristín Helga Sigurðardóttir,Adelina Antal,Hanna Halldórsdóttir,Sigrún Elfa Kristinsdóttir,Lowana Veal skrifar
Skoðun Sniðganga fyrir Palestínu Hólmfríður Drífa Jónsdóttir,Ragnhildur Hólmgeirsdóttir,Hrönn G. Guðmundsdóttir,Katrín Björg Þórisdóttir,Þorbjörg Ída Ívarsdóttir,Yvonne Höller skrifar
Enn einn kvennahópurinn sem þarf bara að vera duglegri að harka af sér? Diljá Mist Einarsdóttir Skoðun