Gervigreind og hröð og hæg hugsun Þorsteinn Siglaugsson skrifar 28. nóvember 2023 20:01 Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Þorsteinn Siglaugsson Gervigreind Tækni Mest lesið Ár vondra vinnubragða í Stúdentaráði HÍ Katla Ólafsdóttir,Mathias Bragi Ölvisson Skoðun Ógnin sem við sjáum ekki – Hið falda tungumál ungu kynslóðarinnar á netinu Birgitta Þorsteinsdóttir Skoðun Aulatal um að Evrópa sé veik og getulaus Ole Anton Bieltvedt Skoðun Myllan sem mala átti gull Andrés Kristjánsson Skoðun Mannúð og hugrekki - gegn stríðsglæpum og þjóðarmorði Ólafur Ingólfsson Skoðun Sjö mýtur um loftslagsbreytingar Kristinn Már Hilmarsson,Elva Rakel Jónsdóttir Skoðun Pírati pissar í skóinn sinn Helgi Áss Grétarsson Skoðun Rösk og reiðubúin fyrir landsbyggðina Hópur Röskvuliða Skoðun Fáum presta aftur inn í skólana Rósa Guðbjartsdóttir Skoðun Icelandic Learning is a Gendered Health Issue Logan Lee Sigurðsson Skoðun Skoðun Skoðun Aulatal um að Evrópa sé veik og getulaus Ole Anton Bieltvedt skrifar Skoðun Ár vondra vinnubragða í Stúdentaráði HÍ Katla Ólafsdóttir,Mathias Bragi Ölvisson skrifar Skoðun Mannúð og hugrekki - gegn stríðsglæpum og þjóðarmorði Ólafur Ingólfsson skrifar Skoðun Framtíð menntunar – byggjum á trausti, ekki tortryggni Helga Kristín Kolbeins skrifar Skoðun Fé án hirðis Þorvaldur Lúðvík Sigurjónsson skrifar Skoðun Gæludýr geta dimmu í dagsljós breytt Kolbrún Áslaugar Baldursdóttir skrifar Skoðun Myllan sem mala átti gull Andrés Kristjánsson skrifar Skoðun Sjö mýtur um loftslagsbreytingar Kristinn Már Hilmarsson,Elva Rakel Jónsdóttir skrifar Skoðun Pírati pissar í skóinn sinn Helgi Áss Grétarsson skrifar Skoðun Ógnin sem við sjáum ekki – Hið falda tungumál ungu kynslóðarinnar á netinu Birgitta Þorsteinsdóttir skrifar Skoðun Fáum presta aftur inn í skólana Rósa Guðbjartsdóttir skrifar Skoðun Rösk og reiðubúin fyrir landsbyggðina Hópur Röskvuliða skrifar Skoðun Icelandic Learning is a Gendered Health Issue Logan Lee Sigurðsson skrifar Skoðun Goðsögnin um UFS-sjóði sem róttækar „woke"- fjárfestingar Már Wolfgang Mixa skrifar Skoðun Framtíð Öskjuhlíðar Magnea Gná Jóhannsdóttir skrifar Skoðun Vanhæfur Sjálfstæðisflokkur Dóra Björt Guðjónsdóttir skrifar Skoðun Mælt fyrir miklum kjarabótum öryrkja og aldraðra Inga Sæland skrifar Skoðun Mannréttindabrot og stríðsglæpir Rússa í Úkraínu Erlingur Erlingsson skrifar Skoðun Áskorun til Félags íslenskra hjúkrunarfræðinga og Háskóla Íslands Ríkharður Ólafsson,Styrmir Hallsson skrifar Skoðun Ákvarðanir teknar í Reykjavík – afleiðingarnar skella á okkur Hópur Framsóknarmanna í sveitarstjórnum skrifar Skoðun Snjallborgin eða Skuggaborgin Reykjavík: Gervigreindarknúið höfuðborgarsvæði Björgmundur Örn Guðmundsson skrifar Skoðun Getur Sturlunga snúið aftur? Leifur B. Dagfinnsson skrifar Skoðun Vaka stendur með Menntavísindasviði í verki Gunnar Ásgrímsson skrifar Skoðun Vorbókaleysingar Henry Alexander Henrysson skrifar Skoðun Er þetta í alvöru umdeild skoðun fámenns hóps? Snorri Másson skrifar Skoðun Liðveisla fyrir öll Atli Már Haraldsson skrifar Skoðun Réttur til endurtektarprófa: Jafnræði í námi fyrir alla stúdenta Vera Mist Magnúsdóttir,Guðlaug Eva Albertsdóttir skrifar Skoðun Að standa við stóru orðin Guðmundur Ari Sigurjónsson skrifar Skoðun Aðför að landsbyggðinni – og tilraun til að slá ryki í augu almennings Ingibjörg Isaksen skrifar Skoðun Deyr mjólkurkýrin ef eigandi hennar fær eitt viðbótar mjólkurglas? Þórður Snær Júlíusson skrifar Sjá meira
Samkvæmt gervigreindarbloggaranum Alberto Romero var upphafið að þeirri atburðarás sem átti sér stað innan OpenAI fyrirtækisins, sem þróar ChatGPT mállíkanið, fyrir um 10 dögum síðan líklega tengt ágreiningi varðandi nýja Q* (Q-Star) líkanið sem er talið geta leyst flókin stærðfræðileg vandamál, eitthvað sem núverandi stóru tungumálalíkön geta ekki gert. Forstjórinn, Sam Altman, var fyrst rekinn af stjórninni, en ráðinn aftur fáum dögum síðar og nánast öllum stjórnarmönnum skipt út. Að mati Romerosendurspeglar þessi atburður djúpstæðan ágreining milli yfirlýsts markmiðs fyrirtækisins um að þróa örugga gervigreind sem gagnast öllu mannkyni og þeirrar almennu stefnu tæknifyrirtækja að vera í fremstu röð á sínu sviði við þróun og markaðssetningu nýjunga. Þetta er kannski dæmigert fyrir það sem getur gerst þegar fyrirtæki setur sér mótsagnakennd markmið. Hvað er Q* líkanið? Fyrir nokkrum dögum birti Andrej Karpathy, sérfræðingur hjá OpenAI, myndband þar sem hann útskýrir stóru tungumálalíkönin, hvað þau eru, hvernig þau virka og hvernig þau kunna að þróast. Þetta myndband er eiginlega skylduáhorf fyrir alla sem vilja fá greinargott yfirlit yfir þessa nýju tækni. Meðal annars ræðir Karpathy Q* líkanið og mikilvægi þess. Hann lýsir getu þess með því að vísa til aðgreiningar Daniels Kahnemann milli hraðrar og hægrar hugsunar, eða þess sem hann nefnir "System 1" og "System 2" hugsun. Dæmi um "System 1" hugsun er þegar við leggjum saman tvo og tvo. Við svörum strax, notum upplýsingar sem eru til staðar í huga okkar, í skammtímaminninu. En ef dæmið er 24*47 er, geta fæstokkar svarað strax. Við þurfum að fara í "System 2", "hægu" hugsunina til þess. Eins og Karpathy útskýrir, færir Q* verkefnið stórt tungumálalíkan yfir á stig "System 2" hugsunar. Þetta er mikil framför í getu slíks líkans og markvert skref í átt að svonefndri almennri gervigreind, líkani sem stendur okkur langtum framar í getu til rökhugsunar. Það hljómar ekki ósennilega að ótti við afleiðingar þessarar þróunar og vantraust á áætlunum Altmansum hana hafi legið að baki ákvörðun stjórnarinnar. Það sem stjórnin virðist hins vegar ekki hafa áttað sig á er að á endanum býr þekkingin sem knýr fyrirtækið í hugum starfsmanna og stjórnenda, og ný tækni, hversu ógnvekjandi sem hún kann að virðast, gufar ekki upp, sama hvað stjórn eins fyrirtækis ákveður, jafnvel þótt ákvörðunin leiddi til upplausnar fyrirtækisins. Hvernig getum við brugðist við? Stóru mállíkönin munu halda áfram að þróast ogbreyta lífi okkar og við höfum aðeins séð glitta í blátoppinn á þeim ísjaka. Fram að þessu hafa líkönin aðeins verið fær um "System 1" hugsun, og samt hef ég sannreynt að þau hafa nú þegar umtalsverða getu til að meta jafnvel flóknar röklegar greiningar. Fljótlega verður þessi geta langtum meiri. Hvernig getum við brugðist við? Einu raunhæfu viðbrögðin eru þau að við gerum okkar besta til að efla okkar eigin hugsun og nýtum þessa nýju tækni til þess: Við verðum að styrkja okkar eigin málskilning og tjáningarhæfni eins og kostur er. Við verðum að efla okkar eigin getu til gagnrýninnar hugsunar. Við verðum að þjálfa okkur markvisst í samskiptum við mállíkönin. Þetta gerir enginn fyrir okkur. Við verðum að gera það sjálf, hvert og eitt. Það er verkefnið framundan. Höfundur er ráðgjafi og stjórnendaþjálfari, https://thinksharper.net.
Ógnin sem við sjáum ekki – Hið falda tungumál ungu kynslóðarinnar á netinu Birgitta Þorsteinsdóttir Skoðun
Skoðun Ógnin sem við sjáum ekki – Hið falda tungumál ungu kynslóðarinnar á netinu Birgitta Þorsteinsdóttir skrifar
Skoðun Áskorun til Félags íslenskra hjúkrunarfræðinga og Háskóla Íslands Ríkharður Ólafsson,Styrmir Hallsson skrifar
Skoðun Ákvarðanir teknar í Reykjavík – afleiðingarnar skella á okkur Hópur Framsóknarmanna í sveitarstjórnum skrifar
Skoðun Snjallborgin eða Skuggaborgin Reykjavík: Gervigreindarknúið höfuðborgarsvæði Björgmundur Örn Guðmundsson skrifar
Skoðun Réttur til endurtektarprófa: Jafnræði í námi fyrir alla stúdenta Vera Mist Magnúsdóttir,Guðlaug Eva Albertsdóttir skrifar
Skoðun Aðför að landsbyggðinni – og tilraun til að slá ryki í augu almennings Ingibjörg Isaksen skrifar
Skoðun Deyr mjólkurkýrin ef eigandi hennar fær eitt viðbótar mjólkurglas? Þórður Snær Júlíusson skrifar
Ógnin sem við sjáum ekki – Hið falda tungumál ungu kynslóðarinnar á netinu Birgitta Þorsteinsdóttir Skoðun