Allt í messi Guðmundur Steingrímsson skrifar 10. september 2018 06:00 Ein athyglisverðasta fréttin sem ég las í liðinni viku var um tiltekna erfiðleika sem hafa komið upp við þróun sjálfkeyrandi bifreiða. Erfiðleikarnir felast í stuttu máli í því að sjálfkeyrandi bílar keyra of vel. Þeir fylgja öllum umferðarreglum og taka þær mjög bókstaflega. Þeir eru til fullkominnar fyrirmyndar. Mannlegir ökumenn eru hins vegar yfirleitt ekki að öllu leyti til fyrirmyndar, vægast sagt. Þeir leita leiða til að skjóta sér milli bíla, jafnvel þar sem það telst glapræði. Þeir skjóta sér yfir á umferðarljósum rétt eftir að það er komið rautt. Og svo framvegis. Mannskepnan er alltaf að redda sér, sveigja og beygja reglurnar. Ökumenn gera almennt ráð fyrir að hinir ökumennirnir séu eins og þeir hvað þetta varðar. Þannig verður til í umferðinni ákveðið mannlegt, kaótískt flæði, sem sjálfkeyrandi bílar skilja ekki. Niðurstaðan er sú að sjálfkeyrandi bílar eru farnir að valda árekstrum. Mannlegir ökumenn keyra aftan á þá. Löghlýðni tölvunnar og fullkomleiki er óeðlilegur og veldur fáti. Við þróun gervigreindar almennt skilst mér – eftir upplýsandi spjall við gervigreindarfræðing á göngum Háskólans í Reykjavík einu sinni – að einn meginerfiðleikinn sé einmitt þessi: Hvernig á að búa til tölvu sem er í rugli? Til þess að vera mannleg þarf tölva að geta brotið reglur, geta gert heimskulega hluti í stundarbrjálæði, geta sagt eitthvað án þess að meina það. Geta misskilið og misheppnast. Hún þarf að geta sett sama flugfélagið á hausinn á u.þ.b. 10 ára fresti. Geta tapað 6-0 fyrir Sviss. Síðast þegar ég vissi reyndist þetta verkefni verulegum erfiðleikum bundið. Hvernig býr maður til mannlegan ófullkomleika? Spegillinn á mannkynið Kannski finnst lausn á því einhvern daginn. Mér er í raun nokk sama um það. Það sem er athyglisvert við þessi vísindi er spegillinn sem í þeim felst, á mannkynið. Vísindin draga þarna fram úr óvæntri átt órækan vitnisburð um það sem margan hefur grunað, að stór hluti þess að lifa gæfuríku lífi sem manneskja hlýtur að felast í því að kunna að höndla ákveðið magn af vitleysisgangi og lifa með honum. Stór hluti af því að vera manneskja er að vera vitleysingur. Manneskjur eru breyskar. Þær gera hluti sem þær vilja ekkert endilega gera, í raun og veru. Þær ígrunda ekki allt sem þær segja og gera. Manneskjur kynna sér ekki mál. Þær misskilja endalaust. Ég held að verulega stór hluti mannlegra samskipta snúist um misskilning. Annar skilur orð öðruvísi en hinn. Risastór deilumál geta jafnvel verið þessu marki brennd. Í heimi hins mannlega er í raun allt meira og minna í messi. Oft er spurt: Mun mannkynið læra af mistökum? Verður mannkynið skynsamara eftir því sem sögunni vindur fram? Þegar maður nálgast svona spurningar eins og tölva er svarið auðvitað já. Hið rökrétta er að maður læri af mistökum. Að maður endurtaki ekki mistök. Hvers vegna ætti maður að endurtaka eitthvað sem var rangt og vitlaust? Maður lærir. Auðvitað verður maður gáfaðri. Ef maður nálgast þessar spurningar eins og manneskja er svarið hins vegar öllu óljósara. Tja, það er ekki gott að segja. Kannski. Líklega ekki. Kraftarnir að verki Ég er enginn svartsýnismaður. Ég tel heiminn að mjög mörgu leyti, og á veigamikinn hátt, vera betri en áður. Margt hefur þróast á góðan veg. Hins vegar er ekki hægt að horfa fram hjá því að veröldin í dag siglir hraðbyri inn í alls konar endurtekningar á hinum fjölbreytilegasta vitleysisgangi. Þjóðernispopúlistar eru að sölsa undir sig völd í Evrópu. Það er góð hugmynd, út frá sögunni, eða hittó. Jafnframt gefur að líta í samtíma okkar stórbrotin dæmi um jafnvel alveg nýja tegund af bjánaskap sem hefur þegar farið yfir öll mörk. Seint eða aldrei verður hægt að þróa gervigreind sem endurspeglar hegðun og gáfnafar Donalds Trump. Ef hann mætti ráða væri hann líklega farinn í stríð við Kanada. Það þarf ekki að spá lengi í veröldina til að fá það sterklega á tilfinninguna að þrátt fyrir allar framfarir, lærdóma sögunnar, uppgötvanir vísindanna, verður mannkynið alltaf fyrst og fremst þetta: Mannlegt. Ekki tölva. Kexruglað jafnvel. Ekki þarf maður að líta lengi í eigin barm til að upplifa sterkt hina sífelldu viðureign skynseminnar og heimskunnar í sálarlífinu. Svona er að vera til. En hvað er þá til ráða? Jú, maður getur vonað að þrátt fyrir allt séu aðrir kraftar vitleysunni sterkari. Eins og nafnlausi skrifarinn í New York Times orðaði það um ástandið í Hvíta húsinu: Við erum nokkur hér, fullorðið fólk, sem erum að vinna í að bjarga þessu. Með öðrum orðum: Þetta reddast. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Guðmundur Steingrímsson Skoðun Mest lesið Hefur ítrekað hótað okkur áður Hjörtur J. Guðmundsson Skoðun Fyrsta flokks heilbrigðisþjónustu á Íslandi Lilja Alfreðsdóttir Skoðun Þjóðaratkvæðagreiðsla vegna umsóknar um aðild að ESB er stjórnsýslugrín! Júlíus Valsson Skoðun Bandaríkin voru alltaf vondi kallinn Karl Héðinn Kristjánsson Skoðun Halldór 02.08.2025 Halldór Greiðsla með Vísakorti tryggir ekki endurgreiðslu – forfallatryggingar gagnslausar þegar mest á reynir Erna Guðmundsdóttir Skoðun Fjárskipti við slit óvígðrar sambúðar: Meginreglur og frávik Sveinn Ævar Sveinsson Skoðun Kæfandi klámhögg sveitarstjóra Jón Trausti Reynisson Skoðun Að tala við börn um alvarleg lífsógnandi veikindi, sorg, dauða og missi Guðlaug Helga Ásgeirsdóttir,Svandís Íris Hálfdánardóttir Skoðun Líknarmeðferð og líknarmiðstöðvar Svandís Íris Hálfdánardóttir,Dóra Björk Jóhannsdóttir Skoðun Skoðun Skoðun Hefur ítrekað hótað okkur áður Hjörtur J. Guðmundsson skrifar Skoðun Þjóðaratkvæðagreiðsla vegna umsóknar um aðild að ESB er stjórnsýslugrín! Júlíus Valsson skrifar Skoðun Bandaríkin voru alltaf vondi kallinn Karl Héðinn Kristjánsson skrifar Skoðun Erum við á leiðinni í hnífavesti? Davíð Bergmann skrifar Skoðun Ákall til umhverfis-, orku- og loftslagsráðherra að standa við gefin loforð Laura Sólveig Lefort Scheefer,Snorri Hallgrímsson,Sigurlaug Eir Beck Þórsdóttir,Jóhanna Malen Skúladóttir,Ida Karólína Harris,Antonia Hamann,Julien Nayet-Pelletier skrifar Skoðun Kæfandi klámhögg sveitarstjóra Jón Trausti Reynisson skrifar Skoðun Klár fyrir Verslunarmannahelgina? Ágúst Mogensen skrifar Skoðun Vegið að börnum í pólitískri aðför að ferðaþjónustunni skrifar Skoðun Hið tæra illa Gunnar Hólmsteinn Ársælsson skrifar Skoðun Ferðamannaiðnaður? Nei, ferðaþjónusta! Guðmundur Björnsson skrifar Skoðun Hæðarveiki og lyf Ari Trausti Guðmundsson skrifar Skoðun Landsvirkjun hafin yfir lög Björg Eva Erlendsdóttir skrifar Skoðun Fjárskipti við slit óvígðrar sambúðar: Meginreglur og frávik Sveinn Ævar Sveinsson skrifar Skoðun Þau eru framtíðin – en fá ekki að njóta nútímans Sigurður Kári skrifar Skoðun Greiðsla með Vísakorti tryggir ekki endurgreiðslu – forfallatryggingar gagnslausar þegar mest á reynir Erna Guðmundsdóttir skrifar Skoðun Hvers vegna þegir kristin, vestræn menning? Ómar Torfason skrifar Skoðun Trump les tölvupóstinn þinn Mörður Áslaugarson skrifar Skoðun „Já, hvað með bara að skjóta hann!“ Þórhildur Hjaltadóttir skrifar Skoðun Heimar sem þurfa nýja umræðu! Sigurður Árni Reynisson skrifar Skoðun Sársauki annarra og samúðarþreyta Guðrún Jónsdóttir skrifar Skoðun Í minningu sonar – og allra þeirra sem aldrei komu heim Kristín Dýrfjörð,Friðrik Þór Guðmundsson skrifar Skoðun Alþjóðalög eða lögleysa? Urður Hákonardóttir skrifar Skoðun Truman-ríkið: Tilraunir raunheimsins að komast í gegnum gervihvelfinguna Svala Magnea Ásdísardóttir skrifar Skoðun GPT‑5 kemur í ágúst – áskoranir og tækifæri fyrir Ísland Sigvaldi Einarsson skrifar Skoðun Við tölum um vöxt — en gleymum því sem vex Þórdís Hólm Filipsdóttir skrifar Skoðun Verri framkoma en hjá Trump Hjörtur J. Guðmundsson skrifar Skoðun Landið talar Davíð Arnar Oddgeirsson skrifar Skoðun Ætla þau að halda áfram að grafa sína eigin gröf? Kolbrún Áslaugar Baldursdóttir skrifar Skoðun Ísrael – brostnir draumar og lygar Ingibjörg Þóra Haraldsdóttir skrifar Skoðun Ein af hverjum fjórum Silja Höllu Egilsdóttir skrifar Sjá meira
Ein athyglisverðasta fréttin sem ég las í liðinni viku var um tiltekna erfiðleika sem hafa komið upp við þróun sjálfkeyrandi bifreiða. Erfiðleikarnir felast í stuttu máli í því að sjálfkeyrandi bílar keyra of vel. Þeir fylgja öllum umferðarreglum og taka þær mjög bókstaflega. Þeir eru til fullkominnar fyrirmyndar. Mannlegir ökumenn eru hins vegar yfirleitt ekki að öllu leyti til fyrirmyndar, vægast sagt. Þeir leita leiða til að skjóta sér milli bíla, jafnvel þar sem það telst glapræði. Þeir skjóta sér yfir á umferðarljósum rétt eftir að það er komið rautt. Og svo framvegis. Mannskepnan er alltaf að redda sér, sveigja og beygja reglurnar. Ökumenn gera almennt ráð fyrir að hinir ökumennirnir séu eins og þeir hvað þetta varðar. Þannig verður til í umferðinni ákveðið mannlegt, kaótískt flæði, sem sjálfkeyrandi bílar skilja ekki. Niðurstaðan er sú að sjálfkeyrandi bílar eru farnir að valda árekstrum. Mannlegir ökumenn keyra aftan á þá. Löghlýðni tölvunnar og fullkomleiki er óeðlilegur og veldur fáti. Við þróun gervigreindar almennt skilst mér – eftir upplýsandi spjall við gervigreindarfræðing á göngum Háskólans í Reykjavík einu sinni – að einn meginerfiðleikinn sé einmitt þessi: Hvernig á að búa til tölvu sem er í rugli? Til þess að vera mannleg þarf tölva að geta brotið reglur, geta gert heimskulega hluti í stundarbrjálæði, geta sagt eitthvað án þess að meina það. Geta misskilið og misheppnast. Hún þarf að geta sett sama flugfélagið á hausinn á u.þ.b. 10 ára fresti. Geta tapað 6-0 fyrir Sviss. Síðast þegar ég vissi reyndist þetta verkefni verulegum erfiðleikum bundið. Hvernig býr maður til mannlegan ófullkomleika? Spegillinn á mannkynið Kannski finnst lausn á því einhvern daginn. Mér er í raun nokk sama um það. Það sem er athyglisvert við þessi vísindi er spegillinn sem í þeim felst, á mannkynið. Vísindin draga þarna fram úr óvæntri átt órækan vitnisburð um það sem margan hefur grunað, að stór hluti þess að lifa gæfuríku lífi sem manneskja hlýtur að felast í því að kunna að höndla ákveðið magn af vitleysisgangi og lifa með honum. Stór hluti af því að vera manneskja er að vera vitleysingur. Manneskjur eru breyskar. Þær gera hluti sem þær vilja ekkert endilega gera, í raun og veru. Þær ígrunda ekki allt sem þær segja og gera. Manneskjur kynna sér ekki mál. Þær misskilja endalaust. Ég held að verulega stór hluti mannlegra samskipta snúist um misskilning. Annar skilur orð öðruvísi en hinn. Risastór deilumál geta jafnvel verið þessu marki brennd. Í heimi hins mannlega er í raun allt meira og minna í messi. Oft er spurt: Mun mannkynið læra af mistökum? Verður mannkynið skynsamara eftir því sem sögunni vindur fram? Þegar maður nálgast svona spurningar eins og tölva er svarið auðvitað já. Hið rökrétta er að maður læri af mistökum. Að maður endurtaki ekki mistök. Hvers vegna ætti maður að endurtaka eitthvað sem var rangt og vitlaust? Maður lærir. Auðvitað verður maður gáfaðri. Ef maður nálgast þessar spurningar eins og manneskja er svarið hins vegar öllu óljósara. Tja, það er ekki gott að segja. Kannski. Líklega ekki. Kraftarnir að verki Ég er enginn svartsýnismaður. Ég tel heiminn að mjög mörgu leyti, og á veigamikinn hátt, vera betri en áður. Margt hefur þróast á góðan veg. Hins vegar er ekki hægt að horfa fram hjá því að veröldin í dag siglir hraðbyri inn í alls konar endurtekningar á hinum fjölbreytilegasta vitleysisgangi. Þjóðernispopúlistar eru að sölsa undir sig völd í Evrópu. Það er góð hugmynd, út frá sögunni, eða hittó. Jafnframt gefur að líta í samtíma okkar stórbrotin dæmi um jafnvel alveg nýja tegund af bjánaskap sem hefur þegar farið yfir öll mörk. Seint eða aldrei verður hægt að þróa gervigreind sem endurspeglar hegðun og gáfnafar Donalds Trump. Ef hann mætti ráða væri hann líklega farinn í stríð við Kanada. Það þarf ekki að spá lengi í veröldina til að fá það sterklega á tilfinninguna að þrátt fyrir allar framfarir, lærdóma sögunnar, uppgötvanir vísindanna, verður mannkynið alltaf fyrst og fremst þetta: Mannlegt. Ekki tölva. Kexruglað jafnvel. Ekki þarf maður að líta lengi í eigin barm til að upplifa sterkt hina sífelldu viðureign skynseminnar og heimskunnar í sálarlífinu. Svona er að vera til. En hvað er þá til ráða? Jú, maður getur vonað að þrátt fyrir allt séu aðrir kraftar vitleysunni sterkari. Eins og nafnlausi skrifarinn í New York Times orðaði það um ástandið í Hvíta húsinu: Við erum nokkur hér, fullorðið fólk, sem erum að vinna í að bjarga þessu. Með öðrum orðum: Þetta reddast.
Greiðsla með Vísakorti tryggir ekki endurgreiðslu – forfallatryggingar gagnslausar þegar mest á reynir Erna Guðmundsdóttir Skoðun
Að tala við börn um alvarleg lífsógnandi veikindi, sorg, dauða og missi Guðlaug Helga Ásgeirsdóttir,Svandís Íris Hálfdánardóttir Skoðun
Skoðun Þjóðaratkvæðagreiðsla vegna umsóknar um aðild að ESB er stjórnsýslugrín! Júlíus Valsson skrifar
Skoðun Ákall til umhverfis-, orku- og loftslagsráðherra að standa við gefin loforð Laura Sólveig Lefort Scheefer,Snorri Hallgrímsson,Sigurlaug Eir Beck Þórsdóttir,Jóhanna Malen Skúladóttir,Ida Karólína Harris,Antonia Hamann,Julien Nayet-Pelletier skrifar
Skoðun Fjárskipti við slit óvígðrar sambúðar: Meginreglur og frávik Sveinn Ævar Sveinsson skrifar
Skoðun Greiðsla með Vísakorti tryggir ekki endurgreiðslu – forfallatryggingar gagnslausar þegar mest á reynir Erna Guðmundsdóttir skrifar
Skoðun Í minningu sonar – og allra þeirra sem aldrei komu heim Kristín Dýrfjörð,Friðrik Þór Guðmundsson skrifar
Skoðun Truman-ríkið: Tilraunir raunheimsins að komast í gegnum gervihvelfinguna Svala Magnea Ásdísardóttir skrifar
Greiðsla með Vísakorti tryggir ekki endurgreiðslu – forfallatryggingar gagnslausar þegar mest á reynir Erna Guðmundsdóttir Skoðun
Að tala við börn um alvarleg lífsógnandi veikindi, sorg, dauða og missi Guðlaug Helga Ásgeirsdóttir,Svandís Íris Hálfdánardóttir Skoðun