Gervigreind í námi: 5 lykilskref fyrir öryggi nemenda Björgmundur Guðmundsson skrifar 22. júní 2025 07:01 Ímyndaðu þér skólastjóra á Selfossi sem þarf að velja á milli þess að verja fjármagni í nýtt gervigreindarkerfi fyrir stærðfræðikennslu eða að ráða nýjan kennara. Ábyrgðin er mikil, ákvarðanirnar eru erfiðar og áhrifin verða afdrifarík fyrir nemendur. Hér fellur endanleg ábyrgð alltaf á stjórnendur, árangur eða mistök, ávinningur eða skaði, allt lendir þetta á borði þeirra sem stýra sveitarfélögum og skólum. Það er lykilatriði að stjórnendur hafi skýran vegvísi í höndunum til að taka þessar ákvarðanir á réttum forsendum og tryggja að ekki sé tekin óásættanleg áhætta með velferð og framtíð nemenda. Þessi grein er hagnýt handbók um ábyrga forystu. Hér er fimm skrefa vegvísir sem getur hjálpað stjórnendum að taka forystu og innleiða gervigreind á öruggan og ábyrgan hátt. Skref 1: Áður en þú kaupir tæknina – skilgreindu markmiðið Áður en fyrsta hugbúnaðarleyfið er keypt verður að svara einni spurningu: Hvaða vandamál erum við að reyna að leysa? Er markmiðið að minnka brottfall nemenda í unglingadeildinni á Akureyri? Að bæta lesskilning á yngsta stigi? Eða að létta álagi af kennurum í ákveðnum fögum? Að kaupa tækni án skýrs markmiðs er uppskrift að sóun á fjármagni. Skilgreinið vandann fyrst og leitið síðan að tækni sem getur hjálpað til við að leysa hann. Skýr markmið gera það auðveldara að mæla árangur og velja réttu verkfærin. Skref 2: Þverfaglegt teymi – öryggisnet nemandans Innleiðing gervigreindar má aldrei vera einangrað verkefni tölvudeildarinnar. Stofna þarf þverfaglegt teymi innan sveitarfélagsins eða skólans sem ber sameiginlega ábyrgð. Í slíku teymi þurfa að vera: Kennari sem skilur raunveruleikann í kennslustofunni. Skólastjórnandi sem þekkir rekstrarumhverfið. Persónuverndarfulltrúi sem þekkir lögin. Tæknistjóri sem skilur tæknilegu áskoranirnar. Fulltrúi foreldra sem getur komið sjónarmiðum þeirra á framfæri. Foreldrar eru lykilaðilar þegar kemur að persónuvernd og öryggi barna þeirra. Reglulegir fundir þar sem foreldrar fá tækifæri til að ræða áhyggjur sínar og leggja fram spurningar eru nauðsynlegir til að byggja upp traust. Þetta teymi tryggir að litið sé á málið frá öllum hliðum og kemur í veg fyrir að mikilvæg atriði gleymist. Skref 3: Ekki treysta glærunum – gerðu ítarlegar kröfur Áður en samningur er undirritaður við hugbúnaðarfyrirtæki þarf innkaupateymið að fara í gegnum strangan gátlista. Látið aldrei söluræður eða glærukynningar duga. Krefjist skriflegra svara við eftirfarandi spurningum: Persónuvernd: Hvar eru gögnin hýst (innan EES)? Hver á gögnin? Hvernig er þeim eytt að samningstíma loknum? Hvernig tryggið þið að farið sé eftir GDPR? Hlutdrægni (Bias): Hvernig var gervigreindarlíkanið ykkar þjálfað? Hvernig prófið þið fyrir bjögun gagnvart minnihlutahópum eða nemendum með íslensku sem annað mál? Gagnsæi og áfrýjun: Er hægt að fá útskýringu á því hvernig reikniritið kemst að ákveðinni niðurstöðu (t.d. einkunn)? Er til formlegt ferli fyrir foreldra eða nemendur til að áfrýja ákvörðun sem tekin er af gervigreind? Öryggi: Hver er viðbragðsáætlun ykkar við gagnabrotum? Hvernig er aðgangsstýringu háttað? Eitt dæmi er þar sem skóli fjárfesti nýlega í gervigreindarkerfi og komst svo að því að gögn nemenda voru geymd utan Evrópu. Slíkt hefði mátt fyrirbyggja með ítarlegri kröfum áður en samið var. Skref 4: Kennarar þurfa meira en tækninámskeið Að rétta kennara spjaldtölvu og lykilorð er ekki innleiðing. Starfsfólk þarf þjálfun sem snýst ekki bara um að læra á takkana, heldur um að byggja upp menningu gagnrýninnar notkunar. Þjálfunin þarf að ná yfir: Að spyrja kerfið spurninga: Kennarar verða að vera þjálfaðir í að efast um niðurstöður gervigreindar og sannreyna upplýsingar. Að þekkja takmörkin: Hvað getur gervigreindin gert vel og hvar er hún óáreiðanleg? Tilkynningarferli: Hvert á kennari að leita ef hann telur að kerfið sé að gera mistök eða sýni af sér hlutdrægni? Skref 5: Endurmat og eftirlit – verkefni sem lýkur aldrei Gervigreind er ekki verkefni sem klárast. Koma þarf á fót ferli fyrir reglubundið endurmat: Árleg úttekt: Eru verkfærin enn að þjóna upprunalegum markmiðum? Hafa komið fram nýjar áhættur? Endurskoðun stefnu: Þarf að uppfæra reglur og verklag í ljósi nýrrar tækni eða reynslu? Mæling á árangri: Erum við að sjá mælanlegan ávinning (t.d. minna álag, betri námsárangur) sem réttlætir kostnaðinn? Fimm lykilatriði ábyrgrar innleiðingar: Stefna fyrst, tækni síðan: Skilgreinið markmið áður en tæki er valið. Samráð tryggir yfirsýn: Stofnið þverfaglegt teymi til að tryggja að litið sé á málið frá öllum hliðum. Skýrar kröfur til birgja: Gerið strangar kröfur um persónuvernd, öryggi og hlutleysi. Þjálfun í gagnrýnni notkun: Byggið upp menningu þar sem starfsfólk efast og sannreynir upplýsingar. Stöðugt eftirlit og endurmat: Fylgist með árangri og endurskoðið stefnuna reglulega. Innleiðing gervigreindar er stór ákvörðun sem krefst forystu, yfirsýnar og vandaðra vinnubragða. Með því að fylgja þessum fimm skrefum geta stjórnendur tryggt að þessi öfluga tækni verði til heilla fyrir skólastarfið en ekki til ama. Framtíð íslenskra skóla verður ekki ákveðin af tækni heldur af því hvernig við ákveðum að nota hana. Að lokum snýst innleiðing gervigreindar ekki aðeins um tækni, heldur um siðferðislega ábyrgð okkar gagnvart nemendum. Við erum að móta framtíð barna okkar og það er okkar að tryggja að þessi framtíð verði ekki aðeins tæknilega háþróuð heldur einnig réttlát og örugg. Stjórnendur í íslenskum skólum og sveitarfélögum standa nú frammi fyrir miklu tækifæri. En til þess að nýta þetta tækifæri á öruggan hátt þurfa þeir að vera undirbúnir. Ekki bíða eftir að vandamálin komi upp; setjið þessa áætlun af stað í dag og tryggðu að innleiðing gervigreindar verði til heilla, ekki til skaða. Í dag geta nemendur látið gervigreindina gera verkefnin fyrir sig. Við þurfum að gefa skólunum aðgang að gervigreind sem fær nemendurna til að læra. Í næstu grein mun ég skrifa ítarlegar um innleiðingu á næstu 5 árum. Björgmundur Guðmundsson, ráðgjafi í nýsköpun og gervigreind. Viltu birta grein á Vísi? Sendu okkur póst. Senda grein Björgmundur Örn Guðmundsson Mest lesið Transumræðan og ruglið um fjölda kynja Einar Steingrímsson Skoðun 752 dánir vegna geðheilsuvanda – enginn vegna fjölþáttaógnar Grímur Atlason Skoðun Foreldrar þurfa bara að vera duglegri Björg Magnúsdóttir Skoðun Magga Stína! Helga Völundardóttir Skoðun Leikskólar eru ekki munaður Íris Eva Gísladóttir Skoðun Uppgjöf Reykjavíkurborgar í leikskólamálum Finnbjörn A. Hermannsson,Sonja Ýr Þorbergsdóttir Skoðun Kópavogsmódelið – sveigjanleiki á pappír, en álag á foreldrar í raun og veru Örn Arnarson Skoðun Dýrkeypt eftirlitsleysi Lilja Björk Guðmundsdóttir Skoðun Svindl eða sjálfsvernd? Sigurður Árni Reynisson Skoðun Lykillinn að hamingju og heilbrigði Skoðun Skoðun Skoðun Lykillinn að hamingju og heilbrigði skrifar Skoðun Staða bænda styrkt Hanna Katrín Friðriksson skrifar Skoðun Transumræðan og ruglið um fjölda kynja Einar Steingrímsson skrifar Skoðun Leikskólar eru ekki munaður Íris Eva Gísladóttir skrifar Skoðun Vísindarannsóknir og þróun – til umhugsunar í tiltekt Þorgerður J. Einarsdóttir skrifar Skoðun 752 dánir vegna geðheilsuvanda – enginn vegna fjölþáttaógnar Grímur Atlason skrifar Skoðun Foreldrar þurfa bara að vera duglegri Björg Magnúsdóttir skrifar Skoðun Kópavogsmódelið – sveigjanleiki á pappír, en álag á foreldrar í raun og veru Örn Arnarson skrifar Skoðun Dýrkeypt eftirlitsleysi Lilja Björk Guðmundsdóttir skrifar Skoðun Uppgjöf Reykjavíkurborgar í leikskólamálum Finnbjörn A. Hermannsson,Sonja Ýr Þorbergsdóttir skrifar Skoðun Svindl eða sjálfsvernd? Sigurður Árni Reynisson skrifar Skoðun Magga Stína! Helga Völundardóttir skrifar Skoðun Mannauðurinn á vinnustaðnum þarf góða innivist til að dafna Ásta Logadóttir skrifar Skoðun Þetta er námið sem lifir áfram Bryngeir Valdimarsson skrifar Skoðun Árborg - spennandi kostur fyrir öll Guðný Björk Pálmadóttir skrifar Skoðun Tökum á glæpahópum af meiri þunga Þorbjörg Sigríður Gunnlaugsdóttir skrifar Skoðun Minntist ekkert á Evrópusambandið Hjörtur J. Guðmundsson skrifar Skoðun Hugsum stórt í skipulags- og samgöngumálum Hilmar Ingimundarson skrifar Skoðun Eitt eilífðar smáblóm Þorgerður Katrín Gunnarsdóttir skrifar Skoðun Betri mönnun er lykillinn Skúli Helgason,Sabine Leskopf skrifar Skoðun Borgarhönnunarstefna, sú fyrsta sinnar tegundar í Reykjavík Dóra Björt Guðjónsdóttir skrifar Skoðun Hversu oft á að fresta framtíðinni? Erna Magnúsdóttir,Stefán Þórarinn Sigurðsson skrifar Skoðun Getur Ísland staðið fremst í heilsutækni? Arna Harðardóttir skrifar Skoðun Slæm innivist skerðir afköst og hækkar kostnað Ingibjörg Magnúsdóttir skrifar Skoðun Sólheimar í Grímsnesi – að gefnu tilefni Páll Sævar Garðarsson,Sigurður Örn Guðbjörnsson skrifar Skoðun Framtíð Íslands: Frá áli til gervigreindar – Tækifæri fimmtu iðnbyltingarinnar Sigvaldi Einarsson skrifar Skoðun Eiga foreldrar í háskólanámi raunverulega jafnan aðgang að námi? Hrund Steinsdóttir skrifar Skoðun Fjármál framhaldsskóla Róbert Ferdinandsson skrifar Skoðun Mikilvægi lágþröskulda þjónustu fyrir geðheilbrigði ungs fólks Eva Rós Ólafsdóttir skrifar Skoðun Varhugaverð sjónarmið eða raunsæ leið? Eggert Sigurbergsson skrifar Sjá meira
Ímyndaðu þér skólastjóra á Selfossi sem þarf að velja á milli þess að verja fjármagni í nýtt gervigreindarkerfi fyrir stærðfræðikennslu eða að ráða nýjan kennara. Ábyrgðin er mikil, ákvarðanirnar eru erfiðar og áhrifin verða afdrifarík fyrir nemendur. Hér fellur endanleg ábyrgð alltaf á stjórnendur, árangur eða mistök, ávinningur eða skaði, allt lendir þetta á borði þeirra sem stýra sveitarfélögum og skólum. Það er lykilatriði að stjórnendur hafi skýran vegvísi í höndunum til að taka þessar ákvarðanir á réttum forsendum og tryggja að ekki sé tekin óásættanleg áhætta með velferð og framtíð nemenda. Þessi grein er hagnýt handbók um ábyrga forystu. Hér er fimm skrefa vegvísir sem getur hjálpað stjórnendum að taka forystu og innleiða gervigreind á öruggan og ábyrgan hátt. Skref 1: Áður en þú kaupir tæknina – skilgreindu markmiðið Áður en fyrsta hugbúnaðarleyfið er keypt verður að svara einni spurningu: Hvaða vandamál erum við að reyna að leysa? Er markmiðið að minnka brottfall nemenda í unglingadeildinni á Akureyri? Að bæta lesskilning á yngsta stigi? Eða að létta álagi af kennurum í ákveðnum fögum? Að kaupa tækni án skýrs markmiðs er uppskrift að sóun á fjármagni. Skilgreinið vandann fyrst og leitið síðan að tækni sem getur hjálpað til við að leysa hann. Skýr markmið gera það auðveldara að mæla árangur og velja réttu verkfærin. Skref 2: Þverfaglegt teymi – öryggisnet nemandans Innleiðing gervigreindar má aldrei vera einangrað verkefni tölvudeildarinnar. Stofna þarf þverfaglegt teymi innan sveitarfélagsins eða skólans sem ber sameiginlega ábyrgð. Í slíku teymi þurfa að vera: Kennari sem skilur raunveruleikann í kennslustofunni. Skólastjórnandi sem þekkir rekstrarumhverfið. Persónuverndarfulltrúi sem þekkir lögin. Tæknistjóri sem skilur tæknilegu áskoranirnar. Fulltrúi foreldra sem getur komið sjónarmiðum þeirra á framfæri. Foreldrar eru lykilaðilar þegar kemur að persónuvernd og öryggi barna þeirra. Reglulegir fundir þar sem foreldrar fá tækifæri til að ræða áhyggjur sínar og leggja fram spurningar eru nauðsynlegir til að byggja upp traust. Þetta teymi tryggir að litið sé á málið frá öllum hliðum og kemur í veg fyrir að mikilvæg atriði gleymist. Skref 3: Ekki treysta glærunum – gerðu ítarlegar kröfur Áður en samningur er undirritaður við hugbúnaðarfyrirtæki þarf innkaupateymið að fara í gegnum strangan gátlista. Látið aldrei söluræður eða glærukynningar duga. Krefjist skriflegra svara við eftirfarandi spurningum: Persónuvernd: Hvar eru gögnin hýst (innan EES)? Hver á gögnin? Hvernig er þeim eytt að samningstíma loknum? Hvernig tryggið þið að farið sé eftir GDPR? Hlutdrægni (Bias): Hvernig var gervigreindarlíkanið ykkar þjálfað? Hvernig prófið þið fyrir bjögun gagnvart minnihlutahópum eða nemendum með íslensku sem annað mál? Gagnsæi og áfrýjun: Er hægt að fá útskýringu á því hvernig reikniritið kemst að ákveðinni niðurstöðu (t.d. einkunn)? Er til formlegt ferli fyrir foreldra eða nemendur til að áfrýja ákvörðun sem tekin er af gervigreind? Öryggi: Hver er viðbragðsáætlun ykkar við gagnabrotum? Hvernig er aðgangsstýringu háttað? Eitt dæmi er þar sem skóli fjárfesti nýlega í gervigreindarkerfi og komst svo að því að gögn nemenda voru geymd utan Evrópu. Slíkt hefði mátt fyrirbyggja með ítarlegri kröfum áður en samið var. Skref 4: Kennarar þurfa meira en tækninámskeið Að rétta kennara spjaldtölvu og lykilorð er ekki innleiðing. Starfsfólk þarf þjálfun sem snýst ekki bara um að læra á takkana, heldur um að byggja upp menningu gagnrýninnar notkunar. Þjálfunin þarf að ná yfir: Að spyrja kerfið spurninga: Kennarar verða að vera þjálfaðir í að efast um niðurstöður gervigreindar og sannreyna upplýsingar. Að þekkja takmörkin: Hvað getur gervigreindin gert vel og hvar er hún óáreiðanleg? Tilkynningarferli: Hvert á kennari að leita ef hann telur að kerfið sé að gera mistök eða sýni af sér hlutdrægni? Skref 5: Endurmat og eftirlit – verkefni sem lýkur aldrei Gervigreind er ekki verkefni sem klárast. Koma þarf á fót ferli fyrir reglubundið endurmat: Árleg úttekt: Eru verkfærin enn að þjóna upprunalegum markmiðum? Hafa komið fram nýjar áhættur? Endurskoðun stefnu: Þarf að uppfæra reglur og verklag í ljósi nýrrar tækni eða reynslu? Mæling á árangri: Erum við að sjá mælanlegan ávinning (t.d. minna álag, betri námsárangur) sem réttlætir kostnaðinn? Fimm lykilatriði ábyrgrar innleiðingar: Stefna fyrst, tækni síðan: Skilgreinið markmið áður en tæki er valið. Samráð tryggir yfirsýn: Stofnið þverfaglegt teymi til að tryggja að litið sé á málið frá öllum hliðum. Skýrar kröfur til birgja: Gerið strangar kröfur um persónuvernd, öryggi og hlutleysi. Þjálfun í gagnrýnni notkun: Byggið upp menningu þar sem starfsfólk efast og sannreynir upplýsingar. Stöðugt eftirlit og endurmat: Fylgist með árangri og endurskoðið stefnuna reglulega. Innleiðing gervigreindar er stór ákvörðun sem krefst forystu, yfirsýnar og vandaðra vinnubragða. Með því að fylgja þessum fimm skrefum geta stjórnendur tryggt að þessi öfluga tækni verði til heilla fyrir skólastarfið en ekki til ama. Framtíð íslenskra skóla verður ekki ákveðin af tækni heldur af því hvernig við ákveðum að nota hana. Að lokum snýst innleiðing gervigreindar ekki aðeins um tækni, heldur um siðferðislega ábyrgð okkar gagnvart nemendum. Við erum að móta framtíð barna okkar og það er okkar að tryggja að þessi framtíð verði ekki aðeins tæknilega háþróuð heldur einnig réttlát og örugg. Stjórnendur í íslenskum skólum og sveitarfélögum standa nú frammi fyrir miklu tækifæri. En til þess að nýta þetta tækifæri á öruggan hátt þurfa þeir að vera undirbúnir. Ekki bíða eftir að vandamálin komi upp; setjið þessa áætlun af stað í dag og tryggðu að innleiðing gervigreindar verði til heilla, ekki til skaða. Í dag geta nemendur látið gervigreindina gera verkefnin fyrir sig. Við þurfum að gefa skólunum aðgang að gervigreind sem fær nemendurna til að læra. Í næstu grein mun ég skrifa ítarlegar um innleiðingu á næstu 5 árum. Björgmundur Guðmundsson, ráðgjafi í nýsköpun og gervigreind.
Uppgjöf Reykjavíkurborgar í leikskólamálum Finnbjörn A. Hermannsson,Sonja Ýr Þorbergsdóttir Skoðun
Kópavogsmódelið – sveigjanleiki á pappír, en álag á foreldrar í raun og veru Örn Arnarson Skoðun
Skoðun Kópavogsmódelið – sveigjanleiki á pappír, en álag á foreldrar í raun og veru Örn Arnarson skrifar
Skoðun Uppgjöf Reykjavíkurborgar í leikskólamálum Finnbjörn A. Hermannsson,Sonja Ýr Þorbergsdóttir skrifar
Skoðun Borgarhönnunarstefna, sú fyrsta sinnar tegundar í Reykjavík Dóra Björt Guðjónsdóttir skrifar
Skoðun Sólheimar í Grímsnesi – að gefnu tilefni Páll Sævar Garðarsson,Sigurður Örn Guðbjörnsson skrifar
Skoðun Framtíð Íslands: Frá áli til gervigreindar – Tækifæri fimmtu iðnbyltingarinnar Sigvaldi Einarsson skrifar
Skoðun Eiga foreldrar í háskólanámi raunverulega jafnan aðgang að námi? Hrund Steinsdóttir skrifar
Uppgjöf Reykjavíkurborgar í leikskólamálum Finnbjörn A. Hermannsson,Sonja Ýr Þorbergsdóttir Skoðun
Kópavogsmódelið – sveigjanleiki á pappír, en álag á foreldrar í raun og veru Örn Arnarson Skoðun