Vägledning om Artificiell Intelligens (AI) i utbildning och forskning

Det finns idag ett flertal olika typer av AI-verktyg som genererar text, bilder och rörlig media. Olika AI-verktyg, exempelvis AI-chattbotar, används idag av studenter och i viss mån av lärare och forskare. Den här vägledningen riktar sig till lärare, forskare, studerande och deltagare i uppdragsutbildning vid Försvarshögskolan.

En AI-bot inriktad på text kan formulera kortare eller längre texter. Vilken text som genereras beror på vilken så kallad promt (fråga) som använts och vilket verktyg som promten ställs i. Det finns stora möjligheter att ta hjälp av en AI för att bolla en fråga, få uppslag till texter och sammanställa texter, exempelvis en ämnesöversikt. Det är viktigt att vara källkritisk och att tydligt beskriva när text som används är AI-genererad.

AI-verktyg och examination

Verktygen kan komma att användas felaktigt av studenter i samband med examination, därför ska det finnas en tydlighet för studenter när och på vilket sätt som AI får användas inom kursen och vid examination. Lärare och studenter uppmuntras till att diskutera frågor om etik och akademisk integritet i relation till AI.

Försvarshögskolan rekommenderar att frågan om AI i utbildning diskuteras inom ämnen (såväl i ämnesråd som kollegialt) och att det tas fram riktlinjer på minst kursnivå vilka bör innehålla följande:

att det inte är tillåtet att använda AI-genererad text och lämna in den som sin text. Att göra det är att vilseleda vid examination, vilket betraktas som fusk.
att i de fall som det är tillåtet för studenten att använda AI-verktyg, exempelvis för att bolla ett resonemang eller exempelvis förbättra en text, så bör studenten redovisa det i enlighet med kursansvarigs/lärares anvisningar.
om det är tillåtet eller inte för en student att använda AI-verktyg vid kamraträttning eller oppositionsuppgifter. Även här bör studenten beskriva hur AI-verktyget har använts.

Försvarshögskolan rekommenderar också att ämnen och kurser arbetar med att utveckla sina examinationsformer för att på så sätt förebygga otillåten användning av AI vid examination.

Exempel på åtgärder är:

att se över examinationsformer. När examinationsformerna ses över behöver det göras på ett sätt som bibehåller den konstruktiva länkningen (Constructive Alignment)
att variera examinationsformerna. Under en kurs eller ett program är det bra om en student får använda och visa sina kunskaper, färdigheter och förmågor på många olika sätt och såväl muntligt som skriftligt.
att vid hemexamination komplettera med en annan typ av examination, exempelvis muntlig examination.
att vid större skriftliga uppgifter som också pågår under en längre tid ha flera avstämningar där studenten redovisar hur text eller lösningar på problem har tagits fram. Var dock uppmärksam här på vilket sätt ett sådant förfarande påverkar handledarrollen.
att arbeta med löpande formativ bedömning och inte enbart med summativa examinationer i slutet av kurser.
att arbeta med progression. Till exempel genom att i examinerande uppgifter bygga vidare på tidigare examinerande kunskaper och färdigheter så att det blir svårare för en student att klara av en kurs om hen tidigare fuskat.
att betona examinationen som något mer än bara ett kontrollverktyg, att den är en viktig läraktivitet som fungerar som ett stöd i studentens lärande.
att betona att själva skrivprocessen är en viktig del av lärandet.

Misstanke om försök till vilseledande vid examination

Vid misstanke om att en student har använt ett AI-verktyg på ett otillåtet sätt i samband med examination ska förseelsen utredas, och vid grundad misstanke om försök till vilseledande vid examination (fusk) anmälas, på samma sätt som vid övriga disciplinärärenden.

Regler för disciplinärenden och avskiljande från studier Pdf, 228.1 kB.

Det finns idag ett flertal olika tjänster som säger sig avgöra om en text är AI-genererad eller inte. Det som tjänsterna gör är att analysera ordföljden i ett textavsnitt. Det innebär att resultatet visar på en sannolikhet för AI-genererad text eller inte. Men detta innebär inte att texten de facto är AI-genererad. Det finns idag inga säkra tjänster för att upptäcka AI-genererad text. Det finns också verktyg som tvättar texter. Det är alltså väldigt svårt att upptäcka om studenter använder AI-verktyg eller inte. Det är också viktigt att beakta att Försvarshögskolan inte har avtal med några tjänster för att försöka upptäcka AI-genererad text. Eftersom studenten äger upphovsrätt till sin text bör vi inte ladda upp studentarbeten genom dessa tjänster. Vi vet helt enkelt inte var texten tar vägen efter att vi laddat upp den. Och vi har inte heller så stor nytta av det resultat som tjänsterna visar. Försvarshögskolan har i dagsläget avtal med en antiplagiattjänst, Ouriginal. Leverantören arbetar liksom övriga på marknaden med att också kunna upptäcka AI-genererad text.

Användning av AI-verktyg av lärare och studenter under kurserna

AI-verktyg kommer troligtvis att i allt större utsträckning integreras i sökmotorer och program vi redan idag använder, som t.ex. Word. Våra studenter kommer således att i sina framtida yrkesliv behöva förhålla sig till och använda AI-verktyg. Därför är det önskvärt att lärare funderar över och tillsammans med andra lärare diskuterar när och hur nya verktyg såsom AI-chattbotar kan användas i undervisningen.

Exempel skulle kunna vara att tillsammans med både kollegor och studenter:

analysera och reflektera över fördelar och problem med AI-verktyg och den text de genererar
kritiskt granska svar från AI-chattbotar och medvetandegöra studenterna om risken för felaktigheter och bias
reflektera över bias/jäv och hur olika perspektiv kommer till uttryck i de automatiska svaren
jämföra AI-generade svar med sådana som är skrivna av experter
reflektera över hur olika former av kunskap kommer till uttryck och hur dessa värderas när maskiner nu kan skriva text
reflektera över hur AI-teknologi kan vara delaktig i att skapa och upprätthålla olika former av sociala och globala ojämlikheter
reflektera över utvecklandet och användningen av AI ur ett hållbarhetsperspektiv

AI-verktygen kan även vara till hjälp för lärare i till exempel planering av undervisning och framtagande av undervisningsmaterial. Här är det viktigt att tänka på att bolagen bakom AI-verktygen inte redovisar exakt vilka databaser och vilket material som verktygen tränas på. Det är därför viktigt att AI-genererat material alltid granskas noggrant innan det används. En annan aspekt att ta i beaktande att inskickade texter kan användas till annat än man tänkt sig och därför ska känslig information aldrig skickas till en leverantör av ett AI-verktyg

Användning av AI-verktyg av forskare inom forskning och för forskningsansökningar

Förlag och forskningsfinansiärer har olika regler för i vilken grad användning av AI-verktyg är tillåtna. Otillåten användning av dem skulle i vissa sammanhang sannolikt kunna klassas som oredlighet i forskning. Därför uppmanas forskare tillsvidare till försiktighet vid användandet av AI-verktyg vid skrivande av forskningsartiklar och forskningsansökningar. Om de ändå används är det viktigt att vara transparent med vilka verktyg som använts och hur. Kontrollera med förlagen eller forskningsfinansiärerna vad som gäller för användning av AI-verktyg i dagsläget. Doktorander och forskare ska själva ha kompetensen att ta fram forskningsfrågor och avråds från att använda AI-verktyg till det. Precis som i undervisningssammanhang är det också viktigt att aldrig dela med sig av känslig forskningsinformation till ett AI-verktyg.