Riktlinjer för användande av AI-verktyg

Forte ska verka för att artificiell intelligens (AI) används ansvarsfullt och transparent, i forskning liksom inom myndigheten. Forte använder idag inte generativ AI i det interna arbetet med inkomna ansökningar, men ser att det finns stor potential för att effektivisera och kvalitetssäkra bland annat klassificering och kontroller.

Instruktioner till sökande

AI är ett kraftfullt verktyg som, om det används ansvarsfullt, kan effektivisera forskningsprocessen inklusive ansökningsförfarandet. Du som sökande har ansvar för att innehållet i ansökan är korrekt och att forskningen kan genomföras på det sätt som det beskrivs. Ansökan får inte innehålla plagiat, falska, manipulerade eller på annat sätt oriktiga uppgifter.

Artificiell intelligens som används som verktyg i forskningen i en betydande utsträckning (exempelvis för att tolka data eller göra litteraturstudie) ska beskrivas i ansökan likt andra metoder i forskningen.

Instruktioner till granskare

AI får inte användas för att bedöma ansökningar. Bedömningen är en uppgift som ska utföras av en sakkunnig forskare eller en samhällsrepresentant som har rekryterats utifrån sin expertis inom området. Det kan finnas fördelar med att ta hjälp av AI-verktyg för att till exempel förbättra texten i ett yttrande. Delar av ansökan eller personuppgifter om sökande får dock aldrig delas med generativ AI, då detta kan riskera bland annat sekretess, copyright, dataskydd. I enlighet med Fortes instruktioner för att skriva yttranden är det beredningsgruppens bedömning av ansökans styrkor och svagheter som ska beskrivas för att motivera Fortes beslut, och inte innehållet i ansökan.

Mer om användande av AI i forskning

• Fortes riktlinjer för ansvarsfull användning av AI ligger i linje med bland annat den europeiska AI-förordningen, Europaparlamentets och rådets förordning om artificiell intelligens (2024/1689). Det är en EU-gemensam lagstiftning som ska reglera utveckling, tillhandahållande och användning av AI.
  Europeiska AI-förordningen (eur-lex.europa.eu) Länk till annan webbplats.

• EU-kommissionen har tagit fram en vägledning för ansvarsfull användning av generativ AI inom det europeiska forskarsamhället, med målgrupperna forskare, lärosäten och finansiärer.
  Living Guidelines on the responsible use of generative AI in research (research-and-innovation.ec.europa.eu) Länk till annan webbplats.

• EU-kommissionen har även tagit fram en guide för AI och etik för all forskningsverksamhet som involverar utveckling och/eller användning av artificiell intelligens, (AI)-baserade system eller tekniker.
  Ethics By Design and Ethics of Use Approaches for Artificial Intelligence (ec.europa.eu) Länk till annan webbplats.

• I skriften God forskningssed beskrivs bland annat att “Dölja användning av artificiell intelligens (AI) i skapandet av innehåll eller i utarbetandet av publikationer” är en avvikelse från god forskningssed.
  God forskningssed 2024 (vr.se) Länk till annan webbplats.