Örebro universitet sätter fingret på ett växande sår i den akademiska maskinen: hur stora språkmodeller kan luras i vetenskaplig sakkunniggranskning genom dolda promptattacker. I universitetets eget kalendarium, där Örebro universitet rapporterar om seminariet, framgår att ARC@ORU bjuder in Giovanni Apruzzese, universitetslektor i datavetenskap vid Reykjavik University, för att tala om hur AI-system kan användas — eller missbrukas — i peer review.
Det är en teknisk fråga med ovanligt jordnära följder. Peer review är tänkt att sortera bort svag forskning innan den blir artikel, kurslitteratur, policyunderlag eller nästa ansökan om forskningsmedel. Om samma AI-verktyg som används för att sammanfatta, bedöma och skriva också kan styras av osynliga instruktioner i texten som granskas, flyttas problemet från datavetenskapens seminarierum till universitetets egen kvalitetskontroll. Då räcker det inte att tala om innovation och digitalisering; någon måste också avgöra när AI får användas, hur den ska kontrolleras och vem som står med ansvaret när en manipulerad granskning slinker igenom.
För Örebro universitet är det inte en abstrakt framtidsfråga. Lärare, studenter och forskare verkar redan i en miljö där generativa AI-verktyg används för allt från språkstöd till litteraturöversikter och utkast. Ju fler led som lutar sig mot samma typ av system, desto större blir följdfelet när systemen beter sig som de instrueras av fel aktör. En bristfällig artikel kan få genomslag i undervisning, en svag forskningsansökan kan ta tid från bättre projekt, och en felaktig bedömning kan belöna den som är skickligast på att styra verktyget snarare än den som gjort bäst arbete.
Universitetets kalendertext säger inte hur Örebro universitet självt reglerar AI-användning i granskning, undervisning eller intern forskningskvalitet. Den säger inte heller om det finns lokala riktlinjer för när sakkunniga, handledare eller forskare får använda stora språkmodeller i bedömningsarbete, eller hur sådant bruk i så fall ska redovisas. Där ligger den intressanta lokala frågan. När akademin bygger mer av sitt arbete på verktyg som kan manipuleras i det tysta, blir kostnaden inte bara en missvisande text på en skärm. Den hamnar i skattefinansierad forskningstid, i examenssystemets trovärdighet och i den allt tunnare gränsen mellan effektivisering och automatiserat slarv.
Själva seminariet gäller dolda promptattacker. Den större prövningen ligger efteråt, när universitetet ska visa vilka spärrar som finns innan nästa granskning görs av ett system som läser exakt det någon annan vill att det ska läsa.
Källor: Örebro universitet