På denna sida har ett antal lärare och forskare i medieteknik och informatik på Södertörns högskola försökt sammanställa svar på ett antal vanliga frågor relaterade till användningen av en form av AI som ibland kallas för “textrobotar” i högskoleundervisning. Svaren utgår ifrån personernas egna kunskaper och erfarenheter av denna typ av teknologier, och sammanfattar även en del pågående diskussioner kring användningen av AI i högskoleundervisning. Texten kan innehålla sakfel och även om den innehåller tips och rekommendationer så ska den inte läsas som en generell policy eller rekommendation från Södertörns högskola. Texten är att betrakta som ett levande dokument och vi uppmuntrar till inspel med egna insikter, frågor och andra bidrag!
(Publicerad 2022-12-21; Senast uppdaterad 2023-10-03)
Allmänna frågor om textrobotar:
Ordet textrobot används ibland som ett sammanfattande begrepp för en typ av artificiell intelligens som har tränats på mycket stora mängder befintlig text, och som kan bearbeta, omforma, och skapa unikt och rikt textinnehåll baserat på kortfattade instruktioner. Andra begrepp som används för att beskriva denna typ av teknologi är generativ maskininlärning (GAN – generative adversarial networks), djupinlärning, och stora språkmodeller (LLM – Large Language Models). Den senaste aktuella textroboten är ChatGPT (där GPT står för generative pre-trained transformer, en AI-teknik), som bygger på ett mer generellt verktyg som heter GPT-3, utvecklat av företaget OpenAI. Det finns dock en stor mängd alternativa modeller med liknande funktionalitet och prestanda, och nya modeller utvecklas kontinuerligt.
En textrobot kan användas för att bearbeta, omforma, och skapa unikt textinnehåll baserat på kortfattade instruktioner. Detta kan inkludera att generera olika typer av texter, såsom nyheter, artiklar, blogginlägg, rapporter, noveller, poesi, programmeringsspråk, och mycket annat. Textrobotar kan också användas för att översätta text mellan olika språk, samt för att generera svar på frågor eller för att generera sammanfattningar av längre texter. De kan också användas för att generera dialoger, som till exempel i chattbots och virtuella assistenter. (En textrobot har exempelvis använts för att skriva större delen av ovanstående stycke). Användningsområdena kommer att öka i och med att verktygen utforskas och prövas i nya sammanhang, samt genom att ny teknologi med nya förmågor utvecklas kontinuerligt.
Ja, textrobotar som ChatGPT kan skriva på svenska, men inte alls lika bra som på engelska. Texter på svenska har oftare mer eller mindre grammatiska fel, något som beror på att språkmodellerna inte har tränats på tillräckligt stora datamängder (ännu).
Inte nödvändigtvis. En textrobot som exempelvis ChatGPT ger ibland identiska svar på en given input, och ofta ganska snarlika svar, men kan också ge helt nya svar på exakt samma input.
Nej. Den mest välkända textroboten, ChatGPT, interagerar man med i textat dialogform, liknande en chatt. Dock finns det många andra sätt att interagera med textrobotar. Ett annat vanligt format är att man ger input i form av en text, där textroboten sedan skriver vidare på den påbörjade texten. En annan variant är att man börjar med att ge några exempel som visar formatet eller genren på den text man vill ha, så kan textroboten generera nytt innehåll i samma format. Exempel på detta är textrobotar som “triggas” igång med t.ex. #-tags (“hashtags”) på sociala medier för att tolka och förstärka sina programmerade budskap.
Ja och nej. Textrobotar som ChatGPT och GPT-4 är först och främst tränade på stora mängder data från internet (men inte allt), som de kan resonera kring och svara på frågor om, och som är internaliserat i systemet. Med de senaste uppdateringarna kan dessa robotar tränas kontinuerligt på levande data, något som gör att de också har tillgång till den senaste informationen. Dessa nyare versioner (ChatGPT-4, Microsoft Bing och Google Bard) kan idag även söka efter information på internet, och kombinera med den internaliserade informationen.
Ja, dock har textrobotar som ChatGPT och GPT-4 inte en inneboende särskild förmåga att tolka bilder och diagram eftersom de är främst textbaserade modeller. Det finns dock modeller som är kapabla att kombinera textbaserad information med diagram och bilder. I betalversioner av ChatGPT, exempelvis, kan dessa modeller kombineras med textrobotens vanliga funktioner och därigenom får textroboten förmågan att tolka bilder och diagram.
Frågor om textrobotar i undervisning:
Textrobotar ställer många nya utmaningar för högskolevärlden, såväl pedagogiska som etiska. Några av de mest kännbara utmaningarna är följande:
1) Fusk/Plagiat: Det finns risk för att studenter kan använda textrobotar för att skapa innehåll som de sedan låtsas vara deras eget. (Se nedan om Fusk/Plagiat)
2) Oklara gränsdragningar och oklar bevisbörda: Nuvarande regelverk och dokument (som studenters rättigheter och skyldigheter) behandlar inte explicit användningen av AI-stöd. Prejudikat saknas för att klargöra vad som räknas om otillbörlig användning av stöd, och vad som räknas som vilseledande, samt hur detta kan bevisas
3) Examinationsformer: Antagligen behöver såväl examinationsformer som –innehåll ses över, både i kursplaner, examinationsfrågor, och pedagogiska upplägg.
4) Bedömning av innehåll: Eftersom textrobotar kan generera unikt och rikt textinnehåll av hög kvalitet, kan det vara svårt att bedöma studentens förståelse i texter samskapade med en textrobot.
5) Överanvändning: Det finns också risk för att studenter och lärare kan bli för beroende av textrobotar, vilket kan påverka förmågan att på egen hand uttrycka sig i skrift, samt att tänka kritiskt och analytiskt.
6) Etiska överväganden: Textrobotar kan också skapa etiska problem, eftersom de ofta okritiskt reproducerar normer och fördomar i samhället (“bias”) som inte alltid är av godo.
Ja. Det finns flera exempel där textrobotar har kunnat producera svar på examinationsfrågor som uppfyller kraven för ett godkänt svar. (Författarna av denna FAQ, har exempelvis gjort experiment där ChatGPT har gett fullt adekvata svar på ett antal existerande hemtentafrågor)
Oftast inte, eftersom textrobotarna i de allra flesta fall skapar unikt nytt textinnehåll. (Dock verkar flera av företagen bakom verktygen för plagiatkontroll jobba med frågan, t.ex. Turnitin)
Nja. Det finns viss forskning på området som försöker utveckla metoder för att identifiera texter som skapats av textrobotar, metoder som bygger på att analysera innehållet i texterna, såsom att söka efter kännetecken för maskinellt genererad text, såsom upprepade mönster eller specifika uttryckssätt. Det är viktigt att notera att det fortfarande finns mycket som inte är känt om textrobotar och deras förmåga att generera innehåll, plus att nya AI-modeller och versioner utvecklas kontinuerligt, vilket gör att man inte kan utgå ifrån att det kommer att finnas verktyg eller metoder som kan identifiera texter skapade av textrobotar med hundraprocentig säkerhet.
Eftersom textroboten i de allra flesta fall inte direkt återger vad någon annan skriver är det inte uppenbart att likställa med plagiat (även om studenten i någon mening plagierar textroboten). Det skulle dock kunna räknas som fusk. Fusk definieras i högskoleförordningen (1993:100) kap. 10, som att studenten “med otillåtna hjälpmedel eller på annat sätt försöker vilseleda vid prov eller när en studieprestation annars ska bedömas”. Om uppgiften består i att skriva en text och en textrobot används utan att detta nämns, så kan det ses en form av vilseledande, och textroboten skulle kunna ses som ett otillåtet hjälpmedel. Dock saknas tydliga riktlinjer och prejudikat kring hur detta ska tolkas, och dessutom finns det många gråzoner, vilket gör att det blir viktigt att tydligt klargöra i kursmanualer och uppgiftsbeskrivningar vad som är att betrakta som fusk. Man kan tänka sig många scenarier där det är helt tillåtet att använda en textrobot, om studenten exempelvis är transparent med hur verktyget har använts och vilka delar som är genererade av AI:n.
För att belysa svårigheten i att bedöma vad som räknas som fusk, ges här ett antal möjliga scenarier där textrobotar används på olika sätt. (Vilka av dessa scenarier som är att bedöma som fusk kan författarna av denna FAQ inte ge ett entydigt svar på):
1) Studenten använder en textrobot för att identifiera språkliga brister i den egna texten.
2) Studenten använder textroboten för att skriva om, sammanfatta eller förbättra den egna texten.
3) Studenten använder textroboten som ett kreativt stöd i skrivprocessen, och får förslag på t.ex. disposition, struktur, men även förslag på textinnehåll (t.ex. när hen kör fast i skrivandet).
4) Studenten använder textroboten för att söka svar på frågorna i en inlämningsuppgift. Resultaten från textroboten ligger till grund för studentens svar, men studenten skriver om texten med egna ord.
5) Studenten använder flera verktyg i processen, t.ex. googlar fram lämpligt svar eller hämtar från studocu.com, kanske på annat språk, använder Google translate i ett andra steg samt i sista steget ber en textrobot att generera en text baserat på denna input.
6) Studenten ber textroboten att besvara frågorna i en inlämningsuppgift, använder svaren ordagrant, men påvisar tydligt i texten vilka delar som genererats av en AI.
7) Studenten använder textroboten för att sammanfatta, och identifiera centrala delar av kurslitteraturen och använder dessa sammanfattningar som del av en inlämningsuppgift.
8) Studenten anlitar en annan person för att skriva uppgiften och ber textroboten omvandla texten till att mer likna studentens egna säregna språkdräkt.
Nej, vi kan i praktiken inte varken förbjuda eller spärra dessa textrobotar tekniskt; lika lite som vi kan förbjuda maskinöversättning eller tillgång till internet (sökmotorer etc) allmänt. Det vi kan göra är att ha viss kontroll i våra egna labb-miljöer eller miljöer för examination (t.ex. tentasalar med datorer/Internet uppkoppling).
Ja, men det är varken en liten eller lätt fråga. Det enkla svaret är att muntliga examina (utan datoriserade hjälpmedel), eller salstentor utan uppkopplade hjälpmedel är relativt säkra kort. Man kan också arbeta med formuleringar av uppgiftsbeskrivningar och frågor i inlämningsuppgifter, där man kan lägga mer fokus på reflektioner kring eget arbete och undviker svepande generella frågeställningar som textrobotar är särskilt bra på att hantera. En annan modell är att man utgår från att verktyget finns och arbetar in det i examinationsformen, och exempelvis låter studenterna analysera och kritisera svar som ges av textroboten, vilket exempelvis har utforskats här.
Ja, ett antal argument har framförts för att integrera textrobotar i undervisning, exempelvis:
1) Våra studenter behöver förberedas för ett arbetsliv där samskapande med AI kommer vara en viktig del, och där färdigheter att hantera AI i olika former blir viktiga
2) Textrobotar kan användas som pedagogiska verktyg som exempelvis kan hjälpa till att identifiera brister i språk och ge olika typer av återkoppling
3) Textrobotar kan användas för att sänka barriärer som (skrift-)språk kan utgöra för andra modersmål-talare
4) Textrobotar kan användas som stöd för lärare, för att exempelvis automatisera rättning av uppgifter, eller som stöd för analys och bedömning av texter
Den textrobot som fått mest uppmärksamhet i media heter ChatGPT, och är för närvarande gratis att använda efter registrering (per 2022-12-21): https://chat.openai.com/
Microsoft har även lanserat Bing Chat under våren:
https://www.bing.com/
Inom kort kommer även Google lansera sin motsvarighet kallad Bard:
https://bard.google.com/
Länkar till existerande textrobotar och AI verktyg
ChatGPT: https://openai.com/ (registrering behövs, dec 2022)
Översättning med djupinlärning: http://www.deepl.com/translator
Jasper AI – https://www.jasper.ai/
Alternativ till ChatGPT: https://www.analyticsinsight.net/top-10-perfect-chatgpt-alternatives-that-you-can-use-in-2023/
Diskussioner i media
Brandel, T./SvD kulturdebatt, artificiell intelligens(2022). AI öppnar för fusk på universiteten. Online: https://www.svd.se/a/Xb9GQn/ai-applikationen-chatgpt-klarar-snart-universitetstentor (betalvägg, 2022-12-20)
Dagens Nyheter (2022-12-16), Skolor befarar mer fusk med nya textroboten; medverkande Anne Kaun från Södertörns högskola: https://www.dn.se/sverige/skolor-befarar-mer-fusk-med-nya-textroboten/ (2022-12-20)
Publicerad forskning
Floridi, L., & Chiriatti, M. (2020). GPT-3: Its nature, scope, limits, and consequences. Minds and Machines, 30(4), 681-694.
Jonsson, M. and Tholander, J. (2022). Cracking the code: Co-coding with AI in creative programming education. In: Creativity and Cognition (C&C ’22). Association for Computing Machinery, New York, NY, USA, 5–14. https://doi.org/10.1145/3527927.3532801
Limburg, A. Mundorf, M., Salden, P., Weßels, D.(2022): Plagiarismus in Zeiten künstlicher Intelligenz, in: Zeitschrift für Hochschulentwicklung, Themenheft Akademische Kultur und Wissenschaftsfreiheit angesichts der Digitalisierung von Lehren und Lernen, Jg. 17 / Nr. 3, Oktober 2022, S. 91-106; DOI: 10.3217/zfhe-17-03/06. (på tyska, engelsk abstract).
Mollick, Ethan R. and Mollick, L. (2022). New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments (December 13, 2022). Available at SSRN: https://ssrn.com/abstract=4300783
Stokel-Walker, C. AI bot ChatGPT writes smart essays-should professors worry?. Nature.
Övrigt material
Videos som diskuterar textrobotar i undervisning från Linneuniversitetet:
https://www.youtube.com/watch?v=Wi5wkT3LrLs&t=1036s
https://www.youtube.com/watch?v=XdQpTafEkfo
WaspEd, nationellt forskningsprogram finansierat av wallenbergsstiftelsen med fokus på AI i högre utbildning: https://wasp-ed.org/