AI har snabbt blivit en central fråga i skolan och edtechbolag – företag inom utbildningsteknologi – lanserar nya AI-funktioner i hög takt. Samtidigt diskuteras sällan ett växande problem: stora delar av utbildningssektorns AI-utveckling bygger på AI-wrappers.
En AI-wrapper är i praktiken ett gränssnitt ovanpå en extern språkmodell, exempelvis Chat GPT, Claude eller Gemini. Företaget bakom tjänsten som används i skolan äger inte själva AI-intelligensen, utan skickar frågor, elev- och lärardata vidare till externa modeller som genererar svar. Det gör i och för sig lösningarna snabba och billiga att utveckla, men för skolan innebär det också betydande risker. Här är fem av de största och mest kritiska riskerna med AI-wrappers i skolan:
1. Extern åtkomst till skoldata kan bryta mot GDPR. Den mest allvarliga risken handlar om integritet. AI-wrappers bygger ofta på modeller från stora amerikanska teknikbolag, vilket innebär att elev- och lärardata kan delas med tredje part. Även om personuppgifter filtreras bort är det svårt att fullt ut garantera integriteten. Utbildningsdata kan avslöja elevers kunskapsnivåer, svårigheter och beteendemönster, vilket gör eventuella GDPR-risker särskilt känsliga.
2. Generella AI-modeller saknar pedagogisk precision. Generativa språkmodeller är utvecklade för att vara flexibla och kunna svara på frågor om nästan allt. Problemet är att undervisningen kräver något annat: precision, progression och pedagogisk tillförlitlighet.
Ett AI-system i skolan måste kunna förstå skillnaden mellan ett korrekt svar och ett korrekt resonemang, identifiera kunskapsluckor samt anpassa återkoppling efter elevens nivå och läroplanens krav. Där brister som regel ofta dagens generella språkmodeller.
Det gäller särskilt inom ämnen som matematik och naturvetenskap där små fel kan få stora konsekvenser. Ett system som “oftast fungerar” räcker inte i undervisningen. Risken är då att vi skapar en illusion av lärande: elever får snabba svar, men inte nödvändigtvis djupare förståelse. En elev som får hjälp med alla svar utvecklar inte sin analysförmåga, problemlösning eller sitt självständiga tänkande. Felaktigt användande av AI kan försämra elevernas kognitiva förmåga.
3. Teknikberoende gör skolorna sårbara. När utbildningsprodukter byggs ovanpå externa AI-modeller blir både edtechbolag och skolor beroende av de företag som kontrollerar infrastrukturen. Om priser, villkor eller tekniska begränsningar förändras kan hela utbildningssystem påverkas. Samtidigt centraliseras marknaden kring ett fåtal globala aktörer.
4. Lärandet blir standardiserat. När samma generella språkmodeller används i hundratals utbildningsprodukter riskerar undervisningen att bli likriktad. Förklaringar och återkoppling kan verka övertygande, men saknar ofta den pedagogiska kvalitet som erfarna lärare utvecklar genom ämneskunskap och praktik.
Följden kan bli att elever möter samma typer av resonemang och perspektiv oavsett behov och förutsättningar. Det riskerar att minska både den pedagogiska mångfalden och utrymmet för kreativt och självständigt tänkande.
5. Verklig innovation hämmas. Sist men inte minst: när utbildningsprodukter byggs ovanpå samma generella AI-modeller blir innehållet brett snarare än pedagogiskt specialiserat. Innovationskraften flyttas då från edtechbolag med ämnes- och utbildningsexpertis till de globala AI-bolag som kontrollerar den underliggande tekniken.
Risken är att konkurrensen handlar mer om paketering än om bättre lärande. Därmed försvagas drivkrafterna att utveckla de specialiserade lösningar som skolan behöver och den verkliga innovationen inom utbildning bromsas.
Slutsats: Sverige behöver ställa högre krav på AI i skolan. AI kommer att förändra skolan. Frågan är inte om tekniken ska användas, utan hur. Om utbildningens AI främst utvecklas som tunna lager ovanpå generella språkmodeller riskerar vi svagare integritetsskydd, sämre pedagogik, ökat teknikberoende och hämmad innovation.
Därför behöver Sverige ställa högre krav på AI i skolan. Skolans digitalisering får inte drivas av teknisk hype. Den måste utgå från vad som faktiskt förbättrar lärandet samt stärker, tryggar och skyddar både lärare och elever.
Conny Welén, chef produktutvecklingen, Edge Education. Läromedelsförfattare till bland annat ”Matematik XYZ”.
Jesper Mårtensson, grundare och vd, Edge Education