Den snälla dumma AI

Kolumnen har publicerats i Västra Nyland 19.11.2024

Jag minns med obehag när jag första gången i januari 2023 öppnade studerandes forskningsplaner som var skrivna av artificiell intelligens (härefter AI). Trots att jag precis som alla andra använt AI av olika orsaker, särskilt för översättning och statistik, upplevde jag att en moralisk gräns hade överskridits. Varningslamporna började lysa när studerande plötsligt var större språkgenier än alla vi lärare tillsammans. Texterna var skrivna på utomordentlig engelska, trots att ingen av mina studerande har engelska som modersmål. De AI-genererade texterna saknade personlig touch och kreativitet, och var allmänt vaga och ospecifika. Dessutom var källorna fejkade. Vilka sömnpiller alltså!

I boken Nexus, skriven av den israeliske historikern Yuval Noah Harari, fördjupar han sig i AI och vad den snabba utvecklingen kommer att innebära. Bland annat förutspår han en tsunami av fejknyheter som kan göra det svårt för oss att skilja mellan sanning och hittepå. Vidare kan mängden icke-existerande personer, det vill säga inte riktiga människor, öka snabbt i vårt samhälle. Sådana personer söker redan lediganslagna arbetsplatser. Det mest oroväckande Harari påstår är att sannolikheten för autokratiska samhällen och maktsugna diktatorer ökar. Jag hoppas att valresultatet på andra sidan Atlanten inte leder till ett autokratiskt samhälle trots att många uttalanden av den blivande presidenten oroväckande antyder detta. I och med AI överlåter vi också makten till en omänsklig och känslolös intelligens som jobbar 24/7, det vill säga även medan vi sover.

Låt oss gå tillbaka till mitt klassrum; vi lärare har verkligen fått gnugga geniknölarna för att få studerande att förstå hur man kan använda AI på ett okej sätt när man studerar. Vi har ändrat inlämningsuppgifterna, och delvis förpassat rapportskrivandet till historiens skräpkorg. Vi har ställt våra studerande mot väggen och frågat dem om de verkligen vill gå tillbaka till penna och papper. Vi ser en intressant trend som visar att det inte är de minst begåvade studerande som använder AI i störst utsträckning, utan de som vill komma enkelt undan, trots att de är relativt begåvade.

Varför är då AI både snäll och dum? AI är snäll så länge du visar att det är du som bestämmer. Men om du låter AI ta över din skrivprocess så kan du förlora kontrollen över slutresultatet och själv bli dummare på kuppen. Vem har inte fått AI-genererad e-post och undrat vem som egentligen skrivit detta?

Hararis budskap är att bromsa utvecklingen och jag kan inte annat än instämma. Vad tycker du?

Jonna Engström-Öst, specialforskare vid Yrkeshögskolan Novia i Raseborg.