Innehållsförteckning
Ibland, men inte på ett pålitligt sätt. Det finns tecken som avslöjar många AI-texter och verktyg som försöker upptäcka dem, men inget av dem ger säkra svar, och en omarbetad AI-text är i praktiken omöjlig att skilja från en mänsklig. Här går vi igenom vad som faktiskt går att se, vilka tecken du kan leta efter och hur vattenmärkning som SynthID från Google DeepMind fungerar.
Varför är det svårt att upptäcka AI-genererad text?
Forskning från University of Maryland pekar på att det är mycket svårt att pålitligt upptäcka AI-genererad text, särskilt när texten har omarbetats eller parafraserats efter genereringen. Det beror på flera faktorer:
Flytande språk: AI genererar text som är grammatiskt korrekt och stilistiskt lik mänsklig text.
Förbättrade AI-modeller: AI-tekniken utvecklas snabbt, vilket gör det svårt för detektionsverktyg att hänga med.
Parafrasering: AI kan enkelt parafrasera text, vilket försvårar upptäckten av dess ursprung.
Tecken som ofta avslöjar AI-text
Även om inget enskilt tecken är ett bevis finns det mönster som återkommer så ofta i obearbetad AI-text att de tillsammans blir en stark indikation. Vi arbetar dagligen med att tvätta bort dem ur texter, så här är de vi ser mest.
Innehållet säger mindre än det låter som
- Uppblåst betydelse: vanliga detaljer kopplas till stora rörelser, som att en produktuppdatering ”markerar en vändpunkt” eller ”speglar en bredare trend”. En människa som kan sitt ämne skriver vad som faktiskt hände.
- Konkretion saknas: texten låter kunnig men innehåller inga detaljer, egna erfarenheter eller ställningstaganden. Allt skulle kunna vara skrivet om vilket företag eller ämne som helst.
- Vaga auktoriteter: ”forskning visar”, ”experter menar” och ”studier pekar på” utan att någon forskare, expert eller studie namnges.
- Artigt garderande: alla perspektiv vägs mot varandra utan att texten landar någonstans, gärna med ett avslut i stil med ”det återstår att se”.
Språkmönstren
- Staplade tretal: tre led i rad, som ”snabbt, enkelt och effektivt”, även när innehållet inte kräver det. Ett av de allra vanligaste tecknen.
- Retoriska kontraster: konstruktioner som ”det handlar inte bara om X, utan om Y” och ”det är inte ett verktyg, det är en partner” används för att låta djup.
- Samma övergångsord överallt: när ”dessutom”, ”vidare” och ”sammantaget” inleder vartannat stycke är det sällan en människa som skrivit.
- Favoritord i kluster: ord som ”avgörande”, ”robust”, ”sömlöst”, ”landskap”, ”navigera” och ”frigöra potential” är inte fel var för sig, men två eller tre i samma mening är en tydlig signal.
- Jämnheten: styckena är ungefär lika långa, meningarna följer samma rytm och tonen är konstant genom hela texten, på ett sätt som mänskliga skribenter sällan orkar hålla.
Formen, extra tydlig på svenska
Eftersom AI-modellerna tränats mest på engelska läcker engelska vanor in i svensk text, och de är ofta det snabbaste sättet att känna igen en maskin.
- Tankstreck som paus: långa streck mitt i meningarna — ungefär så här — där de flesta svenska skribenter hade satt komma eller punkt.
- Kolon som dramatik: konstruktioner som ”Resultatet: en enklare vardag” är ett engelskt stilgrepp som AI älskar.
- Stor Bokstav På Varje Ord i rubriker, en direktimport från engelskan som nästan ingen svensk skribent använder.
- Engelska böjningar: ”Annas’ bok” med apostrof eller ”flera APIs” i stället för API:er.
- Översättningssvenska: uttryck som ”vid slutet av dagen”, ”göra skillnad” och ”dyka ner i” är engelska idiom i svensk kostym.
- Mekanisk formatering: fetstil på var tredje nyckelord, punktlistor med emojis och rubriker på varje litet stycke.
Viktigt att komma ihåg är att människor också skriver så här ibland, och att en skicklig användare kan be AI:n skriva på sätt som undviker mönstren. En text med flera av tecknen är sannolikt maskinskriven eller obearbetad, men tecknen ger en indikation, aldrig ett besked.
Fungerar detektionsverktygen?
Det finns gott om tjänster som lovar att avgöra om en text är AI-skriven. Gemensamt för dem är att de gissar utifrån statistiska mönster, och att både falska positiva och falska negativa är vanliga. Särskilt riskabelt blir det när verktygen används för att anklaga någon, till exempel en elev, eftersom även helt mänsklig text kan flaggas. Använd dem på samma sätt som tecknen ovan, som en indikation bland flera.
SynthID är en möjlig lösning
SynthID från Google DeepMind erbjuder en metod för att vattenmärka och identifiera AI-genererat innehåll. Genom att infoga ett osynligt vattenmärke i texten under genereringen, kan verktyget senare avgöra om texten är skapad av AI.
Hur fungerar SynthID?
Vattenmärkning: SynthID justerar sannolikhetspoängerna för valda ord (token) under genereringen för att skapa ett unikt mönster.
Identifiering: SynthID analyserar dessa mönster för att avgöra om texten är AI-genererad. Ju längre texten är, desto mer exakt blir identifieringen.
Identifiera AI-genererad text
Förmågan att identifiera AI-genererad text är avgörande för att säkerställa trovärdighet och bekämpa desinformation. Detta är särskilt viktigt inom journalistik, forskning och utbildning.
Framtiden för AI och identifieringstekniker
I framtiden kommer det att krävas en kombination av tekniker för att effektivt identifiera AI-genererat innehåll. Samarbete mellan AI-utvecklare och detektionsverktyg kommer att vara nödvändigt för att möta den snabbt utvecklande AI-teknologin.
Reflektioner
Google har även börjat göra verifieringen tillgänglig för vanliga användare, och i Gemini-appen går det i dag att kontrollera om bilder, video och ljud bär SynthID-vattenmärket. För text är någon motsvarande öppen kontroll ännu inte tillgänglig. Det är också viktigt att notera att SynthID inte är en fullständig lösning. Om en text genereras med SynthID och sedan redigeras manuellt, kan vattenmärket försvinna eller försvagas. Även om SynthID kan hjälpa till att identifiera ursprungliga AI-genererade texter, erbjuder det inte ett absolut skydd mot alla former av AI-texter. Detta innebär att SynthID fungerar bäst som ett verktyg i en bredare uppsättning metoder för att bekämpa AI-genererad desinformation.
Vill ni lära er använda AI på jobbet? Läs om våra AI kurser.
Resurser
Jimmi Ask är en av grundarna av Scribill och utbildar svenska företag i Copilot, ChatGPT och Gemini. Mer om oss →
