I takt med att AI-tekniken utvecklas i rasande fart, dyker nya möjligheter – och risker – upp nästan varje månad. En av de mest omtalade och omdebatterade företeelserna just nu är deepfakes. Det handlar om videor, bilder eller ljudklipp som med hjälp av AI kan förvandla en persons utseende eller röst till någon annans. Resultatet? Ofta så pass verklighetstroget att det är svårt att se skillnad på vad som är äkta – och vad som är fabricerat. Men hur fungerar den här tekniken egentligen? Och varför pratar så många om hotet den utgör?

Så fungerar deepfake-tekniken
Namnet “deepfake” är en kombination av “deep learning” och “fake”, alltså fejkade medier som skapas med hjälp av djupinlärning – en gren av artificiell intelligens. Kärnan i tekniken bygger på något som kallas Generative Adversarial Networks (GANs). Förenklat handlar det om att två neurala nätverk spelar ett slags AI-spel mot varandra: det ena försöker skapa ett så trovärdigt falskt material som möjligt, medan det andra försöker avslöja vad som är fejk. Med tiden blir förfalskningarna så skickliga att det är nästintill omöjligt att se att något inte stämmer. Deepfake används främst för att manipulera ansikten och röster. Kanske har du sett klipp där Tom Cruise gör märkliga TikTok-videor, trots att han själv aldrig spelat in dem? Eller hört ljudklipp där kända politiker säger saker de aldrig har sagt? Allt det där kan vara deepfakes – och ibland är det nästan kusligt övertygande.

Vem ligger bakom utvecklingen?
Flera stora aktörer driver utvecklingen av deepfake-teknik framåt. AI-bolag som OpenAI, som du kanske känner igen från ChatGPT, bidrar till utvecklingen av multimodala modeller som kan skapa både text, bild och ljud. Andra företag, som Respeecher, specialiserar sig på att återskapa autentiska röster – till exempel har de samarbetat med filmindustrin för att återskapa unga versioner av karaktärer som Luke Skywalker i The Mandalorian. Även teknikjättar som Adobe experimenterar med AI-driven manipulation genom projekt som “Adobe Voco”, ett slags “Photoshop för röst”.

När tekniken blir ett problem
Det är lätt att fascineras av vad AI kan göra, men det finns också en tydlig baksida. Deepfakes har redan använts för att sprida desinformation, förtal och bedrägerier. Ett växande problem är att de används för att skapa falska uttalanden från politiker eller offentliga personer – ibland med avsikten att påverka val eller skapa osäkerhet. I andra fall har deepfakes använts för att lura företag genom att imitera chefer i videosamtal, vilket lett till att pengar felaktigt förts över till bedragare. Dessutom finns den mer personliga risken – att någon skapar en deepfake på dig utan ditt samtycke. Det kan vara allt från oskyldiga skämt till rena trakasserier eller digitala övergrepp.

Vad kan vi göra åt det?
Det är inte enkelt att hantera något så tekniskt avancerat, men flera initiativ är på gång. Forskare jobbar med AI-verktyg som ska kunna upptäcka deepfakes automatiskt genom att analysera små detaljer i mimik, ögonrörelser eller ljudkvalitet. Samtidigt inför sociala medieplattformar striktare regler för att märka eller ta bort deepfake-innehåll. Lagstiftning börjar också ta form i flera länder, där olaglig användning av deepfakes – till exempel för att vilseleda eller förtala – kriminaliseras. Men det viktigaste vapnet vi har är medvetenhet. Ju mer vi som samhälle förstår vad tekniken kan göra, desto bättre rustade är vi för att ifrågasätta det vi ser och hör.

Deepfake-teknik är både imponerande och oroväckande. Det öppnar dörrar för film, spel, utbildning och kommunikation – men också för manipulation och bedrägeri. Precis som med annan AI gäller det att hitta balansen: att använda tekniken klokt och bygga skydd mot missbruk. För oavsett hur realistiska deepfakes blir, är frågan vi alltid måste ställa:

”Vem vill att jag ska tro på det här – och varför?”

Illustrationen till höger är skapad med hjälp av AI.