Utvecklingen av artificiell intelligens (AI) ger oss stora möjligheter inom allt från medicin till kommunikation och industri. Men den snabba tekniska framfarten innebär också nya utmaningar och risker, något som blir allt mer uppmärksammat bland experter, medier och vanliga internetanvändare.

Ett av de mest oroande fenomenen är uppkomsten av så kallade deepfakes. Med hjälp av AI kan man skapa mycket realistiska, men helt falska, video- eller ljudinspelningar. Algoritmer kan byta ut en persons ansikte eller röst, vilket gör det möjligt att få vem som helst att framstå som någon annan. Sådant material används ofta för desinformation, utpressning eller för att skada någons anseende – och det blir allt svårare att upptäcka, även för experter.

En annan stor risk är att bedragare kan imitera någons röst. Med dagens teknik räcker det ofta med några sekunders ljudupptagning för att AI ska kunna skapa en övertygande röstkopia. Det öppnar för avancerade bedrägerier, där bedragare kan ringa familjemedlemmar eller företag och utge sig för att vara en chef eller närstående för att lura till sig pengar eller känslig information.

Riskerna kring AI sträcker sig också till opinionsbildning och samhällspåverkan. Falska videor eller manipulerade telefonsamtal kan användas i politiska kampanjer, för att misskreditera offentliga personer eller till och med skapa panik. Särskilt i sociala medier sprids sådan information snabbt, vilket gör det ännu svårare att skilja på sanning och lögn.

För att möta dessa utmaningar växer antalet initiativ för utbildning och tekniska lösningar. Det är viktigt att hålla sig uppdaterad om verktyg för att upptäcka deepfakes och använda säkra källor för information. Särskilt barn och unga behöver utbildning kring digitalt källkritik och säkerhet, då de ofta är mest sårbara för moderna former av manipulation.

GAFT Nord AB har erfarenhet av utbildning och rådgivning inom cybersäkerhet, inklusive risker kopplade till AI, deepfakes och röstförfalskning. Vi erbjuder kurser och praktiska workshoppar för företag, skolor och privatpersoner, där vi lär ut hur man identifierar hot, granskar informationskällor och skyddar sig mot digitala bedrägerier. Vill du öka din eller din organisations säkerhet är du välkommen att kontakta oss för mer information om våra utbildningar.