Manipulerede videosamtaler: sådan genkender du dem og beskytter dig

Svindel med manipulerede videosamtaler bruger kunstig intelligens for at bytte en svindlers ansigt og stemme ud med en overbevisende kopi af nogen, du stoler på: en kollega, en leder, et familiemedlem eller en romantisk kontakt. Teknologien har nået et punkt, hvor manipulationer i realtid er umulige at skille fra virkeligheden for et utrænet øje under en igangværende videosamtale. I et omtalt tilfælde overførte en økonomidirektør næsten en halv million dollar til en svindelkonto efter at have deltaget i det, der virkede som et almindeligt videomøde med selskabets ledelse; hver person i den samtale var manipuleret. At forstå, hvordan opsætningerne fungerer, og hvilke advarselstegn du skal se efter, er i dag nødvendigt for alle, der kommunikerer via video.

Hvad opsætningen er

Til forskel fra forudindspillede manipulerede film lader en manipuleret samtale i realtid svindleren svare dynamisk, besvare spørgsmål, reagere naturligt og holde illusionen gennem hele samtalen. Teknologien bygger på offentligt tilgængelige billeder og lyd af en virkelig person for at konstruere en overbevisende kopi, der kan bruges i realtid hvor som helst i verden.

Opsætningerne bruges til to brede formål. Det første er økonomisk bedrageri, hvor ledere, kolleger eller personer i myndighedsstilling imiteres for at godkende overførsler eller få loginoplysninger ud. Det andet er personlig udnyttelse, hvor romantiske partnere eller betroede kontakter imiteres for at påvirke den udsatte følelsesmæssigt eller få intimt materiale. I begge tilfælde fungerer opsætningen, da den menneskelige hjerne er bygget til at stole på et kendt ansigt og en kendt stemme, også når noget føles en smule galt.

Sådan fungerer det

Opsætningerne følger et forudsigeligt forløb i flere trin. At forstå hvert trin hjælper dig med at genkende og bryde angrebet, før det gør skade.

Indsamling af materiale

Svindlerne samler offentligt tilgængelige billeder, film og lyd af deres mål fra profiler i sociale medier, LinkedIn, YouTube, virksomheders websites og optagelser fra konferencer. Jo mere kildemateriale der findes, desto mere overbevisende bliver manipulationen. Nogle sekunders tydelig lyd er nok for at klone en stemme. Derfor imiteres personer med en offentlig tilstedeværelse oftest, altså ledere, profiler i sociale medier og erhvervsaktive med et synligt digitalt spor.

Træning af modellen

Ved hjælp af generative modeller trænes teknologien på det indsamlede materiale og lærer målets ansigtsstruktur, udtryk, stemmeleje, tone, dialekt og vaner. Moderne værktøjer kan give et overbevisende resultat på timer, hvilket gør angrebene tilgængelige for organiserede grupper med moderate tekniske ressourcer.

Samtalen

Under den igangværende samtale fanges svindlerens kamerabillede af software, der lægger den fremstillede kopi over i realtid. Stemmen klones og fremstilles på samme måde. Svindleren imiterer derefter målet for at bede om overførsler, loginoplysninger, følsomme oplysninger eller intimt materiale, ofte med et opdigtet hastværk, der skal hindre en kontrol.

Hvem der udvælges

Opsætningerne retter sig først og fremmest mod tre grupper. Ansatte får samtaler fra opdigtede ledere, der beder om hastende overførsler eller adgang til systemer. Enkeltpersoner får samtaler fra opdigtede familiemedlemmer, der hævder en nødsituation. Og den, der udsættes for en romancesvindel, påvirkes af en opdigtet kærlighedskontakt, der bruger afpresning efter videosamtaler for at holde illusionen, før der spørges om penge. I alle tilfælde er den fælles tråd, at en betroet person imiteres i kombination med hastværk.

Sådan genkender du en manipuleret samtale

Teknologien i dag er imponerende, men efterlader stadig spor, der kan opdages. Vænn dig til at lægge mærke til tegnene under hver uventet samtale eller samtale med høje indsatser:

• Læberne og talen er en smule ude af synk, især ved hurtige eller sammensatte ord
• Unaturlige blink: for sjældent, for ofte eller på mærkelige tidspunkter
• Lyset på ansigtet stemmer ikke med lyset på baggrunden eller kroppen
• Let uskarphed eller flimmer ved hårgrænsen, ørerne eller halsen
• En stemme med robotagtig rytme; også en god klon kan lyde en smule flad, især ved følelsesmæssigt indhold
• Frosne udtryk: et begrænset register af ansigtsudtryk ud over det, der er nødvendigt for at tale
• Opløsningen stemmer ikke; ansigtet virker en smule skarpere eller blødere end resten af billedet

En enkel kontrol: bed den, der ringer, om at vende sig i profil eller se i vinkel. Teknologien har vanskeligheder med ansigter, der ikke er vendt lige frem, og forvrider ofte kanterne. Du kan også bede personen holde en hånd foran ansigtet; teknologien har vanskeligheder med at fremstille hænder, der overlapper et manipuleret ansigt på en naturlig måde. Et andet valg er at aftale med kolleger og familie om et kodeord for at bekræfte identiteten ved uventede videosamtaler. Når opdagelsen bliver bedre, tilpasser svindlerne sig, så intet enkelt tegn er afgørende; men flere tegn samtidig taler stærkt for en manipulation.

Hvis du bliver udvalgt

Afbryd, og kontrollér på egen hånd

• Afslut samtalen øjeblikkeligt, og gå ikke ind i noget mere
• Ring tilbage til den virkelige person på et nummer, du allerede har
• Brug ingen kontaktoplysninger fra den mistænkelige samtale
• Også et minuts forsinkelse kan hindre en alvorlig skade

Dokumentér alt

• Optag samtalen, hvis det er tilladt der, hvor du er
• Tag skærmbilleder af kontonavnet, profilbilledet og oplysningerne om samtalen
• Notér platform, tid, længde og hvad der blev efterspurgt
• Gem alle beviser, før du anmelder eller blokerer

Anmeld

• Anmeld til platformen, og flag for identitetsmisbrug
• Anmeld via politi.dk, ring til 114 eller mød op på en politistation, og ring 112, hvis faren er akut. Oplys, at handlingen fandt sted på nettet
• Inden for EU kan politiet inddrage Europol, og er platformen amerikansk, kan en anmeldelse til FBIs Internet Crime Complaint Center ske parallelt
• Kontakt banken øjeblikkeligt, hvis bankoplysninger er delt

Hvis intimt materiale blev efterspurgt eller delt

• Betal ikke; en betaling optrapper kravene, den afslutter dem aldrig
• Dokumentér alt, før du blokerer svindleren
• Kontakt tjenester til fjernelse af hævnporno, hvis materiale er spredt
• Aflever signaturer til StopNCII.org, der blokerer matchende billeder hos de tilknyttede platforme

Sådan beskytter du dig

Beskyttelsen begynder længe før, nogen ringer. Skridtene nedenfor vedrører tre lag: at begrænse det materiale, en angriber har brug for, at bygge kontrolvaner, der stopper et forsøg midt i, og at genkende det psykologiske pres, de bygger på.

Mindsk dit offentlige digitale spor

En manipulation er kun så overbevisende som det materiale, den er trænet på. Gennemgå din tilstedeværelse på nettet:

• Fjern eller begræns film og lydoptagelser af høj kvalitet på offentlige profiler
• Undgå at offentliggøre film med tydelig lyd af din stemme, hvis det ikke er nødvendigt
• For ledere og offentlige personer: gennemgå det offentligt indekserede materiale, der giver biometriske data, altså portrætbilleder, konferencetaler og podcastdeltagelse
• Du behøver ikke at forsvinde fra nettet; du behøver blot at gøre angriberens arbejde vanskeligere

Indfør rutiner til kontrol

Det mest virkningsfulde værn er en vane, ikke en teknologi. Handl aldrig på en forespørgsel i en videosamtale uden en uafhængig kontrol:

• I en virksomhed: indfør en regel om, at ingen overførsler, ingen loginoplysninger og ingen følsomme beslutninger kan godkendes alene ud fra en videosamtale
• Kræv et tilbagekald på et kendt nummer eller et aftalt kodeord, før noget gøres
• I familien: aftal en kodefrase til nødsamtaler. Kan den, der ringer, ikke give den, er samtalen mistænkelig
• Brug aldrig kontaktoplysninger fra den mistænkelige samtale for at kontrollere den

Slå sikkerhedsfunktionerne til

• Hold programmerne til videomøder opdaterede; platformene lukker aktivt huller og tilføjer funktioner til opdagelse
• Slå totrinsbekræftelse til på alle konti, du kommunikerer gennem
• I miljøer med høje indsatser kan værktøjer, der analyserer en igangværende samtale, være værd at overveje

Stol på din mavefornemmelse

Svindlerne kører over din dømmekraft med hastværk, autoritet og hemmelighedskræmmeri. Se op for:

• "Dette skal ske inden for en halv time"
• "Nævn det ikke for nogen endnu"
• "Jeg forklarer senere, gør det blot nu"

Det er pressionsmidler, ikke legitime forespørgsler. Føles noget galt, altså at stemmen lyder en smule flad, at ansigtet ikke bevæger sig naturligt, eller at forespørgslen ikke stemmer med personen, så hold pause, og kontrollér på egen hånd. Den, der ringer for alvor, har aldrig noget imod det.

At få hjælp bagefter

Er du blevet udsat, handl øjeblikkeligt. Anmeld til politiet, kontakt banken, hvis penge er overført, og søg hjælp med fjernelse, hvis manipuleret materiale af dig er lavet eller spredt. Specialister i fjernelse af manipuleret materiale kan samordne fjernelsen over platforme, mens efterforskningen går. Ved identitetsbedrageri, der følger af et angreb, dokumenterer du hver ulovlig brug af dit billede og rådfører dig med en advokat med retning mod digitalt identitetsmisbrug.

Opsætningerne er avancerede, og teknologien går hurtigt fremad; at blive udvalgt er ingen fejl i dømmekraft. De er lavet for at narre også den, der er teknisk bevidst. Anmeld, dokumentér, og søg professionel støtte. Er du udsat for seksuel afpresning med materiale fremstillet med kunstig intelligens, findes specialiseret hjælp døgnet rundt. Genopretning er mulig, og et tidligt indgreb forbedrer udfaldet mærkbart.