Miljontals besök pÄ övergreppssajter stoppades

Över fyra miljoner försök att komma Ă„t sajter med övergreppsmaterial pĂ„ barn blockerades av Tele2 i fjol. Ökningen Ă€r explosionsartad och förklaras delvis av bĂ€ttre blockeringslistor. Samtidigt pekas AI-genererat övergreppsmaterial ut som en stor utmaning framĂ„t – men kanske kan AI ocksĂ„ vara lösningen.

Tele2 stoppade under 2023 drygt fyra miljoner försök av anvÀndare i Sverige att komma Ät webbplatser med material innehÄllandes sexuella övergrepp pÄ barn. Arkivbild.

Tele2 stoppade under 2023 drygt fyra miljoner försök av anvÀndare i Sverige att komma Ät webbplatser med material innehÄllandes sexuella övergrepp pÄ barn. Arkivbild.

Foto: Naina Helén JÄma/TT

Brott2024-01-07 08:45

Operatörens drygt 4 miljoner blockeringar av försök i Sverige att nÄ webbplatser med material innehÄllande sexuella övergrepp pÄ barn Àr en kraftig ökning frÄn 2022, dÄ cirka 1,5 miljoner försök stoppades.

– Det Ă€r en indikation pĂ„ att problematiken ökar och det Ă€r ett samhĂ€llsproblem som vi alla mĂ„ste hantera, sĂ€ger Jonas Lindström, koncernsĂ€kerhetschef pĂ„ Tele2, ett av flera telekombolag som samverkar med barnrĂ€ttsorganisationen Ecpat.

Utöver vad som Tele2 bedömer Àr en reell ökning av faktiska försök kan de stigande blockeringssiffrorna förklaras med att blockeringslistor frÄn polisen och Interpol kompletterats med en lista frÄn kanadensiska Project Arachnid. Den listan stod 2023 för en fjÀrdedel av alla blockeringar.

Ytterligare en förklaring Àr att polisen nu uppdaterar sina listor av webbplatser som bör blockeras mer frekvent.

AI-problem

En nytillkommen problematik som tog fart i fjol och som man i Är ska fokusera pÄ att försöka motarbeta Àr övergreppsmaterial som tas fram med hjÀlp av AI, sÀger Jonas Lindström.

– Det finns AI dĂ€r man kan skriva vad man önskar sĂ„ kan en bild skapas. Eller sĂ„ kan man Ă„teranvĂ€nda tidigare övergreppsmaterial för att skapa nya bilder med barn som Ă€r utsatta sedan tidigare. Man kan Ă€ven ta in helt andra individer och sĂ€tta ihop ett sĂ„dant hĂ€r material, sĂ€ger han.

– SĂ„ det Ă€r otroligt integritetskrĂ€nkande bĂ„de för dem som drabbats tidigare och för dem som kan drabbas bara för att det finns en bild av dem pĂ„ internet.

Förekomsten av fejkat material försvÄrar Àven polisens arbete att identifiera barn som utsÀtts pÄ riktigt och hitta deras förövare.

Nya verktyg

Problemet Àr nÄgot som vÀntas fortsÀtta öka dÄ AI:n blir allt mer avancerad, och Tele2 ska försöka nyttja egen AI-kompetens för att hitta nya verktyg mot det. Exempelvis anvÀnder man i dag AI för att stoppa bedrÀgliga massutskick av sms.

– DĂ€r har vi en AI-motor som lĂ€r sig allteftersom vilka bestĂ„ndsdelar som de sms:en innehĂ„ller. Finns det nĂ„got vi kan anvĂ€nda utifrĂ„n den tekniken eller den logiken sĂ„ hoppas vi kunna bidra med det. Vi kan kanske inte komma med hela lösningen men vi Ă€r ju en aktör i detta, dĂ„ vill vi se var vi kan hjĂ€lpa till.

Fakta: Omdirigeras till polisen

Telekomoperatörer blockerar internetanvÀndares försök att nÄ webbplatser som innehÄller övergreppsmaterial, utifrÄn listor som tillhandahÄlls av bland annat polisen.

Om en anvÀndare försöker att komma in pÄ webbplatsen blir den omdirigerad till en stoppsida med information frÄn polisen, dÀr det bland annat informeras om att det Àr straffbart att sprida övergreppsmaterial.

PÄ stoppsidan finns Àven kontaktuppgifter till en hjÀlplinje för den som upplever att den tappat kontroll över sin sexualitet, kÀnner oro för sina tankar eller Àr rÀdd för att göra andra illa.


Fakta: AI-genererade nakenbilder

AI (artificiell intelligens) kan anvÀndas för att producera fejkat nakenmaterial genom att exempelvis klistra in ett ansikte pÄ exempelvis porr. En annan metod Àr att med metoden "klÀ av" en person pÄ en bild.

Tekniken kan beskrivas som att verktygen trÀnar genom att titta pÄ mÀngder av bilder pÄ nakna eller lÀttklÀdda personer pÄ nÀtet. Det anvÀnds sedan för att generera nytt nakenmaterial som ersÀtter klÀderna. Ofta anvÀnds maskininlÀrningsramverket generativa motstÄndarnÀtverk (GAN).

Hösten 2020 varnade företaget Sensity AI om att 100 000 AI-genererade nakenbilder pÄ kvinnor och flickor spreds via meddelandeplattformen Telegram.

I juni manade amerikanska FBI allmÀnheten till försiktighet med att lÀgga ut bilder, sedan man under vÄren sett en ökning av offer dÀr bilder och filmer frÄn sociala medier anvÀnds för att skapa fejkmaterial som anvÀndes i utpressningssyfte

SĂ„ jobbar vi med nyheter  LĂ€s mer hĂ€r!