Barnrättsorganisationen ECPAT varnar för den farliga ökningen av AI-genererad barnpornografi. Genom sin hotline och anmälningssida har organisationen märkt en betydande ökning av rapporter som rör dessa bilder.
Spridningen av AI-genererad barnporr skapar en betydande arbetsbörda för de som bekämpar brottet.
– Det krävs både skarpare lagstiftning och ett större ansvar från företag för att vi ska kunna förhindra missbruk och skydda barnen, säger Anna Karin Hildingson Boqvist, generalsekreterare ECPAT Sverige.
Den hårt arbetande barnrättsorganisationen ECPAT har märkt av den oroande trenden som rör AI-genererade övergreppsbilder på barn. Hildingson ger insikt i hur organisationen upptäcker och hanterar detta problem.
Hildingson berättar att de har sett en betydande ökning av tips där teknik utvecklas ständigt och innefattar både modifierade bilder av verkliga barn och helt skapade bilder.
Kan användas som bytesvara
Från de tips de mottar har ECPAT observerat att dessa bilder sprids på olika plattformar, både på Darknet och öppna sociala nätverk. Förövare som konsumerar övergreppsmaterial sprider dessa bilder inom sina nätverk och handlar också med dem.
Hildingson nämner att AI-genererat material kan användas som bytesvara för att få tillgång till både AI-genererat och verkligt övergreppsmaterial. Denna ökning av AI-genererad barnpornografi belastar både ECPAT och polisen. Det finns redan enorma mängder övergreppsmaterial på barn, och ökningen genererar en ännu större efterfrågan.
Det blir svårare att utreda allt material, vilket skapar en betydande arbetsbörda för de som bekämpar barnpornografibrott. En fråga som väcks är om det är bättre att pedofiler ägnar sig åt fejkade bilder istället för verkliga övergrepp på barn. Hildingson förklarar att personer som konsumerar övergreppsmaterial har en större risk att själva begå övergrepp på barn och att dessa bilder kan fungera som en del av byteshandeln.
AI-verktygens skapare måste ta ansvar
Det finns även en risk att dessa bilder kan inspirera till fysiska övergrepp baserade på förövarnas drömscenarier. När det gäller ansvaret för AI-generatorerna betonar Hildingsson att skaparna av AI-verktyg har ett stort ansvar för att de inte missbrukas på detta sätt.
Precis som andra tekniska plattformar på nätet måste företagen bakom AI-generatorerna ta ansvar och implementera säkerhetsspärrar för att förhindra missbruk. ECPAT anser att företagen behöver ta ett större ansvar för att förebygga sexuella övergrepp på barn och för att bekämpa den enorma brottsligheten som finns online. När det gäller den juridiska aspekten är lagstiftningen relativt bra, men Hildingson betonar att den behöver anpassas till den snabba teknikutvecklingen och stärka skyddet för tonåringar. Om man stöter på denna typ av material uppmanas allmänheten att anmäla det till polisen eller till ECPAT:s hotline.
– Det är viktigt att agera och rapportera oavsett om materialet är AI-genererat eller inte, säger Hildingson och uppmanar både barn och vuxna att vara vaksamma och anmäla allt de ser.
19 september, 2023
Streama Nyhetsmorgon på TV4 Play
Nyheter varvas med fördjupande diskussioner, bevakning av de senaste trenderna, personliga intervjuer, kultur och sport.