Digitala plattformar har länge stått inför utmaningar gällande hanteringen av oetiskt innehåll, och nu hamnar Google och Apple i rampljuset efter avslöjanden om hur deras appbutiker hanterar så kallade nudifieringsappar. Enligt den senaste forskningen från Tech Transparency Project (TTP) främjar dessa techgiganter inte bara förekomsten av dessa appar utan driver aktivt användare mot dem genom sökresultat och annonsering.

I sin rapport beskriver TTP hur en rad sökningar i både Apple App Store och Google Play Store med termer som "nudify", "undress" och "deepnude" resulterade i att ungefär 40 procent av de uppkomna apparna kunde rendera kvinnor nakna eller lättklädda. Dessutom identifierade forskarna att både Google och Apple, genom sina respektive reklamplattformar, placerade annonser för dessa appar i sökresultaten, däribland Googles annonskarusell för några av de mest sexuellt explicita apparna som granskades.

Detta väcker frågor om de etiska skyldigheterna hos dessa techföretag. Apple har tidigare hävdat att de förbjuder annonsinnehåll som "främjar vuxenorienterade teman eller grafiskt innehåll", men TTP:s forskning tyder på att denna policy inte alltid efterföljs. På samma sätt har Google fått kritik för att, trots sina reklamriktlinjer, fortsätta visa främjande resultat för "undress apps" och "bästa deepfake nudes".

TTP:s rapport är särskilt alarmerande mot bakgrund av att dessa appar också har blivit en del av skolmiljöer, där barn använder dem för att mobba klasskamrater. Konsekvenserna av detta är ofta förödande för både de utsatta och de som använder apparna, och skoladministratörer är ofta illa förberedda för att hantera situationen.

Google har, i ett uttalande genom talespersonen Dan Jackson, försäkrat att många av de identifierade apparna har blivit avstängda och att de vidtar åtgärder när policyöverträdelser rapporteras. Apple har dock avböjt att kommentera.

Denna situation ställer krav på en ökad etisk granskning och ansvarstagande från techgiganternas sida, särskilt när det gäller att skydda användare, särskilt barn och ungdomar, från skadligt digitalt innehåll. För svenska användare och beslutsfattare kan detta innebära ett behov av att utvärdera hur vi kan säkerställa en tryggare och mer ansvarsfull digital miljö.