Meta, företaget bakom de populära plattformarna Facebook och Instagram, har nyligen introducerat en innovativ AI-baserad metod för att identifiera och avlägsna användare under 13 år. Genom att analysera benstrukturen i bilder och videor försöker företaget navigera de utmaningar som kommer med att skydda unga användare, samtidigt som de undviker de etiska fallgroparna med ansiktsigenkänning.

Tekniken använder sig av avancerade algoritmer för att scanna bilder och videor efter vad Meta beskriver som "generella teman och visuella ledtrådar", däribland höjd och benstruktur. Detta är en del av ett bredare initiativ för att säkerställa att minderåriga inte använder plattformarna, vilket är i linje med lagar och regleringar som förbjuder barn under 13 år från att skapa konton utan föräldrarnas tillstånd.

Enligt Meta är det viktigt att understryka att denna teknik inte är detsamma som ansiktsigenkänning. "Vi vill vara tydliga: det här är inte ansiktsigenkänning," förklarar företaget i sitt blogginlägg. Detta är särskilt viktigt i en tid där integritetsfrågor står högt på dagordningen, både i USA och internationellt.

Förutom visuell analys använder systemet även text- och interaktionsdata för att göra en mer exakt bedömning av användarens ålder. Detta innebär att kommentarer, biografier och bildtexter också analyseras för att identifiera potentiella "kontextuella ledtrådar" som indikerar att en användare kan vara under 13 år.

Även om tekniken för närvarande endast är tillgänglig i vissa länder, inklusive USA, planeras en bredare utrullning snart. Användare som identifieras som underåriga kommer att få sina konton avaktiverade och måste genomgå en åldersverifieringsprocess för att återaktivera sina konton.

Denna utveckling väcker dock frågor om integritet och de potentiella etiska konsekvenserna av att använda AI för åldersverifiering. Kritiker har uttryckt oro över hur denna typ av data kan användas eller missbrukas, samt hur effektiv och rättvis tekniken verkligen kan vara.

I Norden, där GDPR och strikta dataskyddslagar är i kraft, kommer det att bli intressant att se hur en sådan teknik mottas. Här är skyddet av individens integritet en central fråga, och varje teknik som hanterar personuppgifter granskas noggrant.

Sammanfattningsvis representerar Metas nya AI-metod ett betydande steg i riktningen mot att skapa säkrare onlineplattformar för unga användare, men den ställer också viktiga frågor om balansen mellan säkerhet och integritet.