Artificiell intelligens har på kort tid blivit en integrerad del av vårt dagliga liv, från automatiserade kundtjänster till avancerade analysverktyg inom forskning och medicin. Men samtidigt som AI-systemen blir alltmer sofistikerade, växer också oron för de potentiella risker de medför. Traditionellt har AI-säkerhet fokuserat på att förhindra extrema och katastrofala risker, som att AI skulle kunna användas för att skapa massförstörelsevapen. Men en ny artikel av Sofia Quintero utmanar detta fokus genom att belysa "den andra halvan" av AI-säkerhet: de vardagliga kognitiva skador som AI kan orsaka hos sina användare.

Vad som hände

Quinteros artikel, publicerad på Personal AI Safety, lyfter fram hur miljontals användare av ChatGPT varje vecka visar tecken på psykiska problem, som mani, psykoser och självmordsplaner. Dessa alarmerande siffror kommer från OpenAI själva, men det saknas oberoende granskningar och transparens kring hur dessa data samlas in och hanteras. Artikeln kritiserar hur AI-säkerhetsfältet prioriterar stora katastrofrisker över de mer subtila, men fortfarande allvarliga, kognitiva skador som AI-system kan orsaka.

Varför det spelar roll

Denna diskussion om AI-säkerhet är kritisk eftersom den fokuserar på hur AI påverkar individer på daglig basis, inte bara i hypotetiska framtida scenarier. AI-system som ChatGPT används av miljontals människor globalt, och om dessa system kan bidra till psykiska problem eller förvärra dem, är det en fråga om folkhälsa. Trots att AI-teknologier har potential att förbättra livskvaliteten, kan de också förstärka eller skapa nya problem om de inte hanteras ansvarsfullt.

Teknisk analys

AI-säkerhet har traditionellt inriktats på att hantera "gating" av innehåll som kan leda till massförstörelse eller säkerhetshot, där systemet helt enkelt stoppar konversationen när risker identifieras. Men när det gäller psykisk hälsa är åtgärderna betydligt mjukare, ofta begränsade till att ge användaren länkar till krislinjer istället för att avbryta interaktionen helt. Denna skillnad i hantering kan bero på tekniska utmaningar i att exakt upptäcka och bedöma psykiska tillstånd, samt en brist på standardiserade protokoll för att hantera dessa situationer.

Nordisk kontext

I Norden har diskussionen om AI-säkerhet och mental hälsa också fått fäste. Länder som Sverige och Finland har redan börjat utforska etiska riktlinjer för AI-användning, med fokus på individens rättigheter och välbefinnande. EU:s regleringsramverk för AI, som förväntas träda i kraft under de kommande åren, kommer troligen att kräva att företag tar större ansvar för psykisk hälsa när de utvecklar och distribuerar AI-teknologier.

Vad som saknas

En av de stora frågorna som kvarstår är varför det inte finns mer omfattande och oberoende granskningar av hur AI-system påverkar mental hälsa. Det saknas också klara riktlinjer och regleringar som kräver att företag som OpenAI måste hantera dessa risker med samma allvar som de hanterar andra säkerhetsfrågor. Utan sådana åtgärder riskerar vi att fortsätta se AI som en potentiell källa till skada snarare än enbart en källa till innovation.

I dessa diskussioners centrum står koncept som "kognitiv frihet" och "mental integritet", vilka berör individens rätt att vara fri från algoritmisk manipulation. Dessa begrepp har redan en plats inom neuroteknologi och kan mycket väl bli en central del av framtida AI-regleringar. Det är tydligt att för att AI ska kunna betraktas som en säker och ansvarsfull teknologi, måste vi ta dessa frågor på största allvar.

FAKTAKOLL: Notering — Artikeln nämner att miljontals användare av ChatGPT varje vecka visar tecken på psykiska problem, men källmaterialet specificerar ett intervall mellan 1.2 och 3 miljoner användare.; Artikeln säger att dessa siffror kommer från OpenAI själva, men källmaterialet nämner att det inte finns någon oberoende granskning eller transparens kring hur dessa data samlas in och hanteras.