Frågorna du aldrig ska ställa till ChatGPT: "Verkligen livsfarligt"

Efter reklamen: Min hälsa #13 – Vad är ångest?

För bara någon månad sedan rapporterade medier att en man i USA blivit inlagd på sjukhus efter att ha frågat ChatGPT om kostråd. Mannen ville utesluta bordssalt ur sin kost och frågade GPT vad han kunde ersätta det med. Svaret blev natriumbromid, vilket i höga doser kan leda till hallucinationer, paranoia och psykoser.

– Det är bara ett exempel på när en chattbott gett ett felaktigt svar. Det kan verkligen vara livsfarligt att följa hälsoråd som AI-verktyg ger, säger AI-experten Paulina Modlitba.

AI-verktygen har ofta fel

OpenAI, som ligger bakom den populära chattbotten ChatGPT, har hälsa och sjukvård som en av områdena som de satsar på, berättar hon.

– Jag hoppas att de hittar metoder för att göra tjänsterna mer tillförlitliga. Det går åt rätt håll, men chattbottarna kommer aldrig att bli perfekta. Det ligger inte i deras natur att vara det. AI-modellerna kan ha fel och har ofta fel i någon mån.

Kan bli ett stöd vid svåra beslut

Ett foto kan avslöja hur du klarar en cancerbehandling

AI-verktygen är tränade på enorma mängder data och är programmerade att hitta mönster och sannolikheter i dessa. Däremot är datan inte alltid uppdaterad.

– Chatbottarna är tränade på historisk data. Om forskning motbevisar något i dag så är den fortfarande till stor del tränad på äldre data, vilket innebär att det finns gamla sanningar inbyggda i det här. Det gäller till exempel medicinsk forskning.

Frågorna du aldrig ska ställa ChatGPT

Paulina Modlitba skulle aldrig ställa en fråga som kräver ett hundraprocentigt korrekt svar ur ett faktabaserat perspektiv, berättar hon.

– Jag skulle aldrig fråga: "Min son har ont i magen, finns det någonting här hemma som jag kan ge honom för att lindra?". Även frågor kopplat suicidala tankar kan bli farligt. Många AI-verktyg saknar skyddsräcken när någon visar suicidala tecken. Sådana frågor måste tas om hand av den mänskliga vården.

Experten i den här artikeln

Paulina Motlibta är AI-expert, ingenjör och föreläsare. Hon har nyligen utkommit med boken "Vad fan ska vi med AI till?". Hon syns bland annat som AI-expert i TV4:s "Nyhetsmorgon".

Foto: Tess Wallenberg/Natur & Kultur

Det dyker hela tiden upp exempel på personer som frågat AI om råd gällande skilsmässa eller huruvida man ska göra slut eller inte. Vid sådana typer av frågor kan AI fungera som ett bollplank, tycker AI-experten.

– Jag skulle nog kunna tänka mig att ställa en sådan fråga bara för att få lite perspektiv på saker och ha en dialog kring det. Sedan behöver det inte leda till att man faktiskt gör slut eller skiljer sig.

Använder AI som assistent

Hon använder ChatGPT som assistent hela tiden för att få hjälp att bredda sina vyer.

– Jag använder det inte för faktabaserade frågor, utan mer för att komma utanför min egen box, få nya idéer, kill my darlings och hjälp att tänka kreativt. Det är bra för att få saker förklarade för sig och för att få hjälp att sålla bland material.

Hon låter bland annat ChatGPT hjälpa henne att skriva tal och presentationer.

– Men jag lägger till egna delar och tweekar. Om GPT citerar eller refererar till någonting så dubbelkollar jag det både en och två gånger. AI-verktygen är väldigt bra på att låta övertygande, och det måste man förstå. Det gäller att göra sitt mänskliga jobb också.

Fördelar med ChatGPT i inloggat läge

Det finns fördelar med att använda AI-verktygen i ett inloggat läge, berättar hon.

– Chattbotten lägger på minnet vad ni pratat om, vad du själv tycker och tänker om saker och vad som är viktigt för dig. Du kan prompta den till att ge råd utifrån vad den vet om dig. Det är när chattbotten blir mer anpassad för just dig som jag tycker att den skapar riktigt värde.

Hon medger att det kan verka obehagligt att låta chattbotten tracka personliga konversationer, men framhåller att vi redan lägger information i händerna på de stora tech-bolagen genom att använda till exempel Gmail- eller Microsoft-tjänster.

– De flesta AI-bolag säger att om du använder betalversionen av deras verktyg så använder de inte din data för att träna AI-modellerna. Antingen betalar du med din data, eller så betalar du med pengar. Det kan vara någonting att tänka på och ta i beaktning. Läs användarvillkoren innan du börjar använda en tjänst.

LÄS OCKSÅ: Anders Hansen utforskar AI i ny serie: "AI kommer slita isär oss"

Foto: TT/Shutterstock, Tess Wallenberg/Natur & Kultur