KI – muligheter og etiske dilemmaer

Fagstyret besluttet derfor at bruk av KI i helsetjenesten skulle være en av tre fagsaker under årets faglandsråd på Soria Moria 17. – 18. april. Målet var at representantene skulle få et overblikk over muligheter og utfordringer innen et fagfelt som virkelig har tatt av det siste året. Fremfor å ha fokus på konkrete enkeltprosjekter som allerede er innført, ønsket vi å få en introduksjon til muligheter og utfordringer på et mer overordnet nivå. Hvem skal sørge for at utviklingen virkelig ­kommer pasientene og helsepersonell til gode? Og hvordan går man frem for å få dette til på en etisk forsvarlig og trygg måte var noen av spørsmålene vi stilte.

Fra science fiction til praktisk medisin

Kunstig intelligens i medisinen defineres slik av IBM: Bruken av maskinlæringsmodeller for å bearbeide medisinske data og gi helsepersonell viktige innsikter, forbedre helseutfall og pasient­opplevelser. Det var amerikaneren John McCarthy som første gang i 1956 beskrev kunstig intelligens som vitenskapen om og utformingen av intelligente maskiner. Det som for noen tiår siden fortonet seg som science fiction en gang i en fjern fremtid har de siste årene blitt tilgjengelig og tatt i bruk innen en rekke samfunnsområder, ikke minst i helsevesenet. Billedana­lyse for deteksjon av brudd ved hjelp av KI er for eksempel tatt i bruk i stor utstrekning i Vestre Viken hvor det daglig gjøres store innsparinger i ­anvendt legetid og ikke minst ventetid for pasientene. Mange av oss har også testet ut generative språkmodeller som ChatGPT og blitt slått av svarene de kommer opp med.

Utviklingen har gått raskt og spørsmålet er om vi har klart å henge med slik at vi får utnyttet teknologien til nytte for helsepersonell og pasientene – og at dette skjer på en etisk forsvarlig måte. For det finnes absolutt fall- gruver og utfordringer. Den største utfordringen, i hvert fall pr i dag, er kanskje at resultatene vi får ut av teknologien ikke er bedre enn dataene vi mater maskinene med.

Treningsdataene avgjør kvaliteten

Det er viktig at vi har med oss at KI ikke blir bedre enn de treningsdataene som modellene fores med og at vi må stille oss kritiske til det som KI gir oss av svar. Nylig ble det i Tidsskriftet referert til en amerikansk forskergruppe som hadde testet ut språkmodellen GPT-4 ved ulike kliniske problem­stillinger og fant at GPT-4 anga ulik diagnose, utredning og behandling for pasienter med identisk sykehistorie, men med ulikt kjønn og etnisitet.

Studien bekrefter at en del generiske språkmodeller forsterker kjente kjønns- og klassestereotypier, demografiske skjevheter og diskriminerende aspekter. Ikke minst trenger vi å rette opp at vi over tid har oversett den store forskjellen som kjønns betydning for helse og sykdom utgjør.

I Kvinnehelseutvalgets rapport fra 2023 ble det pekt på hvordan samfunnet trenger å rette opp kjønnsmessige skjevheter i sykdom og helse gjennom målrettet satsning. Vi vet at vi også har en rekke andre biaser i helsevesenet ved at mennesker med for eksempel ulik etnisitet får ulik behandling for ellers like tilstander. Såkalt implisitt bias er menneskelig og noe som også vi som profesjonelt helsepersonell trenger å være bevisst – og vi kan håpe at KI etter hvert kan hjelpe oss til å forebygge dette i større grad.

For å få til dette må vi arbeide mer med hvordan vi sikrer at det er kvalitetssikrede forskningsdata sammen med pasient- og registerdata for å ­utvikle presise språkmodeller for KI-utviklingen innen medisin. Her er det vi som fagfolk som må vise vei.

Effekten må dokumenteres

Regjeringen har satt av en KI-milliard for å få fart i utviklingen på feltet. Helse- vesenet ønsker å få tilgang til noen av disse midlene. I oppdrags­dokumentet fra Helse- og omsorgs­departementet til helseforetakene for 2024 fremkommer det tydelig at kunstig intelligens skal satses på. Der står det blant annet: «De regionale helsefore­takene skal, under ledelse av Helse Sør-Øst RHF, ta i bruk løsninger med kunstig intelligens som kan bidra til å frigjøre tid hos helsepersonell og redusere ventetider. Effekten av løsningene skal dokumenteres slik at det legger til rette for videre innføring. De regionale helseforetakene skal også bidra inn i samarbeidet om bruk av KI i helse- og omsorgstjenesten som ledes av Helsedirektoratet».

Det er viktig å merke seg at effektene skal dokumenteres. Ikke bare må bruken av KI gi effekt, men den bør sikre at alle grupper i befolkningen får nytte av utviklingen. Sosial ulikhet i helse står i fare for å kunne forverres om en ikke har fokus på sosial innovasjon, at utviklingen først og fremst skal dekke udekte behov og komme sårbare ­grupper til nytte – og at dette må skje i tråd med FNs bærekraftmål.

Miljø og bærekraft

– Vestre Viken har satset målrettet på kunstig intelligens som en av nøklene til en mer bærekraftig helsetjeneste. Denne teknologien muliggjør bedre behandling og raskere pasientforløp, og bidrar til en mer effektiv og tilfredsstillende arbeidshverdag for vårt helsepersonell, sa administrerende direktør i Vestre Viken HF, Lisbeth Sommervoll, til Dagens Medisin tidligere i år da daværende helseminister Ingvild ­Kjerkol var på besøk for å studere bruk av KI på nært hold. Med bærekraft regner jeg med at hun sikter til bærekraftig bruk av helsepersonell, men bærekraft i videre forstand handler også om energibruk – og KI krever store mengder energi som ikke akkurat er miljøvennlig.

Forskere anslår at det globale energiforbruket for KI i 2027 vil tilsvare det årlige forbruket av energi i land som Argentina, Nederland eller Sverige for å drive de enorme databehandlingssystemene som er nødvendig. KI er altså foreløpig å anse som en stor klima­synder. Mens det forskes på måter å gjøre KI-modeller mer energieffektive på, gjelder det for oss fagfolk å være påkoblet og følge med på utviklingen slik at vi sikrer at KI tas i bruk på de områdene som gir mest effekt både for helsevesenet og for hele samfunnet.

Fra Faglandsrådets innledere var meldingene til salen at vi som leger må tørre å ta plass i diskusjonene om KI, tørre å være idealister som står opp for pasientene våre og ikke bli stående igjen på perrongen når toget går.

Norske data i skyen?

Den ferske helseministeren, Jan ­Christian Vestre, som kommer direkte fra en posisjon som næringsminister, vil nok kunne ønske å påskynde teknologiseringen innen helsevesenet, ikke minst for å kunne utnytte de kommersielle mulighetene som ligger i de norske helseregistrene, noen ganger omtalt som «den nye oljen». Et annet område som da trenger å adresseres, er de regulatoriske hindrene som finnes for å kunne utnytte Norges fantastisk gode helseregistre med koblede data («oljen») for å kunne ta dette i bruk innen for eksempel KI, slik at vi får «raffinert» råstoffene på en måte at de virkelig gir verdi både helsemessig og kommersielt.

I forbindelse med fjorårets EHiN hadde vi i Legenes hus besøk av sjefen for The Mayo Clinic Platform, John Halamka. Han mener er stor del av løsningen for fremtidens utfordringer i helsevesenet ligger i KI, men da må modellene trenes på ekte pasienter. Mayo Clinic har allerede 10 millioner pasienter og rundt 50 petabyte med helsedata fra elektroniske helsejour­naler, bildebehandling, telemetri, genomikk og patologi, fortalte han Dagens Medisin.

Halamka vil at Norge sammen med andre land skal levere anonymiserte pasientdata til en enorm skybasert database som forskerne og teknologiutviklerne kan hente solide treningsdata fra. Han viste til at den danske helseministeren nylig hadde underskrevet avtale med Mayo Clinic om levering av slike helsedata og håpet å trigge konkurranseinstinktet hos oss nordmenn. Kanskje lar Vestre seg trigge? •