OVERLEGEN 2-2024 13 KUNSTIG INTELLIGENS for å evaluere og kvalitetssikre de KI- verktøyene som tas i bruk. KI forordningen For å sikre trygg og ansvarlig bruk av KI er reguleringer og standarder essensielle. I mars i år vedtok EU- kommisjonen KI-forordningen, et lovforslag som skal regulere utvikling og bruk av KI i EU. Dette regelverket trer i kraft i 2026 og har en målsetning om å sette en høy standard for beskyttelse av grunnleggende verdier og rettigheter, samtidig som innovasjon og utvikling av KI-teknologi fremmes. En fordel ved en slik omfattende regulering inkluderer økt tillit blant forbrukere og helsepersonell, noe som potensielt kan akselerere bruken av KI i helsevesenet. Reguleringen kan også stimulere til innovasjon ved å skape en mer forutsigbar og sikker ramme for utvikling av nye KI-verktøy. På den andre siden kan de strenge reglene og de omfattende kravene under KI-forordningen utgjøre noen utfordringer. For sykehus og andre helseinstitusjoner kan det være både kostbart og komplekst å tilpasse seg for å oppfylle de nye EU-reguleringene, noe som potensielt kan forsinke implementeringen av KI i det norske helsevesenet. Validering og kvalitetssikring Validering av KI-applikasjoner som skal implementeres i helsesektoren er avgjørende for å sikre at de oppfyller nødvendige standarder for klinisk nøyaktighet og pålitelighet. Eksempelet fra Vestre Viken, hvor man gjennom et omfattende valideringsarbeid har testet KI-verktøyet BoneView, viser viktigheten av å sikre at slike verktøy fungerer i lokale kliniske miljøer. Et slikt valideringsarbeid er imidlertid svært ressurskrevende, og dersom alle KI-verktøy skal gjennom omfattende validering på hvert sykehus før implementering, kan det både forsinke prosessen og gjøre det vanskelig å oppnå omfattende bruk. For å effektivt kunne implementere KI-verktøy på tvers av institusjoner, bør man vurdere å etablere et nasjonalt valideringssamarbeid der ulike sykehus kan dra nytte av allerede utførte valideringsstudier ved andre institusjoner. En slik felles valideringsprosess vil spare betydelige ressurser og akselerere implementeringen av nye KI-verktøy innenfor helsetjenesten. For å sikre en helhetlig tilnærming til bruken av KI-verktøy i helsesektoren, bør en også vurdere å etablere felles nasjonale prosedyrer for kvalitetssikring. Ved å standardisere hvordan vi evaluerer og overvåker disse verktøyene på, kan vi enklere sørge for at de oppfyller kravene i tråd med reguleringene og standardene i KI-forordningen. Dette vil også fremme samarbeid mellom sykehus og fagmiljøer, sikre raskere deling av beste praksis og gi helsepersonell trygghet i å ta i bruk KI- verktøy som allerede er grundig testet og anerkjent på et nasjonalt nivå. Legene har en avgjørende rolle I tiden fremover blir det viktig at legene engasjerer seg i utvikling og implemen- tering av KI-verktøy innen helsesektoren for å sikre at teknologien møter reelle kliniske behov. Deres kunnskap om kliniske problemstillinger og arbeidsflyter blir essensiell for å utvikle og ta i bruk KI-verktøy som kommer pasientene til gode. Ved å delta aktivt i utform- ingen, testing og valideringen av KI- løsninger kan legene sikre at teknologien brukes riktig og styrker pasientbehandlingen på en helhetlig måte. En annen gruppe fagpersoner som kan spille en betydelig rolle i implementeringen av KI-verktøy er medisinske fysiker. Dette er en faggruppe som allerede er integrert i helsevesenet og som har god kunnskap om de kliniske miljøene de jobber i. Med en fagbakgrunn som kombinerer teknisk kompetanse, programmeringsferdigheter og forståelse for kliniske prosesser, kan medisinske fysikere være med å identifisere, tilpasse og validere KI-verktøyene slik at de møter behovene til helsevesenet. • Ill. foto: Summit Art Creations/stock.adobe.com I tiden fremover blir det viktig at legene engasjerer seg i utvikling og implementering av KI-verktøy innen helsesektoren for å sikre at teknologien møter reelle kliniske behov.
RkJQdWJsaXNoZXIy MTQ3Mzgy