Kunstig intelligens (KI) er i ferd med å bli en naturlig del av hverdagen i norsk helsesektor. Dette er verktøy som kan hjelpe helsepersonell med å jobbe smartere, raskere og tryggere.
Men hvordan sørger vi for at teknologien brukes på en ansvarlig måte?
Det har jeg undersøkt i en kvalitativ casestudie om hvordan helseregionene i Norge ivaretar ansvarlig bruk av høyrisiko-KI i spesialisthelsetjenesten. Studien er gjennomført som del av emnet ITEVU4430 – Ansvarlig digitalisering av helsesektoren ved Universitetet i Oslo.
Tale-til-sammendrag og bildeanalyse er i gang
Bruk av tale-til-sammendrag som en «digital legesekretær», også kalt ambient scribe, skal snarlig implementeres i spesialisthelsetjenesten i Helse Sør-Øst og de øvrige helseregionene.
Verktøyet er allerede tatt i bruk ved flere fastlegekontorer. KI-løsningen lytter til samtalen mellom pasient og behandler, og lager automatisk utkast til et strukturert journalnotat.
Dokumentasjon, beslutningsstøtte og koordinering er blant de største tidstyvene i sykehusene. I en rapport for Helse- og omsorgsdepartementet anslår Oslo Economics at KI-støttet journalskriving alene kan frigjøre tid tilsvarende mellom 243 og 1 427 årsverk innen psykisk helsevern.
KI kan da både frigjøre tid og gjøre journalnotatene mer konsistente og komplette.
I tillegg er en rekke bildeanalysemodeller allerede i bruk i sykehusene som beslutningsstøtte i bildediagnostikk.
Hvorfor KI i helsesektoren er både lovende og krevende
Nå står vi foran et nytt skifte i digitalisering av helsesektoren med mer utvidet bruk av KI-systemer som raskere analyserer bilder, skriver journalnotater og støtter kliniske beslutninger i sykehusene.
Skiftet treffer bredt, på makronivå (samfunn), mesonivå (organisasjon) og mikronivå (sluttbrukerne).
Dette merkes blant annet i forbindelse med pågående prosesser rundt den nye KI-forordningen som ventes innført i norsk regelverk, nye styringsmodeller og utviklingen i organisasjonene. Samtidig endres arbeidsprosesser i takt med utviklingen.
Hvordan forstår vi ansvarlig bruk?
Denne studien forstår betydningen av ansvarlighet i tråd med rammeverket som er skissert i «Trustworthy Artificial Intelligence: A Review».
Rammeverket bygger på EU-kommisjonens etiske retningslinjer for pålitelig KI, som også ligger til grunn for KI-forordningen.
Retningslinjene slår fast at pålitelig KI skal være lovmessig, etisk og robust. De fire etiske prinsippene er respekt for menneskelig autonomi, forebygging av skade, rettferdighet og forklarbarhet. Figuren under viser sammenhengen.
Figur 1: Rammeverket for pålitelig kunstig intelligens. Bearbeidet etter EU-kommisjonens etiske retningslinjer for pålitelig KI (2019)
Human-in-the-loop: Mennesket har ansvaret
Studien bekrefter at helse-Norge allerede tar dette på alvor. KI brukes kun som støtte, ikke som erstatning, og behandlende lege har alltid det fulle ansvaret. KI-løsningene skal kunne overprøves og korrigeres, og det er helt avgjørende for tilliten til slike løsninger.
Kravet er også i ferd med å bli lovfestet. Når KI-forordningen blir gjeldende norsk rett, vil den kreve at mennesker har kontroll og ansvar ved bruk av høyrisiko-KI.
Ifølge Digitaliserings- og forvaltningsdepartementet skal loven sikre trygg, ansvarlig og etisk bruk av KI og ivareta enkeltpersoners grunnleggende rettigheter, samtidig som den legger til rette for innovasjon, konkurransekraft og forutsigbare rammevilkår for virksomheter som utvikler og tar i bruk KI.
Skaleringsbarrierer ligger ikke i teknologien, men i organisasjonen
Selv om KI-teknologien er moden for bruk i sykehusvirksomhet, er ikke alltid organisasjonene det.
Studien min peker på flere utfordringer:
-
Ulik digital modenhet hos både utviklere og sluttbrukere
-
Gevinstrealisering blir nedprioritert
-
Kompleksiteten i innføringsløp blir ofte undervurdert
-
Leverandører forstår ikke alltid arbeidsprosessene som skal støttes
Dette er klassiske sosiotekniske utfordringer: teknologi og organisasjon må utvikles sammen.
Hva må til for å lykkes?
Studien jeg har gjennomført peker på fire nøkkelfaktorer:
1. Operasjonaliser ansvarligheten
Det holder ikke bare med et teoretisk rammeverk. Det må etableres tiltak for operasjonell ansvarlighet gjennom hele livssyklusen til KI-løsningen.
Som et minimum må følgende påpasses:
-
Kontinuerlig overvåkning av KI-modeller i klinisk bruk
-
Klare og etablerte prosedyrer for håndtering av avvik, med instruks om hvem som skal varsles
-
Krav om at bruken stoppes umiddelbart dersom avviket er kritisk
2. Se innføringen som organisasjonsutvikling
KI endrer arbeidsprosesser, roller og ansvar. Opplæring står sentralt, involvering av brukere er essensielt, og man må hensynta at det tar tid å innarbeide nye verktøy som del av arbeidsprosesser.
3. Start i det små, og skaler smidig
Pilotprosjekter gir trygghet og læring før bredding til full klinisk drift. Helseregionene er omforent om å starte smått med KI-innføringen ved å stegvis løse enkeltstående problemer, og gjerne starte med enkle oppgaver som gir raske gevinster.
Et eksempel på dette er planer om utvidelser av funksjonaliteter til journalføringsstøtten når løsningen for tale-til-sammendrag er breddet og stabilisert i regionene.
Studien indikerer også at man har en innføringsstrategi i helse-Norge hvor man ikke ønsker å gape over for stort med å løse alle problemer i en løsning, og hvor det er lov å snu dersom innførte løsninger ikke leverer iht. målsetningen.
4. Samarbeid på tvers av helseregionene
Felles utfordringer krever felles løsninger og erfaringsdeling på tvers av helseregionene.
KI kan styrke spesialisthelsetjenesten, dersom den brukes riktig
Innføringen av KI-systemer er godt i gang i spesialisthelsetjenesten, og de første løsningene er allerede på vei inn i drift. Potensialet er enormt. Helse-Norge setter strengt fokus på ansvarlig digitalisering i alle ledd, fra anskaffelse til daglig drift og forvaltning.
Overgangen til klinisk bruk vil nå gi praktisk erfaring med å etterleve KI-forordningen operasjonelt.
For å lykkes med skaleringen må vi imidlertid håndtere de sosiotekniske barrierene, og sørge for at ansvar og tillit til de respektive KI-systemene alltid går hånd i hånd.
