The Battle for AI in Healthcare Has Begun

(in Danish)

Kommentar af Søren Sünksen

Partner og stifter hos not a box

Kampen om AI i sundhedsvæsenet er i fuld gang

I de senere år har vi som strategiske rådgivere arbejdet tæt på sundhedsvæsenet, i både Danmark, Norge og Sverige, med fokus på den strategiske udvikling af samarbejdet mellem hospitaler, kommuner og almen praksis. Men det sidste år har noget dog ændret sig og spredt sig usystematisk og hurtigere, end noget andet vi har set før. 

Borgerne møder op til lægen som ekspert. De er nemlig begyndt at bruge AI. De googler ikke længere deres symptomer. De spørger ChatGPT, Claude eller Gemini. De får forklaret prøvesvar, oversat behandlingsnotater og foreslået behandlinger – allerede inden de sætter sig i konsultationsrummet. 

Og lægerne, bruger de også amerikanske AI chatbots? Nej da, eller måske alligevel lidt i smug. 

I samtaler med klinikere på tværs af afdelinger og almen praksis hører vi det samme: ChatGPT er nogle gange åben i baggrunden. Den bliver brugt til at slå op, til at formulere notater, til at få et hurtigt overblik over en diagnose og behandlingsmuligheder. Det foregår uden formelle retningslinjer, uden fælles standarder og uden, at sundhedsvæsenet officielt har taget stilling til, hvordan teknologien må indgå i klinisk arbejde, andet end, at det må den ikke. 

Vi har overladt rammerne til andre

Når vi ikke selv beslutter, hvordan AI skal bruges i sundhedsvæsenet, så beslutter andre det for os. I praksis betyder det, at både patienter og læger i dag støtter sig til store amerikanske sprogmodeller – modeller trænet på amerikanske data, amerikanske kliniske retningslinjer og amerikansk kultur omkring sundhed, sygdom og behandling – og ud fra en forsikringstanke. 

For når en patient i Køge eller Holstebro spørger ChatGPT om sine symptomer, formes svaret af et sundhedssystem, der er fundamentalt forskelligt fra vores eget. Et system med en anden klinisk praksis, en anden rolle for almen praksis og en anden balance mellem patient, marked og offentligt ansvar og et marked der er drevet af en forsikringstankegang. Medmindre lægen har sat sin AI hårdt op til kun at bruge valide danske og europæiske kilder 

Og når lægen i ”smug” bruger ChatGPT som klinisk støtteredskab, så sker det uden, at hospitalet, regionen eller faglige selskaber har defineret, hvad der er forsvarlig brug, hvilke kvalitetsmål der skal opnås, og hvordan kvaliteten skal sikres. Vi overgiver rammerne og vores sundhedspolitik til virksomheder i San Francisco. Og konsekvenserne mærkes muligvis allerede i Køge. 

Patienterne har fuld damp under kedlen, men vi står stadig på kajen

Patienterne har fået viden, de ikke har haft før, og det må vi acceptere, at vi ikke kan styre for nuværende. Samtidig har vi et sundhedsvæsen, der stadig står på kajen og diskuterer, hvordan vi skal organisere os, og hvordan vi kan og skal gribe det an. 

Det er en velkendt mekanisme. Vi har en stærk tradition for at sikre, at nye teknologier bliver indført ordentligt – med evidens, med risikovurderinger og med klare ansvarsforhold. Det er en styrke. Men det bliver til en svaghed, når omverdenen bevæger sig hurtigere, end vi gør. 

Resultatet er paradoksalt. I et af verdens mest digitaliserede sundhedssystemer – hvor 100 procent af henvisningerne sker elektronisk, hvor alle praktiserende læger har elektroniske journaler, og hvor hver borgers data kan kobles sammen gennem nationale registre – har vi endnu ikke taget stilling til, hvordan AI skal bruges af læger og patienter i hverdagen. 

Vi har en datainfrastruktur i verdensklasse. Men ingen fælles ramme for, hvordan den bruges i AI-alderen. Og det der sker er, at AI sniges ind af bagvejen.  

Den etiske diskussion vi mangler

Det nye regeringsgrundlag har taget stilling til at der skal bruges tid og penge på AI i Danmark – men reelt er vi sent ude. Og det som kan undre er, at vi ikke allerede har haft en åben etisk diskussion om hvordan vi ønsker at bruge AI i sundhedsvæsenet. Ikke en abstrakt diskussion om kunstig intelligens i almindelighed, men en konkret diskussion om de dilemmaer, vi allerede står midt i: 

Hvem bærer ansvaret, når lægen bruger ChatGPT?

Retningslinjerne siger at det er den autoriserede sundhedsperson. Men når en læge bruger ChatGPT i en klinisk beslutning og der sker en fejl, kan man så sætte tvivl om ansvaret – er det lægen selv, hospitalet, regionen eller leverandøren i San Francisco? 

Lige adgang eller to-spors sundhedsvæsen?    

Skal/kan AI løfte adgangen for de svageste – eller bliver det en motorvej for de digitalt stærke, der kan brugeteknologien til at presse systemet og få hurtigere behandling? 

Amerikanske algoritmer eller danske værdier?

Patienter og læger støtter sig i dag primært til store amerikanske sprogmodeller. Skal vi acceptere det – eller skal vi bygge fælles danske modeller på vores egne data, klinisk praksis og sundhedskultur. Det er allerede muligt at sætte f.eks. Google NotebookLM hårdt op til kun at bruge bestemte kilder, som du stiller til rådighed for den.

Hastighed eller tillid?

Skal vi udrulle AI nu og bygge tilliden undervejs – eller skal vi vente på den perfekte ramme og risikere, at praksis allerede er defineret af andre, når vi når frem? 

Disse spørgsmål og mange flere bør allerede fylde i sundhedsråd, regionsbestyrelser, lægeforeninger og hospitalsledelser. Lige nu fylder de mest i frokostpauser og lukkede klinikrum. 

Det perfekte er det godes fjende

Når vi taler med ledere i sundhedsvæsenet, møder vi ofte det samme svar: Vi venter, indtil vi har de rigtige rammer. Vi venter på en national strategi. Vi venter på, at evidensen er på plads. Vi venter på, at retningslinjerne kommer. Vi skal forholde os til EU’s forordning om transparens og traceability. Vi venter på at den danske lovhjemmel kommer. Men mens vi venter, bruger patienter og læger som nævnt AI alligevel – uden rammer overhovedet. 

Hvis vi ikke selv tager stilling, så gør de amerikanske algoritmer det for os. Patienternes forventninger bliver formet af modeller, vi ikke har trænet. Lægernes praksis bliver formet af værktøjer, vi ikke som befolkning og beslutningstagere har valgt. I skrivende stund er de praktiserende læger på egen hånd i færd med at udrulle en norsk AI model til de klinikker, der ønsker det. Men hvad med sygehuslægerne? Og de praktiserende læger, der fortsætter med at bruge amerikanske systemer? Og den danske sundhedskultur, der bygger på lighed, gensidig tillid og solidarisk ansvar, risikerer langsomt at blive skubbet ud af systemer, der er designet til en anden virkelighed. 

Danmark har de bedste forudsætninger. Vi har en fælles datainfrastruktur. Vi har høj digital modenhed. Vi har et sundhedsvæsen, hvor stat, region, kommune og almen praksis er forbundet. Byggeklodserne er allerede til stede. Vi mangler bare at sætte dem sammen. 

Det er derfor bedre, at vi kommer i gang nu og lykkes med 50 eller 75 procent end at vi venter og aldrig når 100 procent.  

Det betyder ikke, at vi skal slække på fagligheden, tværtimod. Det betyder, at vi skal sætte rammerne og indhegne de protokoller vi har styr på mens vi lærer – og at vi skal acceptere, at vi ikke kan tegne den endelige model på papir, før vi prøver den i virkeligheden. 

Sundhedsvæsenet forholder sig allerede til AI, uanset om vi vil det eller ej. Spørgsmålet er, om vi vil tage ansvaret selv. Eller overlade det til oligarkerne i USA..