Frames for Explainable Healthcare AI

Denne artikel undersøger de teknologiske rammer, som politikere, sundhedsprofessionelle samt udviklere af kunstig intelligens (AI) anvender til at forstå centrale etiske spørgsmål om anvendelsen af AI i sundhedsvæsenet. Vi fokuserer specifikt på forklarlighed, altså evnen til at kunne forklare og forstå et AI-systems beslutning, som centralt etisk aspekt. Vi argumenterer for, at de tre aktørers teknologiske rammer om forklarlig sundheds-AI er inkongruente, hvorfor aktørerne har individuelle forståelse af, hvad forklarlig sundheds-AI skal bidrage med. Sådan inkongruens vanskeliggør forklarlig sundheds-AI’s rolle i klinisk praksis, eksempelvis når klinikere ikke formår at modarbejde bias i AI-modeller. På baggrund af dette foreslår vi anvendelsen af empirisk etik som en tilgang, der kan tage højde for de forskellige normative mål i henholdsvis sundhedsprofessionelles, politikeres og AI-udvikleres omsorgspraksisser. Vi konkluderer, at empirisk etik kan bidrage til at skabe større kongruens imellem de teknologiske rammer for forklarlighed og dermed fremme etisk acceptabel sundheds-AI.