Publikationer


Igangværende projekter


Speciale om brugergrænseflader til AI

I foråret 2021 skriver Theis Egsgaard Hansen og Frederik Andersen kandidatspeciale om udvikling og evaluering af brugergrænseflader, systemintegration og brugerdrevet-design til AIR-projektet, der kan formidle resultaster og informationer fra en kunstige intelligens. Formålet med deres speciale er at udvikle, teste og dokumenter en løsning, som skal kunne bruges af sagsbehandlere i hjemmehjælpssektoren i Aalborg Kommune som et støtteværktøj. Støtteværktøjet skal bruges, når borgere i kommunen enten skal have visiteret et nyt hjælpemiddel eller et træningsforløb. Løsningen har tre mål: Det ene er at kunne frigive nogle af de ressourcer,  som bruges på træningsforløb, der i sidste ende ikke bliver gennemført, og visitation af hjælpemidler der over tid kan give en større negativ effekt i forhold til styrke og bevægelighed. Det andet er at lette og effektiviser arbejdet for sagsbehandlernes visitationsproces ved at indsamle og vise det mest nødvendige information bedst muligt. Det tredje er oplyse sagsbehandlerne om eventuel faldrisiko for en bestemt borger og årsagerne hertil. Alle disse mål skal integreres i en samlet løsning.

Løsningen skal være en funktionel prototype i form af en web-application. Denne prototype er tiltænkt at skulle demonstrere, hvordan en løsning kunne se ud og fungere i samspil med de andre programmer og systemer, som sagsbehandlere i Aalborg Kommune benytter. Theis og Frederik har ifb. deres R&D-projekt lavet et design på en mulig løsning, som skal verificeres og videreudvikles med en pilotgruppe af sagsbehandlere. De vil udover UI/UX-design også have særligt fokus på softwarekvalitet og sikkerhed i deres løsning.

Reference:

T. E. Hansen, F. Andersen, Software for Artificially Intelligent Rehabilitation, MSc Thesis, Dept. of Electrical and Computer Engineering, AU, Spring 2021

Billede af Theis Egsgaard Hansen
Theis Egsgaard Hansen
Billede af Frederik Andersen
Frederik Andersen

Speciale om bias i AI-algoritmer

I foråret 2021 skriver Daniel Juhász Vigild og Lau Johansson kandidatspeciale på DTU om bias i algoritmer til maskinlæring. Der er en tendens i stat, kommuner og regioner, hvor maskinlæringsalgoritmer (ML-algoritmer) inddrages i beslutningsstøtte og automatisering – eksempelvis i forbindelse med skattesnyd, på sundhedsområdet og til interne HR-formål. I modsætning til andre indsatser fra det offentlige, er der ikke sideløbende blevet implementeret metoder til at evaluere den måde hvorpå ML-algoritmerne virker. Man kunne forestille sig, at en ukritisk algoritmisk tilgang, eksempelvis på socialområdet, ville understøtte og i værste fald forstærke de bias, der negativt påvirker visse – typisk marginaliserede – grupper af borgere.

Man kunne derudover forestille sig, at ressourcestærke borgere, der taler godt for deres sag, måske kan få mere ud af det offentlige system end ressourcesvage borgere. Sidst kunne der muligvis være en skævvridning på tværs af landet, hvor regionale processuelle forskelle bevirker at sandsynligheden for at få tildelt et gode kan være afhængig af hvor i landet man bor. En algoritme-baseret beslutningsstøtte kunne muligvis håndtere disse skævvridninger, således at alle borgere i Danmark bliver behandlet lige.

Hvis denne udligning skal være succesfuld, er det væsentligt, at der ikke bliver indført utilsigtede skævvridninger gennem brugen af algoritmer til beslutningsstøtte. Derfor har Daniel og Lau valgt at bruge netop AIR-projektet som den primære case i deres speciale.

Daniel og Lau ønsker med deres speciale at kunne udvikle et framework, der kan tilvejebringe viden om eventuelle kilder til bias, komme med anbefalinger til håndtering af disse og give læring, der kan overføres til et generelt evalueringsværktøj. Modellerne samt tilhørende data, som anvendes hos AIR, er det primære undersøgelsesobjekt i specialet.

Reference:

D. J. Vigild, L. Johansson, "Evaluering af algoritmer", MSc Thesis, DTU, Spring 2021

Billede af Daniel Juhász Vigild
Daniel Juhász Vigild
Billede af Lau Johansson
Lau Johansson

Afsluttede projekter


Speciale om data og rehabilitering

I foråret 2020 har Tenna Rasmussen og Cecilie Moriat skrevet kandidatspeciale om netop AIR-projektet og brugt den indsamlede data til at undersøge og forudsige, hvilke borgere der bør få tilbudt fysisk træning ud fra viden om, hvilke hjælpermidler personen har fået stillet til rådighed og empiriske resultater fra andre borgere, som har haft gavn af at træne.

I deres speciale har de derfor udviklet en kunstig intelligens, der, ved hjælp af underliggende matematiske modeller, hurtigt kan udpege de borgere, der vil have gavn af træning, så de på sigt vil kunne klare flere ting i hjemmet selv og være mindre afhængige af hjælpemidler. Specialet er på engelsk og giver en grundig introduktion til AIR og teknologien bag, relaterede projekter indenfor sundhedsvidenskab og AI samt letforståelige figurer og grafer over dataet. Herunder er et resume:

En gradvis forværring af den fysiske formåen ses hos borgere, der modtager hjemmepleje. For at modvirke dette tildeles rehabiliteringsforløb. Der forekommer imidlertid store forskelle i tildelingen af rehabilitering på tværs af kommuner. Dette, samt usikkerheder i den kliniske vurdering ved visitation til rehabilitering, er udfordringer for sundhedssystemet. I dette speciale undersøges disse udfordringer i et samarbejde med Aalborg kommune og DigiRehab for at danne et solidt grundlag for videre undersøgelser i et af Kommunernes Landsforenings signaturprojekter, AIR. Dette speciale kombinerer data fra borgeres træningsforløb med data om deres lån af hjælpemidler. For at undersøge, hvorvidt en borger får gavn af et rehabiliteringsforløb, måles der på nedgang i behov for hjælp og på en forbedring af borgerens fysiske formåen. Derudover er videnskabeligt funderede klassifikationsalgoritmer designet, implementeret, afprøvet og dokumenteret i specialet.

Reference:

C.Ø. Moriat, T.B. Rasmussen, "Clinical Decision Support for Physiotherapy-based Rehabilitation", MSc Thesis, Section of ECE, Dept. of Eng., AU, June 2, 2020

Billede af Tenna Rasmussen
Tenna Rasmussen
Billede af Cecilie Moriat
Cecilie Moriat

Speciale om federated learning i sundhedssektoren

I efteråret 2020 har Michael Quach skrevet kandidatspeciale om de fordele og ulemper, der er ved at træne machine-learning (AI) modeller centralt versus decentralt, med afsæt i AIR-projektet. Normalvis trænes statistiske modeller centralt på en computer eller i et datacenter, men denne traditionelle fremgangsmåde kan krænke privatlivets fred og være i modstrid med EU’s persondataforordning (GDPR), da den netop kræver at al data er samlet på et sted og at systemet, der træner modellen, har fuld adgang til al data. Dette er en udfordring med personfølsomme data, som sundhedsdata typisk er, da man ønsker at begrænse udbredelsen af disse og værne om folks private oplysninger og datasikkerhed.

Federated learning er et nyt koncept indenfor AI, som tillader at de statiske modeller trænes separat og distribueret. Her foretager man lokal træning på hver enkel computer med rå data som kan være af en personfølsom karakter, før de endelige statiske modeller bliver samlet et sted og præsenteret for et publikum. Differential privacy er ligeledes et koncept indenfor privatliv, som ved at tilføje modellerne støj i løbet af træningsprocessen kan garantere mod, at følsom data bliver lækket gennem modellerne og gøre dem robuste overfor forskellige former for angreb.

Michael Quach har designet, implementeret og afprøvet både federated learning og differential privacy-teknikker med fokus på at udpege de borgere, som har størst sandsynlig for at gennemføre et rehabiliteringsforløb. Formålet har været at udvikle distribuerede modeller, som klarer sig på lige fod med centrale modeller ift. nøjagtighed af klassifikationen, men samtidig sikre at følsomme oplysninger ikke lækkes i processen.

Michaels konklusion er, at de distribuerede modeller klarer sig lige så godt eller endda bedre end de centrale, men at eventuel tilføjet randomiseret støj vil sænke deres nøjagtighed.

Reference:

M. Quach, "Federated Learning in Healthcare", MSc Thesis, Dept. of Electrical and Computer Engineering, AU, Autumn 2020

Billede af Michael Quach
Michael Quach

Speciale om brug af distribueret sundhedsdata

I efteråret 2020 har Lasse Lildholdt skrevet kandidatspeciale om de fordele og ulemper, der er ved at træne machine-learning (AI) modeller centralt versus decentralt, med afsæt i AIR-projektet. Normalvis trænes statistiske modeller centralt på en computer eller i et datacenter, men denne traditionelle fremgangsmåde kan krænke privatlivets fred og være i modstrid med EU’s persondataforordning (GDPR), da den netop kræver at al data er samlet på et sted og at systemet, der træner modellen, har fuld adgang til den. Dette er en udfordring med personfølsomme data, som sundhedsdata typisk er, da man ønsker at begrænse udbredelsen af disse og værne om folks private oplysninger og datasikkerhed.

Federated learning er et nyt koncept indenfor AI, som tillader at de statiske modeller trænes separat og distribueret. Her foretager man lokal træning på hver enkel computer med rå data som kan være af en personfølsom karakter, før de endelige statiske modeller bliver samlet et sted og præsenteret for et publikum. Differential privacy er ligeledes et koncept indenfor privatliv, som ved at tilføje modellerne støj i løbet af træningsprocessen kan garantere mod, at følsom data bliver lækket gennem modellerne og gøre dem robuste overfor forskellige former for angreb.  

Lasse har undersøgt, hvordan distribuerede statistiske modeller kan designes, implementeres, testes og dokumenters både ved hjælp af federated learning- og differential privacy-teknikker, så de kan assistere en sagsbehandler med at opdage og identificere borgere, som kan være i risikogruppen for at opleve et fald. Det har ligeledes været undersøgt, hvordan disse modeller kan trænes, så privatlivets fred sikres, og samtidig har det været i fokus at modellerne skulle kunne forklares og deres prædiktioner redegøres for.

Lasses konklusion er, at både federated learning og differential  privacy gør det muligt at træne distribuerede modeller, hvor der tages hensyn til privatlivets fred, men på bekostning af nedsat nøjagtighed ved prædiktioner.

Reference:

L. Lildholdt, "Privacy Preserving Machine Learning In Healthcare", MSc Thesis, Dept. of Electrical and Computer Engineering, AU, Autumn 2020

Billede af Lasse Lildholdt
Lasse Lildholdt

R&D-projekt om brugergrænseflader til AI

I efteråret 2020 har Theis Egsgaard Hansen og Frederik Andersen lavet to fælles R&D-projekter om design og udvikling af brugergrænseflader (UI) til AI. De har undersøgt, designet, udviklet, afprøvet og dokumenteret forskellige varianter og former for brugergrænseflader, der skal kunne formidle de opnåede resultater med kunstig intelligens ud til slutbrugeren, i første omgang en sagsbehandler i Aalborg Kommune. Det er hensigten, at disse nyudviklede UI-funktionaliteter skal indgå som en del af den software-portefølje, som bliver det endelige slutprodukt, og det skal dermed være i stand til at kunne kommunikere den opnåede viden om en borgers sandsynlighed for at gennemføre et rehabiliteringsforløb og eventuel risiko for at falde til en sagsbehandler. Det er målet, at denne transformation fra lange talrækker og komplicerede statistiske modeller bliver så gnidningsfri og transparent som mulig, så sagsbehandleren vil opleve et intuitivt og letforståeligt visuelt design, der kan lette han eller hendes arbejdsbyrde ved at agere støtteværktøj i mødet med borgeren.

Theis og Frederik har først og fremmest fokuseret på design og udvikling af en brugergrænseflade til en hjemmeside. Det var målet, at hjemmesiden skulle nå et proof-of-concept (PoC)-stadie med hensyn til udviklingsgraden og de funktionaliteter, som brugeren får gennem værktøjet. Hjemmesiden var tiltænkt sagsbehandleren og dennes arbejde med at tilrettelægge et rehabiliteringsforløb eller afgøre, om en borger har brug for faldforebyggelse.

Theis og Frederik har undersøgt hvilket design, der egner sig bedst til opgaven, ved hjælp af prototyper og brugerinddragelse, hvor der har været etableret en pilotgruppe af sagsbehandlere i Aalborg Kommune. Denne pilotgruppe har været inddraget i designfasen og testet prototypen løbende, hvilket har kastet konstruktiv feedback og gode forslag til forbedring af sig undervejs i udviklingsprocessen. Hjemmesiden vil i 2021 blive forfinet og integreret med de bagvedliggende statistiske modeller.

T. E. Hansen, F. Andersen, "User interface for AI-Rehabilitation - Research and Development Project", R&D Project, Dept. of Electrical and Computer Engineering, AU, Autumn 2020

T. E. Hansen, F. Andersen, "User interface for AI-Rehabilitation - Research and Development Project 2", R&D Project, Dept. of Electrical and Computer Engineering, AU, Autumn 2020

Billede af Theis Egsgaard Hansen
Theis Egsgaard Hansen
Billede af Frederik Andersen
Frederik Andersen