I efteråret 2021 har Nikolina skrevet kandidatspeciale på AU om prædiktering af næste hjælpemiddel baseret på 300.000 udlån af hjælpemidler i Aalborg Kommune. Indenfor forskningen har man særligt i nyere tid forsket i, hvordan man kan prædiktere det næste element i en given sekvens og dermed kunne forudsige, hvilken handling der er et det mest sandsynlige. Det finder normalvis anvendelse indenfor aktiehandel, vejrprognoser og lignende applikationer. I dette speciale har Nikolina designet, udviklet og afprøvet forskellige statistiske metoder, som både inkluderer det nyeste nye indenfor forskningen (f.eks. neurale netværk) og mere tradtionelle statistiske værktøjer. Hun har fundet, at det er muligt selv med simple metoder at prædiktere det næste hjælpemiddel med relativ god nøjagtighed, enten på baggrund af det seneste, de fire seneste eller de ti seneste hjælpemidler.

Reference:

N. I. Chalakova, "Sequence Prediction of Assistive Devices in Healthcare", MSc Thesis, Institut for Elektro- og Computerteknologi, AU, Efterår 2021

I foråret 2021 har Daniel Juhász Vigild og Lau Johansson skrevet kandidatspeciale på DTU om bias i algoritmer til maskinlæring. Der er en tendens i stat, kommuner og regioner, hvor maskinlæringsalgoritmer (ML-algoritmer) inddrages i beslutningsstøtte og automatisering – eksempelvis i forbindelse med skattesnyd, på sundhedsområdet og til interne HR-formål. I modsætning til andre indsatser fra det offentlige, er der ikke sideløbende blevet implementeret metoder til at evaluere den måde hvorpå ML-algoritmerne virker. Man kunne forestille sig, at en ukritisk algoritmisk tilgang, eksempelvis på socialområdet, ville understøtte og i værste fald forstærke de bias, der negativt påvirker visse – typisk marginaliserede – grupper af borgere.

Man kunne derudover forestille sig, at ressourcestærke borgere, der taler godt for deres sag, måske kan få mere ud af det offentlige system end ressourcesvage borgere. Sidst kunne der muligvis være en skævvridning på tværs af landet, hvor regionale processuelle forskelle bevirker at sandsynligheden for at få tildelt et gode kan være afhængig af hvor i landet man bor. En algoritme-baseret beslutningsstøtte kunne muligvis håndtere disse skævvridninger, således at alle borgere i Danmark bliver behandlet lige.

Hvis denne udligning skal være succesfuld, er det væsentligt, at der ikke bliver indført utilsigtede skævvridninger gennem brugen af algoritmer til beslutningsstøtte. Derfor har Daniel og Lau brugt netop AIR-projektet som den primære case i deres speciale. Det har været hensigten at udvikle et framework, der kan tilvejebringe viden om eventuelle kilder til bias, komme med anbefalinger til håndtering af disse og give læring, der kan overføres til et generelt evalueringsværktøj. Helt konkret kunne Daniel og Lau påvise bias i den variable, som indikerer en borgers køn i AIR's datasæt.

Reference:

D. J. Vigild, L. Johansson, "Identifying and mitigating bias in machine learning models", MSc Thesis, DTU, Forår 2021

I foråret 2021 har Theis Egsgaard Hansen og Frederik Andersen skrevet kandidatspeciale om udvikling og evaluering af brugergrænseflader, systemintegration og brugerdrevet-design til AIR-projektet, der kan formidle resultater og informationer fra en kunstige intelligens. Formålet med deres speciale har været at udvikle, teste og dokumentere en løsning, som skal kunne bruges af sagsbehandlere i hjemmehjælpssektoren i Aalborg Kommune som et støtteværktøj. Støtteværktøjet skal bruges, når borgere i kommunen enten skal have visiteret et nyt hjælpemiddel eller et træningsforløb. Løsningen har tre mål: Det ene er at kunne frigive nogle af de ressourcer,  som bruges på træningsforløb, der i sidste ende ikke bliver gennemført, og visitation af hjælpemidler der over tid kan give en større negativ effekt i forhold til styrke og bevægelighed. Det andet er at lette og effektivisere arbejdet for sagsbehandlernes visitationsproces ved at indsamle og vise det mest nødvendige information bedst muligt. Det tredje er oplyse sagsbehandlerne om eventuel faldrisiko for en bestemt borger og årsagerne hertil. Alle disse mål er blevet integreret i en samlet løsning.

Løsningen er en funktionel prototype i form af en web-application. Denne prototype er tiltænkt at skulle demonstrere, hvordan en løsning kunne se ud og fungere i samspil med de andre programmer og systemer, som sagsbehandlere i Aalborg Kommune benytter. Theis og Frederik har ifb. deres R&D-projekt lavet et design på en mulig løsning, som skal verificeres og videreudvikles med en pilotgruppe af sagsbehandlere. De har udover UI/UX-design også haft særligt fokus på softwarekvalitet og sikkerhed i deres løsning.

Reference:

T. E. Hansen, F. Andersen, "User Interface for a Rehabilitation Training Decision Support System", MSc Thesis, Institut for Elektro- og Computerteknologi, AU, Forår 2021

I foråret 2021 har Daniel Düring Knudsen og Thomas Wolff Kristensen lavet et R&D-projekt, der havde til formål at designe, udvikle og afprøve flere slags statistiske modeller, der kunne forudsige, hvilke hjælpemidler en borger med størst sandsynlighed vil få brug for i fremtiden. De har udelukkende arbejdet med data fra Aalborg Kommune. Indenfor forskningen har man særligt i nyere tid forsket i, hvordan man kan prædiktere det næste element i en given sekvens og dermed kunne forudsige, hvilken handling der er et det mest sandsynlige. Det finder normalvis anvendelse indenfor aktiehandel, vejrprognoser og lignende applikationer. I dette projekt har Daniel og Thomas undersøgt over 300.000 udlån af hjælpemidler og ved hjælp af moderne machine-learning biblioteker, som PyTorch og Tensorflow, sorteret alle udlån efter dato og trænet modellen på baggrund af de mønstre, som fandtes i dem. Det er lykkedes dem at finde tilstærkkelige mønstre i dataen og modellen har derfor med rimelig statistisk træfsikkerhed kunnet forudsige hvilket hjælpemiddel, en borger vil få næste gang. Resultatet er derfor en sekvens af de mest sandsynlige hjælpemidler, som en borger vil få brug for i fremtiden, givet borgerens nuværende hjælpemidler og mønstre i udleveringen af dem. Det er hensigten, at dette projekt skal inkorporeres i den samlede AIR-løsning og være en del af den udviklede software.

Reference:

D. D. Knudsen, T. W. Kristensen, "A performance comparison of a RNN versus a Discrete Stochastic approach in sequence prediction", R&D Project, Dept. of Electrical and Computer Engineering, AU, Spring 2021

I foråret 2021 har Osvald Frisk og Friedrich Dörmann skrevet en videnskabelig artikel med støtte fra AIR-projektet om hvordan træning af statistiske modeller med neurale netværk og differential privacy-metoder kan kombineres på en effektiv måde. Normalvis når man anvender metoder til at sløre de oprindelige observationer og derved beskytte privatlivets fred, i dette tilfælde differential privacy, vil denne process tilføje en betydelig ekstraudgift i form af væsentligt længere træningstider. Osvald og Friedrich har undesøgt metoder indenfor træningsoptimering til at opnå det, man kalder "Super-convergence", altså at træningen af ens model konvergerer (bliver færdig) langt hurtigere end normalt, fordi man justerer de parametre, man træner efter, på en bedre måde. De har så anvendt metoder indenfor super-convergence sammen med differential privacy og påvist, at man kan opnå en betydeligt gevinst i form af lavere træningstider ved at kombinere dem. Deres resultater er blevet til en videnskablig artikel, som er optaget på "55th Annual Conference on Information Sciences and Systems (CISS) 2021", hvilket de to forfattere og teamet bag AIR er utroligt glade for.

Reference:

O. Frisk, F. Dörmann, "Super-convergence and Differential Privacy: Training faster with better privacy guarantees", videnskabelig artikel til CISS 2021, Institut for Elektro- og Computerteknologi, AU, Forår 2021

I foråret 2020 har Tenna Rasmussen og Cecilie Moriat skrevet kandidatspeciale om netop AIR-projektet og brugt den indsamlede data til at undersøge og forudsige, hvilke borgere der bør få tilbudt fysisk træning ud fra viden om, hvilke hjælpermidler personen har fået stillet til rådighed og empiriske resultater fra andre borgere, som har haft gavn af at træne.

I deres speciale har de derfor udviklet en kunstig intelligens, der, ved hjælp af underliggende matematiske modeller, hurtigt kan udpege de borgere, der vil have gavn af træning, så de på sigt vil kunne klare flere ting i hjemmet selv og være mindre afhængige af hjælpemidler. Specialet er på engelsk og giver en grundig introduktion til AIR og teknologien bag, relaterede projekter indenfor sundhedsvidenskab og AI samt letforståelige figurer og grafer over dataet.

Reference:

C.Ø. Moriat, T.B. Rasmussen, "Clinical Decision Support for Physiotherapy-based Rehabilitation", MSc Thesis, Section of ECE, Dept. of Eng., AU, June 2, 2020

I efteråret 2020 har Michael Quach skrevet kandidatspeciale om de fordele og ulemper, der er ved at træne machine-learning (AI) modeller centralt versus decentralt, med afsæt i AIR-projektet. Normalvis trænes statistiske modeller centralt på en computer eller i et datacenter, men denne traditionelle fremgangsmåde kan krænke privatlivets fred og være i modstrid med EU’s persondataforordning (GDPR), da den netop kræver at al data er samlet på et sted og at systemet, der træner modellen, har fuld adgang til al data. Dette er en udfordring med personfølsomme data, som sundhedsdata typisk er, da man ønsker at begrænse udbredelsen af disse og værne om folks private oplysninger og datasikkerhed.

Federated learning er et nyt koncept indenfor AI, som tillader at de statiske modeller trænes separat og distribueret. Her foretager man lokal træning på hver enkel computer med rå data som kan være af en personfølsom karakter, før de endelige statiske modeller bliver samlet et sted og præsenteret for et publikum. Differential privacy er ligeledes et koncept indenfor privatliv, som ved at tilføje modellerne støj i løbet af træningsprocessen kan garantere mod, at følsom data bliver lækket gennem modellerne og gøre dem robuste overfor forskellige former for angreb.

Michael Quach har designet, implementeret og afprøvet både federated learning og differential privacy-teknikker med fokus på at udpege de borgere, som har størst sandsynlig for at gennemføre et rehabiliteringsforløb. Formålet har været at udvikle distribuerede modeller, som klarer sig på lige fod med centrale modeller ift. nøjagtighed af klassifikationen, men samtidig sikre at følsomme oplysninger ikke lækkes i processen.

Michaels konklusion er, at de distribuerede modeller klarer sig lige så godt eller endda bedre end de centrale, men at eventuel tilføjet randomiseret støj vil sænke deres nøjagtighed.

Reference:

M. Quach, "Federated Learning in Healthcare", MSc Thesis, Dept. of Electrical and Computer Engineering, AU, Autumn 2020

I efteråret 2020 har Lasse Lildholdt skrevet kandidatspeciale om de fordele og ulemper, der er ved at træne machine-learning (AI) modeller centralt versus decentralt, med afsæt i AIR-projektet. Normalvis trænes statistiske modeller centralt på en computer eller i et datacenter, men denne traditionelle fremgangsmåde kan krænke privatlivets fred og være i modstrid med EU’s persondataforordning (GDPR), da den netop kræver at al data er samlet på et sted og at systemet, der træner modellen, har fuld adgang til den. Dette er en udfordring med personfølsomme data, som sundhedsdata typisk er, da man ønsker at begrænse udbredelsen af disse og værne om folks private oplysninger og datasikkerhed.

Federated learning er et nyt koncept indenfor AI, som tillader at de statiske modeller trænes separat og distribueret. Her foretager man lokal træning på hver enkel computer med rå data som kan være af en personfølsom karakter, før de endelige statiske modeller bliver samlet et sted og præsenteret for et publikum. Differential privacy er ligeledes et koncept indenfor privatliv, som ved at tilføje modellerne støj i løbet af træningsprocessen kan garantere mod, at følsom data bliver lækket gennem modellerne og gøre dem robuste overfor forskellige former for angreb.  

Lasse har undersøgt, hvordan distribuerede statistiske modeller kan designes, implementeres, testes og dokumenters både ved hjælp af federated learning- og differential privacy-teknikker, så de kan assistere en sagsbehandler med at opdage og identificere borgere, som kan være i risikogruppen for at opleve et fald. Det har ligeledes været undersøgt, hvordan disse modeller kan trænes, så privatlivets fred sikres, og samtidig har det været i fokus at modellerne skulle kunne forklares og deres prædiktioner redegøres for.

Lasses konklusion er, at både federated learning og differential  privacy gør det muligt at træne distribuerede modeller, hvor der tages hensyn til privatlivets fred, men på bekostning af nedsat nøjagtighed ved prædiktioner.

Reference:

L. Lildholdt, "Privacy Preserving Machine Learning In Healthcare", MSc Thesis, Dept. of Electrical and Computer Engineering, AU, Autumn 2020

I efteråret 2020 har Theis Egsgaard Hansen og Frederik Andersen lavet to fælles R&D-projekter om design og udvikling af brugergrænseflader (UI) til AI. De har undersøgt, designet, udviklet, afprøvet og dokumenteret forskellige varianter og former for brugergrænseflader, der skal kunne formidle de opnåede resultater med kunstig intelligens ud til slutbrugeren, i første omgang en sagsbehandler i Aalborg Kommune. Det er hensigten, at disse nyudviklede UI-funktionaliteter skal indgå som en del af den software-portefølje, som bliver det endelige slutprodukt, og det skal dermed være i stand til at kunne kommunikere den opnåede viden om en borgers sandsynlighed for at gennemføre et rehabiliteringsforløb og eventuel risiko for at falde til en sagsbehandler. Det er målet, at denne transformation fra lange talrækker og komplicerede statistiske modeller bliver så gnidningsfri og transparent som mulig, så sagsbehandleren vil opleve et intuitivt og letforståeligt visuelt design, der kan lette han eller hendes arbejdsbyrde ved at agere støtteværktøj i mødet med borgeren.

Theis og Frederik har først og fremmest fokuseret på design og udvikling af en brugergrænseflade til en hjemmeside. Det var målet, at hjemmesiden skulle nå et proof-of-concept (PoC)-stadie med hensyn til udviklingsgraden og de funktionaliteter, som brugeren får gennem værktøjet. Hjemmesiden var tiltænkt sagsbehandleren og dennes arbejde med at tilrettelægge et rehabiliteringsforløb eller afgøre, om en borger har brug for faldforebyggelse.

Theis og Frederik har undersøgt hvilket design, der egner sig bedst til opgaven, ved hjælp af prototyper og brugerinddragelse, hvor der har været etableret en pilotgruppe af sagsbehandlere i Aalborg Kommune. Denne pilotgruppe har været inddraget i designfasen og testet prototypen løbende, hvilket har kastet konstruktiv feedback og gode forslag til forbedring af sig undervejs i udviklingsprocessen. Hjemmesiden vil i 2021 blive forfinet og integreret med de bagvedliggende statistiske modeller.

T. E. Hansen, F. Andersen, "User interface for AI-Rehabilitation - Research and Development Project", R&D Project, Dept. of Electrical and Computer Engineering, AU, Autumn 2020

T. E. Hansen, F. Andersen, "User interface for AI-Rehabilitation - Research and Development Project 2", R&D Project, Dept. of Electrical and Computer Engineering, AU, Autumn 2020