TRUSTY - Pålitligt intelligent system för fjärrstyrda digitala torn

Projektmål

Målet med TRUSTY är att tillhandahålla anpassning av transparensnivån för att öka tillförlitligheten för AI-drivna beslut i samband med fjärrstyrda digitala torn (RDT). Medan operatörerna i ett verkligt torn har direkt visuell tillgång till taxibanan och övervakningen av banan, ger RDTs-konceptet endast sådan information genom videoöverföring med en varning och motsvarande förklaring. För att leverera tillförlitlighet i ett AI-drivet intelligent system kommer TRUSTY att överväga flera tillvägagångssätt, och de är listade:

• "Självförklarande och självlärande" system för kritiskt beslutsfattande
• "Transparent ML"-modeller som inkluderar tolkningsbarhet, rättvisa och ansvarsskyldighet
• "Interaktiv datavisualisering och multimodal människa-maskin gränssnitt/interaktioner (HMI), dvs. grafiskt användargränssnitt (GUI)" för smart och effektivt beslutsstöd
• ’Adaptiv förklaringsnivå’ gällande användarens kognitiva tillstånd.
• "HCAI" för att förbättra tillförlitligheten hos AI-drivna system.
• "Human-machine collaboration (HMC) eller Human-AI teaming (HAIT)" för att beakta användarfeedback för att säkerställa viss beräkningsflexibilitet och användarnas acceptans.

TRUSTY kommer att förlita sig på SotA-utvecklingen inom interaktiv datavisualisering och användarcentrerad förklaring och om de senaste tekniska förbättringarna i noggrannhet, robusthet, tolkningsbarhet, rättvisa och ansvarighet. Vi kommer att tillämpa tekniker för informationsvisualisering som visuell analys, datadrivet berättande och uppslukande analys i interaktioner mellan människa och maskin (HMI). Således är detta projekt vid korsningen av pålitlig AI, multimodell maskininlärning, aktivt lärande och UX för interaktion mellan människor och AI-modeller.