Design AI-produkter så data ikke kræver beskyttelse

Foto: Vanveenjf, Unsplash

Kunstig intelligens, der med opsamling, analyse og brug af enorme mængder data kan anvendes til produkter og services, som letter forbrugernes hverdag, giver også anledning til bekymringer for forbrugernes sikkerhed og privatliv.

Hvordan sikrer man privatlivets fred, og at fx sundheds-appen ikke lækker data om brugeren, at smarte køleskabe ikke giver adgang til familiens netværk og data, eller at netværkstilsluttede legetøj og gadgets ikke bliver hacket eller stjålet, og man risikerer tab af personlige data i den forbindelse?

Flere steder bliver der diskuteret og taget hånd om mange af disse problemstillinger, det er både inden for standarderne for kunstig intelligens, standarderne for IoT, diverse anbefalinger fra ekspertgrupper såsom de ni anbefalinger fra Ekspertgruppen under Disruptionrådet osv.

Forbrugerens IT-miljø er sårbart

Alle disse tiltag og anbefalinger handler om digitale sikkerhedsforanstaltninger, som især virksomheder skal tage højde for. Men forbrugernes hjemmemiljøer er oftest vidt forskellige fra organisationernes. De fleste forbrugere har ikke samme viden om IT-sikkerhed som fx en virksomheds IT-afdeling. Forbrugernes IT-enheder er ikke styret med formelle opdaterings- og vedligeholdelsesprocesser, og nogle gange bliver enhederne brugt på måder, som de ikke er tænkt til fra designerens eller producentens side, hvilket bidrager til at gøre forbrugeren digitalt sårbar.

Foto: Kristian Granquist

I takt med at vi får flere smarte enheder i vores hjem og apps på vores smartphones eller smartwatches, kræver sikkerheden også unikke adgangskoder til hver enhed og service. Efterhånden bliver de mange forskellige og komplekse adgangskoder uoverskuelige for forbrugeren, som ofte bruger de samme adgangskoder, der også gør forbrugeren digitalt sårbar.

Derfor er det en fordel, ud over de digitale handlinger, som kræves af brugeren, også at indarbejde sikkerhed i det tekniske design. Det skal standarderne for privacy by design, som er under udvikling, tage højde for.

Best practice for Privacy by design samlet i en standard

Privacy by design er ikke et nyt princip, men det er blevet meget aktuelt i takt med den digitale udvikling. Overordnet betyder kravet til privacy by design, at virksomheder skal indtænke databeskyttelse i designet af de applikationer og systemer, der behandler persondataoplysninger, således at databeskyttelse sikres i hele applikationens eller systemets levetid. Det betyder, at alle data skal holdes sikkert i det pågældende system fra første indsamling af data og igennem hele livscyklussen for dataene – til slutningen af processen, hvor data skal destrueres forsvarligt.

Privacy by design er faktisk også en del af GDPR og kaldes ”databeskyttelse gennem design” af Rådet for Digital Sikkerhed.

Inden for systemudvikling siger man dog, at privacy by design ikke drejer sig om databeskyttelse, men snarere om at designe så data ikke behøver beskyttelse.

Dette kan bl.a. demonstreres med GPS som eksempel, hvor din mobil kan registrere sin geografiske placering – uden at angive stedet eller din identitet.

Standarden for privacy by design skal give designere og udviklere af systemer og apps vejledning til og mulighed for at følge best practice for privacy by design samt mulighed for at kunne dokumentere privacy by design i produktet eller servicen ved at følge og henvise til standarden.

Du kan læse mere om den kommende standard for privacy by design her.