{"id":409636,"date":"2020-12-03T11:53:10","date_gmt":"2020-12-03T10:53:10","guid":{"rendered":"https:\/\/pulse.microsoft.com\/?p=409636"},"modified":"2020-12-03T11:53:10","modified_gmt":"2020-12-03T10:53:10","slug":"fa1-ma-ansiktsgjenkjenning-forbys-eller-har-vi-tilstrekkelig-beskyttelse","status":"publish","type":"post","link":"https:\/\/pulse.microsoft.com\/nb-no\/technology-lifestyle-nb-no\/na\/fa1-ma-ansiktsgjenkjenning-forbys-eller-har-vi-tilstrekkelig-beskyttelse\/","title":{"rendered":"M\u00e5 ansiktsgjenkjenning forbys eller har vi tilstrekkelig beskyttelse?"},"content":{"rendered":"

Mange starter dagen med \u00e5 \u00e5pne telefonen og PC-en ved bruk av ansiktet. Og det stopper ikke der. V\u00e5re ansikter er like unike som fingeravtrykk. I dag kan kunstig intelligens, som oss mennesker, gjenkjenne ansikter. Ansiktsgjenkjenning brukes aktivt i jakten p\u00e5 savnede barn, og i kampen mot alvorlige sykdommer. Samtidig gj\u00f8r teknologien det mulig \u00e5 drive masseoverv\u00e5kning av folk uten at de vet om det. Hvordan sikrer vi at ansiktsgjenkjenning er til hjelp og ikke til skade for oss mennesker? Vi trenger et regelverk som setter mennesket i sentrum og beskytter v\u00e5r rett til personvern. Har vi tilstrekkelig beskyttelse i dagens regelverk? Hvis ikke, b\u00f8r ansiktsgjenkjenning forbys? <\/strong><\/p>\n

Kristine Beitland, Direkt\u00f8r Myndighetskontakt i Microsoft Norge og Camilla Hagelien, jusstudent ved UiO med masteroppgave i \u00abAnsiktsgjenkjenning i et personvernperspektiv\u00bb <\/em><\/p>\n

Hva gj\u00f8r dette mulig?<\/strong><\/p>\n

Verden er i enorm endring. Aldri f\u00f8r har vi sett slik fart. Under pandemien, med stengte skoler og hjemmekontor, var vi i l\u00f8pet av noen m\u00e5neder vitne til en digital transformasjon som vanligvis tar \u00e5r. For i dag er alle virksomheter i praksis \u00absoftwareselskaper\u00bb, og i fremtiden vil de alle v\u00e6re kunstig intelligensselskaper.<\/p>\n

Til tross for at ansiktsgjenkjenning har blitt en del av v\u00e5r hverdag, tenker folk flest sjelden over hva som gj\u00f8r dette mulig. Driverne av utviklingen er enorme mengder data, gjennom alle de smarte tingene vi omgir oss med, sammen med \u00f8kt datakraft og datalagringskapasitet i skytjenester. Sammen gir dette oss store fremskritt n\u00e5r det gjelder kunstig intelligens \u2013 slik som evnen til \u00e5 gjenkjenne ansikter.<\/p>\n

V\u00e5re ansikter er like unike som fingeravtrykk (st\u00f8rrelsen p\u00e5 nesen, smilet, kjeven osv.). N\u00e5r datamaskiner bruker bilder av ansikter for \u00e5 kartlegge disse karakteristikkene og setter dem sammen, danner de grunnlaget for en matematisk ligning som gj\u00f8res tilgjengelig for algoritmer. Med nye metoder for dypl\u00e6ring har vi sett store fremskritt. Til forskjell fra oss mennesker har ansiktsgjenkjenning den styrken at den i utgangspunktet ikke trenger \u00e5 v\u00e6re beheftet med forutinntatte meninger og fordommer.<\/p>\n

Hvilken effekt har det at maskiner kan gjenkjenne ansikter \u2013 noe bare mennesker kunne gj\u00f8re tidligere?<\/strong><\/p>\n

Det er lett \u00e5 bli entusiastisk over ansiktsgjenkjenning til felleskapets beste. Teknologien er i bruk i politiets jakt for \u00e5 finne ofre for seksuelle overgrep og savnede barn, og i legers kamp om tidlig \u00e5 kunne avdekke og behandle arvelige sykdommer som for eksempel DiGeorge syndrom, der personer av afrikansk, asiatisk og latinamerikansk opprinnelse oftere rammes enn andre.<\/p>\n

Datamaskiner i stand til \u00e5 gjenkjenne ansikter kommer ikke uten risiko. Her finnes det ingen lette sp\u00f8rsm\u00e5l eller enkle svar. Likevel m\u00e5 folk v\u00e6re klar over og forst\u00e5 hva som skjer. Som utviklere av ansiktsgjenkjenning har teknologiakt\u00f8rene et s\u00e6rlig ansvar for \u00e5 fortelle hva som p\u00e5g\u00e5r. Man trenger ikke veldig mye fantasi for \u00e5 tenke ut hvor galt det kan g\u00e5 n\u00e5r ansiktsgjenkjenning misbrukes, eller i verste fall brukes som et v\u00e5pen. Det kan v\u00e6re myndigheter som bruker teknologien til \u00e5 identifisere alle som deltar i fredelige demonstrasjoner for \u00e5 hindre folks rett til ytringsfrihet, eller for masseoverv\u00e5kning som en del av politisk forf\u00f8lgelse. Dette reiser etiske og mer fundamentale menneskerettighetssp\u00f8rsm\u00e5l knyttet til blant annet personvern og ytringsfrihet vi m\u00e5 ha med oss i vurderingen av et regelverk p\u00e5 omr\u00e5det. Ikke minst er det viktig \u00e5 ta i betraktning politiets \u00f8nske om \u00e5 bruke denne teknologien i kampen mot terror og alvorlig kriminalitet. Hensynene til den enkeltes personvern og den nasjonale interessen er ofte vanskelig \u00e5 balansere. Ett eksempel p\u00e5 dette er da Microsoft i 2018 sa nei til \u00e5 utstyre politiet i California med ansiktsgjenkjenningsteknologi i kroppskamera og i politibilene for rutinemessig bruk, av hensyn til personvern.<\/p>\n

Hva er en \u00f8nsket utvikling? <\/strong><\/p>\n

Det er bred enighet om at regelverket m\u00e5 f\u00f8lge utviklingen. Og det er gode nyheter. Vi trenger et regelverk bygd p\u00e5 demokratiske verdier med mennesket i sentrum. Teknologibransjen har v\u00e6rt p\u00e5drivere for \u00e5 f\u00e5 p\u00e5 plass lover og regler for ansvarlig og etisk bruk av ansiktsgjenkjenning. \u00a0Flere teknologigiganter har sagt noe de sjelden gj\u00f8r; \u00abKom og reguler oss!\u00bb. Men, det vanskelige sp\u00f8rsm\u00e5let er hvordan.<\/strong><\/p>\n

Microsoft har \u00f8nsket \u00e5 bidra inn i diskusjonen, og anbefalt et rammeverk som beskytter mot diskriminering, og ivaretar personvernet og andre grunnleggende demokratiske verdier. Helt konkret er det foresl\u00e5tt fire etiske prinsipper: n\u00f8yaktighet, \u00e5penhet, tredjeparts testing og personvern. Det er for \u00e5 hindre diskriminering, skape p\u00e5litelighet p\u00e5 en m\u00e5te som folk forst\u00e5r med krav om tredjeparts testing og beskyttelse av personvernet i tr\u00e5d med EUs personvernforordning (GDPR).<\/p>\n

En konsekvens av disse etiske prinsippene er at Microsoft, sammen med IBM og Amazon, siden i sommer ikke lenger har \u00f8nsket \u00e5 selge ansiktsgjenkjenningsteknologi til amerikansk politi f\u00f8r et nasjonalt regelverk er p\u00e5 plass, som ivaretar grunnleggende menneskerettigheter.<\/p>\n

Trenger vi et forbud, eller har vi tilstrekkelig beskyttelse i dagens regelverk<\/strong>?<\/p>\n

I h\u00f8ringen til EU-kommisjonens \u00abWhite Paper on Artificial Intelligence\u00bb har teknologiakt\u00f8rer som Microsoft nettopp pekt p\u00e5 viktigheten av et solid regelverk for \u00e5 redusere mulige skadevirkninger. Akt\u00f8rene st\u00f8tter EUs forslag om at ulike typer risiko, slik som h\u00f8yrisiko ved bruk av ansiktsgjenkjenning, krever forskjellige regler, og anbefaler \u00e5 bygge p\u00e5 gjeldende lover og regler s\u00e5 langt det er mulig.<\/p>\n

Ansiktsgjenkjenningsteknologiens presisjon og \u00f8kte utbredelse skaper nye personvernrettslige utfordringer. Flere har tatt til orde for at teknologien fort kan misbrukes, og behovet for klarere retningslinjer for n\u00e5r teknologien kan brukes og ikke. Det er imidlertid f\u00e5 akt\u00f8rer som har vurdert hvilke rammer dagens regelverk setter for bruk av ansiktsgjenkjenning.<\/p>\n

For at ansiktsgjenkjenning skal tas i bruk, m\u00e5 den behandlingsansvarlige oppfylle mange krav i b\u00e5de personvernforordningen og personopplysningsloven. Den behandlingsansvarlige m\u00e5 blant annet ha lovlig behandlingsgrunnlag etter personvernforordningens artikkel 6. Personvernforordningen artikkel 9 stiller ytterligere skranker der ansiktsgjenkjenning brukes for \u00e5 identifisere fysiske personer, eller inneb\u00e6rer en behandling av andre s\u00e6rlige kategorier av personopplysninger. Dette vil for eksempel v\u00e6re tilfelle dersom teknologien henter ut helsedata fra ansiktsbildet. Utgangspunktet er her at behandlingen er forbudt, med mindre en av unntaksreglene i artikkel 9 nr. 2 kommer til anvendelse.<\/p>\n

Flere av unntakene i artikkel 9 nr. 2 stiller krav til at behandlingen har et rettslig grunnlag, er n\u00f8dvendig og oppfyller kravene til proporsjonalitet. Mange av vilk\u00e5rene er skj\u00f8nnsmessige, men underlagt strenge retningslinjer i EU-domstolens praksis, og uttalelser fra Personvernr\u00e5det og i fortalepunktene til personvernforordningen. Praksis fra EU-domstolen og EMD viser at n\u00f8dvendighetsvurderingen er streng. Det er ikke nok at ansiktsgjenkjenning er n\u00f8dvendig. Det m\u00e5 v\u00e6re \u00abstrictly necessary\u00bb \u00e5 ta teknologien i bruk. I tillegg m\u00e5 det ikke v\u00e6re mindre inngripende identifikasjonsmidler tilgjengelig, og ansiktsgjenkjenning m\u00e5 v\u00e6re et egnet virkemiddel for \u00e5 oppn\u00e5 form\u00e5let bak behandlingen. En gjennomgang av regelverket viser at terskelen for \u00e5 ta i bruk ansiktsgjenkjenning i enkelte tilfeller er s\u00e5 h\u00f8y at det kan v\u00e6re vanskelig \u00e5 fastsl\u00e5 n\u00e5r det faktisk vil v\u00e6re lovlig.<\/p>\n

Den behandlingsansvarlige m\u00e5 ogs\u00e5 oppfylle vilk\u00e5rene i personopplysningsloven \u00a7 12 om entydige identifikasjonsmidler. Bestemmelsen f\u00e5r s\u00e6rlig betydning der ansiktsgjenkjenning er hjemlet i samtykkereglene, men gjelder ogs\u00e5 der behandlingen er begrunnet i en av de andre unntaksreglene i artikkel 9 nr. 2. En gjennomgang av de aktuelle rettskildene tyder p\u00e5 at \u00a7 12 gir et strengere vern enn forordningen der ansiktsgjenkjenning brukes til \u00e5 autentisere fysiske personer.<\/p>\n

Alt i alt er bruk av ansiktsgjenkjenning underlagt mange regler, og gjennomgang av reglene viser at terskelen for \u00e5 ta teknologien i bruk er sv\u00e6rt h\u00f8y. Dette tyder p\u00e5 at dagens regelverk gir tilstrekkelig beskyttelse. Samtidig er regelverket komplisert og fragmentert. Regelverkets kompleksitet medf\u00f8rer en risiko for urettmessig bruk av teknologien, og skaper lite forutberegnelighet. Siden 2019 er antall b\u00f8teleggelser i Europa fordoblet. I 2019 ble en svensk kommune ilagt en bot p\u00e5 200.000 kroner for urettmessig bruk av ansiktsgjenkjenning. Risikoen for b\u00f8teleggelser er derfor en sv\u00e6rt aktuell problemstilling for virksomheter som \u00f8nsker \u00e5 ta i bruk ansiktsgjenkjenning. \u00a0Det etterlyses derfor ytterligere nasjonale retningslinjer for bruken av ansiktsgjenkjenning. Regelverket kan avklares p\u00e5 ulike m\u00e5ter, som for eksempel gjennom lovgivning eller retningslinjer fra Datatilsynet.<\/p>\n

Enkelte har tatt til orde for et forbud mot ansiktsgjenkjenningsteknologi. Skulle Norge forby denne teknologien, inneb\u00e6rer ikke det at andre land vil f\u00f8lge etter. Et forbud i Norge vil ikke bare hindre oss i en ansvarlig utvikling av ansiktsgjenkjenningsteknologi i tr\u00e5d med grunnleggende demokratiske verdier, men hemme v\u00e5r innovasjons- og konkurransekraft i et globalt marked.<\/p>\n

Viktigheten av styrket samarbeid og gjennomgang av regelverket <\/strong><\/p>\n

Ingen sitter p\u00e5 alle svarene, og \u00e5penhet for innspill og bidrag fra ulike akt\u00f8rer er viktigere enn noensinne. Vi anbefaler at det p\u00e5 tvers av disipliner, og b\u00e5de i privat og offentlig sektor stimuleres til offentlig debatt om bruk av ansiktsgjenkjenning, med myndighetene i spissen. Denne teknologiintense tiden krever ogs\u00e5 at regjeringen \u00f8ker sin aktivitet i europeiske og internasjonale fora for \u00e5 sikre et internasjonalt rammeverk for ansvarlig og p\u00e5litelig bruk av kunstig intelligens slik som ansiktsgjenkjenning. Mye tyder p\u00e5 at dagens norske regelverk gir n\u00f8dvendig beskyttelse av personvernet, og et totalt forbud synes derfor \u00e5 ha lite for seg. Likefult er det, for \u00e5 sikre en ansvarlig og rettmessig bruk av ansiktsgjenkjenning, behov for at regelverket gjennomg\u00e5s og tydeliggj\u00f8res. I tiden fremover vil dette kunne styrke vernet til b\u00e5de den registrerte og den behandlingsansvarlige i m\u00f8tet med den nye teknologien.<\/p>\n","protected":false},"excerpt":{"rendered":"

Mange starter dagen med \u00e5 \u00e5pne telefonen og PC-en ved bruk av ansiktet. Og det stopper ikke der. V\u00e5re ansikter er like unike som fingeravtrykk. I dag kan kunstig intelligens, som oss mennesker, gjenkjenne ansikter. Ansiktsgjenkjenning brukes aktivt i jakten p\u00e5 savnede barn, og i kampen mot alvorlige sykdommer. Samtidig gj\u00f8r teknologien det mulig \u00e5 […]<\/p>\n","protected":false},"author":264,"featured_media":409711,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[],"class_list":["post-409636","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","specials-technology-lifestyle-nb-no","stories-hvordan-arbeider-vi-med-en-digital-agenda","stories-safe-online-nb-no","businessPriorities-data-ai-nb-no"],"_links":{"self":[{"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/posts\/409636"}],"collection":[{"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/users\/264"}],"replies":[{"embeddable":true,"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/comments?post=409636"}],"version-history":[{"count":7,"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/posts\/409636\/revisions"}],"predecessor-version":[{"id":409708,"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/posts\/409636\/revisions\/409708"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/media\/409711"}],"wp:attachment":[{"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/media?parent=409636"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/pulse.microsoft.com\/nb-no\/wp-json\/wp\/v2\/categories?post=409636"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}