Når kyborgene kommer til domstolene. Hva da?

Mens meddommerne snart får tilgang på elektroniske saksdokumenter, opererer andre inn elektroniske kroppsdeler som gir værprognoser. Det skriver Camilla Barø, seniorrådgiver i  Domstoladministrasjonen i en refleksjon etter å ha deltatt på Forskningsfestivalen «The Big Challenge» som nylig ble arrangert i Trondheim.

Hva gjør vi i rettssalen dersom vi ikke kan stole på fysiske bevis, som bilder og videoer

Forskningsfestivalen gav en rekke bilder på fremtidens muligheter og utfordringer ved bruk av teknologi. La oss se på hvordan ny bruk av teknologi og informasjonshåndtering kan tenkes å påvirke vårt rettssystem. Vil domstolsystemet være i stand til å håndtere fremtidens digitale krumspring i rettssalen?

 «Privacy is dead»

Fremtidsforsker og professor, Amy Webb, fra New York University’s Stern School of Business, tegnet et ganske dystert fremtidsbilde. Hun advarte mot å la maskinene bestemme over livene våre, og erklærte at vi ikke lengre har et privatliv.  

Webb forklarte at dette skjer ved at våre data samles gjennom våre smarte hus og telefoner. Mikrobølgeovnen kommer til å fortelle oss hva som er lurt eller ikke lurt å spise. Yogabukser vil kjenne igjen bevegelsene dine gjennom biometrisk skanning, Amazon har teknologi til å finne ut hvilke følelsesmessig tilstand vi befinner oss i når vi handler.

Vi legger fra oss biometriske avtrykk gjennom fingre, øyne, ansikt. Den smarte telefonen vår vet ikke bare hvor vi er, og hvor vi har tenkt oss, men også hvem vi har tenkt å være sammen med og nærmest hva vi har tenkt å gjøre til enhver tid. Alle disse systemene blir stadig matet med nye data.

Vi etterlater oss en sti av data som forteller om hvor stor sannsynlighet vi har for å bli syk, hvilke sykdommer vi kommer til å få, hvilket humør vi er i, om vi kommer til å få diabetes eller hvem av oss som blir alkoholikere. For hvert spor vi etterlater oss, jo mer vet systemet om oss og våre liv. Dette skjer på en så umerkelig måte at vi glemmer å stille dype spørsmål på hva som faktisk skjer med våre data, mener Webb.

Hvem eier mine data?

Personvernforordningen GDPR skal kanskje beskytte oss, sier du? Utfordringer kan oppstå ved at GDPR ikke er implementert på samme måte i de ulike land. For eksempel i USA er det ulike retningslinjer mellom de ulike statene. Webb mener dette vil føre til en stor floke som vil gjøre det vanskelig å samarbeide på tvers av ulike byer og land.

Hvem eier mine data? Hvem eier mitt ansikt? Kan vi beholde våre egne følelser og biologiske data? Hvem eier mitt DNA? Må jeg ta patent på meg selv for å unngå en copycat av meg? Dette er noen av spørsmålene Webb stiller seg.

Dataene blir benyttet av selskaper som for eksempel YouTube, Apple, Google, Facebook og Amazon for å gi oss bedre brukeropplevelser. Dette kan oppleves som svært behagelig. Problemet oppstår når disse systemene tar beslutninger for deg, eller brukes for å binde deg til selskapet, og når andre får tilgang til disse opplysningene. En ting er at disse selskapene har data om én person. Det er noe helt annet når data fra mange millioner er i hendene på noen få, store selskaper. Våre personlige opplysninger blir god butikk. Må vi tilslutt bytte ut våre data, eller kjøpe dem tilbake, spør teknososiologen Zeynep Tufekci.

Avatarer – en trussel mot demokratiet?

Vi skal ikke forlate Amy Webb riktig ennå. Hun gav et bilde på et annet voksende digitalt fenomen. Kunstig intelligens og blir nå koblet sammen med influensere. Mange av oss kjenner til The Kardashians og Sophie Elise. Vi følger ivrig livene til kjente bloggere og influensere på tv og i sosiale medier. I tillegg finnes det teknologi som håndterer stemme til stemme – translasjon, såkalte vokalavatarer. Disse trendene er nå kombinert i det som kalles AI – influensere, det vil si dataskapte influensere. Vi følger algoritmer på Instagram. Disse er så realistisk laget at de er vanskelige å gjenkjenne som dataskapt. Ett eksempel er @lilmiquela som lever et aktivt og misunnelsesverdig liv, med 1,6 millioner følgere på Instagram.

Er dette bare underholdning eller er det noe å bekymre seg over? Webb forteller om hvordan avatar-teknologien ble benyttet under den amerikanske presidentvalget. Uekte stemmer ble lagt på originale filmklipp og fremstilte politikere og meningsbærere i et dårlig lys. Dette handler da om politikk og kan være en trussel for demokratiet, mener Webb.

“Regulation cannot move as fast as the new tech.”

Amy Webb

Rachel Botsman er en verdensledende ekspert og foreleser ved Oxford University. Hun stiller spørsmål ved tillit knyttet til teknologi. Hun uttrykker bekymring og mistillit ved at store selskaper bygger infrastrukturer for hvordan de kan påvirke politikk ved å selge informasjon til politiske kampanjer.

Hva gjør vi i rettssalen dersom vi ikke kan stole på fysiske bevis, som bilder og videoer, spør hun. Hvilke data kan vi bruke i ulike sammenhenger? Botsman mener det er alt for enkelt å manipulere data, ergo er også bevis manipulert. Dommere må lære å stille spørsmål til hvor bevis kommer fra, og hvilken kontekst de er hentet ut fra, påpeker hun.

Kyborgene kommer

Moon Ribas og Neil Harbisson omtaler seg som kyborgere. De har tatt i bruk teknologi på en måte som få har tenkt var mulig.

Neil Harbisson er en britisk født samtidskunstner som bor i Barcelona. Han er likevel mest kjent for å ha blitt anerkjent som en kyborger av en regjering. Han ble født fargeblind. Gjennom en antenne han har fått operert inn i hodeskallen, kan han oppleve farger gjennom hørbare vibrasjoner i hodet. Via internettforbindelse, kan han også oppfatte farger fra bilder, videoer og samtaler direkte inn i hodet.

Hans kunstnerkollega, Moon Ribas, har implantert seismologiske sensorer i fotsålene slik at hun kan føle det dersom det pågår et jordskjelv i verden. Begge har også operert inn bluetooth i kroppen. På scenen i Olavshallen fikk publikum høre om en stadig økende gruppe mennesker som bruker teknologi som en del av kroppen. Sammen med Ribas, har Harbisson grunnlagt organisasjonen Cyborg Foundation, hvor målet blant annet er å bistå andre til å bli kyborgene, samt forsvare deres rettigheter.

Med dette ser vi også nye utfordringer. Hva skjer dersom kroppen din er fysisk tilknyttet en internettforbindelse? Hacking er noe Harbisson allerede har blitt utsatt for.

På scenen møter vi også Marie Moe. Hun er forsker på informasjonssikkerhet på Sintef og underviser i tillegg på NTNU. Hun forteller om sine opplevelser med sin pacemaker.  Hun ble overrasket når hun oppdaget at kroppen hennes var knyttet til internett. Hun satte sine studenter i gang med å forsøke å hacke sin egen pacemaker, for å se om det var mulig. Og det var det!

En fundamental endring

Teknologisk utvikling er både uunngåelig og nødvendig. Likevel vil enhver nyvinning inneholde et potensielt faremoment, dersom teknologien blir benyttet med onde hensikter. Teknologien utvikler seg så raskt at lovverket ikke vil kunne holde følge på utviklingen.

Den østeriske professoren Raffaello D’Andrea, uttrykker at teknologi er nøytralt. Det er ikke farlig, sier han, men det er hvordan det brukes som betyr noe. Vi som samfunn må finne ut hvordan vi ønsker å bruke teknologien, mener han.

Hvordan skal samfunnet takle disse utfordringene? Hvilke muligheter har vi for å henge med på og kontrollere utviklingen? Og hva betyr dette for domstolene? Hvilke konsekvenser ved bruk av ny teknologi vil vi se i de norske rettssalene? Hvordan håndterer vi bevis i rettssalen? Kan ny teknologi føre til ny type kriminalitet? Er Norges lover klar for å håndtere fremtidens kriminalitet?

Webb oppsummerer med at vår måte å leve livet på, står på spill. Vi står overfor en fundamental endring i bruk av informasjon og hvordan dette vil påvirke verden, også domstolene.

Er du interessert i å se foredragene fra vitenskapsfestivalen, kan de strømmes fra NRK TV.