Bildgenerering med hjälp av AI – några juridiska problem
AI-forskningen och den praktiska tillämpningen av AI-teknik har vuxit betydligt de senaste åren, i stor utsträckning genom underteknikerna maskininlärning och deep learning (se vårt blogginlägg där vi förklarar AI-teknik och begreppen här). I detta inlägg diskuteras hur bilder (och andra data) kan genereras med hjälp av AI-teknik.
Generative adversarial network
Ett viktigt nytt användningsområde för AI och maskininlärning är att generera data, ofta genom ett slags AI-system som kallas ”generative adversarial network” (GAN). Tekniken går enkelt förklarat ut på att ett AI-system, som kan sägas vara uppdelat i två delar eller två olika algoritmer, lär sig att efterlikna befintliga data och skapa egna liknande data. I praktiken används tekniken ofta för att generera bilder och fotografier. Systemets första del lär sig att efterlikna bilder, exempelvis genom att lära sig färger och konturer för att sedan försöka skapa egna exempelbilder. Systemets andra del gör sedan utifrån träning en bedömning av bilderna som skapats av systemets första del och avgör sedan om dessa är riktiga bilder eller falska AI-genererade kopior, med mål att upptäcka att bilderna är AI-genererade och skapade av systemets första del. Systemets utformning gör att dess första del försöker skapa bilder som lurar den andra delen och hela tiden försöker förbättra sin prestation. Systemets andra del förbättrar också sin förmåga att göra urval och identifiera AI-genererade kopior genom träning. De två delarna av systemet tränar alltså mot varandra för att förbättra sin prestation, med slutresultatet att kopior som skapats av AI-systemets första del blir bättre och bättre. En mer utförlig beskrivning av hur tekniken fungerar finns här.
Denna AI-teknik började introducerades 2014 och har de senaste åren tydligt förbättrats och flera tillämpningar har fått stor uppmärksamhet. Ett exempel på användning är ett konstverk som skapats med hjälp av tekniken och som såldes på auktion i New York för 432 500 dollar under 2018. På denna hemsida skapar ett GAN-nätverk bilder av människor som inte existerar i verkligheten. Bilderna är ofta imponerande lika verkliga fotografier av människor.
Vilka juridiska frågeställningar uppstår vid användning av GAN-teknik?
Den snabba utvecklingen av GAN-tekniken medför att nya juridiska frågeställningar blir relevanta inom olika rättsområden:
• Personuppgiftsbehandling – Som med AI i allmänhet krävs en stor mängd träningsdata för att träna upp ett GAN-nätverk. Exempelvis krävs bilder föreställande riktiga människor för att systemet ska tränas på att skapa egna avbildningar av människor. Detta kräver att bestämmelserna i GDPR följs – särskilt grundläggande principer såsom att inte behandla mer data än vad som är nödvändigt samt att i förväg bestämma ändamålen med behandlingen av personuppgifter (uppgiftsminimering och ändamålsbegränsning). Därutöver måste en lämplig laglig grund för behandling av personuppgifterna identifieras och personer vars bilder används kan behöva informeras om detta. Det ska dock tilläggas att tekniken i längden även kan användas för integritetsvänliga lösningar vid träning av AI, då AI-genererade data med hjälp av GAN-teknik kan användas istället för riktiga personuppgifter när andra AI-system tränas. GAN-tekniken kan dessutom användas för att simulera attacker mot IT-system och på så sätt förbättra informationssäkerheten och skydd för personuppgifter genom att systemet tränas på att hantera angrepp bättre.
• Upphovsrätt och närstående rättigheter – Vem äger de immateriella rättigheterna till AI-genererade konstverk som det som såldes i New York 2018? Detta är en mycket omdiskuterad fråga som i dagsläget är oklar och kan bedömas olika i olika jurisdiktioner. Även om ett AI-system inte kan få eget upphovsrättsligt skydd för verk som genereras, är det desto mer oklart i vilken utsträckning en människa kan få upphovsrättsligt skydd för det som skapas av ett AI-system. Den rättsliga bedömningen försvåras av att AI-systemets skapandeinsats har en framträdande roll vid användning av GAN-teknik, samtidigt som det kan finnas stort utrymme även för utövande av mänsklig kreativitet. Bedömningen kompliceras än mer av att det kan vara svårt att bevisa vad som är ett resultat av en mänsklig skapandeinsats och vad som skapats mer självständigt av AI-systemet. Detta kan leda till att människor hävdar att de själva skapat – och exploaterar – verk som i själva verket genererats med hjälp av GAN-teknik. En besläktad problematik är hur den till upphovsrätten närstående rätten till fotografiska bilder ska bedömas vid användning av GAN-teknik. Det kan exempelvis behövas vägledning kring vad som avses med ”fotografisk bild” så som begreppet definieras i upphovsrättslagen, även om det sannolika är att AI-genererade fotografier inte omfattas av bestämmelserna om fotografisk bild, att döma av uttalanden i förarbeten och författningskommentarer.
• Straffrätt – GAN-teknik kan användas för att skapa så kallade ”deepfakes”, något som har uppmärksammats mycket i media. Deepfakes innebär att GAN-tekniken används för att klippa in befintliga bilder av personers kroppsdelar, beteenden och röster i andra videoklipp eller bilder och på så sätt skapa fiktiva situationer. Deepfakes har använts för att placera personer i komiska, kränkande och förnedrande situationer och sammanhang – bland annat med våldsamma och pornografiska inslag. Svåra bedömningar kan här behöva göras rörande om och när en person kan anses ha blivit utsatt för ett brott när deepfakes skapas med hjälp av GAN-teknik, såsom förtal eller olaga integritetsintrång. Frågan blir alltmer aktuell i takt med att GAN-tekniken kan skapa alltmer verklighetstrogna bilder och videoklipp. Nyligen har det föreslagits ny lagstiftning i Kalifornien som tar sikte på just problematiken med deepfakes, genom att införa ett krav på samtycke för avbildningar med sexuella inslag vid användning av tekniken.
De första filmerna som utnyttjade tekniken var inom pornografin, och fenomenet att ersätta pornografiska skådespelares ansikten med kända personer är något som tidigare prövats juridiskt i Sverige. Redan 1992 prövades frågan i Högsta domstolen i samband med att svenska porrtidningen Hustler publicerade reportaget ”En smygtitt i kändisarnas hemliga fotoalbum” där bland annat Lill-Babs, Mona Sahlin och Ingvar Carlsson fått sina ansikten inklippta på grovt pornografiska bilder. Domstolen fann att Hustlers ansvarige utgivare gjort sig skyldig till grovt förtal och fick betala skadestånd. Detta har medfört att olovligt användande av andras bilder i pornografiska sammanhang i svensk rätt kan utgöra förtal. Dessutom finns i Sverige sedan 1 januari 2018 en ny bestämmelse som heter olaga integritetsintrång. Lagen gör det förbjudet att sprida vissa typer av integritetskänsliga uppgifter om andra personer, bland annat bilder eller annan uppgift om någons sexualliv och bild på någons helt eller delvis nakna kropp. Denna bestämmelse går att tillämpa även om en sådan uppgift är falsk, exempelvis om framställd genom GAN-teknik. Helt säkert att detta anses vara en integritetskränkning går däremot inte att fastslå förrän det prövats i domstol, men det går inte att utesluta bestämmelsens tillämplighet men en utmaning kan vara hur starkt kopplad integriteten anses vara till det fysiska brottsoffret och inte en skapad sådan. Exempelvis, huruvida spridning av någons helt eller delvis nakna kropp faktiskt måste vara personens kropp och inte bara framställas som om det vore det.
Den som genom att olovligen använda en annan persons identitetsuppgifter utger sig för att vara honom eller henne och därigenom ger upphov till skada eller olägenhet för honom eller henne kan göra sig skyldig till olovlig identitetsanvändning. Identitetsuppgifter definieras som uppgifter som normalt används för att identifiera eller peka ut en viss fysisk person, tex. namn, fotografi eller film. Denna bestämmelse skulle också kunna aktualiseras i sammanhanget men det krävs mer praxis på området.
Utöver ovan kan tekniken skapa ytterligare juridiska utmaningar exempelvis gällande falska uttalanden och andra typer av framställningar av personer i situationer som kan anses kränkande. I dessa fall kommer förtal att vara den bestämmelse som primärt kommer kunna tillämpas. En bestämmelse som omfattas av en åtalsbegränsning vilket leder till att åtal sällan väcks. Ett exempel på en situation som inte nödvändigtvis skulle omfattas av befintlig straffrättslig lagstiftning är exempelvis fakeade bilder/filmer rörande en otrohet eller där du associeras med en viss politisk åsikt. Ytterligare utmaningar är spridandet av desinformation och fake news vilket i dagsläget inte är olagligt som utgångspunkt enligt svensk straffrätt.
• Processrätt – Den fortsatta förbättringen av deepfakes skapade med hjälp av GAN-teknik utgör också ett potentiellt problem vid bevisföring i rättsprocesser då det kan bli avsevärt svårare att avgöra om bild- och röstupptagningar är äkta.
Bildgenerering genom AI är en mycket spännande teknik som har förbättrats mycket de senaste åren. Tekniken har stor potential, men som framgått kan den även användas för tvivelaktiga ändamål, och frågan är vad konsekvenserna kan komma att bli när tekniken blir allt bättre. Kommer Sverige att följa Kaliforniens exempel och anpassa lagstiftningen efter de nya juridiska konsekvenser GAN-tekniken för med sig?