Workshops

Som ett led i kartläggning av området Digital Humanvetenskap inom Stockholms universitet genomförs en rad workshops med olika teman med inbjudna forskare.

Workshop beslutsautomation

20 november 2017

Ämnet för den fjärde workshopen var Beslutsautomation och andra exempel på AI-baserade juridiska, medicinska och andra beslutsalgoritmer vad gäller aspekter på ansvar, juridik och samhälle. Inom myndigheter används numera mycket ofta digital ärendehandläggning och helt eller delvis automatiserat beslutsfattande tillämpas i allt fler fall. Det finns osäkerhet kring krav på rättssäkerhet, integritetsskydd, sekretess, informationssäkerhet vilket försvårar utvecklingen.

Inbjudna var forskare från Institutionen för Socialt arbete, Juridiska institutionen, Institutionen för data- och systemvetenskap och Statsvetenskapliga institutionen.

Helena Haapio, professor vid Vasa universitet i Finland och ägare till konsultbolaget Lexpert höll ett av inledningsanförandena på temat ”Legal perspective on decision automation”. Hon förordar ett proaktivt förhållningsätt när det gäller juridiken och så särskilt inom sitt specialområde – kontraktsskrivning. Istället för att lösa tvister i efterhand ska man utforma kontrakten rätt från början och då gärna med IT-stöd eller till och med hjälp av illustrationer för de som ej är bra på att läsa juridiska texter. Helena ser framför sig ett tvärvetenskapligt samarbete mellan jurister, programmerare och samhällsvetare. Ambitionen är att de juridiska dokumenten ska kunna läsas och tolkas både av människor och av datorer.

Love Ekenberg, professor vid Institutionen för data- och systemvetenskap som forskar på autonoma risk- och beslutssystem. Han inledde med att identifiera problemen med sådana system – och konstaterade bl a att beslut inte bara är ”mekaniska”, att algoritmer måste utformas på rätt sätt och att utvecklingen mot autonoma system kan leda till ojämlikheter och kanske också arbetslöshet.

Love betonade att vi behöver lagstifta om hur långt vi ska automatisera, algoritmerna måste framstå som rättvisa, transparenta och utarbetas i samarbete mellan tekniker, etiker, jurister och beslutsfattar. Dock tillade Love att man inte skall vara rädd för att AI tar över världen helt okontrollerat – det är ju vi människor som programmerar algoritmerna, och därmed kan vi också säkra att vi kan härleda vad och på vilken grund automatiserade beslut tas.

Cecilia Magnusson Sjöberg, professor i rättsinformatik underströk att det är viktigt att se skillnaderna i beslut inom privat respektive offentlig verksamhet. Det finns flera legala restriktioner i offentlig verksamhet.

Utmaningarna för beslutsautomation enligt Cecilia är att använda juridiska relevanta termer, ska vi ha helt/delvist autonoma system och inte minst ska vi översätta det ofta vaga juridiska språket till något som kan kodas. Också hon betonar transparensfrågan, dvs vikten av att kunna härleda besluten som ett automatiserat system fattar.

Några av de frågor / synpunkter som kom upp i den efterföljande diskussionen var dessa:

  • Ansvarsfrågan vid automatiska beslut. Vem är ansvarig och vad ligger bakom beslutet. Ansvar måste vara tydligt oberoende av HUR beslutet fattas.
  • Automationen i sig är inte problemet egentligen, svårigheten är att lagen är så vag och inte ”kodifierad”.
  • Man bör ta med de legala aspekterna så tidigt som möjligt i processen för att utveckla ett automatiserat beslutssystem. Vi behöver en slags rättsliga utvecklare.
  • Vi behöver en demokratisktprocess om beslutsautomation, och man måste ta hänsyn till de sociala aspekterna. Vi måste se till att våra grundvärderingar finns inbyggda i systemen.
  • Vi får inte glömma användarna. Systemen måste vara utformade så att människor förstår. Det är viktigt att man bevarar förtroende/tilltro. Viktigt är då också att tänka på tonen i själva tilltalet.

Ett nytt och aktuellt forskningsfält inom Stockholms universitet Copyright © 2017 DHV

DHV

NOD-huset, Borgarfjordsgatan 12, 164 55 Kista, Sweden