Vad krävs egentligen för att AI ska bli ett tryggt och rättssäkert stöd i offentlig verksamhet? I den första delen av månadens Möt Experten delar Filip Henriksen, kommunjurist och juridisk författare, med sig av sina insikter om när teknik möter ansvar, och där AI måste få plats utan att ta över.
När AI används till beslutsstöd krävs tydliga ansvarsförhållanden
I takt med att fler kommuner börjar utforska möjligheten att använda AI i sin beslutsfattande verksamhet uppstår också viktiga frågor kring ansvar och rättssäkerhet. Filip Henriksen pekar på att det inte räcker att tekniken fungerar – man måste också förstå vem som bär ansvaret.
– Ansvarsfrågorna behöver vara utredda och klarlagda. Den omständigheten att en kommunal myndighet använder sig av AI eller automatiskt beslutsfattande förtar inte den kommunala myndighetens förpliktelse att se till att ärendet är tillräckligt utrett och att det finns en klargörande motivering till exempel.
Filip Henriksen, kommunjurist på Gävle kommun
Det handlar alltså inte bara om att ha AI som stöd, utan att veta exakt i vilka ärenden tekniken används och till vad. Henriksen understryker skillnaden mellan att använda AI som beslutsstöd – och att faktiskt låta tekniken fatta beslut.
– När man har konstaterat att en viss teknisk lösning kan användas på det ena eller andra sättet behöver alla vara på det klara med hur ansvaret ser ut.
Han tar upp exempel där AI kan orsaka problem, som felaktiga råd, sekretessbedömningar – och menar att ansvarsfrågorna alltid måste vara tydligt identifierade.
– Jag tror att ett säkerställande av rättssäkerheten handlar om just ansvarsfrågorna. Kunskap om dem. När ansvarsfrågorna är identifierade kan man börja jobba på ett helt annat sätt och börja ställa relevanta frågor.
När man har konstaterat att en viss teknisk lösning kan användas på det ena eller andra sättet behöver alla vara på det klara med hur ansvaret ser ut.
Trygghet i rättsordningen ger bättre AI-användning
Men innan AI ens kan implementeras framgångsrikt krävs förståelse för rättsordningen, menar Henriksen. För den som saknar juridisk grundkunskap kan AI bli en källa till mer förvirring än hjälp.
– Det är många, också inom en kommun, som inte är bekanta med rättsordningens utformning och tillämpning. Då kan det dessutom bli svårt att använda AI eftersom du saknar de grundläggande egenskaper som krävs, eller i alla fall avsevärt underlättar, själva användningen.
Att bygga tillit – och förstå verktygets begränsningar
När det gäller att bygga tillit till AI hos ovana användare, menar Henriksen att det kanske inte handlar om tillit i egentlig mening – utan om att förstå vad AI kan och inte kan göra.
– Jag vet inte om man ska ha tillit till AI på det sättet. Det beror lite på vad man menar. Jag tror att vi kommunjurister med tiden kommer få fler och fler ’AI-case’ där medarbetare konsulterat sin AI-tjänst och vill ha juristens ’second opinion’.
Han minns särskilt ett tillfälle då en medarbetare använt AI för att få hjälp kring delegation.
– För det första hade personen ställt ”fel” frågor och AI:n hade dessutom svarat fel och i övrigt var svaret för allmänt hållet. Just den situationen illustrerade principen om att såsom du ropar får du svar och att juridiken är full av egendomligheter som ibland är omöjligt för den oinvigde att förstå.
AI:s framtid: verktyg, inte lösning
AI har stor potential inom kommunal juridik och Henriksen menar att olika yrkesgrupper kommer att använda tekniken på helt olika sätt.
– En lärare kanske får hjälp med lektionsplanering, juristen vill förstå proportionalitetsprincipens tillämplighet vid föreläggande om rivning och arkitekten kanske vill ha inspiration.
Han ser den största nyttan när AI används för att förstärka det man redan kan – inte för att ersätta det.
– Jag tror att potentialen primärt ligger i att det användas inom ramen för det egna kompetensområdet och sekundärt inom andra områden; kanske i ett lärande syfte. Det är väl inom ramen för det sekundära området där riskerna blir större; det handlar mer om hur vi människor tolkar och använder resultatet inom ett området som vi kanske inte förstår.
---
Fakta: AI-stöd för fler än jurister
JUNO AI för kommuner som lanseras i höst är särskilt utvecklad för att kunna användas även av yrkesgrupper utan juridisk bakgrund.
-
Ger förklarande svar med källhänvisningar
-
Använder endast kvalitetssäkrade rättskällor
-
Anpassat språkbruk för olika kommunala yrkesroller
-
Utvecklad i samarbete med kommunanställda inom bland annat socialtjänst, skola och bygg.