Den 20 januari livesände vi vårt webinar om JUNO AI för kommuner tillsammans med representanter från Nynäshamns kommun. Intresset var stort och frågorna från deltagarna handlade framför allt om rättssäkerhet, objektivitet, säkerhet, arbetssätt och hur man praktiskt använder AI-tjänsten i vardagen. Samtalet modererades av Amar Kapetanović, Business Development Manager, och Johan Qvinth, Ansvarig för Kommun, Region och Länsstyrelse, på Norstedts Juridik.
Praktisk användning i socialtjänstens vardag
För den som inte arbetar i socialtjänsten kan det vara svårt att se konkret vad en AI-tjänst gör i handläggarnas vardag. Under webinariet gav både Elina Lernerman, handläggare för LSS & Socialpsykiatri, och Jorge Camus, socialsekreterare för ekonomiskt bistånd, därför flera exempel på typiska situationer där JUNO AI används.
Ett första område handlar om formuleringar och motiveringar i beslut. Elina säger:
- Vi använder det för att få till proffsiga formuleringar eller motiveringar till beslut. Eller när man behöver hitta begrepp. Man glömmer ju saker med jämna mellanrum.
Ett andra område rör tiden det tar att hitta rättsfall och andra rättskällor. I stället för att manuellt söka i traditionella databaser berättar Jorge hur det räcker med att han skriver en prompt för att få ett snabbt svar med källhänvisning. I ett konkret fall behövde han hjälp med att formulera ett beslut snabbt. Beslutet var klart på mindre än 20 minuter den dagen vilket annars hade tagit honom en timme eller två, plus rådgivning från andra kollegor.
Elina använder också JUNO AI inför möten med invånare:
- Vi kan också använda det som ett sätt att be om ett frågebatteri när vi ska på ett hembesök, till exempel. Vad ska jag ställa för frågor relevant till den här ansökan? Eller formulera brev, kan vi också använda det till.
Sett över tid berättar Jorge att han de senaste två månaderna har kunnat träffa fem till tio klienter mer än vad han vanligtvis gör då han haft mer tid för uppföljningar och planeringar.
- Genom att använda mig av tjänsten har jag kunnat spara mer tid genom att kolla upp rättsfall betydligt snabbare, be om hjälp med formuleringar och allt sådant. Då har jag kunnat träffa fler klienter, vilket är vad vi är gjorda för. Vi socialsekreterare ska ha individen i åtanke.
De senaste två månaderna har jag kunnat träffa fem till tio klienter mer än vad jag vanligtvis gör, vilket har varit helt otroligt.
Kommunens lokala styrdokument – uppladdning och användning
En viktig del i JUNO AI är möjligheten att kombinera det allmänna rättsläget med kommunens egna styrdokument. Under webinariet berättar Nynäshamn att de har laddat upp riktlinjer, rutiner och manualer som AI:n tar hänsyn till när den genererar sina svar. Elina berättar hur detta gör det lättare att ta del av kollegors styrdokument över förvaltningsgränserna:
- I och med att vi kan ladda upp kommunens egna riktlinjer och rutiner så kan vi också ta del av varandras, till exempel. Jag kan ta del av Jorges manualer och rutiner för försörjningsstöd fastän det inte kommer sig naturligt, för det hade jag inte gjort annars om det inte vore för JUNO AI som hjälper mig att få en inblick där.
Johan Qvinth beskriver också hur systemet presenterar svaren i två ”lager”, vilket är centralt för att tydliggöra vad som är lag och praxis och vad som är lokala tillämpningar:
- JUNO AI ger svar utifrån allmänna rättsläget först. För oss är det viktigt att det ska synas, att det här är det allmänna rättsläget. […] Och här får du också svar utifrån kommunens egna dokument. Att man särskiljer det. Det här är först vad som gäller för alla och sen har vi vad som gäller bara hos oss.
När det gäller vilka dokument som prioriteras för uppladdning i tjänsten svarar Nynäshamns kommuns representanter att de fokuserar på sådant som används i det dagliga arbetet, så som rutiner, checklistor, planbestämmelser men även andra vägledande dokument från andra myndigheter.
En återkommande praktisk fråga från tittarna handlade om hur dokumenten hanteras över tid: hur ofta de uppdateras, vad som händer med gamla versioner och om systemet kan ”ligga kvar” på föråldrade rutiner. Johan förklarar:
- Det finns en tidsbegränsad funktion där du kan säga att detta dokument bara ska gälla till 29 mars 2026, för den 1 april kommer en ny policy. […] Det finns ingen som kommer få svar utifrån det dokumentet när det har slutat gälla.
JUNO AI används som stöd i beslutsprocessen, inte ersättare
Många av tittarnas frågor handlade om rättssäkerhet så som att upprätthålla principen om opartiskhet och objektivitet och hur AI-svar ska granskas. Under den praktiska delen av webinariet visade Jorge upp en prompt han använt för att skriva ett avslagsbeslut. Detta väckte reaktioner hos några av tittarna och frågor kom upp om det kan anses problematiskt att be JUNO AI formulera ett sådant beslut. Om man promptar om att söka avslag kommer väl även svaret bli därefter? Johan förtydligar först hur de ser på själva uppgiften:
- Det man ber om är ett förslag på ett avslagsbeslut. […] Man ber inte om att tjänsten ska skapa ett avslagsbeslut, utan du ber om inspiration och en idé och se hur det skulle kunna se ut och härleda till rätt källor.
Elina fortsätter sedan beskriva hur de arbetar i praktiken: Först görs den juridiska och faktiska bedömningen, därefter används JUNO AI för formulering.
I ett annat avsnitt, när de visar ett AI-genererat beslutsförslag, understryker Jorge hur källor kontrolleras:
- Jag kontrollerar varenda källa för att säkerställa att jag kan stå bakom beslutet.
Tittarnas frågor om konfirmeringsbias, svårigheten att vara kritisk till välformulerade AI-svar och risken att använda svar utan tillräcklig kontroll – särskilt när det är bråttom – visar att det här är frågor som kommunerna behöver förhålla sig till löpande. De tre representanterna från Nynäshamns kommun betonar eget förarbete, kritisk granskning och att JUNO AI används som stöd i formuleringen, inte i själva beslutsfattandet.
Nynäshamns arbetssätt – med krav på källkontroll och eget förarbete – är i praktiken ett sätt att motverka riskerna. Det gäller särskilt i ärenden där det ska fattas myndighetsbeslut.
Riktlinjer för vad man får skriva i tjänsten och risker gällande hallucination
Flera tittarfrågor rörde informationssäkerhet och vad man ”vågar” fråga JUNO AI. Där är Nynäshamns representanter tydliga med att JUNO AI inte ska hantera individuppgifter eller sekretessbelagd information. Som Linda Strand, utvecklingsledare på kommunen, uttrycker det:
- Vi ska inte uppge sekretessbelagd information och känsliga personuppgifter eller personuppgifter överhuvudtaget. Och sen att vi alltid ska granska svaren, för det är trots allt AI-genererat. Vi är tydliga med att JUNO AI används för generella juridiska resonemang, tolkningar och stöd, men aldrig för att hantera individuppgifter eller fatta beslut åt oss.
Detta är en grundprincip i deras arbete, dels av respekt för sekretess- och dataskyddsregler, dels för att hålla användningen av AI på en generell och principiell nivå.
Bland publikfrågorna fanns också den om risken att AI kan ge felaktiga eller missvisande svar, men ändå uttrycka sig övertygande och om kommunen tycker att det är svårt att vara kritisk.
Nynäshamns arbetssätt – med krav på källkontroll och eget förarbete – är i praktiken ett sätt att motverka riskerna. Det gäller särskilt i ärenden där det ska fattas myndighetsbeslut.
De avgörande punkterna gällande IT-säkerhet
Att JUNO AI inte hämtar sina svar från öppna internetkällor utan bygger sina svar på det kvalitetssäkrade innehållet i den slutna informationstjänsten JUNO har varit centralt för Nynäshamns kommun ur säkerhets- och integritetsperspektiv. Likaså att tjästen inte använder användarnas promptar för att träna modellen, alltså att det som skrivs in i tjänsten inte används som träningsdata för AI:n.
Johan lyfter också att JUNO AI är ett tillägg till den rättsdatabas som kommunen redan hade:
- Ni har tillgång till JUNO sedan tidigare i Nynäshamns kommun. Det ni har fått nu är ett tekniskt hjälpmedel, en teknisk assistent som kan hjälpa er med massa saker som annars kan ta massa onödig tid […] Men hela systemet bygger på att vi har en jätterättsdatabas, JUNO för kommuner, i grunden.
Klicka här för att se hela inspelningen med tidsstämplar.
Här har vi samlat alla frågor och svar från webinaret.
