Nynäshamns kommun om JUNO AI: arbetssätt, exempel och lärdomar (Q&A)
Här har vi samlat svaren på de frågor som ställdes av tittarna. Saknar du en fråga?
Se våra andra frågor om JUNO AI för kommuner eller hör av dig till oss på support@nj.se så hjälper vi dig!
Ni redovisar inte för hur ni har kommit fram till att det på förhand ska fattas ett beslut/få svar om avslagsgrunder? Hur ställer ni er det till kopplat till 5 § FL och 1:9 § RF.
Svar: Vi vill vara mycket tydliga med att vårt arbetssätt i handläggningen inte har förändrats i och med införandet av JUNO AI.
Vi utreder varje ansökan på samma sätt som tidigare, i enlighet med gällande lagstiftning och våra interna rutiner. Handläggningen omfattar bland annat faktainsamling, individuell bedömning och ärendedragningar, där ärenden diskuteras tillsammans med kollegor och chefer. Syftet med dessa ärendedragningar är just att skapa samsyn, säkerställa kvalitet och upprätthålla rättssäkerhet i beslutsfattandet.
JUNO AI används endast som ett stöd i handläggarens arbete, till exempel för att strukturera information eller identifiera relevanta rättskällor. Verktyget fattar aldrig beslut, ger inga bindande ställningstaganden och ersätter inte den mänskliga bedömningen. Det är alltid den handläggare eller beslutsfattare som har formellt mandat som ansvarar för beslutet.
När det gäller frågan om avslagsgrunder vill vi understryka att det inte sker något beslut ”på förhand”. Eventuella avslagsgrunder aktualiseras först efter att ärendet har utretts, bedömts och prövats i sin helhet – precis som i ett traditionellt handläggningsförfarande. Om ett avslag blir aktuellt sker det med full motivering, dokumentation och möjlighet till insyn, i linje med kraven på objektivitet, proportionalitet och legalitet.
Jag får intrycket att kommunen söker avslagsbeslut. Min bild är att om man promptar att söka avslag så kommer även svaret bli därefter. Söker man beviljandegrunder så blir svaret annorlunda.
Ser det som problematiskt att be den skriva ett avslagsbeslut? Hur kan principen om opartiskhet och objektivitet upprätthållas?
Föreligger risk för konfirmeringsbias när AI används som stöd i utredningar och beslutsfattande och hur undviks den?
Hur promptar ni AI att ställa en objektiv fråga som belyser både avslagsgrunder och beviljande grunder?
Svar: När vi är ute efter någon form av vägledning och råd ser vi till att vara sakliga i prompten. Där förklarar vi endast frågan och ber den ge en bedömningen utifrån informationen. Det skadar aldrig att lägga till ”i din bedömning ska du vara saklig och använda dig av lag, praxis och andra rättskällor”.
JUNO AI är ett mycket potent verktyg och det ställer stora krav på användarens kompetens. Hur har ni tänkt kring detta?
Hur har ni lärt er hur man ska ställa frågor till AI. Självlärda? Intern utbildning? Mentorskap? Annat?
Hur delar ni promptar?
Vi är ju alla mänskliga och jag ser att det finns risker med att juno ai levererar övertygande svar som det är lätt att använda sig av utan tillräcklig kontroll, särskilt om det är bråttom. har ni funderat hur ni kan motarbete denna risk?
Svar: JUNO AI används inte fristående, utan som en del av ett sammanhang där det finns kollegial dialog, ärendedragningar och chefstöd. Det gör att bedömningar inte blir individberoende, utan förankrade i verksamheten. Vi har varit tydliga med att granska svaren eftersom de är AI genererade.
Har ni varit med om hallucination i JUNO AI?
Tycker ni att det är svårt att vara kritisk till AI:s svar, eftersom den formulerar sig så bra?
Utifrån den erfarenhet ni hunnit få - vilka roller skulle ni säga har mest nytta av tjänsten?
Svar: Vår erfarenhet hittills är att alla som arbetar med juridik i någon form har nytta av tjänsten – inte bara formella juristroller eller handläggare. Gemensamt är att tjänsten kan stärka rättssäkerhet och kvalitet i arbetet, samtidigt som den frigör tid till den professionella bedömningen. Det är också därför vi ser värde i att använda verktyget brett, men alltid med tydliga ramar för ansvar och mandat.
Det blir lätt väldigt långa texter med AI, hur har ni tagit höjd för att texten ska vara skriven på klarspråk och vara förståelig för medborgare med mindre språkkunskap?
Svar: Långa och komplexa AI‑svar hanteras framför allt genom hur man använder prompten och hur man arbetar med svaret. Användarna plockar ofta ut de delar av svaret som är relevanta, i stället för att använda hela texten rakt av. Man utnyttjar också aktivt möjligheten att be AI:n skriva enklare genom att ange målgrupp eller språkkrav i prompten, till exempel att svaret ska kunna läsas av en person under 15 år eller av en person med begynnande demens. Då formuleras svaret på ett mer lättillgängligt språk. Man kan dessutom be AI:n att skriva på ett enklare språk, skriva om svaret på engelska eller översätta till andra språk. Ett viktigt budskap är att användaren inte behöver skriva myndighetsspråk till AI:n; det går bra att skriva vardagligt och även med stavfel, eftersom tjänsten ändå kan tolka frågan och ge ett bra svar utifrån det som skrivits. På så sätt kan både frågan och svaret anpassas för att bli mer begripliga för medborgare med mindre språkkunskap.
Vem är informationsägare till det som behandlas i verktyget, Socialtjänst, Samhällsbyggnad eller Kommunledning? Är det oproblematiskt att man kan se varandras frågor och / eller underlag?
Svar: Respektive nämnd är informationsägare för den information som hanteras inom sitt ansvarsområde.
Att användare inte kan se varandras promptar är i grunden oproblematiskt. Ökad insyn skulle kunna underlätta kompetensutveckling och minska manuell handpåläggning, men samtidigt kan det upplevas som en trygghet för användaren att veta att kollegor inte ser vilka frågor som ställs. Det kan sänka tröskeln för användning och främja ett utforskande arbetssätt.
Var lagras promptar, underlag och svar rent fysiskt?
Vilka var de viktigaste kraven från IT-säkerhet för att ni skulle få “go”?
Hur tänker ni kring vad ni "vågar" fråga AI, när det gäller informationssäkerhet?
Går det att begränsa tillgången till de dokument som laddas upp som styrdokument, dvs för användare utanför den egna organisationen?
Hur ofta uppdaterar ni dokument i systemet?
Svar: Dokument i systemet uppdateras vid behov, det vill säga när de faktiskt uppdateras i verksamheten eller blir utdaterade. Hur ofta detta sker beror på vilket dokument det handlar om, eftersom olika dokument har olika livslängd och revideringscykler. För att stödja detta finns dessutom ett fält där utsedda dokumentansvariga kan ange ett utgångsdatum för de dokument där ett ”bäst före‑datum” är relevant. När dokument behöver revideras görs det genom den dokumentansvariga funktionen i tjänsten; antingen anger man ett utgångsdatum eller raderar och ersätter dokumentet med en ny version.
Huu säkerställer man praktiskt att det är aktuella versioner av rutiner med mera som ligger uppladdade (och inte gamla)?
Hur fungerar det när det sker revideringar av dokument? Ligger gammal information kvar eller…
Kan ni berätta mer om hur det funkar med uppladdning av dokument? Är det beslut/skrivelser, styrdokument nämndes.
Finns det risk för att JUNOAI kan blanda ihop kommuners uppladdade dokument?
Finns det risk för att JUNO AI kan blanda ihop flera kommuners riktlinjer och dokument i sitt svar?
Kan man hänvisa när man promptar till övriga källor som finns på nätet?
Svar: Nej, det är inte möjligt, JUNO AI för kommuner använder sig endast av informationen från JUNO databasen samt kommuners egna vägledande dokument.