Blockchain er død, lenge leve AI

Endelig var blockchain hypen over! For oss som vet hvordan blockchain fungerer - og ikke fungerer - har det vært en sann plage å høre folk evangelisere om hvordan dette vil revolusjonere verden. Men, så fort en hype er over, begynner neste. Nå er det AI som gjelder. Alle har gått fullstendig av skaftet. Det er ønsket at hele 80% av staten skal bruke AI allerede innen neste år.

Konsulentselskapene gnir seg i hendene: “Kom igjen folkens! Oppdater CVene deres med en gang! Legg inn alt som kan krype og gå av referanser til noe som kan minne om AI. Bonus til alle som tar AI-sertifiserings-kurs!”

Jepp.

Skoler og helsetilbud legges ned over hele landet mens millioner pøses inn i AI-initiativ.

Vil det være verdt det? Mange er veldig optimistiske.

I riksrevisjonens rapport om AI i offentlig sektor står det innledningsvis at

“Kunstig intelligens har potensial til å gjøre staten betydelig mer produktiv, og bidra til å endre statlig forvaltning på helt grunnleggende måter.”

Hvilke da?

Saksbehandling med AI

Det er vanskelig å finne noen konkrete forslag, men saksbehandling nevnes som et eksempel. Automatisering av saksbehandling. Men hvordan skal vi bruke AI til saksbehandling? Skal den bestemme eller gi råd om hvem som får trygd? Det blir som å skulle slå inn skruer med en tesil: helt feil type verktøy.

AI forstår ikke regler

Offentlig sektor sin rolle er å forvalte norske lover og regler. Reglene er bestemt av våre folkevalgte politikere. De endres stadig vekk, og de må kunne endres og justeres kontrollert. Dagens AI-systemer er ikke regelbasert. De er låst til å produsere data som følger mønstre i et gitt historisk datasett. Endres reglene, er datasettet ubrukelig. Hva gjør vi da?

Vi mangler data, ikke AI

Vi har automatisert mye saksbehandling allerede med gode gammeldagse regelbaserte IT-systemer. Tenk på selvangivelsen, eller barnetrygd. Det går helt automatisk. Der vi ikke er istand til å automatisere, så er det fordi vi ikke har gode nok data til å gjøre det. Nav fikk kjørt seg i media for litt siden da de ikke hadde vært istand til å levere redusert saksbehandlingstid for sykepenger. Hva hadde skjedd? Noen lovet at man kunne automatisere basert på dataene i A-meldingen. Hundrevis av millioner ble bevilget. Men det viste seg å ikke la seg gjøre. Datagrunnlaget var ikke godt nok, det var ikke mulig å vite med sikkerhet om noen kvalifiserte til sykepenger eller ikke.

Nå er vi altså på’n igjen - nå antydes det at vi kan saksbehandle med AI. Millionene er rett rundt hjørnet. Men kan vi levere?

Nei vi kan ikke det.

Tipping

Eller, altså, jo, for all del, AI kunne løst dette problemet. Ettersom AI ikke forholder seg til regler og fakta, så kan en AI-saksbehandler bare tippe hvem som får trygd helt uten fakta! Bare basert på tilfeldige mønstre den har funnet i eksisterende søknadsdokumenter og vedtak. Men jeg håper da for Guds skyld at det ikke er dette som er planen?

Predictive AI fungerer ikke

Denne typen løsninger har vi allerede mye erfaring med at ikke leverer som det skal. Et mye brukt AI-system for å vurdere jobb-søkere ble vist å favorisere søkere som lot seg avbilde foran en bokhylle. Blå genser tror jeg også lønnet seg. Dette er eksempler på den typen sammenhenger en AI kan finne. For case som jobb-søknader - der det ikke er noen fasit på hvem som vil gjøre det best, så er det også mindre problematisk å systematisk velge den med størst bokhylle, eller blåest genser - hvorfor ikke? Men det blir noe annet når vi snakker om offentlige ytelser.

1/3 av statsbudsjettet

1/3 av statsbudsjettet går til å betale ut trygd. Hvis en AI-modell skal stå for avgjørelsen, og den er basert på ustrukturerte søknadsdokumenter, så er det spennende potensiale for hacking av systemet. Finn noen med et sjeldent navn som har fått trygden du vil ha, så kopierer du alle relevante og irrelevante deler du kan i søknaden din. Bytt til samme navn, registrer adresse med liknende gatenavn, få helseattest fra en helsepersonell med samme navn, og/eller fra samme institusjon. Få jobb-attest fra en sjef med liknende navn og tittel. Kopier all ordlyd du kan fra søknaden, så øker du sjansen for å få utbetaling - helt uavhengig av hvilke reelle kvalifikasjoner du har. Dette vil potensielt virke bedre og bedre over tid, da AI-modellen må holdes oppdatert med de nyeste dataene om trygdemottak. Plutselig heter halve landet Prætorius og Arnveig, for da er sjansene større for å få trygd. Det blir som søkemotor-optimalisering, bare for å motta offentlige ytelser.

Mennesker feiler variert. IT feiler konsekvent.

Denne typen søknadsoptimalisering skjer allerede idag i mindre skala. Men idag må du ha flaks med hvem som ender som saksbehandler for å få gjennom søknaden. Mennesker har varierende oppførsel. Hver saksbehandler har sine fordommer og triggere, gode dager og dårlige dager som vil affektere hvordan de saksbehandler. IT-systemer derimot er konsekvente. Så når du knekker koden for å lure et datasystem, så fungerer hacket ditt HVER GANG. Som da min datter (da 12) oppdaget at hun kunne låse opp sin to år eldre brors iPhone med sitt ansikt. Hun liknet akkurat nok til at AI-modellen til face ID ble lurt.

Fordommer

En AI-modell vil også arve alle fordommer i dagens system. Med manuell saksbehandling kan du ha flaks og få en saksbehandler som ikke har fordommer. Men en AI trent opp på data basert på fordommer vil være konsekvent fordomsfull. Ikke så fordomsfull som den verste, men verre enn den beste. Over tid vil det være en selvforsterkende effekt, med mer og mer data generert som passer inn i et eksisterende problematisk mønster. Vi ser det godt i algoritmer for sosiale medier. Man får likere og likere poster jo lengre man bruker systemet.

Alle er klar over problemet

Problemer som dette er godt kjent. Riksrevisjonen sier avslutningsvis i sin rapport:

"KI-systemer som lærer av data kan videreføre og forsterke historiske skjevheter, eller endre ytelse eller praksis over tid. Videre kan det med avanserte maskinlæringsmodeller være utfordrende å få en god forklaring på hvorfor systemet handlet eller konkluderte slik det gjorde. Dermed kan det være vanskelig å sikre åpenhet og forklaringsevne og dermed en etterprøvbar saksbehandling, for å sikre klageretten.”

Nettopp. Så hvorfor vurderer vi denne teknologien her overhodet? Det er ikke en god match.

Effektivisering = kutt

For at AI skal revolusjonere og effektivisere så er den nødt til å erstatte menneskelig arbeid. Det holder ikke at den bare er et nytt verktøy. Den eneste måten å spare penger på i det offentlige er ved å legge ned offentlige tjenestetilbud som skoler og helsetilbud, eller gi noen sparken. All investering i en ny IT-løsning går på bekostning av andre investeringer eller tjenestetilbud. I Nav begynte de å kvitte seg med saksbehandlere i den tro at sykepengeløsningen ville kunne helautomatiseres. Når dette ikke lot seg gjøre som planlagt, ble saksbehandlerne som var igjen fortsatt nedrent med manuell saksbehandling, og saksbehandlingstiden gikk altså ikke ned. Med AI-saksbehandling er potensialet for klager som krever manuell gjennomgang enda større, da alle vil vite at systemet som evt avslo søknaden ikke opererer regelbasert, og dermed kan ta feil. AI-verktøy i saksbehandlingen vil fort føre til kostnadsøkninger, heller enn besparelser.

Hvis vi uansett skal endre regler…

For å kunne bruke AI i det offentlig må regler om bl.a personvern endres. Hvis vi uansett må inn å endre regler, bør vi heller endre reglene slik at de er lettere å saksbehandle automatisk med helt vanlig IT. Slik vi har klart med selvangivelsen.

Salg av helsedata

På Arendalsuka snakket politikere om potensialet vi har her i landet i kraft av at vi har så mye helsedata av god kvalitet. Dette så man for seg kunne bli basis for norsk helse-AI som en stor ny eksportvare. Det er flere ting som skurrer med den tanken. Selv om det er sant at vi har mange års historikk med helsedata her i Norge. Så er vi fortsatt et bittelite land. Vi har kanskje mye data i forhold til Lichtenstein. Men det vil ta amerikanske og kinesiske selskaper et par måneder å få tak i like mye data som det vi har klart å samle opp over flere tiår.
Dessuten så er vi ikke en spesielt mangfoldig befolkning. Jeg hadde på ingen måter følt meg trygg på at data samlet inn om helsen til kinesere de siste 40 årene egentlig var så godt utgangspunkt for å vurdere min behandling i Norge i 2024.
Tilsvarende bør helsedata om nordmenn de siste 40 årene være ganske uinteressant for folk i Asia… og Sør-Amerika og USA og Sør-Europa… og de fleste steder egentlig. Kanskje svenskene er interessert? Dette blir nok neppe vårt neste store internasjonale eksporteventyr.

Bruk av AI innen helsevesenet

Men innen helse er det et stort potensiale for effektivisering med AI. AI-modeller kan bistå i å se etter benbrudd og kreftsvulster bl.a. Leger kan også få mye ut av automatisk transkribering og oppsummering av legebesøk. Innen helse er det mindre fare for at mennesker “hacker systemet”, og et benbrudd vil fortsatt se likt ut om 10 år og 100 år. En modell som er lært opp på hvordan benbrudd ser ut, vil ikke trenge å endres. Det kommer ingen “nye regler” her.

Men, det er ikke det offentlige som leverer IT-løsningene brukt i helsevesenet. Her kjøper vi inn systemer på markedet. De vi kjøper av er allerede i full sving med å få AI-løsninger opp og gå. Staten trenger ikke blande seg.

Det er i privat sektor vi kommer til å se de største gevinstene

Det er i private foretak man kommer til å få mest bruk for AI, og det er i privat sektor man har mest erfaring med å levere IT-løsninger effektivt. Arbeidet nasjonalbiblioteket gjør med norske språkmodeller er helt fantastisk og nødvendig, men ellers kan staten i stor grad heller bidra til bruk av AI ved å kjøpe inn lovende produkter fra markedet der de har vist seg å levere verdi. Staten kan også bidra ved å kreve at AI-systemer bruker data forsvarlig.

Bygg opp IT-miljøer som selv kan velge AI ved behov

IT er veldig hype-drevet som det er. Hvis staten bygger opp sine interne IT-miljøer, og gir dem stabile budsjett, med rom for å ta tak i nye utfordringer, så vil de selv velge å ta i bruk AI der det gir mening. Det er ingen behov for å legge ytterligere press på å utnytte en tech-hype fra ledelsen.

Hva med alle som mister jobben?

Det er liten grunn til å tro at Norge blir en verdensledende nasjon når det kommer til utvikling av AI-løsninger. Men det betyr ikke at vi ikke kan ta en ledende rolle i en AI-verden. En av de tingene som problematiseres mest med AI, er hvor mange som kommer til å miste jobben. Her har vi en mulighet i Norge, til å snu dette til noe positivt. Vi lider av et Stockholm-syndrom når det kommer til jobb. For 100 år siden drømte man om en fremtid der man ikke trengte å jobbe så mye. “Med alle maskinene vi nå har og lager, vil vi i fremtiden ikke trenge å jobbe mer enn noen få timer i uka”

Hva skjedde med de drømmene?

Meningen med livet er ikke å ha en jobb

Vi burde ta tak i dem igjen. AI-løsninger sammen med helt vanlige IT-løsninger og moderne teknologi kan frigjøre oss fra behovet om å jobbe så mye. Det burde fylle oss med optimisme, ikke frykt. Mennesker har ikke noe grunnleggende behov for å jobbe i akkurat 40 timer i uka for en arbeidsgiver. Pensjonister i god helse ser ut til å takle hverdagen ganske bra. Meningen med livet er ikke å være ansatt et sted. Det er å bruke tid med folk du er glad i, og gjøre ting du interesserer deg for. Mennesker trenger ikke ansettelsesforhold, de trenger nok penger til å kjøpe mat, klær og en bolig.

En god økonomi krever at folk har penger

Uten penger i omløp, vil økonomien kollapse. Økonomien er like avhengig av konsumenter som den er av produsenter. I en verden der arbeid utføres av maskiner, vil alle pengene ende opp hos de som eier maskinene. Med mindre noen griper inn og omfordeler. Det er jo her norsk offentlig sektor virkelig gjør det bra. Vi er kjempegode på beskatning og utbetaling av ytelser.

AI skatt

Som Bill Gates også foreslår, kan vi utarbeide regler for å gjøre det samme med IT som vi har gjort med oljen. Vi beskatter oljeselskaper latterlig høye summer for å få lov til å utvinne olje på norsk sokkel. Folk advarte imot det: “Ingen kommer til å ville utvinne olje hos dere med så høye skatter”. Men selvfølgelig gjør de det likevel. Der det er penger å tjene, vil folk prøve å tjene penger.

For å levere til det norske markedet, kan vi kreve at det betales skatt, som så kan omfordeles til folket. Hvilken form denne utbetalingen skal ta, det må vi diskutere. Flere og flere anerkjente stemmer fra Silicon Valley til Kina og Europa tar til orde for å prøve ut borgerlønn i en eller annen form. Er det noe vi er gode på i norsk offentlig sektor, så er det beskatning. Her kan vi skinne. Her kan vi lede an. Vi kan jobbe for å skape et samfunn, der vi verdsetter det som virkelig gir menneskelig mening i livet. Nærhet med venner og familie, utvikling av tjenester og produkter som vi virkelig brenner for - istedenfor å være lønnsslaver som jobber for at andre skal bli rike på penger. La maskinene jobbe, så kan vi få leve.

Det er mennesker som må stå for visjonene

Dagens AI-modeller er låst til modeller om sånn ting er og var. En AI-modell kan ikke fortelle oss noe sikkert om fremtiden. Den må vi skape selv. Det er det som er målet med vår demokratiske offentlige sektor. At vi, det norske folk, stemmer på de ideer og visjoner som vi har troa på. Hvordan ideene vil fungere i praksis er det ingen som kan vite. Mennesker er uforutsigbare og samfunnet endrer seg så mye hele tiden, at selv den mest innholdsrike AI-modellen ikke kan vite hvordan noe vil være om 5 måneder. Kanskje AI en dag blir smartere enn oss mennesker, og flinkere til å gjøre alt. Men den kan ikke erstatte våre visjoner og ønsker om forbedring. Er det noe som kjennetegner mennesker, så er det at vi aldri er fornøyde. Vi ønsker alltid forbedring. Den må vi jobbe for selv.

I Norge kan vi gjøre det via vårt demokrati, representert av vår offentlige sektor.

La oss håpe våre politikere tar dette ansvaret, og gir oss noe inspirerende å stemme på, ikke bare vage, lite troverdige løfter om teknologibruk.