Elon Musk uttalte senest for et par måneder siden at KI har potensiale til å drepe oss alle sammen. I denne reportasjen skal jeg forsøke å finne ut om min frykt er ubegrunnet. Jeg snakker med en rekke eksperter, både i og utenfor finansbransje for å finne ut om jeg må begynne å bygge dommedagsbunkeren min, eller om dette faktisk går bra. Samtidig skal jeg gi et lite innblikk i hvordan bransjen påvirkes av og jobber med kunstig intelligens. En liten avsløring: Det handler mye om agenter og manglende innovasjon.

BERGEN: Det naturlige startpunktet for min undersøkelse er Norway Fintech Festival i Bergen. I slutten av april samlet Norges fintechbransje seg her, og i år var KI et klart hovednummer blant de tallrike innslagene. Her treffer vi Helene Bredesen, Head of Product Nordics & Baltics hos Visa. Hun tror ikke KI er verdens ende eller at det vil føre til massearbeidsledighet.

– Vi kan ikke stappe ånden ned i flasken igjen. Det viktigste for den enkelte er å være nysgjerrig og ta teknologien i bruk. Start en promt, gå i dialog med modellen. Det har gitt god effekt hos dem i teamet mitt som var litt skeptiske. Menneskenes rolle blir å sette reglene og gi oppgavene, sier Bredesen.

Bill Gates: Within 10 years, AI will replace many doctors and teachers – humans won’t be needed for most things

Hos Visa har de også, ikke uventet, kastet seg på KI-toget. Og her er det ikke snakk om kutt, snarere tvert om.

– KI gjør at vi jobber på en annen måte enn før. Hver dag starter jeg med å spørre hva KI kan gjøre for meg, i min arbeidshverdag. Det gjør at jeg får mer tid til å konsentrere meg om kreative og produktive ting, sier Bredesen.  

– Vi lager egne agenter som hjelper de ansatte i hverdagen. Det kan være alt fra å skrive tekster ut fra Visas språkmal til datainnsamling. Men du må kunne det du jobber med. Å stole på en agent 100 prosent handler om å forstå når og hvordan den skal brukes. Det menneskelige skjønnet er fremdeles sentralt. Hos Visa er engelsk konsernspråket. KI hjelper meg slik at jeg skriver bedre og dermed unngår misforståelser. Norsk er et fattigere språk, smiler Bredesen.

Du lurer kanskje på om jeg har brukt KI selv ved produksjon av denne artikkelen? Ja, jeg har brukt ChatGPT i research, samt for korrektur og språkvask. Men alle ord og formuleringer er mine egne.

Agentisk KI: Agentisk KI er kunstig intelligens som ikke bare svarer på spørsmål, men som kan utføre oppgaver og ta egne valg for å nå et mål. Slike systemer kan planlegge flere steg fremover, hente informasjon fra ulike kilder og tilpasse seg underveis dersom noe endrer seg. Teknologien beskrives ofte som et skifte fra KI som et enkelt verktøy til KI som en mer selvstendig digital assistent.

Shopping med agenter

For Visa er handel ekstremt viktig. Uten transaksjoner synker inntektene.  Også innen shopping vil agentene få en stadig større rolle. Se for deg at du er sugen på et par nye sko og du vil ha dem så billig som mulig. Du gir en KI-agent i oppdrag å finne skoene på nett innenfor et visst budsjett og at du vil ha dem bestilt i løpet av to uker. Agenten vil da sjekke priser på nettbutikker, følge om prisen går opp eller ned, og til sist også bestille og betale skoene for deg. Alt helt automatisk.

– Faktum er at shopping er et av områdene der KI blir stadig mer brukt. Folk bruker det til å lete og handle. I dag er ikke prosessen helautomatisert, men det kommer. Rent teknisk er det enkelt å løse. Problemet som gjenstår, er menneskenes tillit. Er det trygt? Foreløpig er nok skepsisen stor til å la KI handle autonomt, sier Bredesen. Visa har stor tillit, den samme tilliten må inn i agentisk handel.

– Vi er i en tidlig fase, men utviklingen vil gå fort. Når systemene blir bra og folk ser at det virker, vil de ta det i bruk, sier Bredesen, som beskriver seg selv som en teknologioptimist.

– KI-agenter har et hav av potensielle bruksområder. Nå må vi få teknologien til å snakke sammen, og sørge for at tilliten kommer på plass.

Vær nysgjerrig

– Hvordan bruker du agenter?

–  Jeg har mange ulike agenter til ulike ting. Jeg har trent en agent til å være som min personlige assistent. Den går gjennom kalenderen min og sier hva jeg skal forberede meg til og tar frem dokumentene jeg trenger. Det har gjort meg mer strukturert og forberedt, sier Bredesen.

Kraftig verktøy

En annen som er glad KI-agentene er Ramtin Matin, tidligere direktør for innovasjon og partnerskap i SpareBank 1 Sør-Norge.

– Hvordan tror du KI vil påvirke samfunnet?

– Det forsvinner nok en del jobber, men nye vil komme til. Samtidig må du ikke la KI erstatte tankeprosesser. Du må heller ikke la KI treffe beslutninger for deg. Et menneske må kvalitetssikre og kontrollere, for du kan ikke kompromisse på kvalitet, sier Matin, som er klar på at bransjen ikke er offensiv nok ved innføring av KI.

– Det virker ikke som om folk har forstått hvor kraftig dette verktøyet er. Mange begynner å ta i bruk dette til personlig produktivitet. I stor grad handler det om å effektivisere eksisterende prosesser. Ofte er det opp til den enkelte å ta teknologien i bruk. Dette gir ikke noe konkurransefortrinn. Ledelsen i næringen tar ikke de teknologiske endringene på alvor og får ikke adoptert det i organisasjonene. Det er mangel på digital forestillingsevne. Dette blir en barriere for innovasjon og utvikling, sier Matin.

Jevner ut konkurransen

Bruken av KI-agenter vil flytte makten til forbrukerne. De vil bruke KI-agenter til alt fra å kjøpe forsikringer og boliglån. Samtidig vil det bli enklere for mindre selskaper og startups å konkurrere med de store selskapene.

– Vi må være bevisst på hvordan KI jevner ut konkurransen. Jeg tror det kan skape en del spennende muligheter, særlig her i Norge, hvor folk har et høyt digitalt nivå. Ved å bruke KI til faktisk innovasjon vil det kunne skapes både langvarige og kortvarige konkurransefortrinn, sier Ramtin, som har sett hvordan den yngre generasjonen som nå er på vei inn på arbeidsmarkedet forholder seg til KI.

– For dem er bruk av KI hygiene. De forventer å få bruke disse verktøyene. Det hviler et ansvar på ledelsene rundt om i å legge til rette for dette.

Center for AI Safety: Å redusere risikoen for utryddelse fra KI bør være en global prioritet.

Moden for overhaling

Det er ingen hemmelighet at Ramtin Matin synes norsk finansbransje ikke benytter mulighetene som ligger i ny teknologi.

– Bank-Norge er modent for en overhaling. Jeg mener bransjen skylder samfunnet og kundene bedre finansielle løsninger. Da må du ha kontinuerlig utvikling. Se på de store bankene i USA. De har direkte samarbeid med Anthropic (leverandør av blant annet språkmodellen Claude). Det vil gi dem helt andre ting enn det vi har her.

– Hva tenker du om neo-banker som Revolut?

– Hvis du som leder i finans undervurderer Revolut, bør du ta deg en runde. De holder seg skarpe og har fått en god posisjon blant yngre. Bank vil ikke være bank slik vi kjenner den nå om fem år. Da nytter det ikke å være naiv overfor konkurrentene, men snarer ta en aktiv rolle i å forme fremtidens finans.

Ok, en liten oppsummering. Både Matin og Bredesen tror at KI-agenter vil få en viktig rolle i folks shoppingvaner. Spørsmålet jeg stiller meg er om handelsagenter er en bra ting, særlig sett i lys av at foretakene bak teknologien i stor grad er store kommersielle amerikanske selskaper. Kan det hende at butikker og merkevarer også her kan betale seg til en bedre plass i anbefalingene? Eller er dette bare min mistenksomme journalisthjerne som jobber på høygir?

En studie fra MIT viser at bruk av ChatGPT i oppgaveskriving kan gjøre deg dum. ChatGPT-brukerne husket dårligere hva de selv hadde skrevet. Avhandlingene deres ble mer like hverandre i språk og struktur. Mange rapporterte lavere følelse av eierskap til teksten. Over tid ble flere mer passive og kopierte i større grad AI-generert innhold direkte. 47 prosent fikk redusert evne til kritisk tenkning, konsentrasjon og hukommelse.

Kutt med KI

Vi tar turen til Danmark, der journalist Alexander Haslund i det danske Finansforbundet har intervjuet Jacob Sherson, professor ved Aarhus Universitet og Niels Bohr Instituttet, Københavns Universitet. Han leder i dag Center for Hybrid Intelligence under Aarhus Universitet.

Automatisering og effektivisering er stadig på dagsorden i finans, og i flere tilfeller blir KI koblet direkte til oppsigelsesrunder. Men hvis oppsigelser blir hovedhensikten med KI-satsingen, risikerer bankene å velge en strategi som på kort sikt ser rasjonell ut, men på lengre sikt kan vise seg å være direkte skadelig, uttaler Sherson.

– Når en bank bruker KI som begrunnelse for å si opp folk, er det ofte bare en ny innpakning av en gammel spareøvelse. Men du kan ikke kutte deg til verken innovasjon eller konkurranseevne, sier han til Finansforbundet.dk.

Hvis KI primært ses på som et spareverktøy, skaper det usikkerhet blant medarbeiderne og presser organisasjonene på et tidspunkt hvor kunnskap, samarbeid og eksperimenter er avgjørende.

– Hvis du starter med å kutte og skape usikkerhet, ødelegger du forutsetningene for å lykkes med KI. Det er første skritt mot en blindvei, sier Sherson.

Samspill med ansatte

Ifølge professoren skaper man først reell verdi med generativ KI når teknologien utvikler seg i samspill med medarbeiderne. Hvis virksomhetene, inkludert bankene, reduserer bemanningen, fjerner de nettopp den kunnskapen, dømmekraften og konteksten som KI-systemene trenger for å bli bedre.

– Bankene risikerer å ende i et Ryanair-scenario, hvor konkurransen utelukkende handler om å være billigst. Det blir et ‘race-to-the-bottom’. Det er kanskje én vinner, ofte en global gigant. Alle andre taper både kunder, brandverdi og innovasjonskraft.

Elon Musk: AI could also kill us all.

Han vil at virksomhetene bør se på medarbeiderne som en sentral kilde til innovasjon.

– Det er de som kjenner arbeidsprosessene, kundebehovene og stedene hvor KI faktisk kan skape reell verdi.

Bekymring og håp

Også professoren er bekymret for fremtiden. Menneskene må bevare kontrollen i et aktivt samarbeid med KI. Uten kontroll vil vi gå mot en verden hvor mer og mer arbeid forsvinner, og makten konsentreres hos noen få tech-giganter.

– Det er både bekymring og håp. Bekymring hvis vi lar utviklingen fortsette av seg selv. Men også håp, fordi jeg opplever at flere og flere både i virksomhetene og i det politiske systemet har begynt å forstå alvoret, forteller han.

Ok, en professor som burde ha greie på det han snakker om er bekymring over makt sentret hos amerikanske tech-giganter. Han deler altså en av mine bekymringer. For kan vi se for oss at disse selskapene egentlig vil oss vel? Tvilsomt spør du meg. Så etter å ha hørt med ekspertisen er jeg fremdeles urolig. Det mangler liksom et perspektiv og en evne til å se på teknologien på et samfunnsnivå. Jeg pratet med masse flinke folk, både på festivalen i Bergen og gjennom andre samtaler. Felles for dem alle var en stort sett en manglende evne til å løfte blikket utover det nærmeste året. De store spådommene kommer gjerne fra folk i bransjen, som helt klart har mer og mindre klare egeninteresser, samt ulike forskningsmiljøer. Denne reportasjen er krydret med en rekke sitater fra slike spådommer.

Har jeg blitt noe klokere? Ja, jeg vet mer om hva som rører seg innen KI i norsk finansbransje. Er jeg fremdeles redd? Rapporter om KI-er som lyver, utpresser, hallusinerer og som gjør late brukere dumme florerer og skaper en frykt for teknologien. Til tross for dette har redselen kanskje gått over i en slags berettiget, dyp bekymring. For redsel hemmer handling. Fremtiden er spennende, og den kommer enten vi liker den eller ikke. Så får vi håpe det er tilstrekkelig gode krefter i verden til at fremtiden blir så lys at jeg trenger solbriller.