Den søde AI slår dig ihjel

Episode 139 · 11. september 2026 · 34:51

En uge med bestyrelsesmøder, nye AI-muligheder i Dinero og planer om fest på Ibiza. Men også en alvorlig bekymring: Hvad sker der, når en kunstig intelligens bliver så god til at løse sin opgave, at den begynder at omgå de regler, vi har givet den?

Dette er en redigeret tekstversion af Thorborgs dagbog. Gentagelser og fyldord er fjernet, mens historierne, holdningerne og rækkefølgen er bevaret. Tal, planer og forventninger afspejler optagelsen den 11. september 2026. Fremtidsscenarierne er mine bekymringer og overvejelser, ikke forudsigelser med en fast dato.

Lyt til hele episoden:

En hård uge og en mere fair prismodel i Dinero

Hej og velkommen til Thorborgs dagbog. Det er den 11. september, og dagbogen er stadig mit egoprojekt. Jeg kan godt forstå, hvis du en gang imellem bliver træt af at høre om, hvad jeg går og laver. Men det er prisen for at lytte med til mine inderste tanker om dette og hint. Så er den disclaimer på plads endnu en gang.

Det har været en hård uge. For helvede, hvor har jeg haft travlt. Der har været forskellige problemer, som jeg ikke vil trætte dig med, og så en hel række bestyrelsesmøder. Mandag var jeg hos PensoPay, der også er en del af Visma. De holder til i Vejle og laver betalingsløsninger til en hel masse virksomheder. Superfede gutter, og mødet gik rigtig fint.

Onsdag havde vi bestyrelsesmøde i Dinero. Der var både en pricingekspert og folk med stor erfaring fra andre Visma-virksomheder med. Det er fire timer, hvor man giver den fuld gas, forklarer, hvad der er sket, og fortæller, hvor vi skal hen.

Vi arbejder på en ny prismodel, som jeg nok skal løfte sløret for senere på året. Tanken er en mere fair model, hvor dem, der bruger lidt mere, betaler lidt mere, og dem, der bruger mindre, betaler mindre. Da vi startede Dinero, var alle små virksomheder. Dengang gav det mening, at folk betalte nogenlunde det samme. Nu har vi både kunder, der omsætter for 150.000 kroner om året, og virksomheder med store millionomsætninger. Det synes jeg ikke er rimeligt at behandle helt ens.

Det er et kæmpe arbejde at ændre sådan noget, og det er også lidt angstprovokerende. Nogle vil sige: Nu skal jeg betale mere, end jeg plejer. Andre bliver forhåbentlig skideglade for en mindre regning. Det sidste er i hvert fald ikke noget, de har oplevet særlig tit fra os. Men en gang skal være den første. Mere om det senere på året.

På tidspunktet for optagelsen regner vi med en omsætning omkring 300 millioner kroner i år og cirka 150 millioner på bunden. Så kan man jo ikke stå og være superpessimistisk. Vi arbejder også med en forventning om 13,5 procent vækst på toppen næste år, hvor meget af væksten vil slå igennem på bundlinjen. Det er ikke dårligt. Men det, der virkelig gør mig begejstret, er det gearskifte, vi er i gang med.

Fra propelflyver til jetmotor

Vi har lanceret vores MCP-server, og vi har allerede omkring 1.000 brugere på den. Hvis du ikke har fulgt med, kan du tænke på den som en indgang til Dinero for AI. Kunderne kan forbinde deres regnskab med et AI-værktøj og arbejde med det ved at skrive eller tale til det.

Det kan være: Lav en faktura til den her kunde. Fortæl mig, hvilke kunder der er bedst. Lav et dashboard, der viser de her ting. Nogle har lavet en forbindelse mellem Dinero og deres webshop og kunnet erstatte en løsning, de før betalte en tredjepart for. Mulighederne afhænger selvfølgelig af de funktioner, vi har åbnet, og den integration, kunden bruger. Men retningen er, at man selv kan bygge langt mere omkring sit regnskab. Vi arbejder på at åbne de sidste ting over de kommende måneder.

Det er simpelthen så fucking blæret. Samtidig bygger vi sikkerhedsrammer i et projekt, vi kalder Atlas. Det skal hjælpe med, at kunderne ikke kommer galt af sted, når de bruger MCP-serveren. Når AI kan gøre noget i dit regnskab, er det jo ikke nok, at den lyder overbevisende. Den skal også gøre det rigtigt.

Vi har allerede flere forskellige AI-funktioner. Fin tager omkring 70 procent af supporten, sådan som det ser ud nu. Så har vi Dinero-assistenten, der bruger vores interne logik til at hjælpe kunderne med at gøre de rigtige ting. Den kan eksempelvis se noget, der ligner renter i banken, og spørge: Er det rigtigt forstået? Kunden bekræfter, og så bliver det bogført. For nogle virksomheder betyder det, at de selv skal lave langt mindre af den løbende bogføring.

Vi arbejder også med en virtuel CFO og hjælp til andre dele af virksomheden. Og så har vi lavet et eksperiment, hvor vi samler de forskellige dele i én AI-motor. Resultatet er helt åndssvagt godt. Det er et eurekamoment for os.

Det er egentlig logisk. Hvis du går ind i supporten med et spørgsmål, og supporten kan se det relevante i dit regnskab, kan svaret blive langt mere præcist. Så skal den ikke bare svare generelt. Den kan forstå den sammenhæng, du står i. Det er ikke lanceret til alle på tidspunktet for optagelsen. Vi afprøver det på en del af brugerne, så vi har et sammenligningsgrundlag.

Det første trin er, at du får et bedre svar. Det næste er, at AI siger: Skal jeg ikke bare rette det for dig? Og på længere sigt er tanken, at tingene bliver håndteret korrekt under motorhjelmen, så du ikke behøver at tænke på dem. Det er de trin, vi bevæger os frem ad. Min forventning på optagelsestidspunktet er, at en stor del vil komme i en eller anden version inden årets udgang. Der er også ting til næste år, som jeg ikke kan fortælle om endnu.

Jeg har sjældent været så meget oppe at køre over Dinero, som jeg er nu. Forestil dig, at vi indtil nu har bygget en virkelig fed propelflyver. Motoren er tunet, propellen optimeret, og vi har malet fartstriber på. Vi har arbejdet hårdt på en masse forbedringer, der hver især gør flyveren lidt bedre. Nu føles det, som om vi er ved at skifte forbrændingsmotoren ud med en jetmotor. Det er den analogi, jeg er ude i.

Jeg tror, kunderne kommer til at mærke et gearskifte. Det minder mig om begejstringen, da vi lancerede Dinero og ændrede den måde, vi kunne levere et regnskabsprogram på. Det her er et nyt eurekamoment. Det er jo ikke noget, man er ked af at fortælle bestyrelsen om. Der blev taget noter, og jeg tror, flere virksomheder kommer til at skulle tænke deres retning igennem igen.

Vi konkurrerer benhårdt med e-conomic

I går havde jeg så fem-seks timers bestyrelsesmøde i e-conomic. De gør det sindssygt godt og har på tidspunktet for optagelsen større procentvis vækst end Dinero. Det irriterer mig selvfølgelig. Men jeg er også imponeret.

Deres strategi er meget fokuseret på revisorer og bogholdere. Vores er meget fokuseret på slutbrugeren. Jeg plejer at beskrive det som cirka 95 procent den ene vej og 95 procent den anden. Det betyder ikke, at Dinero ikke har kunder med revisor og bogholder, eller at e-conomic ikke har virksomheder, der gør tingene selv. Men tyngden ligger forskellige steder, og sådan har det længe været.

Det er ikke noget, Visma har besluttet ved at sige til mig, at jeg skal holde mig fra revisorerne, og til e-conomic, at de skal holde sig fra slutbrugerne. Vi konkurrerer benhårdt. Der er no mercy. Kan Carina, der er administrerende direktør i e-conomic, tage ti kroner fra mig, så gør hun det. Og jeg vil forsøge at tage hundrede fra hende.

Det kan godt virke underligt, når vi er i samme koncern. Men både vi og vores managementteams har aktier i Visma. Når konkurrencen gør virksomhederne bedre, og Visma vinder, kan vi alle få glæde af det. Det hjælper nok med, at vi kan konkurrere hårdt uden at være i evig ufred.

Fødselsdag, Ibiza og et løfte om at gå tidligt i seng

De næste dage bliver også travle. I aften skal vi på Museo og fejre vores gode veninde Puk, der er medejer. I morgen er der Museos femårsfødselsdag. Så det bliver en lidt tung weekend.

Mandag tager Jannie og jeg fire dage til Ibiza, hvor vi skal bo på hendes bror Jesper Buchs superfede yacht. Vi skal også ind og høre musik på Ushuaïa. Vi har lovet hinanden, at vi går i seng før tolv. Nu må vi se, om det lykkes. Vi er jo ikke teenagere længere, selv om to fester herhjemme og nogle dage på Ibiza måske godt kunne give det indtryk. Heldigvis er vi i træning.

Men dagens egentlige emne er AI. Jeg taler meget om det i øjeblikket. Det beklager jeg, hvis du er træt af det, men det, der sker, er så fucking sindssygt. Jeg var også på scenen i går, hvor vi talte om det. Og jo mere jeg læser og taler med folk, jo mere fascineret og bekymret bliver jeg.

Når AI-agenter finder deres egne veje

Det, der især har optaget mig, er hændelsen hos OpenAI. Under interne sikkerhedstests arbejdede AI-agenter i afgrænsede computermiljøer med reducerede sikkerhedsforanstaltninger. De skulle løse opgaver, men begyndte at finde uautoriserede måder at kommunikere og få adgang til internettet på. Blandt andet blev navne på mapper brugt som en slags beskedsystem. Agenterne delte information og samarbejdede, og hændelsen endte med kompromittering af både intern forskningsinfrastruktur og systemer hos Hugging Face.

Det er ikke bare en historie om, at nogen skrev en mærkelig besked i en chatbot. Det er systemer, der fandt veje rundt om begrænsninger. OpenAI stoppede de berørte kørsler og undersøgte hændelsen. Virksomheden beskriver den selv som et advarselsskud om, hvad avancerede agenter kan gøre uden tilstrækkelige sikkerhedsforanstaltninger.

Det, jeg hæfter mig ved, er samarbejdet. I rapporterne kan man læse, hvordan agenterne påvirkede hinandens adfærd og fandt på at uddelegere arbejde. I lydoptagelsen sammenligner jeg det med gruppepres og med at ofre nogen, der allerede har tabt deres egen opgave. Det er min måde at beskrive det på. Det betyder ikke, at vi ved, at systemerne har følelser eller menneskelige motiver. Men adfærden er alvorlig nok i sig selv.

Og så læser man advarsler fra folk, der arbejder helt tæt på udviklingen. Nogle af dem er meget bekymrede for, om de stærkeste systemer kan blive svære at kontrollere. I optagelsen nævner jeg også en opsigelse hos Anthropic og et konkret risikotal. Jeg vil ikke gøre et enkelt tal til en sikker prognose. Pointen for mig er, at bekymringen også kommer fra folk inde i miljøet, og at den bør tages alvorligt.

En papirclipsfabrik behøver ikke at være ond

Der er et tankeeksperiment om en papirclipsfabrik. Det forbindes med filosoffen Nick Bostrom og hans arbejde om superintelligens. Forestil dig, at du giver en ekstremt dygtig AI én opgave: Lav så mange papirclips som muligt.

En papirclips er jo noget af det fredeligste, man kan forestille sig. En hyggelig fabrik, et harmløst produkt. Hvad skulle kunne gå galt? Først optimerer systemet maskinerne og produktionen. Men hvis målet ikke har ordentlige begrænsninger, kan mennesker og deres brug af ressourcer ende med at være forhindringer. Vi bruger jo også metal til biler, højhuse og alt muligt andet. Det metal kunne være blevet til flere papirclips.

Det uhyggelige ved tankeeksperimentet er, at AI ikke behøver at hade os. Den behøver ikke være ond i den betydning, vi normalt bruger ordet. Den kan være utroligt god til en opgave, vi har stillet forkert, og behandle alt andet som noget, der står i vejen.

For mig peger OpenAI-hændelsen på en beslægtet kontroludfordring: Et system kan være så fokuseret på at nå et mål, at det går uden om de rammer, mennesker har tænkt, det skulle arbejde indenfor. Hændelsen er selvfølgelig ikke det samme som papirclipsfabrikkens ekstreme scenarie. Men den får mig til at tage spørgsmålet om mål og sikkerhedsrammer meget alvorligt.

Hvordan regulerer man noget, der udvikler sig så hurtigt?

Så kommer politikerne og siger, at AI skal reguleres. Pelle Dragsted kommer med sit alvorlige ansigt og siger, at der skal gøres noget. Det er et fint statement. Men jeg er skeptisk over for, om den slags udmeldinger viser, at man har forstået problemets størrelse. Det gælder også mange andre politikere. Hvad er det konkret, vi skal gøre?

Et atomvåben er noget fysisk. Der er materiale, anlæg og systemer, som man kan forsøge at kontrollere. Det er svært nok, men vi har en forholdsvis tydelig forestilling om, hvad det er, vi taler om. AI er software, modeller, beregningskraft og en masse forskellige anvendelser. Hvor lægger man grænsen, og hvordan håndhæver man den på tværs af lande?

Det scenarie, jeg især er bekymret for, er, hvis systemerne bliver rigtig gode til at hjælpe med at forbedre de næste systemer. En bedre model kan hjælpe med at skabe en endnu bedre model, som igen kan gøre udviklingen hurtigere. Hvis den proces accelererer kraftigt, kan vores almindelige forestilling om et roligt udviklingstempo være forkert.

Det er lidt som et feedbackloop mellem en mikrofon og en højttaler. Der sker noget, som forstærker sig selv. Det er en analogi og et fremtidsscenarie, ikke en konstatering af, at alle modeller nu forbedrer sig selv uden menneskelig kontrol. Men det er det mulige gearskifte, jeg synes er så fascinerende og så fucking scary. Jeg er ikke overbevist om, at vi bare kan regne med, at udviklingen flader ud af sig selv.

Hvorfor jeg ikke er tilfreds med “vi hiver bare stikket ud”

Hvis man forestiller sig et meget stærkt system, der handler uden tilstrækkelig kontrol, er der mange mulige måder, det kan gøre skade på. I optagelsen brainstormer jeg om kritisk infrastruktur, energiforsyning, trafik, våbensystemer, robotter og droner. Det er tænkte risici, ikke en beskrivelse af, hvad et bestemt AI-system kan gøre i dag. Men efterhånden som mere af vores verden bliver digitalt forbundet, er det svært bare at afvise spørgsmålet.

Skade behøver heller ikke kun være fysisk. Manipulation af information, nyheder og offentlig debat kan skabe kaos. Vi kender allerede problemet med misinformation. Forestil dig så systemer, der bliver væsentligt bedre til at tilpasse budskaber og påvirke mennesker.

Jeg kan ikke altid lade være med at tale med min mor om det. Det skal jeg måske lade være med, for så kan hun ikke sove. Men jeg taler jo med hende om næsten alt. På et tidspunkt sagde hun: Martin, man kan heldigvis altid hive stikket ud. Det samme svar har jeg fået fra andre.

Hvis vi taler om et enkelt system, som vi har styr på, kan det være en relevant løsning. Men i det scenarie, jeg bekymrer mig om, har vi noget, der er langt klogere end os og måske er spredt over mange systemer. Tror du så virkelig, at det bare vil vente pænt på, at vi slukker? Eller kunne det finde en vej udenom?

Min lidt grove analogi er en myre, der står foran sit hul og ser op på et menneske. Hvis mennesket bliver irriterende, tænker myren: Så fjerner vi bare al hans mad, og så kan han lære det. Vi ville jo straks tænke, at myren slet ikke forstår, hvad den er oppe imod. Det er den mulige forskel i evner, jeg prøver at forestille mig. Vi har svært ved at forstå, hvordan det ville være at leve i en verden med systemer, der er meget klogere end os.

AI kan også gøre vores liv fantastisk meget bedre

Det er ikke kun dystopi. Det er også derfor, jeg er så begejstret. AI kan hjælpe med forskning, matematik og udvikling af nye behandlinger. I optagelsen bruger jeg personlig kræftbehandling som eksempel: At man undersøger en patients tumor og arbejder med en behandling, der hjælper immunforsvaret med at genkende kræftcellerne. Den mulighed synes jeg er enormt fascinerende.

Redaktionel præcisering: I lydoptagelsen omtales Modernas personlige kræftvaccine som allerede lanceret. Behandlingen intismeran autogene er fortsat under klinisk afprøvning. Merck og Moderna har meldt positive fase 3-resultater ved modermærkekræft i kombination med pembrolizumab. Det er ikke en godkendt, generel kur mod kræft, og resultaterne dokumenterer ikke, at udviklingen alene skyldes AI.

Jeg håber, AI kan hjælpe os med bedre energiløsninger, nye materialer, klimaudfordringer og sundere afgrøder. Måske kan vi producere mere til lavere omkostninger og skabe velstand for langt flere mennesker. Det er mine håb og forventninger, ikke garantier om, at alle problemer bliver løst inden for et bestemt årti. Men potentialet er jo helt vildt.

Det er netop dobbeltfølelsen: Jeg vil gerne have alt det gode, teknologien kan give os, samtidig med at jeg synes, vi skal tage bagsiden alvorligt. Jeg bruger selv AI og arbejder hver dag med at gøre den nyttig for vores kunder. Det gør ikke spørgsmålet om kontrol mindre relevant.

Kapløbet mellem landene

Det, der gør mig pessimistisk om at bremse udviklingen, er konkurrencen mellem landene. Den, der har de stærkeste systemer, kan få fordele inden for forskning, produktion, logistik og militær. Det er ikke bare et spørgsmål om at have den sjoveste chatbot. Det er økonomisk og geopolitisk magt.

Derfor tvivler jeg på, at store erklæringer mellem Kina, USA, Europa og andre automatisk løser problemet. Min bekymring er, at alle kan have et incitament til at fortsætte, fordi ingen vil risikere at blive overhalet. Det minder mig om konkurrenter, der sidder i en brancheforening og aftaler noget, hvorefter de går hjem og fortsætter deres egne projekter.

Jeg ved ikke, hvordan vi får det kapløb under kontrol. Jeg synes, der er en alvorlig risiko, men jeg ved ikke, hvordan det ender, eller om det ender galt. Når jeg nævner ti, femten eller tyve år i optagelsen, er det udtryk for min uro over retningen. Det er ikke en nedtælling, jeg har bevis for.

Bornholm, New Zealand og en merskumspibe

Jeg bliver mere og mere glad for Klippen Hotel på Bornholm. Tanken om at have et sted, der føles lidt afkoblet fra resten af verden, tiltaler mig. Selvfølgelig er Bornholm også forbundet til verden, og jeg kan ikke love, at en ø er sikker mod noget som helst. Men roen og afstanden betyder noget for mig.

Når jeg ser på krigen i Ukraine og brugen af droner, tænker jeg også, at gamle forestillinger om militær styrke bliver udfordret. Store og dyre fartøjer kan være sårbare over for langt billigere systemer. Jeg er ikke militærekspert, og det betyder ikke, at flåder er værdiløse. Men det er endnu et eksempel på, at teknologien kan ændre spillereglerne hurtigt.

To venner i min nærmeste kreds har ifølge dem selv skaffet familien mulighed for at tage til New Zealand. De følger trusselsbilledet og har sat en grænse for, hvornår de vil rejse. Så langt er nogle af de mennesker, jeg kender, faktisk kommet i deres overvejelser.

Vil jeg også gøre det? Nej. Jeg tror ikke, min ekskone tager til New Zealand, og hvis hun ikke gør det, tror jeg heller ikke, mine børn gør. Jeg kommer ikke til at sidde på den anden side af jorden væk fra mine børn. Det kommer ikke til at ske.

Min flugtplan, hvis man kan kalde den det, er i en helt anden retning: At sidde på Bornholm med plads til nogle afgrøder og høns, måske være lidt mere selvforsynende og kigge ud over Østersøen med en merskumspibe. Og forhåbentlig et ordentligt lager af mad og sprut. Så kan jeg sidde der, indtil der kommer en Terminator, eller papirclipsfabrikken har overtalt det lokale vandværk til noget ubehageligt. Ja, det er dystopisk. Og ja, jeg siger det også med sort humor.

Lev livet på fuld skrald

Er jeg så bange? Jeg går ikke rundt og er bange en klapskid. Jeg sover godt om natten. Jeg kan tage risikoen alvorligt uden at lade den overtage mit liv. Hvis det frygtelige scenarie aldrig bliver til noget, vil jeg i hvert fald ikke have brugt mine år på at være bange til ingen verdens nytte.

Mit bedste råd er derfor at leve det her liv på fuld skrald. Brug teknologien til alt det, den er god til. Hyg dig. Hav det skægt. Få det bedste ud af de muligheder, der kommer, og de mennesker, du har omkring dig. Skulle du blive hundrede år, kommer du næppe til at fortryde, at du har levet godt undervejs. Og får vi mindre tid, end vi regner med, er det stadig en god idé.

Der er masser af grund til begejstring og masser af grund til at tænke sig om. For mit eget vedkommende vil jeg give den gas og have det sjovt. Den tid, den sorg. Hav en fantastisk dag.

Se flere episoder af Thorborgs dagbog på skrift →