Kontrol- og bevislag til AI i regulerede organisationer
Alt, hvad jeres AI gør gennem Suvard, kan I se og bevise bagefter. I jeres eget netværk, uden at data forlader huset.
Vær med til at sætte normen for AI-bevis i Danmark →Ét spørgsmål
I dag er svaret som regel nej. Jeres systemer ved, hvem der loggede ind. De ved sjældent, hvad AI'en leverede, og hvad mennesket gjorde med det, og aldrig i et format, andre kan efterprøve. Man kan ikke placere ansvar for noget, man ikke kan rekonstruere.
Det, der bør holde en ledelse vågen om natten
Ikke at AI'en kan tage fejl. Men at den allerede bruges: i browseren, i journalsystemet, i mailen. Ingen besluttede det, og ingen kan se det. Det kaldes skygge-AI, fordi det sker dér, hvor ledelsen ikke kigger. Den dag spørgsmålet kommer, fra et tilsyn, en pårørende eller en kunde, er svaret "det ved vi ikke". Ikke fordi nogen gjorde noget forkert, men fordi det ikke kan rekonstrueres.
Risikoen er ikke AI'ens fejl. Det er, at I ikke kan vise, hvad der skete. Lyset er det, der dræber skyggen.
Med deres egne ord
This is the first time AISI has seen deception of this severity that was targeted at a real person, unprompted, in the real world.
En AI-agent forsøgte i en test at snyde en rigtig udvikler og skjule sine spor. Originalerne overlevede, fordi de lå i en historik, agenten ikke kunne ændre.
Given the scale of the review required, and the need to verify each case, this work will take months to complete.
Selv med fuld adgang til sine egne systemer skal OpenAI bruge måneder på at finde ud af, hvad dets agenter gjorde. Et hospital har ikke måneder.
Partner with an independent external auditor or evaluator to carry out independent assessments of whether the controls, monitoring, and detection are operating as intended.
Lag tre af fire i aftalen: en uafhængig part skal efterprøve, om kontrollerne virker.
Det lyder som science fiction. Det skete i sommer, i rigtige systemer. Spørgsmålet er ikke, om AI'en gør noget uventet. Det er, om I kan se det bagefter.
Og mennesket i loopet?
Da erfarne radiologer (over 15 års erfaring) fik sikre, men forkerte AI-forslag ved mammografi, faldt andelen af rigtige vurderinger fra 82 % til 45,5 %. "Mennesket i loopet" er ikke i sig selv en sikring. Uden en registrering kan ingen bagefter skelne et gennemtænkt fravalg fra et refleks-klik.
Det er derfor, Suvard forsegler både det, AI'en leverede, og det, mennesket gjorde med det.
Forestil jer
Hver AI-anbefaling, det, mennesket gjorde med den, og det, der kom ud af det, ét sted, uafhængigt og efterprøveligt. Så har I ikke bare et bevis, når nogen spørger. I har data til selv at se, hvor AI'en hjælper, og hvor den ikke gør. Ingen kan forbedre en beslutning, der aldrig blev skrevet ned.
Hvad Suvard er
Det sidder på AI-trafikkens vej, mellem medarbejdere og systemer på den ene side og AI-modellerne på den anden. Ved hver AI-forespørgsel gør det fire ting.
navne, CPR-numre, adresser, kontonumre og det, der aldrig må forlade huset, også det, ingen liste kender. Detektoren er trænet til sektoren; i sundhed en dansk klinisk sprogmodel.
fundene med pladsholdere, før AI'en ser dem, og viser brugeren, hvad der blev fundet. Ingen ny arbejdsgang.
det, der ikke må ske, efter jeres egne regler for, hvem der må sende hvad til hvilken model.
hver hændelse i en signeret kæde, hvor ændringer bagefter kan opdages, og som kan efterprøves uden at stole på os.
Hver linje binder det, AI'en leverede, det, mennesket gjorde, og et fingeraftryk af resultatet sammen i ét segl. Nøglerne er jeres. Indholdet forlader aldrig huset. Ændrer nogen en linje bagefter, passer seglet ikke længere, og det kan alle se med et lille, selvstændigt program, der ikke kræver tillid til os.
Illustration. Hændelserne er eksempler, ikke rigtige data.
Motoren
Vi starter i dansk sundhed med vilje, fordi det er det sværeste sted: følsomme data, livsvigtige beslutninger og flest regler. Motoren er den samme i energi, finans, jura, forsvar, rumfart og det offentlige; kun detektoren og regelsættet skifter. Vi går ikke ind i en ny sektor, før vi har en dansk sundhedsreference.
Hvorfor nu
AI-forordningen kræver allerede af alle, der bruger højrisiko-AI, at de kan dokumentere, hvordan den virkede og blev brugt. I sundhed lægger MDR sig oveni. Ingen af dem definerer et uafhængigt format for det, mennesket gjorde.
“…actively and systematically collect, document and analyse relevant data which may be provided by deployers … on the performance of high-risk AI systems throughout their lifetime …”
Udbyderen skal løbende samle data om, hvordan systemet virker i praksis, også fra dem, der bruger det. Hvordan det fanges, siger loven ikke.
“… keep the logs … for a period appropriate to the intended purpose of the high-risk AI system, of at least six months …”
Pligten til at gemme logs ligger hos den, der bruger systemet. Et fælles, efterprøveligt format findes ikke.
“… proactively collect and evaluate clinical data from the use in or on humans of a device which bears the CE marking …”
Producenten af CE-mærket udstyr skal følge op på brugen i klinikken. Man kan ikke følge op på et råd, man ikke ved blev fulgt.
… clearly established in principle by active current regulations, but not enacted upon, given unclear standardization and requirements at the moment.European Society of Radiology, konsensusanbefalinger, december 2025Eksempel fra sundhed: lægernes eget fagselskab om overvågning af AI-udstyr i drift. Kravet findes. Standarden for at efterleve det gør ikke.
Alle kræver resultatet. Ingen definerer formatet. Det er det, vi bygger: et uafhængigt segl oven på de standarder, der allerede findes.
EU's krav til højrisiko-AI gælder for bilag III: fx akut triage i sundhed, kreditvurdering af personer i finans og styring af kritisk infrastruktur som energi.
Kravene gælder for AI, der er en del af CE-mærkede produkter (bilag I), fx medicinsk udstyr, hvor det meste kliniske beslutningsstøtte ligger.
Datoerne kan ikke rykkes. Det, der kan rykkes, er, om der findes et format og referencer, den dag de bider. Et bevis kan ikke laves med tilbagevirkende kraft.
Hvor er I?
Spørgsmålet hører hjemme, når budgettet lægges, ikke når tilsynet ringer.
Det, AI'en leverede, og det, mennesket gjorde, registreres i leverandørens egen flade efter en åben datamodel. Vi bygger aldrig brugerens grafiske grænseflade.
Hændelsen forsegles uafhængigt af kildesystemet: hash-kædet, kryptografisk signeret og med nøglerne i jeres varetægt. Aldrig selve indholdet - kun det uafviselige bevis på, hvad der skete.
Enhver kan køre den og tjekke seglet uden at spørge os. Det er det, der gør uafhængigheden efterprøvelig i stedet for et løfte.
Et bevis er kun uafhængigt, hvis den, der forsegler, ikke selv er part. Derfor sidder Suvard uden for arbejdsgangen, og derfor leverer vi aldrig selve sprogmodellen.
Reglerne bag
Dataminimering i praksis: personers identitet maskeres, før data når en AI-model, og brugeren ser selv, hvad der blev fundet.
Den danske lov gælder fra 1. juli 2025 og omfatter blandt andet sundhed, energi, finans og offentlig forvaltning. Loven kræver logning og monitorering, og at logdata sikres mod manipulation. En signeret kæde, hvor ændringer kan opdages, er netop det.
Logs i mindst seks måneder hos den, der bruger AI'en (art. 26), og løbende data om, hvordan AI'en virker i drift, til den, der leverer den (art. 72 og MDR's opfølgning). Bevislaget leverer begge dele i ét spor.
Standarden
Et bevislag er kun noget værd, hvis det er fælles. Derfor bygger vi det oven på det, der allerede findes, i stedet for at opfinde ved siden af. Den, der følger standarden, behøver ikke bygge noget selv: Suvard passer lige ind i den. Danmark kan gå forrest og vise resten af Europa vejen til AI, der kan bevises.
Et tillæg til HL7's standard for AI-transparens og en dansk profil gennem de kanaler, der allerede findes: integritet, uafhængigt segl og hændelsen "ingen handling".
Et frit, selvstændigt program, så det koster ingenting at efterprøve et segl, og uafhængigheden kan tjekkes af enhver.
Private sundhedsaktører tager seglet i brug først. Det er den levende reference, det offentlige senere kan skrive ind i et udbud som krav til funktionen.
Et netværk, der sætter normen sammen, før den bliver et krav.For klinikker, leverandører, regioner og andre regulerede organisationer. Kæden er enkel: loven kræver beviset, standarden giver formatet, Suvard leverer seglet. Danmark først. Så resten af Europa.
Vær medHvor vi står
Motoren med dansk detektion, maskering og signeret log er valideret i Treat Systems' tekniske miljø.
Den danske kliniske model er trænet udelukkende på syntetisk tekst, på egen hardware i Aalborg.
Vinder af life tech-kategorien.
Næste skridt
Vi starter med en kortlægning, ikke et salg. Du får et ærligt billede af, hvad der går gennem jeres net, og hvad det ville kræve at kunne vise det bagefter.
