OpenSource og OoenSecure er vejen til WEB3, digital Suverænitet og bedre sikkerhed og flest faciliteter med en samarbejdende branche. Sådan har det været siden starthalfemserne indenfir Open Source og nu forsøger Nvidia med 37 aktører det same indenfor sikkerhed. Det skriver Jesper Christiansen, agiludvikling.dk

Agil Udvikling A/S tilbyder f.eks. Open Source baseret på Debian (siden 1993 i eget datacenter) med 99,9999% oppetid. Noget tyder på at NVidia også erkender behovet for Open Source indenfor AI. Derfor har de samlet hele branchen under en ny Open Secure alliance.

NVIDIA samler teknologigiganter i ny alliance for åben og sikker kunstig intelligens

NVIDIA har sammen med en omfattende gruppe af teknologivirksomheder etableret Open Secure AI Alliance.
Alliancen skal udvikle åbne sikkerhedsværktøjer, modeller og tekniske standarder til beskyttelse af AI-agenter og software.

Initiativet omfatter blandt andre Microsoft, IBM, Cisco, Cloudflare, Mistral, Hugging Face, Red Hat, Adobe og Linux Foundation.

Målet er at give virksomheder og myndigheder mulighed for selv at undersøge, kontrollere og sikre avancerede AI-systemer.

En fælles sikkerhedsalliance for AI-agenter

Open Secure AI Alliance blev offentliggjort af NVIDIA den 27. juli 2026 som et samarbejde mellem virksomheder inden for kunstig intelligens, cybersikkerhed, cloud computing, softwareudvikling og kritisk digital infrastruktur.

Alliancen skal udvikle og dele åbne teknologier, metoder og værktøjer til beskyttelse af software og autonome AI-agenter. Det skriver NVIDIA i meddelelsen “Industry Leaders Unite in Open Secure AI Alliance for AI Safety and Security”.

Blandt de første deltagere er:

Område	Deltagende virksomheder og organisationer
AI og modeller	NVIDIA, Cohere, Mistral, Hugging Face, H2O.ai, Nous Research og Reflection AI
Cybersikkerhed	CrowdStrike, Fortinet, Palo Alto Networks, TrendAI, Zscaler, Wiz, Netskope og F5
Cloud og dataplatforme	Microsoft, IBM, Cloudflare, Databricks, Snowflake, Cloudera og ClickHouse
Softwareudvikling	GitHub, Docker, Atlassian, JFrog, LangChain, Red Hat og VMware by Broadcom
Infrastruktur	Cisco, Dell Technologies, HPE, Nokia, NetApp, Siemens og Nutanix
Organisationer	Linux Foundation, Mozilla og Open Source Security Foundation, OpenSSF

Alliancen bygger videre på arbejdet i Linux Foundations Akrites-initiativ og Open Source Security Foundation, OpenSSF. NVIDIA beskriver initiativet som et forsøg på at skabe et åbent forsvarssystem for AI, hvor sikkerheden ikke alene afhænger af nogle få lukkede leverandører.

Systemet skal imådegå detektion før handlinger udføres versus f.eks. antivirus der finder fejl ved scanninger.

Den fulde liste over alliancens oprindelige deltagere fremgår af NVIDIA’s officielle meddelelse om Open Secure AI Alliance. Det er et princip vi hylder i disse Ransomware tider.

Hvorfor alliancen oprettes nu

AI-systemer anvendes ikke længere alene til at generere tekst, billeder eller softwarekode. De nye agentbaserede systemer kan få adgang til:

filer og databaser
e-mail og kommunikationssystemer
programmeringsværktøjer
cloudplatforme
betalingssystemer
administrative systemer
sikkerhedssoftware
terminaler og kommandolinjer

En AI-agent består derfor ikke kun af en sprogmodel. Den omfatter også den software, som giver modellen adgang til data, værktøjer, tilladelser og handlinger.

Denne omkringliggende software betegnes ofte som en agentramme eller på engelsk en agent harness. Den bestemmer blandt andet, hvilke oplysninger modellen kan se, hvilke handlinger den må udføre, hvordan dens hukommelse fungerer, og hvornår en opgave anses for afsluttet.

NVIDIA anfører, at sikkerheden i et agentbaseret AI-system derfor skal vurderes på tværs af hele systemet, herunder:

Sikkerhedsområde	Funktion
Identitet	Fastslår, hvilken agent eller tjeneste der handler
Adgangsrettigheder	Begrænser, hvilke data og systemer agenten må tilgå
Isolation	Adskiller agenten fra øvrige systemer og kritiske ressourcer
Sikkerhedsbegrænsninger	Begrænser uønskede, skadelige eller ulovlige handlinger
Logning	Registrerer agentens beslutninger og handlinger
Evaluering	Tester agentens adfærd, præcision og sikkerhed
Modelkontrol	Undersøger modelvægte og filer for manipulation
Softwareforsyningskæde	Kontrollerer komponenter, biblioteker og opdateringer

Det er således utilstrækkeligt alene at spørge, om en AI-model er åben eller lukket. Virksomheden skal også vide, hvordan agenten er integreret, hvilke privilegier den har, og om dens handlinger kan spores og standses.

Det skriver NVIDIA i afsnittet om den samlede tekniske stak for AI-agenter i meddelelsen om Open Secure AI Alliance.

Åbne modeller skal kunne kontrolleres lokalt

NVIDIA argumenterer for, at virksomheder og myndigheder både har behov for lukkede kommercielle modeller og åbne modeller, som kan installeres og kontrolleres i egen infrastruktur.

En åben model kan blandt andet give mulighed for:

lokal behandling af fortrolige data
kontrol over modelversioner
selvstændig sikkerhedstest
tilpasning af adgangsbegrænsninger
anvendelse uden afhængighed af én cloudleverandør
kontrol med logning og dataopbevaring
revision af modellens tekniske komponenter
fortsat drift under leverandørnedbrud eller konflikter

Ifølge NVIDIA kan en organisation blive begrænset i sin reaktion på et cyberangreb, hvis dens sikkerhedsværktøjer alene afhænger af en ekstern AI-udbyder, der kan blokere forespørgsler eller begrænse bestemte analysefunktioner.

NVIDIA henviser til en sikkerhedshændelse hos Hugging Face, hvor virksomheden ifølge NVIDIA anvendte en åben model på egen infrastruktur til at analysere mere end 17.000 registrerede handlinger og afgrænse et angreb.

Oplysningen fremgår af NVIDIA’s beskrivelse af Open Secure AI Alliance, som også linker til Hugging Faces egen redegørelse for sikkerhedshændelsen.

Eksemplet anvendes som argument for, at organisationer skal kunne benytte avancerede AI-værktøjer lokalt, navnlig når hurtig analyse af logfiler, angrebsvektorer og kompromitterede systemer er nødvendig.

NVIDIA åbner NOOA-platformen

Som en del af initiativet stiller NVIDIA projektet NVIDIA Labs Object-Oriented Agents, forkortet NOOA, til rådighed som open source.

NOOA er en forskningsplatform til udvikling af AI-agenter, hvor en agent struktureres som en almindelig Python-klasse.

Agentens:

metoder udgør dens funktioner
felter udgør dens tilstand
beskrivelser udgør instruktionerne
typeangivelser fungerer som tekniske kontrakter
handlinger kan testes og versionsstyres som almindelig software

Formålet er at gøre AI-agenters adfærd lettere at undersøge, teste, spore, revidere og styre.

Ifølge NVIDIA kan agentrammens udformning alene medføre betydelige forskelle i både præcision, tokenforbrug og sikkerhed, selv om den underliggende AI-model er den samme.

Det skriver NVIDIA i den tekniske beskrivelse “Six Agent Harness Capabilities for Higher Model Performance”.

NOOA omfatter seks centrale funktioner:

Funktion	Betydning
Typesikrede input og output	Agentens svar og handlinger skal følge definerede dataformater
Referencebaseret adgang	Agenten arbejder med afgrænsede visninger af objekter frem for komplette datakopier
Kode som handling	Agentens handlinger gennemføres som kontrollerbar programkode
Programmerbar styringssløjfe	Udvikleren kan definere, hvordan agenten planlægger og udfører opgaver
Eksplicit tilstand	Agentens hukommelse og status opbevares struktureret
Kontrollerbare API’er	Agentens adgang til kontekst og historik kan begrænses og revideres

Denne struktur kan få betydning for virksomheder, der ønsker at anvende AI-agenter i regulerede eller sikkerhedskritiske miljøer.

NVIDIA har desuden offentliggjort NOOA-kildekoden på GitHub.

Kryptografisk identitet til AI-agenter

HPE bidrager til projekterne SPIFFE og SPIRE, som udvikler standarder til identifikation af arbejdsbelastninger og tjenester i zero trust-miljøer.

SPIFFE betyder Secure Production Identity Framework for Everyone. SPIRE betyder SPIFFE Runtime Environment og er en softwareimplementering af standarden.

Teknologien kan anvendes til at give hver AI-agent en kryptografisk verificerbar identitet.

Det kan eksempelvis forhindre, at en ukendt eller manipuleret agent får adgang til:

produktionsservere
kundedatabaser
økonomisystemer
udviklingsmiljøer
cloudressourcer
interne API’er

I stedet for alene at stole på en IP-adresse, en bruger eller en adgangsnøgle kan systemet kontrollere, hvilken konkret agent og arbejdsbelastning der anmoder om adgang.

Dette er væsentligt, fordi AI-agenter ofte handler automatisk og kan udføre langt flere handlinger end en almindelig bruger på kort tid.

Det skriver NVIDIA i meddelelsen om Open Secure AI Alliance. Den tekniske standard beskrives nærmere på den officielle hjemmeside for SPIFFE og SPIRE.

Sikrere opbevaring af AI-modeller

Hugging Face bidrager med Safetensors, som er et filformat til lagring af AI-modellers modelvægte.

Modelvægte er de numeriske parametre, som en AI-model har udviklet under sin træning, og som i praksis bestemmer en væsentlig del af modellens adfærd.

Traditionelle modelfiler kan i visse tilfælde indeholde eller udløse programkode, når de indlæses. Det kan skabe risiko for, at en model, som downloades fra en ekstern kilde, samtidig kompromitterer det system, der åbner den.

Safetensors er udviklet til at reducere denne risiko ved at adskille modeldata fra eksekverbar kode. Formatet skal dermed gøre det vanskeligere at skjule fjernkode eller andre skadelige funktioner i selve modelfilen.

Det skriver NVIDIA i meddelelsen om Open Secure AI Alliance.

Den tekniske dokumentation og kildekoden findes på Hugging Faces officielle Safetensors-projekt.

For virksomheder betyder det, at kontrol med AI-modeller ikke alene bør omfatte modellens funktion og træningsdata. Den skal også omfatte filformat, oprindelse, digitale signaturer, kontrolsummer og distributionskanal.

Digitale signaturer på sikkerhedsrettelser

IBM og Red Hats projekt Lightwell skal understøtte digital signering af sikkerhedsrettelser i open source-forsyningskæden.

Digitale signaturer gør det muligt at kontrollere:

hvem der har udstedt rettelsen
om koden er blevet ændret efter udstedelsen
hvilken version rettelsen vedrører
om rettelsen kommer fra en godkendt kilde

Dette er centralt ved AI-genererede sikkerhedsrettelser. En AI-model kan hurtigt foreslå en ændring til et softwarebibliotek, men virksomheden skal fortsat kunne dokumentere, hvem der har godkendt ændringen, hvordan den er testet, og om den er blevet manipuleret.

NVIDIA omtaler Lightwell som et værktøj, der skal styrke sikkerheden i open source-forsyningskæden ved hjælp af digitalt signerede rettelser. Det fremgår af NVIDIA’s officielle meddelelse.

Projektet beskrives nærmere af Red Hat på siden “Lightwell: Secure open source patches”.

Microsoft anvender flere AI-agenter til sikkerhedstest

Microsoft bidrager med MDASH, som er en multi-model agentbaseret platform til sikkerhedsanalyse.

Systemet anvender flere specialiserede AI-agenter, der kan:

lede efter sårbarheder
analysere softwarekode
diskutere mulige fejl med hinanden
afprøve forskellige angrebsmetoder
dokumentere, om en fejl reelt kan udnyttes

Metoden adskiller sig fra en traditionel enkeltstående AI-model. I stedet organiseres flere modeller og agenter som et sikkerhedsteam, hvor resultater krydskontrolleres.

Microsoft beskriver MDASH som et system, der kan identificere og dokumentere udnyttelige fejl ved hjælp af flere samarbejdende modeller.

Det skriver Microsoft i artiklen “Defense at AI speed: Microsoft’s new multi-model agentic security system tops leading industry benchmark”.

NVIDIA omtaler ligeledes MDASH i meddelelsen om Open Secure AI Alliance.

Akrites skal koordinere rettelse af open source-sårbarheder

Open Secure AI Alliance bygger blandt andet videre på Linux Foundations Akrites-initiativ, som blev lanceret den 25. juni 2026.

Akrites skal koordinere opdagelse, rettelse og ansvarlig offentliggørelse af sårbarheder i kritisk open source-software.

Initiativet etablerer:

et fælles Security Incident Response Team
en standardiseret proces for koordineret offentliggørelse af sårbarheder
fortrolig koordinering med softwareudviklere
fælles udvikling og test af sikkerhedsrettelser
støtte til projekter uden aktive vedligeholdere
koordinering med kritisk infrastruktur og myndigheder

Linux Foundation fremhæver, at AI kan finde sårbarheder langt hurtigere end tidligere. Problemet er derfor ikke længere alene at opdage fejl, men at få dem verificeret, rettet og distribueret, før de udnyttes.

Det skriver Linux Foundation i meddelelsen “Linux Foundation and Industry Leaders Launch Akrites to Defend Critical Open Source Software Against AI-Enabled Cyber Threats”.

Linux Foundation oplyser, at Akrites anvender etablerede sikkerhedsstandarder og klassifikationssystemer. De omfatter blandt andet:

Forkortelse	Betydning
CVE	Common Vulnerabilities and Exposures, der identificerer kendte sårbarheder
CWE	Common Weakness Enumeration, der klassificerer typer af softwaresvagheder
CVSS	Common Vulnerability Scoring System, der vurderer sårbarheders alvor
EPSS	Exploit Prediction Scoring System, der vurderer sandsynligheden for udnyttelse
SSVC	Stakeholder-Specific Vulnerability Categorization, der understøtter prioritering
VEX	Vulnerability Exploitability eXchange, der beskriver, om et produkt er påvirket

Akrites har desuden en selvstændig officiel hjemmeside på akrites.org.

Open source er ikke automatisk sikkert

At en model eller agentramme er open source, betyder ikke, at den automatisk er sikker.

Åbne systemer kan blandt andet misbruges til:

automatiseret sårbarhedssøgning
udvikling af malware
phishing og social engineering
fjernelse af sikkerhedsbegrænsninger
udvikling af udnyttelseskode
automatiserede angreb mod netværk og software

NVIDIA anerkender disse risici, men anfører, at tilsvarende misbrug også kan ske med lukkede systemer.

Åbenhed skal derfor kombineres med:

kontrollerede adgangsrettigheder
tekniske sikkerhedsbegrænsninger
test og evaluering
overvågning og logning
ansvarlig offentliggørelse af sårbarheder
hurtig fejlretning
klare regler mod skadelig anvendelse

Det centrale synspunkt er, at hemmeligholdelse ikke i sig selv skaber sikkerhed. Et system kan være lukket og stadig indeholde alvorlige sårbarheder, som kunder og uafhængige forskere ikke kan undersøge.

NVIDIA’s argumentation om åbne og lukkede AI-modeller fremgår af meddelelsen om Open Secure AI Alliance.

Betydning for danske virksomheder

Danske virksomheder, der indfører AI-agenter, bør ikke alene vurdere modellens funktionalitet og pris. De bør foretage en samlet sikkerhedsvurdering af hele agentens tekniske kæde.

En sådan vurdering bør mindst omfatte:

Kontrolpunkt	Spørgsmål virksomheden bør kunne besvare
Dataplacering	Hvor behandles og opbevares virksomhedens oplysninger?
Modeladgang	Kan leverandøren eller tredjemand tilgå data og prompts?
Agentrettigheder	Hvilke filer, databaser og systemer kan agenten læse, ændre eller slette?
Identitet	Har hver agent en entydig og verificerbar identitet?
Logning	Registreres alle handlinger, kommandoer og dataadgange?
Godkendelse	Kræver kritiske handlinger menneskelig godkendelse?
Isolation	Kører agenten i et afgrænset og kontrolleret miljø?
Nødstop	Kan agentens adgang afbrydes øjeblikkeligt?
Leverandørafhængighed	Kan løsningen fortsat fungere ved leverandørsvigt?
Modelkontrol	Kan modellen og dens filer undersøges og verificeres?
Opdateringer	Hvordan testes og godkendes nye versioner?
Hændelser	Findes der en procedure for sikkerhedsbrud og rapportering?

Virksomheden bør desuden anvende princippet om mindst mulige rettigheder. En AI-agent skal alene have adgang til de systemer og oplysninger, der er nødvendige for den konkrete opgave.

En agent, der læser dokumenter, behøver normalt ikke samtidig rettigheder til at slette filer, overføre penge eller ændre sikkerhedsindstillinger.

Forholdet til EU’s AI-forordning

Europa-Parlamentets og Rådets forordning (EU) 2024/1689 af 13. juni 2024 om harmoniserede regler for kunstig intelligens, AI-forordningen, fastsætter fælles regler for udvikling og anvendelse af kunstig intelligens i EU.

Den officielle danske lovtekst findes på EUR-Lex:

Europa-Parlamentets og Rådets forordning (EU) 2024/1689 om kunstig intelligens

For højrisiko-AI-systemer indeholder forordningen blandt andet krav om:

risikostyring
datastyring
teknisk dokumentation
logning
menneskeligt tilsyn
nøjagtighed
robusthed
cybersikkerhed

De centrale bestemmelser omfatter blandt andet:

Bestemmelse	Indhold
Artikel 9	Risikostyringssystem
Artikel 10	Data og dataforvaltning
Artikel 11	Teknisk dokumentation
Artikel 12	Automatisk registrering og logning
Artikel 14	Menneskeligt tilsyn
Artikel 15	Nøjagtighed, robusthed og cybersikkerhed
Artikel 17	Kvalitetsstyringssystem
Artikel 72	Overvågning efter markedsføringen
Artikel 73	Indberetning af alvorlige hændelser

Open Secure AI Alliances arbejde kan blive praktisk relevant for opfyldelsen af disse krav, navnlig fordi alliancen fokuserer på sporbarhed, evaluering, identitetsstyring, sikkerhedstest og tekniske kontrolmekanismer.

Deltagelse i eller anvendelse af alliancens værktøjer medfører imidlertid ikke i sig selv, at en virksomhed overholder AI-forordningen. Overholdelsen skal vurderes konkret ud fra virksomhedens rolle som udbyder, idriftsætter, importør, distributør eller anden operatør.

Forholdet til NIS 2

Europa-Parlamentets og Rådets direktiv (EU) 2022/2555 af 14. december 2022 om foranstaltninger til sikring af et højt fælles cybersikkerhedsniveau i hele Unionen, NIS 2-direktivet, stiller krav om passende og proportionale tekniske, operationelle og organisatoriske cybersikkerhedsforanstaltninger hos omfattede væsentlige og vigtige enheder.

Den officielle danske direktivtekst findes på EUR-Lex:

Europa-Parlamentets og Rådets direktiv (EU) 2022/2555, NIS 2-direktivet

Kravene omfatter blandt andet:

risikoanalyse
hændelseshåndtering
driftskontinuitet
krisestyring
forsyningskædesikkerhed
sikker udvikling og vedligeholdelse
vurdering af sikkerhedsforanstaltningernes effektivitet
adgangskontrol
kryptografi
multifaktorautentifikation

NIS 2-direktivets artikel 21 fastsætter de centrale krav til cybersikkerhedsrisikostyring.

Når en virksomhed anvender AI-agenter i centrale processer, bliver agenten og dens leverandører en del af virksomhedens net- og informationssystemer samt den digitale forsyningskæde.

Virksomheden kan derfor ikke overlade hele sikkerhedsvurderingen til AI-leverandøren. Ledelsen skal kunne dokumentere, at risici ved agentens adgang, databehandling, underleverandører og opdateringer er identificeret og håndteret.

For danske virksomheder skal de konkrete forpligtelser vurderes efter den danske NIS 2-lovgivning og eventuel sektorspecifik regulering.

Forholdet til Cyber Resilience Act

Europa-Parlamentets og Rådets forordning (EU) 2024/2847 af 23. oktober 2024 om horisontale cybersikkerhedskrav til produkter med digitale elementer, Cyber Resilience Act, fastsætter cybersikkerhedskrav til produkter med digitale elementer.

Den officielle danske lovtekst findes på EUR-Lex:

Europa-Parlamentets og Rådets forordning (EU) 2024/2847, Cyber Resilience Act

Forordningen omfatter blandt andet krav til:

sikkerhed gennem design og udvikling
håndtering af kendte sårbarheder
sikkerhedsopdateringer
teknisk dokumentation
cybersikkerhedsrisikovurdering
EU-overensstemmelseserklæring
markedsovervågning
rapportering af aktivt udnyttede sårbarheder

Open Secure AI Alliances arbejde med sikre modelformater, digitalt signerede rettelser, softwareforsyningskæder og koordineret sårbarhedshåndtering ligger tæt på de praktiske problemstillinger, som Cyber Resilience Act skal regulere.

Det konkrete anvendelsesområde afhænger dog af, om AI-softwaren eller den samlede løsning udgør et produkt med digitale elementer efter forordningen, og om en eventuel undtagelse for visse former for fri og open source-software finder anvendelse.

Åben AI-sikkerhed bliver en del af virksomhedens compliance

Open Secure AI Alliance viser, at AI-sikkerhed bevæger sig fra generelle etiske principper til konkrete tekniske kontrolforanstaltninger.

Virksomheder vil i stigende grad skulle kunne dokumentere:

hvilken model der anvendes
hvilken agentramme modellen arbejder gennem
hvilke data agenten kan tilgå
hvilke værktøjer agenten kan aktivere
hvem der har godkendt dens rettigheder
hvordan hændelser registreres
hvordan agenten standses
hvordan modeller og opdateringer verificeres
hvordan leverandør- og forsyningskæderisici håndteres

Open source-værktøjer kan gøre denne kontrol lettere, fordi systemernes kode, modeller og sikkerhedsmekanismer kan undersøges af flere aktører.

Åbenhed er imidlertid ikke en erstatning for governance, risikostyring og juridisk compliance. Den er et teknisk grundlag, som kan gøre uafhængig kontrol og dokumentation mulig.

Kilder

Kilde: #NVIDIA, #LinuxFoundation, #Microsoft, #HuggingFace, #RedHat, #EUR-Lex, Jesper Christiansen, Direktør og forfatter, Agil Udvikling A/S.
Fotokredit: Logoer fra Alliancens medlemmer
Personer/Firmaer/Emner/#: #NVIDIA, #OpenSecureAIAlliance, #KunstigIntelligens, #AI, #AIAgenter, #Cybersikkerhed, #OpenSource, #Microsoft, #IBM, #Cisco, #Cloudflare, #Mistral, #HuggingFace, #LinuxFoundation, #OpenSSF, #Akrites, #NOOA, #SPIFFE, #SPIRE, #Safetensors, #Lightwell, #MDASH, #NIS2, #AIForordningen, #CyberResilienceAct, #CRA, #Compliance, #Datasikkerhed
Copyrights: Ⓒ 2026 Copyright by agiludvikling.dk – kan deles ved aktivt link til denne artikel.