Clicksov
Plan een gesprek

EU-hosted, private of on-premise LLM: beslishulp voor gereguleerde organisaties

Gepubliceerd · 7 min leestijd

Een gereguleerde organisatie die een taalmodel in een productieworkflow wil, kan dat op drie manieren draaien. Elke manier is verdedigbaar. Elke manier heeft een prijs in geld, inspanning en flexibiliteit. Deze beslishulp definieert de opties, zet de criteria op een rij en legt uit waarom de keuze omkeerbaar moet zijn.

De drie opties

EU-hosted API. Je roept een model aan via een API van een aanbieder die het in een EU-datacenter draait. Je beheert geen hardware en geen model serving. De voorwaarden van de aanbieder bepalen wat er met je prompts en output gebeurt. Dit is de snelste optie en die met de minste controle.

Private LLM op Europese partnerinfrastructuur. Een open-weight model draait in een eigen omgeving bij een Europese cloud- of GPU-aanbieder, binnen jouw tenant. De modelgewichten, de serving-stack en de logs staan in een omgeving die jij beheerst, met sleutels in je eigen KMS of HSM. De aanbieder levert capaciteit en platform; hij ziet je data niet als onderdeel van zijn dienst.

On-premise LLM. Hetzelfde open-weight model draait op hardware in je eigen datacenter of in een faciliteit die je rechtstreeks contracteert. Alles blijft binnen je eigen perimeter. Jij, of een partner die je aanwijst, beheert de GPU's, de serving-laag en de updates.

Het verschil tussen de tweede en de derde optie is kleiner dan het lijkt. In beide gevallen is het model open-weight en is de stack van jou. Wat verandert is wie de hardware bezit en wie ervoor dienst heeft.

Beslisscriteria

Dataclassificatie

Begin met wat er in de prompt gaat. Polisvoorwaarden, schadedocumenten, patiëntbrieven en burgerdossiers zijn persoonsgegevens en vaak bijzondere persoonsgegevens. Haalt de workflow documenten uit een kernsysteem met de toegangsrechten van de gebruiker, ga er dan van uit dat de hoogste classificatie in dat systeem geldt. Een openbare FAQ-bot en een claims-intake-workflow verdienen niet hetzelfde antwoord.

Jurisdictie

Waar de data wordt verwerkt, en onder welk recht de aanbieder valt. Een EU-datacenter van een aanbieder die onder niet-EU-recht valt is een andere situatie dan een EU-datacenter van een EU-aanbieder. Je juridische team, niet je engineers, hoort dit criterium op te schrijven. Koperonderzoeken uit 2026 wijzen erop dat controle over locatie en sleutels voor kopers zwaarder weegt dan welk etiket ook; lees dat als indicatie.

Latency en volume

Een workflow die een paar honderd documenten per dag verwerkt heeft andere eisen dan een die er tienduizenden doet. Gedeelde API's schalen makkelijk, maar met minder voorspelbare latency en rate limits. Een eigen omgeving geeft voorspelbare doorvoer en laat je dimensioneren op je piek. On-premise dimensioneer je één keer, en daarna ligt het vast tot je bijkoopt.

Kosten per case

De bruikbare eenheid is kosten per afgehandelde case, niet kosten per token. Kosten per token zijn maar één ingrediënt. Tel de omgeving erbij, de mensen die haar draaien en de evaluaties na elke modelwissel. Een eigen omgeving heeft een vaste bodem, of er nu cases binnenkomen of niet; een API heeft die niet, maar kan bij volume duur worden.

Teamcapaciteit

Wie patcht de serving-stack om twee uur 's nachts? Wie draait de evaluatieset opnieuw als er een nieuwe modelversie verschijnt? Is het antwoord "nog niemand", dan is on-premise een project, geen beslissing. Partnerinfrastructuur met een run-partner geeft je de controle van een private omgeving zonder dat je eerst dat team hoeft op te bouwen.

Exit

Kun je weg? Bij een API betekent exit: overstappen naar een andere API en opnieuw testen. Bij een private of on-premise model betekent exit: gewichten, images en configuratie meenemen. Onder DORA hebben financiële instellingen een gedocumenteerde en geteste exitstrategie nodig voor ICT-diensten die kritieke of belangrijke functies ondersteunen. Onder de EU Data Act mogen aanbieders van dataverwerkingsdiensten vanaf 12 januari 2027 geen switchkosten meer rekenen voor een eenmalige overstap.

Beslistabel

CriteriumEU-hosted APIPrivate LLM op EU-partnerinfraOn-premise LLM
DataclassificatieLaag tot middenMidden tot hoogHoog, of beleid vereist het
JurisdictieHangt af van voorwaarden en recht van aanbiederEU-aanbieder, jouw tenant, jouw sleutelsVolledig binnen je perimeter
Latency en volumeElastisch; gedeelde limietenVoorspelbaar; gedimensioneerd op je piekVaste capaciteit
Kosten per caseLaagst bij laag volume; groeit met volumeVaste bodem; stabiel bij volumeHoogste bodem; goedkoopst bij constant hoog volume
Benodigde teamcapaciteitLaagLaag met run-partnerHoog, of een run-partner
ExitAPI wisselen en opnieuw testenGewichten, images, config gaan meeAl van jou
Tijd tot eerste productieworkflowWekenWeken (indicatief: circa acht)Maanden, als hardware er nog niet staat

Lees de rijen als richting. Jouw cijfers hangen af van je systemen en je volumes.

Waarom het model een rol achter een gateway moet zijn

De belangrijkste ontwerpbeslissing is niet welke optie je kiest. Het is zorgen dat je later opnieuw kunt kiezen.

In een Clicksov-workflow roept de applicatie geen model aan op merknaam. Ze vraagt een AI-gateway om een rol: "extractor", "classifier", "summariser". De gateway biedt een OpenAI-compatibele API en stuurt de rol naar het model dat in het modelmanifest staat. Achter die gateway kan het model vandaag een EU-hosted API zijn, volgend kwartaal een private open-weight model op partnerinfrastructuur en later een on-premise model. De workflow verandert niet.

Wat dit eerlijk houdt is de evaluatieset: gouden voorbeelden met drempelwaarden. Elke modelwissel begint ermee. Elke release wordt uitgerold naar minstens twee cloudpartners en één on-premise referentie en moet overal dezelfde evaluatieset halen. Verandert het model achter een rol, dan weet jij eerder dan je gebruikers of de output nog aan de lat voldoet.

Daarom deelt Clicksov de stack op in lagen. Infrastructuur, platform en modellen (laag 1 tot 3) zijn de partnerkant. Data en kennis, applicaties en agents, gebruikers en interfaces (laag 4 tot 6), samen met security, monitoring en governance, zijn de Clicksov-kant. De grens ertussen is een open interface, zodat de partnerkant te wisselen is.

Kostenrealisme

Een paar eerlijke uitspraken, allemaal indicatief:

  • Een private omgeving heeft een maandelijkse bodem. Die is het waard als het volume constant is en de dataclassificatie het vraagt, niet eerder.
  • Draaien kost meer dan bouwen. Leveranciersonderzoeken uit 2026 melden dat de operationele kosten na livegang bij veel organisaties boven de bouwkosten uitkomen. Begroot day-2 vanaf het begin.
  • De goedkoopste token is niet de goedkoopste case. Een model dat meer menselijke correcties nodig heeft, kost per case meer dan een duurder model dat het goed doet.
  • Partnerinfrastructuur hoort tegen kostprijs te worden doorberekend en uitgesplitst: capaciteit, soevereiniteit, platform. Kan een leverancier die splitsing niet laten zien, dan kun je opties niet vergelijken.

De prijsstelling van Clicksov volgt dit: een eenmalige onboarding (indicatief vanaf € 25.000), een maandelijkse resultaatfee per afgehandelde case (indicatief € 4 tot € 8, gemaximeerd) en partnerinfrastructuur tegen kostprijs, uitgesplitst.

Waar dit je brengt

Kies de optie die past bij je dataclassificatie, je jurisdictie-eis en het team dat je vandaag hebt. Zet daarna het model achter een gateway, bouw de evaluatieset en houd het exitpakket actueel, zodat de keuze kan veranderen als je situatie verandert. Data en modellen in de EU, sleutels in je eigen KMS of HSM, geen training op jouw data. Dat is eerst controle, en dan pas het woord soeverein.

Wil je de tabel doorlopen voor jouw workflow? Plan een gesprek.

Bronnen

Welk proces wil je live brengen?

Plan een gesprek