Open AI-model · server in de EU · jij bent eigenaar
Private AI: een open AI-model op je eigen server
Op 25 oktober 2026 lieten we veertien AI-modellen hetzelfde contract samenvatten. Onze verzoeken aan de acht Chinese modellen gingen via een API naar zeven verschillende aanbieders, en hetzelfde model wisselde zelfs per keer van aanbieder. Wil je dat je documenten het huis niet uit gaan, dan moet het model draaien op een server die van jou is. Dat zetten wij voor je op: een open model, een server in de EU op jouw naam, gekoppeld aan het werk waar je het voor nodig hebt.
Van tien documenten naar een werkende server
- Jij kiest tien documentenStukken die je goed kent, plus wat erin ontbreekt of fout gaat. Dat is de antwoordsleutel waarop we elk model afrekenen.
- Wij testen open modellenDezelfde methode als onze contractmeting: vaste opdracht, vaste controlepunten, twee runs per model. De test draait op de server die jij huurt, of op stukken die je eerst anonimiseert; nooit via een externe model-API.
- De server komt op jouw naamJij huurt de server in de EU en betaalt de hoster rechtstreeks. Wij krijgen beheertoegang, die je op elk moment intrekt.
- Koppelen aan je werkEen map, een mailbox of een workflow die documenten aanlevert en de uitkomst terugzet. Met een log van wat er verwerkt is.
| Model | Run 1 | Run 2 |
|---|---|---|
| Qwen3.8 27B | Wafer | DekaLLM |
| Qwen3.8 2.4T | Together | Alibaba |
| DeepSeek V4.1 Flash | AtlasCloud | AtlasCloud |
| GLM-5.3 Flash | Wafer | Wafer |
| Kimi K3 | InferenceNet | InferenceNet |
| Kimi K3.1 Pro | Moonshot AI | Moonshot AI |
| Verschillende aanbieders | 7 in totaal | |
Onze eigen meting
Een open model via een API is nog steeds andermans server
Open betekent dat de gewichten van het model te downloaden zijn. Dat zegt niets over waar jouw tekst heen gaat als je het model via een API aanroept. In onze test gingen de verzoeken aan de acht Chinese modellen via OpenRouter, een Amerikaanse doorgever, zonder vaste aanbieder naar zeven verschillende aanbieders.
Je kunt bij zo’n doorgever vooraf vastleggen welke aanbieders mogen. Dan hangt je controle af van die instellingen en van de afspraken met elke aanbieder. Op een eigen server heb je die afhankelijkheid niet.
OpenRouter heeft ook een EU-route. Toen we die in september probeerden, weigerde hij: ons account stond er niet voor open. Een EU-label op een modellijst is dus nog geen EU-verwerking van jouw document.
De volledige meting met alle veertien modellen, kosten per samenvatting en wat elk model miste, staat op WatisAI.nl in het artikel over open source AI.
Klein model, gewone server
Een kleine Qwen deed er 4 minuten over en miste de lege artikelen
Het goedkoopste idee is een klein open model op een server zonder videokaart. Dat hebben we geprobeerd op onze eigen server met 12 processorkernen, met de denkstand van Qwen uitgezet. Qwen3 4B deed 4 minuten en 8 seconden over één samenvatting en noemde niet dat opzegging, aansprakelijkheid en verzekering in het contract leeg staan. De versie met 8 miljard parameters deed er bijna 7 minuten over en zag het ook niet.
De grote modellen via een API zagen die lege artikelen in bijna elke run. Dat zegt iets over deze twee kleine configuraties, niet over elk klein model. Wel laat het zien dat je het formaat moet kiezen op een test met je eigen stukken, en dat een groter model zonder videokaart op dezelfde server nog trager wordt: de 8B was al bijna drie minuten trager dan de 4B.
Dit is ook waarom we bij ons eigen werk kiezen per taak. Onze agentbox draait op een eigen VPS in een datacenter; hoe dat is opgezet, lees je in zo draait onze AI-agentbox op een eigen VPS.
Model | Tijd | Geheugen | Gevonden |
|---|---|---|---|
Qwen3 4Bbestand 2,5 GB | 4:08 | 5,8 GB | 1 van 6 |
Qwen3 8Bbestand 5,0 GB | 6:55 | 6,7 GB | 3 van 6 |
Server | Per maand | Eenmalig |
|---|---|---|
24 GB videogeheugenpast: Qwen3.8 27B (16,5 GB) of Gemma 4 31B (18,3 GB) | €214 | €209 |
96 GB videogeheugenpast: meerdere middelgrote modellen tegelijk | €999 | €999 |
Kimi K31,56 TB, past op geen van beide | – | – |
Hardware
Kale serverhuur kost meer dan de API, behalve bij heel veel werk
Eerlijk is eerlijk: om geld te besparen hoef je meestal geen eigen server te nemen. Bij 500 documenten van vijf pagina’s per maand kost Qwen3.8 27B via een API ongeveer 3 dollar. De kleinste geschikte server kost €214 per maand, ook als hij stilstaat.
De reden om het toch te doen is controle. Op je eigen server verlaat het document het huis niet, weet je welk model er draait en verandert er niets omdat een aanbieder iets wijzigt. Het model dat je vandaag downloadt, blijft van jou. Ook het Chinese exportvoorstel van 16 oktober laat open modellen die al openbaar zijn buiten schot.
Wil je AI vooral inzetten voor terugkerend werk zonder gevoelige stukken, dan is AI automatisering via een gewone API de eenvoudigere route.
Eigendom en toegang
De server staat op jouw naam, wij hebben een sleutel
Jij huurt de server in de EU en betaalt de hoster zelf. Wij installeren het model, zetten alles dicht wat niet open hoeft en koppelen de server aan je werk. Stopt de samenwerking, dan haal je onze sleutel eraf en draait alles door.
Of je hiermee aan de AVG voldoet, is een afweging van jouw organisatie. Wij leveren de technische beschrijving: waar de server staat, wie er toegang heeft en wat er gelogd wordt. Voor de juridische kant heb je je eigen jurist of functionaris gegevensbescherming nodig.
- JJouw bedrijfeigenaar van server en betaalmethodeEigenaar
- 171704 Mediaeigen SSH-sleutel, door jou in te trekkenBeheer
Documenten blijven op de server. Wij zien ze alleen als jij dat voor de test toestaat.
Een vaste prijs na de modeltest
De prijs hangt af van welk model je nodig hebt en waar het aan gekoppeld moet worden. Daarom beginnen we met de test op jouw tien documenten. Daarna krijg je een vaste prijs voor het opzetten en, als je wilt, voor het beheer per maand.
Modeltest
- tien eigen documenten met jouw antwoordsleutel
- drie tot vier open modellen, twee runs per model
- rapport: wat elk model vond en miste, tijd en geheugen
- advies welke server erbij past
Opzetten en beheer
- server in de EU op jouw naam
- model installeren en afschermen
- koppeling aan map, mailbox of workflow
- updates en controle per maand, opzegbaar
De huur van de server betaal je rechtstreeks aan de hoster. Wij doen ook SEO uitbesteden voor het mkb, maar die diensten staan los van elkaar.
Vragen over private AI
Wat is het verschil tussen private AI en een zakelijk ChatGPT-abonnement?
Bij een zakelijk abonnement draait het model bij de aanbieder en spreek je af wat die met je gegevens mag. Bij private AI draait een open model op een server die jij huurt. De tekst gaat dan niet naar de maker van het model of naar een doorgever.
Welk model zetten jullie neer?
Dat volgt uit de test op je eigen documenten. Op een server met 24 GB videogeheugen passen modellen als Qwen3.8 27B en Gemma 4 31B in een 4-bitsversie. Grotere open modellen zoals Kimi K3 zijn met 1,56 TB te groot voor één huurserver.
Wat gebeurt er als China open modellen gaat beperken?
Het voorstel van het Chinese ministerie van Handel van 16 oktober 2026 laat technologie die al via open source openbaar is buiten de regels. Een model dat je nu downloadt en op je eigen server zet, blijft bruikbaar. Het voorstel kan wel gevolgen hebben voor toekomstige versies.
Kan het ook op een computer op kantoor?
Ja, als die computer een videokaart heeft met genoeg geheugen voor het model. Zonder videokaart werkt het ook, maar in onze test duurde één samenvatting dan vier tot zeven minuten, en de twee kleine modellen misten belangrijke punten.
Hoe snel is een samenvatting op een eigen server met videokaart?
Dat meten we in de modeltest op jouw documenten en jouw server. We noemen hier bewust geen getal, omdat we het nog niet op die hardware gemeten hebben.
Stuur ons welke documenten je wilt laten verwerken
Vertel kort wat voor stukken het zijn, hoeveel per maand, en waarom ze het huis niet uit mogen. Dan zeggen we of private AI past, of dat een gewone API volstaat.
Bronnen en meting
- Eigen meting via de API van OpenRouter, 25 oktober 2026: veertien modellen, twee runs, met per verzoek de kosten en de uitvoerende aanbieder.
- Eigen test met Qwen3 4B en 8B (4-bit) en llama.cpp op een server met 12 processorkernen zonder videokaart, 25 oktober 2026.
- Belastingdienst, algemene modelovereenkomst geen werkgeversgezag 90821.25537.1.0, gebruikt als testdocument.
- Hetzner, prijslijst GPU-servers (GEX45 en GEX63), gelezen 25 oktober 2026.
- Hugging Face, bestandsgroottes van Qwen3.8 27B, Gemma 4 31B en Kimi K3, gelezen 25 oktober 2026.
- Ministerie van Handel en ministerie van Wetenschap en Technologie (China), bekendmaking 2026 nr. 48, 16 oktober 2026.
- Europese Centrale Bank, referentiekoers euro-dollar 23 oktober 2026.