Week W35 · 24-30 augustus 2026
Build AI. Run AI. Own AI.
Ik bouw dit niet in een lab, maar middenin mijn eigen leven als zzp'er en vader — en toch ontwerp ik elke keuze alsof er een enterprise-klant op leunt: multi-tenant vanaf dag 1, secrets die nooit een mens ziet, migraties die nooit terug kunnen. Dit is het logboek van die combinatie: zelf bouwen, zelf draaiend houden, zelf eigenaar blijven — inclusief de aanname, de misser en de prijs van elke keuze.
"Own AI" betekent voor mij niet dat ik elk taalmodel zelf op een zolderkamer hoef te trainen, maar wél dat ik op elk moment kan bepalen welk model welke taak uitvoert, onder welke privacyvoorwaarden en op welke Europese infrastructuur. Naarmate het platform meer capabilities kreeg — van snelle classificaties en diepe kennisextractie tot vision en spraak — liep ik tegen een praktische grens aan: elke modelprovider spreekt net een ander dialect en rapporteert verbruik op een andere manier. Deze week trok ik die wildgroei recht met een generieke provider-adapterlaag.
Het probleem dat opdook
Een Europese inference-provider (zoals Scaleway of Mistral) stuurt zijn antwoorden, foutcodes en token-tellingen net anders terug dan een OpenAI-compatible endpoint of Anthropic. Sommige modellen ondersteunen strikte JSON-schema's aan de voordeur, terwijl andere modellen hun gestructureerde output in markdown-blokken verpakken of andere veldnamen gebruiken voor input- en output-tokens.
Zolang je maar één of twee modellen gebruikt, kun je dat met wat losse condities in de aanroepende code opvangen. Maar zodra je per taak wilt kunnen kiezen — bijvoorbeeld een licht, snel EU-gehost model voor taalkundige classificatie en een zwaarder redeneermodel voor complexe bewijsanalyse — verandert elke modelwissel in een zoektocht door de codebase. Bovendien klopt je kosten- en verbruiksadministratie niet meer als de ene provider tokens telt onder `usage.prompt_tokens` en de andere onder een genest object.
De makkelijke weg die ik had kunnen nemen
Ik had al mijn pijlen op één grote Amerikaanse cloudprovider kunnen richten, of ik had een kant-en-klare externe proxy-dienst tussen mijn app en de modellen kunnen zetten. Het eerste maakt me met huid en haar afhankelijk van één leverancier en botst met mijn eis om Europese hosting als standaard te kunnen afdwingen; het tweede voegt weer een externe schakel toe die precies op het gevoeligste punt in de keten (alle prompts en antwoorden) meekijkt.
De keuze die ik maakte en de strategie erachter
Ik bouwde een eigen, dunne provider-adapterlaag binnen het platform die alle verschillen tussen modelleveranciers aan de rand absorbeert:
- Expliciete criteria per provider en model. In de catalogus staat een model niet alleen als een naam en een URL, maar met zijn eigenschappen: waar wordt het gehost (EU-soevereiniteit), traint de leverancier wel of niet op data, ondersteunt het native JSON-schema's of vision, en wat zijn de tarieven per miljoen tokens?
- Genormaliseerde aanroep en antwoord-envelope. De rest van het platform praat nooit meer in het dialect van een specifieke provider. De adapter vertaalt een capability-verzoek naar het juiste provider-formaat en vertaalt het antwoord terug naar één uniforme structuur — inclusief genormaliseerde token-tellingen, doorlooptijd en `finish_reason`.
- Secret-vrije logging en harde verbruiksmeters. Elke model-aanroep wordt geregistreerd voor audit en kostenbewaking, maar de adapter garandeert dat API-sleutels en ruwe auth-headers nooit in een logtabel of foutmelding kunnen belanden.
Wat het kostte
Het straktrekken van de adapters vroeg om grondig uitzoekwerk in de randgevallen van verschillende providers: hoe reageert een endpoint bij een time-out, hoe geeft het aan dat een antwoord halverwege is afgekapt, en hoe voorkom je dat een modelwissel in de configuratie stilletjes faalt omdat een parameter zoals `temperature` of `response_format` net anders heet?
Wat het nu oplevert en wat ik ervan leerde
Wisselen van model voor een specifieke taak is nu een configuratiekeuze in plaats van een codewijziging. Als er morgen een beter of zuiniger Europees model beschikbaar komt voor extractie of samenvatting, koppel ik het aan de capability zonder dat één domein-service in de app hoeft te veranderen.
De les van deze week: soevereiniteit in AI is geen eenmalige keuze voor één leverancier, maar het architectorische vermogen om zonder pijn van model te kunnen wisselen. En nu de applicatielaag klaar is voor de volgende stap, wacht volgende week de ultieme lakmoesproef: het voor het eerst sinds de grote herbouw volledig uitrollen naar de cloud-acceptatieomgeving (`ACC`).