Prompts met klantdata via multi-model API’s: wanneer een privacy-gateway zin heeft

Published:

Wie ChatGPT-achtige API’s koppelt aan klantvragen, offertes of HR-documenten, stuurt vaak meer dan “testprompts” de deur uit. Bij multi-model routers landt die tekst bij een tussenlaag én bij een modelprovider. TrustedRouter profileert zich als OpenAI-compatibele privacy-gateway: één API-sleutel, honderden modellen, en claims die u zelf kunt laten toetsen — geen belofte van absolute veiligheid.

KMO-IMPACT: OPVOLGEN

Wat de dienst claimt

Volgens trustedrouter.com praat u met dezelfde OpenAI SDK-vorm als bij andere diensten. U wijzigt de base_url naar https://api.trustedrouter.com/v1. De site spreekt over meer dan 600 modellen bij 90-plus providers, verspreid over GCP, AWS en Azure.

De kernclaim: prompt- en outputinhoud worden niet gelogd in hun controlepad. De productie-gateway zou in een attested TEE (Trusted Execution Environment) draaien; de code is open source. Faalt de attestation, dan moet het pad dichtgaan (fail-closed) in plaats van stil terug te vallen op een niet-geverifieerde route. Op de trust-pagina publiceert het bedrijf digests en verificatiestappen. Dat is bewijs om te controleren — geen vrijgeleide voor GDPR.

EU-route, ZDR en BYOK

Voor teams die bewust willen sturen, noemt de documentatie aliassen: trustedrouter/eu (Europa-gericht), trustedrouter/zdr (zero-retention-providers), trustedrouter/e2e (confidential / end-to-end-achtige routes) en trustedrouter/auto (gezonde failover). U kunt eigen providerkeys meenemen (BYOK). Facturatie is pay-as-you-go; de site spreekt niet van een verplicht abonnement.

Let op het onderscheid: de gateway-claims gaan over hun promptpad. Wat de gekozen modelprovider met tokens doet, staat apart en moet u in diens beleid en uw verwerkersovereenkomst lezen. EU-routing is geen automatische “gegevens blijven in de EER”-garantie voor elk model. Op de legal-pagina staat een DPA-ontwerp (handtekening vereist) en dat SOC 2 nog niet is behaald — relevant voor uw leveranciersdossier.

Wat betekent dit voor uw onderneming?

Voor wie: vennootschappen en zelfstandigen met een technische partner of interne IT die OpenAI-compatibele API’s gebruiken voor klant-, HR- of dossierwerk.
Vanaf wanneer: nu beschikbaar volgens de site; attestation en providerkeuze zelf verifiëren vóór productie.
Financiële impact: gebruikskosten per token/route + eventuele BYOK bij bestaande cloudproviders; geen verplicht abonnement volgens TrustedRouter.
Wat moet u doen: inventariseer welke prompts klantdata bevatten; test of EU/ZDR-aliassen en fail-closed gedrag kloppen; vraag een getekende DPA en subprocessorlijst op bij gateway én modelproviders; beslis of BYOK beter past bij bestaande contracten.
Deadline: geen wettelijke deadline van deze tool — wel uw eigen GDPR- en leveranciersreview vóór productie.
Nog niet duidelijk: of attestation op alle cloudplanes even ver is (AWS/Azure-metingen kunnen achterlopen op GCP); Belgische rechtspraak en uw sectorale eisen vallen buiten de productpagina.

Praktisch: begin met een niet-productieve sleutel, stuur een synthetische prompt, en vergelijk latency, prijs en wat uw logging toont. Alleen als attestation, retentie en contracten kloppen voor uw risicoprofiel, verplaatst u echte klantdata. Claims checkt u via de trust-pagina van TrustedRouter — niet via marketingslides.

HR

Technologie