1 uur, 1 minuut ago

Medior AI Engineer — LLMOps & Run voor AI Agents en RAG (Azure / Kubernetes)

Context

STIB-MIVB (Brusselse openbaarvervoersmaatschappij) bouwt verschillende AI-diensten voor medewerkers en klanten, die onze klanten en medewerkers over de hele organisatie bedienen. Deze variëren van retrieval-based assistants tot AI agents die tools en bedrijfssystemen aanroepen namens gebruikers. De AI-diensten worden gebouwd en beheerd op ons STIB AI Platform. De eerste diensten gaan live vanaf december 2026, en meer volgen in 2027.

Jouw rol

We werven een Medior AI Engineer aan om het AI Center of Excellence (Digital Innovation & AI – delivery team) te versterken en de Run-fase van onze AI-diensten in productie te beheren. Je neemt elke dienst over van de Senior AI Engineers die deze gebouwd hebben, en je zorgt ervoor dat ze betrouwbaar, meetbaar, veilig en kostenefficiënt blijven over de tijd. Je werkt samen met de interne AI Platform Architect van STIB, twee Senior AI Engineers (Build), de business- en contentverantwoordelijken van elke dienst, en de IT-operatieteams van STIB.

Het AI Platform draait op een hybride operating model: beheerde Azure-diensten (Microsoft Foundry met de OpenAI model family voor LLM en embeddings, Azure AI Search, Azure API Management, Azure AI Content Safety) gecombineerd met self-hosted open-source componenten op AKS (agent orchestratie in Python met LangChain, ingestion pipeline), met MLflow op Databricks voor evaluatie en tracing (OpenTelemetry). Het Digital Innovation / AI CoE-team beheert Infrastructure-as-Code voor alle applicatie-gebonden Azure resources, met gebruik van Terraform en Azure DevOps pipelines.

Wat je zal opleveren

De activiteiten variëren per dienst. Typisch zal je:

  • de AI-diensten in productie beheren: beschikbaarheid, latency en fouten monitoren, incidenten en service requests behandelen, root causes analyseren en vervolgens oplossen of escaleren
  • de antwoordkwaliteit bewaken: evaluatiesets (golden sets) samen met business content owners uitvoeren en onderhouden, antwoordkwaliteit, niet-antwoord ratio en gebruikersfeedback opvolgen, en kwaliteitsregressies detecteren en onderzoeken
  • de ingestion pipelines beheren: incrementele refresh, mislukte documenten, indexgezondheid, en onboarding van nieuwe contentbronnen of businessdomeinen binnen bestaande connectors
  • agentintegraties beheren: tool- en integratie-calls naar bedrijfssystemen monitoren, falingen en timeouts behandelen, en actielogs en uitzonderingen nakijken voor agents die namens gebruikers handelen
  • veranderingen veilig beheren: modelversie upgrades en uitfaseringen, prompt- en configuratiewijzigingen, dependency- en security updates, waarbij alles gevalideerd wordt met de evaluatiesets vóór release
  • de run-kosten opvolgen: tokenconsumptie en kost per dienst, waarschuwen bij afwijkingen en optimalisaties voorstellen
  • de Terraform-, Helm- en Azure DevOps-artefacten onderhouden, en de DEV, TST, ACC en PROD omgevingen consistent houden
  • regels rond gegevensbescherming toepassen: trace-retentie, verwijdering en toegangsbeperkingen, zoals bepaald in de data protection impact assessment van elke dienst
  • runbooks en documentatie bijhouden, en regelmatig service health rapporteren aan service owners en het AI CoE
  • kleine verbeteringen en fixes leveren; structurele veranderingen en nieuwe features blijven bij het Build-team.

Apply for this Job

This position was originally posted on Pro Unity.

It is publicly accessible, and we recommend applying directly through the Pro Unity website instead of going through third party recruiters.

Newsletter signup illustration