CI/CD Engineer Machine Learning
Eisen: - Je hebt minimaal een erkend, volledig, volwaardig en afgeronde diploma op HBO niveau in de richting van informatica. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Kubernetes en Run:ai. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met packagemanagement; apt. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Docker. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Terraform en CloudInit. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Jenkins en GitLab. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Nexus. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Resource Description Framework (RDF). - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met OpenId Connect (OIDC). - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Triton. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Appliances. - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Ontwikkeling, Test, Acceptatie en Productie (OTAP). - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met continuous Integration / Continuous Delivery (CI/CD). - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met High Availability / Disaster Recovery (HA/DR). - Je hebt in de afgelopen 10 jaar minimaal 3 jaar werkervaring met Redhat Enterprise Linux en Ubuntu. Wensen: - Je hebt werkervaring met Microsoft Active Directory en Microsoft Entra. - Je hebt werkervaring met networking; VLAN, Routing, DNS, DHCP, Firewall, CIDR en Load Balancing. - Je hebt werkervaring met storage; RAID en LVM. - Je hebt werkervaring met monitoring; Prometheus en Grafana. - Je hebt werkervaring met configuration management; Ansible en Chef/Puppet. - Je hebt werkervaring met concepten; multi-tenacy (containers, virtual machines), security–defense in depth en MLOps. - Je hebt werkervaring met back-end development; JavaSE, Spring, JavaEE, Jboss en Weblogic. Omschrijving: Voor onze organisatie wordt een spraak naar tekst dienst (S2T) ontwikkeld. Deze dienst moet generiek opgenomen kunnen worden in diverse gebruikersapplicaties. Er komt ook een dienstverlening die deze dienst doorontwikkelt en 24x7 beheert. De kern van de dienst is een large language model (LLM) die op de Nvidia DGX stack draait. De basis van de LLM’s wordt specifiek bijgetraind met content uit de organisatie. De S2T-dienst exploiteert de verschillende LLM’s die via een application programming interface (API) aangeboden worden aan gebruikersapplicaties. Tevens is de API voorzien van een volwaardig authenticatie- en autorisatiemodel. In diverse proeftuinen wordt gebruikgemaakt van de S2T. De inzichten van dit gebruik leveren aanvullende eisen en wensen op voor de S2T-dienst en dienstverlening. Afhankelijk van de businesswaarde en hoe breed inzetbaar de wensen en eisen binnen de organisatie zijn, wordt besloten of deze ook ondersteund gaan worden. Binnen het team is er ruimte voor een ervaren software engineer. Deze engineer is in staat om op verschillende deelgebieden mee te werken met de collega’s en uit ervaring ook richting te geven. De primaire doelstelling is de S2T (door) te ontwikkelen zodat deze geïntegreerd kan worden in onze interne gebruikersapplicaties. Daarvoor is het van belang dat er een generieke dienst gebouwd wordt waarop LLM’s gedraaid en getraind kunnen worden. Hier ligt de hoofdfocus van de opdracht.