05.11.2026 aktualisiert


100 % verfügbar
AI & HPC Platform Architect
Rosenheim, Deutschland
Weltweit
Master of Science in Information SystemsÜber mich
Gründer der Lime Labs GmbH. 10+ Jahre verteilte Systeme, HPC und Cloud-Infrastruktur im Enterprise-Betrieb, On-Premise und in der Cloud, in regulierten Bankenumgebungen. Heute: GPU-Plattformen und private LLM-Inferenz auf Kubernetes (vLLM, llm-d, KServe) inkl. AI-Gateway. CNCF Kubestronaut.
Skills
LLMOpenAIProduct OwnerAzure DevOpsKubernetes-SicherheitAPIsKünstliche IntelligenzAmazon Elastic Compute CloudSoftware für Optische ZeichenerkennungMicrosoft AzureFinanzdienstleisterKapazitätsplanungCloud-SicherheitComputer-ClusterCUDA
Schwerpunkte: LLM-Plattform-Architektur, LLM-Inference-Serving und GPU-Plattformen für KI- und HPC-Workloads, On-Premise und in der Cloud, in regulierten Umgebungen (Banken).
KI & LLM: Large Language Models (LLM), Künstliche Intelligenz, private LLM-Inferenz auf Kubernetes mit vLLM, llm-d und KServe, Auswahl und Betrieb von Open-Weight-Modellen, AI-Gateway und AI-Firewall (Routing, Governance, Chargeback, OpenAI- und Anthropic-kompatible API), datenschutzkonformer Betrieb privat gehosteter LLMs, Dokumentenverarbeitung und OCR (Tesseract).
GPU & HPC: GPU-Plattformen, NVIDIA CUDA, NVIDIA MIG, GPU-Sharing, GPU-Scheduling, CPU/GPU-Workload-Orchestrierung, Scheduler, High Performance Computing, HPC-Middleware (Ablösung IBM Symphony, ~56.000 CPU-Kerne, ~300 GPUs), Low Latency, verteilte Systeme.
Kubernetes & Cloud Native: Kubernetes (CNCF Kubestronaut: CKA, CKAD, CKS, KCSA, KCNA), Kubernetes-Sicherheit, Cloud Native, Microsoft Azure, Terraform, Ansible, Packer, Azure DevOps, CI/CD.
Entwicklung: Go (Golang), C++, Java, Python, RabbitMQ, Redis, SDK-Entwicklung, REST-APIs.
Architektur & Betrieb: IT-Architektur, High-Level-Architektur, Digitale Architektur, Rechnerarchitektur, Zielbetriebsmodell, Governance- und Betriebsmodelle, Hochverfügbarkeit, 24/7-Betrieb, Technische Leitung, Product Owner, Wissenstransfer.
Weitere Technologien:
Cloud, HPC, IoT, sensor, MS Azure, IaaS, PaaS, three tier, Azure, DevOps, Terraform, Docker, RESTful, API, OpenAPI, Python, Flask, IBM Platform / Spectrum Symphony, middleware, Azure / cloud, release management, Mainframe, IBM, CRM, ERP, Salesforce, SAP, PHP, HTML, JavaScript/CSS, MySQL, Git, AWS, backend, VMware ESXi + SAN/NAS setup, Oracle, VMware, system administration, programming, Linux, Windows, IBM Platform Symphony, Microsoft Azure Cloud, Azure DevOps, Jenkins, Packer, Linux (Red Hat, CentOS, Debian, Ubuntu, Alpine, Kernel 2.2.x, VMware ESXi, Workstation and Fusion, Linux KVM, MS Hyper-V, Apache, Nginx, Eclipse, VS Code, RPM, Autodesk Eagle, KiCad, IoT Ecosystems, Platforms, vTiger, Salesforce.com, Windows (3.11 - 10, 2008 R2 - 2019 Server), Mac OS X, Ansible, RabbitMQ, ELK Stack, MS System Center, Active Directory, Xcode, Visual Studio, SAP B1 & R/3, Informatica PowerCenter, RapidMiner, Cognos BI, SSIS, SSRS, Tableau, JustNN, R, MS Project, JavaScript, X, HTML5, JSON, CSS, Java, github.com/pwntr, SQL (MySQL), Bootstrap, Handlebars, js, NoSQL (MongoDB), UML, Bash, BPMN, SDLC, Phonegap, Node, JQuery, JQuery Mobile, Express, Deployd, Electron, MQTT, ESP32, ESP8266, Arduino, Data Modeling, OpenAPI (Swagger), Embedded C, C, C++, C#, Objective-C, SQL, Microsoft, XML, iOS, JBoss, ASP.NET, Entity Framework, Meteor, Algorithms, Data Structures, AMQP, LAN/WAN Architecture and Infrastructure, VLAN, TCP, IPv4, DNS, VPN, L2TP/IPsec, OpenVPN, PPTP, SAN/NAS, NFS, SMB, Storage Spaces, WLAN (802.11, b/g, ac, incl, Roaming, Radius, OpenSSH, Sockets, IPv6, Layer 2 & 3 Routing, SNMP, iSCSI, Azure NetApp
Erfahrung
Berufserfahrungmehr als 10 Jahre
Freelancer seit2018
Sprachen
DeutschMutterspracheEnglischverhandlungssicher
Projekthistorie
- Forschung und Produktentwicklung. Metalcore: proprietäre, latenz- und durchsatzoptimierte, Cloud-native und CPU/GPU-agnostische HPC-Middleware für Datentransfer, Workload-Management und Scheduling
- AlpCrunch: zugehörige skalierbare Compute-Plattform und Cloud-Service (PaaS und SaaS, https://alpcrun.ch)
- 2026: Erweiterung von AlpCrunch um privat gehostete KI-Modelle (LLMs) auf Kubernetes auf Basis von KServe, llm-d und vLLM (LLM-Inference-Serving auf GPU-Infrastruktur)
- Torhaus (https://torhaus.ai): eigenständiges AI-Gateway und AI-Firewall-Produkt für sicheres Routing, Governance und Chargeback von Inferenz-Anfragen an verschiedene KI-Modellanbieter (inkl. AlpCrunch) über eine OpenAI- bzw. Anthropic-kompatible API
- 2024 bis 2025: Zertifizierungen als Kubernetes Application Developer, Administrator und Security Specialist (CKAD, CKA, CKS, KCSA, KCNA; CNCF Kubestronaut)
- Gründung der Lime Labs GmbH 2018 mit zwei Mitgründern; zunächst nebenberufliche Entwicklung eines IoT- und Workflow-Optimierungsprodukts („PandO“) aus eigener Hard- und Software für die Gastronomie, um Wartezeiten zu verkürzen und Abläufe effizienter zu machen
- 2019 Wechsel in die Vollzeit-Selbstständigkeit, Übernahme der Anteile beider Mitgründer und Neuausrichtung auf High Performance Computing und Cloud-Infrastruktur
- 2019 bis 2023: spezialisierte HPC- und Cloud-Infrastruktur-Beratung, Selbstfinanzierung der eigenen Forschung und Entwicklung großskaliger Compute-Technologien
- Seit 09/2023 ausschließlicher Fokus auf die Produktentwicklung von AlpCrunch, Metalcore und Torhaus (siehe eigenes Projekt)
- Ausgangslage: IBM Symphony als HPC-Middleware in Microsoft Azure für CPU- und native CUDA-GPU-Risikoberechnungen auf einem Cluster mit ~56.000 CPU-Kernen und ~300 GPUs
- Eigener Vorschlag an den Kunden, die Risikoberechnungen mit einfacheren und günstigeren Mitteln umzusetzen; daraus Konzeptstudie und Prototyp-Evaluierung der Alternativen am Markt
- Ergebnis: Mein Vorschlag wurde ausgewählt und als Entwicklungsprojekt umgesetzt (Eigenentwicklung auf Basis von RabbitMQ, Redis und weiteren Infrastrukturkomponenten), günstiger und performanter bei gleicher Skalierung, Einsparung von über 1,5 Mio. € pro Jahr
- C++- und Java-SDKs für interne Entwickler und Quants zur Anbindung an die neue Lösung
- Einführung von Go als Entwicklungssprache in der UniCredit Group inkl. Abstimmung mit anderen Abteilungen und Anpassung interner Prozesse; Tools und Services für den neuen Middleware-Stack in Go
- CI/CD-Pipelines mit Ansible und Terraform in Azure DevOps; OS-Images für Windows- und Linux-Compute-Instanzen mit Packer
- Das Projekt bestätigte Machbarkeit, Architektur und Business Value des Ansatzes, aus dem später AlpCrunch und Metalcore hervorgingen