Ihre Aufgaben
Als AI Engineer entwickeln, deployen und betreiben Sie moderne KI-Anwendungen vorwiegend auf Basis von Large Language Models (LLMs) und Generative-AI-Technologien, aber auch klassischen Machine-Learning-Ansätzen. Sie begleiten den gesamten Lifecycle von der Konzeption über die Implementierung bis hin zu Monitoring, Evaluation und Absicherung produktiver KI-Lösungen. Dabei arbeiten Sie in einem Microsoft-zentrierten Technologieumfeld auf Basis der Azure Cloud und kombinieren moderne Open-Source-Technologien mit Enterprise-Anforderungen.
Im Detail:
- Entwicklung, Implementierung und Betrieb von LLM-basierten Anwendungen, Agentensystemen und RAG-Lösungen (Retrieval-Augmented Generation)
- Verantwortung für den gesamten LLMOps-Lifecycle von der Entwicklung bis zum produktiven Betrieb
- Design und Umsetzung skalierbarer KI-Architekturen in Microsoft Azure
- Entwicklung von KI-Workflows und Agentensystemen mit Frameworks wie LangChain und LangGraph
- Integration von Microsoft Copilot, Azure AI Services, Azure OpenAI und weiteren Cloud-Services in Unternehmensanwendungen
- Durchführung von Evaluierungen und Qualitätssicherungsmaßnahmen für LLM-Anwendungen unter Verwendung geeigneter Frameworks (z. B. DeepEval)
- Aufbau und Betrieb von Monitoring- und Observability-Lösungen für produktive KI-Systeme
- Entwicklung und Implementierung von Sicherheitskonzepten für Generative-AI-Anwendungen
- Durchführung von Red-Teaming-Aktivitäten und Absicherung gegen Jailbreaks, Prompt Injection sowie weitere Angriffsvektoren in Zusammenarbeit mit dem Cyber Defense Center
- Implementierung und Pflege von Guardrails für KI-Anwendungen in Zusammenarbeit mit dem Cyber Defense Center
- Zusammenarbeit mit Fachbereichen, Softwareentwicklern und Cloud-Architekten zur Entwicklung innovativer KI-Lösungen
- Bewertung neuer Technologien, Frameworks und Methoden im Bereich Generative AI und Machine Learning
- Mitwirkung beim Aufbau von Best Practices und Standards für den produktiven Einsatz von KI-Systemen
