Инженер MLOps

• Формирование изменений: вот что движет нами в Forschungszentrum Jülich. Являясь членом
• Ассоциации
• Гельмгольца, насчитывающей около 7600 сотрудников, мы проводим междисциплинарные исследования в области оцифрованного общества, экологически чистой энергетической системы и устойчивой экономики. Мы фокусируемся на естественных, естественных и инженерных науках в области информации, энергии и биоэкономики. Мы объединяем это с опытом в области высокопроизводительных вычислений и искусственного интеллекта с использованием уникальных научных инфраструктур.

• Вы взволнованы тем, чтобы объединить передовой ИИ и надежные безопасные инфраструктурные операции?
• Тогда вы пришли в нужное место! В Jülich Supercomputing Centre (JSC) мы эксплуатируем некоторые из самых мощных вычислительных систем
• Европы и предоставляем их научным и инженерным сообществам в
• Германии и по всей
• Европе. Эта миссия, фабрика искусственного интеллекта JUPITER (JAIF) создается в качестве основной опоры европейской инфраструктуры искусственного интеллекта в
• Юлихе, предоставляя упрощенный доступ к JUPITER, первому в
• Европе суперкомпьютеру экзафлопсного класса, для всех своих групп пользователей. Мы ищем инженера MLOps, практического оператора, который поможет внедрить модели ИИ в производственный вывод на JAIF с использованием набора выводов BLABLADOR AI. Мы создали сервер выводов BLABLADOR LLM в 2022 году, чтобы предоставить
• Ассоциации
• Гельмгольца простую в использовании частную инфраструктуру модели большого языка. Он растет в использовании, в эпоху агентного ИИ и мультимодальных моделей. Мы работаем над масштабированием BLABLADOR, чтобы привлечь тысячи пользователей одновременно.

• Присоединяйтесь к нашей команде
• Инженер MLOps

• Как инженер MLOps, вы будете работать на стыке команд по включению ИИ и операциям производственного уровня, предоставляя надежные, масштабируемые и безопасные сервисы вывода моделей. Ваши ключевые обязанности включают:
• Модель на борту и развертывание:
• Возьмите модели ИИ от внутренних и внешних пользователей в производственные рабочие процессы вывода. Упаковка и развертывание моделей в качестве контейнерных конечных точек вывода. Определение и эксплуатация валидационных шлюзов, охватывающих функциональные проверки, контрольные показатели производительности и требования безопасности / безопасности перед развертыванием производства. Операции и надежность платформы: запускать и поддерживать BLABLADOR в качестве операционного набора выводов в среде JAIF, согласованного с целью обеспечения высокопроизводительных, безопасных, совместимых с конфиденциальностью приложений ИИ. Обеспечить надежность за счет комплексного мониторинга, регистрации, оповещения, реагирования на инциденты и улучшений после инцидентов. Работайте с операциями дня-2, включая модернизацию, исправление, управление жизненным циклом и планирование мощности. Масштабируемость, производительность и эффективность:
• Услуги вывода тона для оптимизации задержки, пропускной способности, пакетирования, использования GPU и справедливости для нескольких арендаторов.

• Мы ищем коллегу, который может уверенно управлять современной инфраструктурой и понимает, что нужно для запуска услуг вывода ИИ в производстве. Требуемая/прочная посадка:
• Отличная степень магистра в области компьютерных наук, математики или сопоставимых соответствующих областях
• Опыт работы на платформе,
• Инженерия надежности сайта, DevOps или инженерия инфраструктуры
• Практический опыт работы с контейнерами и инструментами OCI (например, Docker / Podman, сборки изображений, реестры, устранение неполадок во время выполнения)
• Опыт работы с облачными технологиями и оркестровкой (например, Kubernetes и его экосистема)
• Требуется очень хорошее владение письменным и разговорным английским языком с обширным словарным запасом (по крайней мере, уровень B2 в соответствии с CEFR), в идеале поддерживаемое подтверждением, подтверждающим уровень языка. Знание немецкого языка не является обязательным, но, безусловно, ценится. Приятно иметь: lnfrastructure-as-code и Cl/CD (например, Terraform/Ansible, GitOps)
• Стек наблюдения (например, Prometheus/Grafana, ELK/OpenSearch, Loki, OpenTelemetry)
• Знакомство с механизмами вывода модели ИИ и обслуживающими стеками (например, TensorRT, Triton, vLLM или сопоставимые рамки вывода)
• Опыт развертывания веб-сервисов, поиск как обратные прокси, сертификаты TLS, балансировка нагрузки, конечные точки API
• Опыт работы с планированием / операциями GPU и отладкой производительности в ускоренных системах
• Сильные навыки Linux (отладка процессов / сетей, автоматизация, скриптинг)
• Предварительная работа в (или с) исследовательских вычислениях, научных средах или многопользовательских платформах
• Как вы работаете:
• Вам нравятся структурированные операции: измеримые SLO, спокойная реакция на инциденты. Вы четко общаетесь между дисциплинами и иерархиями в международном контексте.

• Мы работаем над актуальными, социально значимыми вопросами и предлагаем вам возможность принять участие в изменении формы!
• Вы можете ожидать широкий спектр возможностей:
• Рабочая среда:
• Очень актуальная миссия на пересечении экзафлопсных вычислений и Al, включая цель JAIF по обеспечению широкого доступа к JUPITER и его запланированным облачным возможностям вывода. Баланс между работой и личной жизнью: оптимальные условия для баланса между работой и личной жизнью, а также политика компании, ориентированная на семью. Возможность гибкой работы (с точки зрения местоположения) обычно предоставляется после консультации и в соответствии с предстоящими задачами и назначениями на месте. Гибкие модели рабочего времени, включая опции, близкие к полной занятости, позволяют адаптировать
• Ваше рабочее время в соответствии с вашими индивидуальными потребностями
• Знания и дальше
• Обучение:
• Ваше профессиональное развитие важно для нас - мы предоставляем адресная индивидуальная поддержка
• Здоровье и благополучие:
• Ваше здоровье важно для нас
• Вы можете рассчитывать на комплексную программу управления профессиональным здоровьем с широким спектром предложений - например, пляжный волейбольный корт, беговые классы и многое другое. Кроме того, наша медицинская служба и опытная команда социального консультирования могут помочь вам на сайте. Отпуск:
• Вы получите 30 дней отпуска плюс дополнительные выходные дни (например, между
• Рождеством и
• Новым годом). Справедливое вознаграждение: В зависимости от имеющейся у вас квалификации и поставленных перед вами задач, вы будете отнесены к 13 классу оплаты труда
• Бунда TVöD (Коллективное соглашение на государственную службу). Всю информацию о коллективном договоре TVöD Bund можно найти на сайте BMI. Месячные зарплаты в евро можно найти на странице 69 ff. Перспектива:
• После 2-летнего срочного контракта наша цель состоит в том, чтобы нанять вас на постоянной основе. Давайте используем это время, чтобы выяснить, насколько хорошо мы вписываемся друг в друга. Дополнительные преимущества:
• Выгода от привлекательных дополнительных услуг, таких как пенсионная схема компании с вкладом работодателя. Помимо базовой зарплаты, вы будете получать ежегодные бонусы и капиталообразующие льготы. Поддержка международных сотрудников:
• Наша международная консультационная служба облегчает работу международным сотрудникам

В дополнение к захватывающим задачам и коллегиальной рабочей среде мы предлагаем вам гораздо больше: https://go.fzj.de/benefits

• Мы приветствуем заявки от людей с различным происхождением, например, с точки зрения возраста, пола, инвалидности, сексуальной ориентации / идентичности и социального, этнического и религиозного происхождения. Для нас важна разнообразная и инклюзивная рабочая среда с равными возможностями, в которой каждый может реализовать свой потенциал. Следующие ссылки предоставляют дополнительную информацию о разнообразии и равных возможностях: https://go.fzj.de/equality и о конкретных вариантах поддержки: https://go.fzj.de/womens-job-journey