О компании Inworld
Inworld — это исследовательская лаборатория и провайдер инференса, ориентированный на реальное время ИИ для приложений, ориентированных на конечного пользователя. Мы создаём собственные модели речи, обслуживаем LLM и запускаем инференс за модульными API, разработанными для высоконагруженных, работающих в реальном времени задач.
Ежедневно сотни миллионов пользователей взаимодействуют с приложениями на базе Inworld, и мы обслуживаем более 10 триллионов токенов LLM в месяц. Наши модели и инфраструктура поддерживают потребительские приложения в сферах компаньонов, здравоохранения, фитнеса, образования, медиа и других. Наша работа охватывает исследование моделей, инференс в реальном времени, инфраструктуру масштабного обслуживания и API, которые разработчики используют для внедрения этих возможностей в производство.
Мы привлекли более 125 миллионов долларов от Lightspeed Venture Partners, Section 32, Kleiner Perkins, венчурного фонда Microsoft M12, Founders Fund, Meta, Стэнфорда и других. Наша технология поддерживала проекты таких компаний, как NVIDIA, Microsoft Xbox, Niantic, Logitech Streamlabs, Wishroll, Little Umbrella и Bible Chat. Inworld также была признана CB Insights одной из 100 самых перспективных AI-компаний в мире и названа одной из 10 лучших стартапов США по версии LinkedIn.
Кого мы ищем
Год назад надёжно работающих агентных систем и инференса мультимодальных моделей с задержкой менее секунды в масштабе практически не существовало. Никто не имеет десятилетнего опыта в этой области. Поэтому мы не отбираем по шаблону резюме — мы ищем сильных специалистов с разным опытом, которые быстро учатся, успешно работают в условиях неопределённости и могут показать, что они построили, сломали и поняли.
Опыт, который мы считаем полезным
Вам не нужен весь этот список. Но достаточно, чтобы обосновать свою кандидатуру.
•Оптимизация инференса. Глубокое понимание современных фреймворков обслуживания и техник, таких как vLLM или TRT-LLM.
•Ускорение моделей. Практический опыт с квантизацией, дистилляцией, стратегиями кэширования, непрерывной пакетной обработкой, постраничным вниманием и спекулятивным декодированием.
•Высокопроизводительные системы. Владение C++, CUDA, Rust или высоко оптимизированным Python. Вы умеете профилировать код и выжимать максимум производительности из GPU NVIDIA.
•Распределённые системы и масштабирование. Опыт работы с Kubernetes, Ray, пользовательским балансировщиком нагрузки, инференсом на нескольких GPU/узлах и надёжной обработкой тысяч одновременных подключений.
•Публичная работа. Нетривиальные проекты системного программирования, вклад в открытые исходные коды крупных движков инференса или глубокие технические статьи.
•Полный цикл владения. Вы можете взять модель от исследовательской команды, контейнеризовать её, оптимизировать обслуживание и обеспечить её надёжную работу в продакшене.
•Образование. Кандидат наук в области компьютерных наук, физики, математики или эквивалентный практический опыт создания бэкенд- или ML-систем.
Кто здесь преуспевает
•Вам не нужен план, чтобы начать движение; вы комфортно выбираете направление и строите карту по ходу.
•Вы считаете, что инженерия не закончена, пока продукт не выпущен и стабилен. Вы отдаёте предпочтение реальному эффекту, а не чисто теоретическим оптимизациям.
•Вы не просто выпускаете код; вы одержимы вопросом «почему». Вы первый, кто поставит под сомнение архитектуру, если думаете, что есть лучший способ решить основную проблему задержки или пропускной способности.
•Вас не устраивает «так сказал менеджер продукта». Вы стремитесь к глубокому пониманию и хотите знать фундаментальную логику каждого нашего решения.
Каково работать у нас
Мы даём вам неясные задачи и ожидаем, что вы сделаете их понятными. Мы ценим инженеров, которые говорят «я ещё не знаю», а затем проектируют бенчмарк или прототип, чтобы выяснить. Мы рассматриваем производительность, задержку и надёжность как первоклассные характеристики продукта, а не как пункт для галочки перед запуском. Влияние важнее всего, хотя мы поддерживаем обмен работой и вклад в open-source, который продвигает отрасль вперёд. Ваша работа должна быть видимой. Плоская структура, быстрые итерации, минимум бюрократии.
Мы верим в силу личного сотрудничества для решения самых сложных задач и формирования сильной командной культуры. Мы предлагаем помощь с переездом и с нетерпением ждём вашего присоединения к нам в офисе в Маунтин-Вью.
Базовый диапазон зарплаты для этой полной ставки составляет от 250 000 до 300 000 долларов США + бонусы + акции + льготы.
