VK Tech представила новое поколение Cloud Containers для AI-разработки

VK Tech выпустила обновленную версию Cloud Containers — платформы на базе Kubernetes, созданной для развертывания и поддержки современных AI-приложений.

Новое поколение рассчитано на работу под экстремальными нагрузками, включая масштабирование LLM-моделей. Платформа помогает запускать системы, которые обслуживают десятки тысяч пользователей и миллионы действий в секунду без потери скорости и стабильности.

Обновление заметно ускоряет разработку и снижает издержки на поддержку инфраструктуры. Cloud Containers теперь работает с объемами до 55 тысяч микросервисов одновременно, а улучшения в архитектуре делают сервис более устойчивым и предсказуемым.

Среди ключевых новшеств — автоматическое восстановление Kubernetes-кластера, технология «вложенный Kubernetes», когда один кластер запускается внутри другого, а также возможность выполнять несколько операций параллельно. Такие инструменты особенно полезны для крупных проектов, где релизы выходят часто, а инфраструктура постоянно меняется.

Автовосстановление возвращает кластер в рабочее состояние без участия инженеров, снижая риск простоев. Параллельные операции помогают быстрее выпускать обновления: настройки, масштабирование и обновления теперь можно проводить одновременно, не останавливая сервис.

Усилена и отказоустойчивость. Ресурсы распределяются между тремя зонами в регионе, а программно-определяемая сеть SDN Sprut поддерживает бесперебойную работу даже при сбоях в отдельном дата-центре.

Источник: Новости VK Tech