Protospiel South

Personal Information

Your Website

https://sergeipetryk.com/ai-infrastructure/

Personal Statement

Стартапу в первые месяцы собственный сервер с ускорителями обычно не по карману, и тут Сергей Петрик рекомендует вообще не начинать с железа. Модели для звука, видео, картинок и текста подключаются по API, а сами GPU крутятся у провайдера. Платить приходится только за реально отработанные запросы: пока пользователей немного, счёт тоже скромный, и деньги не замораживаются в оборудовании, которое подолгу стоит без дела. Для продукта, который ещё ищет свою аудиторию, так спокойнее: бюджет уходит в разработку и маркетинг. Выигрыш на инференсе есть, но его размер зависит от выбранной модели и от того, как собраны запросы: в одних задачах срезается десятая часть счёта, в других девять десятых. Сергей Петрик подбирает подключение под задачу, а если со временем понадобится своя мощность, расскажет, что для этого готовит Black Vault в Германии. До такого разговора стартап обычно доходит уже с выручкой и понятным графиком нагрузки.

History

Member for

7 hours 44 min