Привет, дорогие читатели! Я Михаил, CTO компании VizoGEN, и хочу поделиться нашим опытом поиска бюджетных AI-ресурсов. Всё началось с использования 3080 TI, но вскоре мы столкнулись с нехваткой видеопамяти – наши модели требовали больше ресурсов. Первоначально мы думали объединить несколько видеокарт, но ComfyUI не поддерживал эту конфигурацию.
После осознания, что нужны мощные серверные карты Nvidia Tesla, мы протестировали H100, но стоимость аренды составила $18-19K в месяц. В поисках альтернативы обратили внимание на Китай, где нашли H20 по более низкой цене. Однако столкнулись с проблемами настройки: медленная доставка образа, отсутствие доступа к GitHub и необходимость проверки зависимостей.
С помощью сотрудников Tencent Cloud и бесконечных танцев с драйверами нам удалось запустить окружение. В итоге, несмотря на все трудности, мы нашли доступные мощности и восстановили нервы. Рекомендации для тех, кто ищет AI-ресурсы: учитывайте сложности работы с Китаем или объединяйтесь с единомышленниками для совместной аренды серверов. Надеюсь, наш опыт поможет избежать лишних трудностей!