Несмотря на то, что Nvidia Tesla V100 существует уже восемь лет, его производительность в задачах локального запуска нейросетей по-прежнему впечатляет. Тесты, проведенные автором канала Hardware Haven, показали, что этот ускоритель обходит по эффективности современные RTX 3060 12 ГБ и Radeon RX 7800 XT 16 ГБ. Для создания своего необычного ПК на базе Tesla V100 SXM2 потребовались адаптер SXM-to-PCIe, отдельное питание и самодельная система охлаждения. Вся сборка обошлась в $235. В тестах, таких как GPT-oss 20B, карта показала 130 токенов в секунду, что значительно превышает результат Radeon RX 7800 XT. Даже в режиме ограничения мощности до 100 Вт Tesla V100 сохраняет свои преимущества. Это открывает новые возможности для пользователей, желающих запускать нейросети локально, особенно с учетом большой пропускной способности памяти HBM2. 32-гигабайтная версия ускорителя, доступная на рынке за $400–500, может стать отличным вариантом для более тяжелых LLM-моделей.