Дженсен Хуанг вновь вышел на сцену GTC в кожаной куртке и озвучил невероятные достижения Nvidia в области искусственного интеллекта. Компания объявила, что эпоха инференса наступила, представив мощный серверный комплекс Nvidia Groq 3 LPX rack. Эта система объединяет 72 новых серверных узла и 256 чипов LPU от Groq, что позволит радикально ускорить работу ИИ-сервисов.
Huang подчеркнул, что будущее команды Nvidia связано с быстротой отклика и экономичностью, так как новые запросы клиентов направлены на готовые продукты ИИ. Новая система может генерировать 700 миллионов токенов за секунду, что в 350 раз превышает показатели предыдущих версий.
Наряду с новыми аппаратными решениями, Nvidia объявила о создании коалиции разработчиков ПО для упрощения создания ИИ-моделей. Одновременно с этим стартап Nscale сообщили о строительстве мощного вычислительного кластера в Западной Виргинии.
В дополнение к ИИ, исследователи представили инновационную технологию CRAFT, позволяющую изменять свойства пластиковых изделий в процессе 3D-печати с использованием света. Новый метод открывает перспективы для создания деталей с разнообразными характеристиками, что может революционизировать производство в различных отраслях.