Phison придумала, как с помощью SSD в шесть раз удешевить обучение больших языковых моделей

Phison продемонстрировала на мероприятии Nvidia GTC 2024 рабочую станцию с четырьмя графическими процессорами, производительности которой хватило для обучения модели искусственного интеллекта с 70 млрд параметров. Это стало возможным за счёт задействования ресурсов SSD и системной DRAM, передаёт Tom’s Hardware. В обычных условиях эта задача требует шести серверов с 24 ускорителями Nvidia H100 и 1,4 Тбайт видеопамяти. Источник изображения: phison.com

Автор публикации

не в сети 2 года

WeLANS

Для многих IT-консалтинг – это что-то непонятное и мифическое, но всё намного проще, чем кажется)
Комментарии: 0Публикации: 48009Регистрация: 15-12-2022

Источник: 3DNews - все новости сайта

Ответить

Этот сайт использует Akismet для борьбы со спамом. Узнайте, как обрабатываются ваши данные комментариев.

Авторизация
*
*
Регистрация
*
*
*
*
Пример: +79001234567
Генерация пароля