Последние нейросети требуют большого количества вычислений и для этой задачи я решил пересобрать свой сервер. Сейчас используется серверная материнская плата, процессор на 48 ядер, 512гб оперативной памяти и 5 видеокарт nvidia rtx 3090 ti. Сервер подходит для запуска нейросетей с количеством параметров около 100 миллиардов(Llama 70b, Mistral Large 2407, NVLM ...)

GPU сервера immers.cloud. Использую их для тестирования видеокарт.
[ Ссылка ]

Мой телеграм канал:
[ Ссылка ]

В rutube дублирую видео. Подписывайтесь на случай замедления ютуба:
[ Ссылка ]

Таймкоды:
0:00 обзор сервера
0:55 процессор
1:53 материнская плата
2:35 оперативная память
3:35 видеокарты
5:30 райзеры, диск
6:05 блоки питания
6:58 общая стоимость

Реклама. ООО «ДТЛ». ИНН 9717073792. erid: LjN8KayRm

свернуть