DeepSeek разогнали до рекордной скорости всего на 16 чипах SambaNova — чипов Nvidia потребовалось бы в 20 раз больше
Стартап в области искусственного интеллекта SambaNova Systems объявил о создании самой быстрой в мире системы для развёртывания модели DeepSeek-R1 671B. Для оборудования Nvidia такие показатели недоступны.
SambaNova добилась скорости работы DeepSeek-R1 в 198 токенов в секунду всего на 16 специально изготовленных ускорителях — аналогичного результата можно достичь, только развернув 40 стоек с 320 графическими процессорами Nvidia. «SambaNova на чипах SN40L RDU стала самой быстрой платформой для запуска DeepSeek. Это пятикратный прирост по сравнению со скоростью новейшего графического процессора на одной стойке, а к концу года мы предложим 100-кратную ёмкость для DeepSeek-R1», — пообещал соучредитель и генеральный директор SambaNova Родриго Лян.
Ресурсоёмкие рабочие нагрузки систем искусственного интеллекта традиционно обеспечиваются графическими процессорами Nvidia, но в SambaNova утверждают, что созданная компанией конфигурируемая архитектура потока данных представляет собой более эффективное решение. Её оборудование работает втрое быстрее и потребляет в пять раз меньше энергии, чем самые мощные из современных графических процессоров, сохраняя при этом полную вычислительную мощность модели DeepSeek-R1. Достижение подтвердили эксперты компании Artificial Analysis, которая проводит независимую оценку систем ИИ.
Открытая модель DeepSeek-R1 671B доступна в облаке SambaNova через API. Компания активно наращивает мощности и в ближайшем будущем надеется достичь общей пропускной способности в 20 000 токенов в секунду.
Источник:
Александр Григорьев ЦСО "Крокус"
Наши новости:
ЕГАИС, «Честный знак» и «Меркурий»: регистрируем, подключаем, обучаем. - 22.03.2025
Бизнес России должен работать с госсистемами: ЕГАИС, «Честный знак» и «Меркурий», которые контролируют оборот ряда товаров. Помогаем разобраться, кому, какое оборудование и программное обеспечение для этого понадобится. РЕГИСТРИРУЕМ, ПЕРЕРЕГИСТРИРУЕМ и ВОССТАНАВЛИВАЕМ УТРАЧЕННЫЕ ПАРОЛИ, ОБУЧАЕМ.
Удобный сервис ꟷ залог успеха вашего бизнеса!
СЦ «Крокус» ꟷ официальный представитель ОФД ООО «ПЕТЕР-СЕРВИС Спецтехнологии» и программы товарно-кассового учета «Мой Склад». В нашем торговом зале Вы найдете: КАССЫ-онлайн! Большой выбор! Цены от производителя! Регистрация в Налоговой под ключ! Скидки!
Обновленный торговый зал - 02.06.2023
У нас расширение ассортимента и увеличение ветрин в торговом зале, чтобы покупателям было комфортно и удобно. В просторном помещении можно спокойно и внимательно выбрать устройство, рассмотреть его, а при необходимости получить от консультанта квалифицированную помощь. Появилась возможность выставить ещё больше разнообразной продукции. Приходите, «Крокус» ждет Вас!
КОПИЦЕНТР "КРОКУС" - 31.05.2023
КОПИЦЕНТР расширил ассортимент канцелярских товаров и возможность оказания широкого спектра услуг:
Ксерокопирование и сканирование;
Цветная и черно-белая печать документов, фотографий, чертежей и карт любых форматов, с различных носителей;
Набор текстов;
Создание сувенирной продукции;
Ламинирование и переплет;
Изготовление любой полиграфической продукции.
ЗАКАЗ ОФОРМЛЯЕТСЯ практически В ТОТ ЖЕ ДЕНЬ. Мы рады видеть Вас в нашем КОПИЦЕНТРЕ!
Делайте покупки на 06432.su не выходя из дома! Тут дешевле, чем в розницу! Покупку привозят на дом, день в день и совершенно БЕСПЛАТНО!
ОНЛАЙН-ЗАЯВКА - 24.04.2020
ПРИНИМАЕМ ОНЛАЙН ЗАЯВКИ,
Через Viber, WhatsApp, Telegram: 050-044-41-44
или электронную почту: krokus.servis@gmail.ru ,
НА ИЗГОТОВЛЕНИЕ:
ВИЗИТОК; ПЕЧАТЬ ФОТОГРАФИЙ; ШИРОКОФОРМАТНУЮ ПЕЧАТЬ А0; НАБОР И ПЕЧАТЬ ДОКУМЕНТОВ; БОЛЬШОЙ ОБЪЕМ КСЕРОКОПИЙ.
Расчет после выполнения работ!
Осуществляем видеоотчет выполненных работ!
На все СКИДКИ!
РЕМОНТ КОМПЬЮТЕРНОЙ ТЕХНИКИ с выездом за техникой на дом - 22.04.2020
РЕМОНТ КОМПЬЮТЕРНОЙ ТЕХНИКИ стал проще! У Вас сломался компьютер, ноутбук или принтер? Вам достаточно только позвонить нам и мы — ПРИЕДЕМ, ЗАБЕРЕМ в ремонт, ОТРЕМОНТИРУЕМ и ВЕРНЕМ ОБРАТНО из ремонта на дом. Оплата на месте после доставки из ремонта.
Online-ВИДЕО-КОНСУЛЬТАЦИИ - 22.04.2020
Позвоните нам через: Viber, WhatsApp, Telegram, Skype. И мы - расскажем, покажем, в живую протестируем любой товар!
Доставка от 5000 руб БЕСПЛАТНО - 22.04.2020
Доставим любую мелочь! Доставка от 5000 рублей - БЕСПЛАТНО!
НАДЕЖНО, БЫСТРО, ЕЖЕДНЕВНО!
ONLINE-SHOPPING НОВОЙ И КОМИССИОННОЙ КОМПЬЮТЕРНОЙ ТЕХНИКИ! Доставка БЕСПЛАТНО! - 07.04.2020
ВНИМАНИЕ! ТЕПЕРЬ ПОКУПАТЬ НАШ ТОВАР СТАЛО ЕЩЕ ПРОЩЕ!
Сделать это можно не выходя из дома - через соцсети "ВКонтакте" или "Одноклассники" (одним кликом QR кода), а также через Онлайн магазин ЦСО Крокус: http://shop.cso-krokus.com.ua. Оплата - при доставке товара на дом.
