Метка: LLM

Skymizer HTX301
Железо

Skymizer представила PCIe AI-ускоритель HTX301 с 384 ГБ памяти для локального запуска LLM до 700B параметров

Тайваньская компания Skymizer анонсировала PCIe AI-ускоритель HTX301, рассчитанный на локальный инференс крупных языковых моделей. По заявлению компании, одна карта способна...

чип Taalas HC1 для ИИ
Железо

Taalas «вшивает» ИИ-модели в кремний: новый чип HC1 ускоряет LLM в 10 раз и снижает стоимость в 20 раз

Похоже, на рынке ИИ-железа назревает ещё одна попытка пошатнуть доминирование универсальных GPU. Стартап Taalas заявил, что научился буквально «зашивать» модели...