$169 млн на революцию в «железе» для ИИ: как стартап создает уникальные чипы под каждую модель
Компания Taalas, которая создаёт процессоры, заточенные под выполнение конкретных моделей искусственного интеллекта, привлекла инвестиции на $169 миллионов. Финансирование обеспечили Quiet Capital, Fidelity и венчурный инвестор Пьер Ламонд (Pierre Lamond). Общая сумма полученных компанией средств теперь превышает $200 млн.
Taalas перестала быть скрытым проектом в марте 2023 года. Стартап специализируется на разработке чипов для определённых больших языковых моделей (LLM). Его первым продуктом стал процессор, оптимизированный для модели Llama 3.1 8B. По заявлениям компании, это решение способно генерировать до 17 тысяч токенов в секунду, что в 73 раза превышает показатель NVIDIA H200, при этом энергопотребление снижено в 10 раз.
Источник изображения: Taalas
Специальная адаптация аппаратных ускорителей под определённую ИИ-модель позволяет повысить быстродействие и энергоэффективность, поскольку устраняет лишние компоненты. Однако проектирование таких специализированных чипов — задача сложная и затратная. Taalas нашла решение, разработав архитектуру, где для точной настройки требуется изменить только два слоя из более чем ста, составляющих чип. Кроме того, компания не использует дорогую память HBM, что также упрощает конструкцию, избавляя от необходимости в компонентах для её обслуживания.
Сейчас Taalas ведёт работу над процессором для запуска модели Llama с 20 миллиардами параметров, выход которого запланирован на это лето. В дальнейшем появится более производительный чип, рассчитанный на продвинутые LLM.
Источник: