В будущем году Tiny Corp планирует запустить продажи мощных контейнерных систем искусственного интеллекта Exabox по цене 10 миллионов долларов, пишет Phoronix. Фирма зарекомендовала себя благодаря созданию открытого фреймворка Tinygrad, а также независимого стека драйверов для AI-ускорителей AMD и собственного оборудования Tinybox. Детальные технические параметры пока не раскрываются, однако производитель заявляет, что продукт предложит наилучшее в своём сегменте сочетание вычислительной мощности, объёма памяти и сетевой пропускной способности относительно стоимости.
Exabox — это суперкомпьютер в компактном 20-футовом контейнере, оснащённый всей необходимой инфраструктурой, включая программное обеспечение. Для начала работы потребуется лишь подготовленная бетонная площадка и источник электропитания. Пользователи смогут наращивать AI-инфраструктуру, объединяя несколько контейнеров в единый кластер. Готовятся к выпуску «красная» и «зелёная» версии на базе ускорителей AMD и NVIDIA соответственно, которые будут связаны интерконнектом 400G.
По оценкам разработчиков, при 50% уровне утилизации вычислительных ресурсов (MFU) на обучение модели, сопоставимой по масштабу с китайской Kimi, может потребоваться около 10 недель. Программная платформа Tinyguard позволит использовать контейнер как единый AI-ускоритель, но ничто не мешает применять и другие фреймворки, например PyTorch. Первая поставка Exabox намечена на второй или третий квартал 2027 года, однако предзаказы уже открыты. Внесение возвращаемого депозита в размере 100 тысяч долларов позволяет забронировать систему.
Источник изображения: Tiny Corp
Безусловно, контейнерные дата-центры — не новинка. Ещё в 2007 году Sun Microsystems анонсировала похожую концепцию Blackbox. В целом модульные решения уже прочно вошли в практику. Например, Armada представила контейнерный AI-дата-центр, LG разработала модульные системы AI Box, а Crusoe запустила периферийные дата-центры Crusoe Edge Zones на основе модулей Spark.
Источник: