Компания анонсировала специализированную платформу хранения контекста для инференса (ICMSP), предназначенную для решения проблемы масштабирования кэша ключей и значений (KV-cache) в больших языковых...