MSI G4201-HE: Новый GPU-сервер на Intel Xeon Emerald Rapids для LLM и AI-инференса

MSI G4201-HE: Новый GPU-сервер на Intel Xeon Emerald Rapids для LLM и AI-инференса

Анонсирован сервер на базе процессоров Intel Xeon Emerald Rapids, ориентированный на задачи тонкой настройки больших языковых моделей (LLM) и AI-инференса. Устройство рассчитано на эксплуатацию в...

Selectel и ИТМО запускают совместное предприятие для промышленной платформы мультиагентных ИИ-систем

Selectel и ИТМО запускают совместное предприятие для промышленной платформы мультиагентных ИИ-систем

Совместное предприятие Selectel и ИТМО сфокусировано на создании платформы для разработки, внедрения и эксплуатации мультиагентных систем на базе больших языковых моделей (LLM). Решение предназначено...

США перекрывают ИИ-кислород: Австрия требует от ЕС срочно переманить создателя ChatGPT-конкурента на свою землю

США перекрывают ИИ-кислород: Австрия требует от ЕС срочно переманить создателя ChatGPT-конкурента на свою землю

Австрия предлагает властям Евросоюза расширить присутствие Anthropic на территории блока. Предложение было сделано после того, как США ввели ограничения на доступ некоторых иностранных пользователей...

Секретный чип OpenAI и Broadcom: Jalapeño перевернет рынок ИИ-инференса?

Секретный чип OpenAI и Broadcom: Jalapeño перевернет рынок ИИ-инференса?

Совместная разработка OpenAI и Broadcom, чип Jalapeño, представляет собой кастомный ускоритель, спроектированный с нуля под задачи инференса больших языковых моделей. Первые тесты демонстрируют...

Регулирование ИИ в России: проект закона урезали до 13 статей и привязали к LLM

Регулирование ИИ в России: проект закона урезали до 13 статей и привязали к LLM

22 июня комиссия правительства по законопроектной деятельности рассмотрит проект «О поддержке развития технологий ИИ в РФ». По данным «Коммерсанта», документ внесут в Госдуму до конца недели....

Gartner бьет тревогу: 80% проектов с генеративным ИИ обречены на провал из-за ошибок в архитектуре

Gartner бьет тревогу: 80% проектов с генеративным ИИ обречены на провал из-за ошибок в архитектуре

По данным Gartner, более половины проектов в сфере генеративного ИИ и разработки кастомных моделей закончатся неудачей. Основные причины — завышенные ожидания, неправильный выбор архитектуры и...

Gartner: Стоимость запуска ИИ упадет в 10 раз, но за качество придется платить

Gartner: Стоимость запуска ИИ упадет в 10 раз, но за качество придется платить

Аналитики Gartner прогнозируют, что к 2030 году себестоимость инференса — процесса выполнения уже обученной модели — для крупных языковых моделей снизится более чем на 90% по сравнению с уровнем 2025...

GPT Model Hub: платформа для развертывания и работы с большими языковыми моделями в облаке

GPT Model Hub: платформа для развертывания и работы с большими языковыми моделями в облаке

Запущен облачный сервис для развертывания и эксплуатации больших языковых моделей. Решение предоставляет готовую платформу, которая позволяет компаниям безопасно интегрировать и масштабировать...

Бывшие инженеры Google привлекли полмиллиарда долларов на создание чипа для ИИ, чтобы бросить вызов NVIDIA

Бывшие инженеры Google привлекли полмиллиарда долларов на создание чипа для ИИ, чтобы бросить вызов NVIDIA

Компания, основанная экс-сотрудниками Google, завершила раунд финансирования серии B на $500 млн. Средства направлены на финальную стадию разработки и масштабирование производства специализированного...

ИИ-ускоритель для Raspberry Pi 5: 8 ГБ памяти для локальных LLM и компьютерного зрения

ИИ-ускоритель для Raspberry Pi 5: 8 ГБ памяти для локальных LLM и компьютерного зрения

Представлен комплект для аппаратного ускорения ИИ-задач на базе Raspberry Pi 5. Устройство, выполненное в форм-факторе M.2, оснащено 8 ГБ оперативной памяти и предназначено для эффективной работы с...

Alice AI от Яндекса: теперь в облаке для бизнеса

Alice AI от Яндекса: теперь в облаке для бизнеса

Бизнес-направление «Яндекса», отвечающее за корпоративные технологии, интегрировало в свою облачную платформу семейство больших языковых моделей Alice AI LLM. Модели, представляющие собой наиболее...