Akamai запускает AI Inference Service и Agent Execution Environment
Akamai запускает AI Inference Service и Agent Execution Environment
Akamai (Nasdaq: AKAM) представила два базовых продукта для своего стека ИИ: Akamai Inference и Akamai Agent Sandbox , которые обеспечивают управляемое обслуживание моделей и изолированное выполнение для агентов ИИ в облаке Akamai. Благодаря этим дополнениям предприятия могут создавать и настраивать собственные или размещенные модели с открытыми весами, использовать собственные данные, запускать агентов в рамках установленных ограничений и обеспечивать безопасность приложений, агентов и задействованной инфраструктуры — все это на одной облачной платформе с оптимизированной для ИИ инфраструктурой.
Эти возможности знаменуют собой последний шаг в стратегии Akamai в области ИИ: предоставление предприятиям надежной глобальной инфраструктуры и сервисов, необходимых для обслуживания, запуска и защиты приложений и агентов ИИ в непосредственной близости от пользователей и данных, от которых они зависят. Akamai Inference и Akamai Agent Sandbox теперь добавляют управляемые сервисы поверх этой инфраструктуры — основы, которая уже обеспечила многолетние контракты для Akamai Cloud на общую сумму более 14 миллиардов долларов. Этот импульс подчеркивает, как способность Akamai использовать как процессоры, так и графические процессоры — вместе с облачным хранилищем, сетевыми и периферийными функциями в своей взаимосвязанной глобальной сети — быстро становится надежной основой для клиентов, позволяющей создавать, развертывать и эксплуатировать рабочие нагрузки ИИ в масштабе.
Предприятиям, внедряющим ИИ в производство, требуется гораздо больше, чем просто модели. Им необходима сервисная инфраструктура, доступ к данным, маршрутизация и управление, а также, по мере того как агенты начинают писать и выполнять собственный код, четкие ограничения на то, к чему этот код может получить доступ. Большинство команд собирают эти компоненты от разных поставщиков и самостоятельно обеспечивают безопасность точек взаимодействия. Akamai Cloud теперь предоставляет подключенную среду ИИ, размещенную на континууме вычислительных ресурсов, который простирается от плотных кластеров GPU и CPU в центральных регионах до более чем 4350 периферийных точек, и защищенную тем же портфелем безопасности, который защищает многие крупнейшие мировые онлайн-компании.
«Мы внедряем стратегию развития инфраструктуры ИИ, основанную на предположении, что основное внимание и инвестиции предприятий будут сосредоточены на выводе данных в рамках ИИ. Наши клиенты подтвердили этот тезис и подтолкнули нас к дальнейшим шагам», — сказал Адам Карон, главный операционный директор и генеральный менеджер Akamai Cloud. «Они хотят создавать, запускать и защищать ИИ на одной платформе. Akamai Inference и Akamai Agent Sandbox добавляют уровни вывода и выполнения, превращая нашу инфраструктуру ИИ в полноценный стек ИИ, а наш портфель решений по безопасности защищает каждый ее уровень. Akamai обладает уникальными возможностями для того, чтобы использовать свой масштаб и распределенность для решения задач масштабируемого вывода данных в реальном времени и агентных рабочих нагрузок».
Доступ к моделям без работы со стеком: Akamai Inference
Akamai Inference предоставляет предприятиям управляемый доступ к моделям с открытыми весами и пользовательским моделям через API, совместимые с OpenAI, что позволяет переносить существующие приложения без переписывания кода. Клиенты могут выбрать бессерверную архитектуру, модель с оплатой по факту использования или выделенные развертывания. На момент запуска каталог включает 12 моделей с открытыми весами, содержащих от 8 миллиардов до 2,8 триллионов параметров, в том числе NVIDIA™ Nemotron 3 Ultra, OpenAI™ gpt-oss-120b и Google™ Gemma 4, а также модели встраивания для генерации с дополненной реальностью.
Akamai Cloud предоставляет доступ к управляемым базам данных и объектному хранилищу, а также обеспечивает бесперебойное подключение к частным и публичным облачным платформам, позволяя моделям использовать корпоративные данные. Затем Akamai Inference берет на себя оркестрацию, выполнение моделей и аутентификацию. Запросы обрабатываются в глобальной сети Akamai, что снижает задержку и помогает обеспечить высокую доступность и стабильную производительность при сохранении предсказуемого уровня обслуживания.
Предоставьте агентам место для выполнения действий: Akamai Agent Sandbox
Искусственный интеллект все чаще выполняет реальную работу, от принятия решений от имени пользователя до написания и запуска собственного кода. Akamai Agent Sandbox предоставляет разработчикам безопасное место для запуска и того, и другого. Агенты работают на Akamai Functions, а написанный ими код выполняется в собственной изолированной среде, изолированной от среды выполнения агента. Akamai Agent Sandbox, являясь компонентом с открытым исходным кодом фреймворка Spin, использует изоляцию WebAssembly для установки четких ограничений на вычислительные ресурсы, исходящие соединения с памятью и возможности системы. Разработчики могут развертывать агентов, будучи уверенными в том, где они работают и к чему имеют доступ.
Изоляция агентов сближается в нескольких моделях, от микровиртуальных машин с возможностью создания снимков и создания форков до контейнеров, управляемых политиками, и функций, изолированных с помощью WebAssembly. Akamai позволяет разработчикам выбирать архитектуру, соответствующую их рабочей нагрузке, с инфраструктурой на базе NVIDIA с ускорением и выделенными процессорами, управляемым Kubernetes и Akamai Functions для бессерверного выполнения на периферии и в ядре. Akamai также планирует добавить возможности, определяющие, к чему могут обращаться агенты и что может обращаться к ним.
Разрабатывайте и настраивайте системы на более широком парке графических процессоров: NVIDIA Blackwell Ultra сегодня, Vera Rubin — в будущем.
Компания Akamai также расширила свой парк выделенных графических процессоров, включив в него кластеры NVIDIA Blackwell Ultra, и готовит свою инфраструктуру к поддержке платформы NVIDIA Vera Rubin в следующем году. Теперь парк графических процессоров Akamai включает в себя NVIDIA RTX PRO™ 6000 Blackwell Server Edition® для выполнения инференции с низкой задержкой и кластеры NVIDIA Blackwell Ultra для предприятий, которые хотят создавать, настраивать и размещать модели на контролируемой ими инфраструктуре. Akamai также готовит свои центры обработки данных к поддержке платформы NVIDIA Vera Rubin в 2027 году.
Каждый узел Blackwell Ultra с восемью графическими процессорами имеет 288 ГБ памяти HBM3e на каждый графический процессор, что в сумме составляет 2,3 ТБ — этого достаточно для размещения моделей передового класса. Архитектура Blackwell Ultra ориентирована на рабочие нагрузки, требующие такого объема памяти: масштабирование во время тестирования, логическое мышление и агентная работа с длительным контекстом. Кластеры графических процессоров предоставляют предприятиям контроль над версиями моделей и сроками устаревания, а также работают без ограничений скорости или очередей с общим доступом. Они подключаются к тем же службам данных, сети и безопасности, что и остальная часть облака Akamai.
«Предприятиям не следует выбирать между скоростью и контролем при внедрении ИИ в производство», — сказал Джон Александер, старший вице-президент по облачным технологиям в Akamai. «Некоторые команды хотят выпустить функцию ИИ в этом квартале на управляемой платформе. Другим нужны выделенные графические процессоры для запуска передовых открытых моделей на своих собственных условиях. Каждой команде, работающей с агентами, необходима защита кода, который эти агенты пишут. Akamai Cloud теперь поддерживает все эти функции на одной платформе, обеспечивая встроенную безопасность и отказоустойчивость».
Доступность
Akamai Agent Sandbox (через Spin SDK) и Akamai Inference доступны в бета-версии. Бета-версия Akamai Inference включает варианты развертывания без использования серверов. Для получения информации о доступности кластеров с графическими процессорами NVIDIA B300 обращайтесь в отдел продаж Akamai.
О компании Akamai
Akamai — это облачная компания, которая обеспечивает работу и защиту мира, управляемого искусственным интеллектом. Наша облачная платформа расширяет возможности высокопроизводительных облачных вычислений от ядра до периферии, позволяя организациям создавать и масштабировать приложения ИИ нового поколения и обеспечивая комплексную многоуровневую безопасность для защиты предприятий от постоянно меняющихся киберугроз.
