Блог

  • Выполнение агента в Power Automate: концепция, поведение и практическая реализация

    В этой статье объясняется концепция выполнения агента в потоке Power Automate, принцип его работы и ситуации, в которых используются разные действия выполнения. Также рассматривается практический сценарий, демонстрирующий, как один агент может запускать поток, который вызывает другой агент для выполнения независимой обработки.

    Понимание концепции выполнения агента

    Выполнение агента — это действие в потоке Power Automate, которое позволяет вызвать агента и запустить выполнение определённых шагов.

    При использовании этого действия происходит следующее:

    1. Поток Power Automate отправляет сообщение агенту Copilot для начала диалога.

    2. Поток сразу переходит к следующему шагу, не дожидаясь завершения обработки агентом.

    Например, если первым действием в потоке является Execute Agent, поток вызовет агента, но не будет ждать ответа. Он просто продолжит выполнение следующего шага.

    Когда полезно действие Execute Agent

    Такое поведение полезно, когда необходимо:

    • инициировать независимый диалог

    • запустить фоновую операцию

    • выполнить агента, результат которого не нужен в общем рабочем процессе

    Другими словами, если агент выполняет действие самостоятельно после запуска — и это действие не влияет на остальную часть потока — тогда Execute Agent является правильным выбором.

    Этот тип выполнения является асинхронным, что означает:

    • агент работает независимо

    • поток сразу продолжает выполнение

    • результат работы агента нельзя надёжно использовать в следующих шагах потока

    Execute Agent и Execute Agent and Wait

    Существует два связанных действия:

    Execute Agent

    • асинхронное выполнение

    • вызывает агента и сразу продолжает работу

    • не ожидает ответа

    • нельзя надёжно использовать результат агента

    Execute Agent and Wait

    • синхронное выполнение

    • вызывает агента и ждёт завершения обработки

    • возвращает результат, который можно использовать дальше

    Проще говоря:

    • используйте Execute Agent, если нужно только запустить агента

    • используйте Execute Agent and Wait, если нужен ответ агента

    Параметры и структура ответа

    При выполнении агента можно передать следующие параметры:

    • ID диалога (Conversation ID)

    • ID среды (Environment ID)

    • тело или сообщение (Body / Message)

    Агент может вернуть:

    • тело ответа агента

    • ID диалога

    • ответ агента

    Однако при асинхронном выполнении поток может продолжить работу до завершения обработки агентом. Поэтому возвращённый ответ может быть недоступен или некорректен в момент его использования.

    По этой причине опора на результат агента при асинхронном выполнении обычно не имеет смысла.

    Пример сценария: вызов агента из потока

    Рассмотрим пример, в котором существует агент круизного лайнера. Задача — вызвать этого агента через поток Power Automate.

    Требования к среде

    Распространённая ошибка — создание агента и потока в разных средах. Чтобы избежать проблем:

    • агент и поток должны находиться в одной среде

    • поток должен быть связан с решением (solution-aware)

    • перед созданием потока необходимо выбрать или создать решение в нужной среде

    Можно:

    • создать собственное решение

    • использовать существующее решение, связанное с агентом

    Создание потока

    Внутри решения:

    1. создайте новый автоматизированный поток

    2. задайте понятное имя (например, “Execute Agent Feb 2026”)

    3. добавьте триггеры, например:

      • когда агент вызывает поток

      • ответ агенту

    Сохраните поток и убедитесь, что он правильно переименован.

    Структура потока и логика

    Внутри потока:

    • триггер позволяет агенту запускать поток

    • поток может выполнять логику (например, действие compose)

    • добавляется действие Execute Agent для вызова другого агента

    Можно выбрать нужного агента и передать параметры, например сообщение.

    Пример передаваемого сообщения:

    cruise from Netherlands

    Поток также может включать:

    • обработку входных параметров

    • ответ Copilot

    • выходные параметры

    Однако при асинхронном выполнении выходные значения могут быть пустыми, потому что обработка ещё не завершена в момент формирования ответа.

    Почему результат агента может быть недоступен

    При асинхронном выполнении происходит следующее:

    1. поток доходит до Execute Agent

    2. поток вызывает агента

    3. агент начинает обработку

    4. поток сразу продолжает выполнение

    Поскольку агент всё ещё работает, ответ может ещё не существовать. Поэтому использование выходных данных в этом сценарии часто не имеет смысла.

    Публикация потока

    Если выходные данные не нужны, можно удалить лишние переменные ответа и опубликовать поток.

    После этого:

    • поток вызывает агента круизного лайнера

    • агент обрабатывает данные независимо

    Вызов потока из другого агента

    Далее другой агент (например, демонстрационный агент ALM) может вызывать этот поток.

    Шаги:

    1. создать новую тему внутри второго агента

    2. определить намерение, например «детали круиза»

    3. добавить инструмент, который выполняет созданный поток

    Теперь архитектура выглядит так:

    Агент A → вызывает поток → поток вызывает агента B → агент B обрабатывает данные независимо

    Поведение при выполнении

    Когда запускается второй агент:

    1. определяется соответствующая тема

    2. начинается выполнение потока

    3. может потребоваться аутентификация

    4. поток вызывает агента круизного лайнера

    5. агент круизного лайнера обрабатывает сообщение независимо

    Вызывающему агенту не нужен результат работы агента круизного лайнера.

    Мониторинг выполнения

    Чтобы проверить выполнение:

    • откройте историю запусков потока

    • убедитесь в успешном выполнении

    • просмотрите журнал активности агента

    Агент круизного лайнера покажет активность, вызванную через поток, включая:

    • переданное сообщение («cruise from Netherlands»)

    • выполненную обработку

    • сформированный ответ

    Хотя ответ существует, он не требуется для исходного рабочего процесса.

    Типичные сценарии использования Execute Agent

    Это действие идеально подходит для запуска независимых процессов, например:

    • одноразовые фоновые операции

    • плановые сервисы (ежедневные, еженедельные и т.д.)

    • операции по требованию

    • независимые задачи обработки

    • системные операции обслуживания или автоматизации

    Ключевая идея — агент выполняет работу независимо, и его результат не требуется.

    Итог

    Выполнение агента в Power Automate позволяет потоку запускать действия агента.

    Существует два варианта выполнения:

    • Execute Agent

      • асинхронно

      • только запускает обработку

      • не ждёт ответа

    • Execute Agent and Wait

      • синхронно

      • ждёт завершения обработки

      • возвращает результат

    Если нужно просто запустить независимую работу агента, используйте Execute Agent. Поток отправит сообщение, продолжит выполнение и передаст управление обратно без ожидания результата.

    Если необходим ответ агента, используйте Execute Agent and Wait.

  • Технический обзор Analyst Agent в Microsoft 365 Copilot

    Технический обзор Analyst Agent в Microsoft 365 Copilot

    В этой статье рассматривается Analyst Agent, доступный в Microsoft 365 Copilot. Analyst Agent — это интеллектуальный помощник, встроенный по умолчанию, предназначенный для анализа, интерпретации и обобщения данных из различных источников. Он позволяет преобразовывать сырую информацию в значимые выводы, которые помогают принимать обоснованные решения.

    Для доступа к Analyst Agent требуется действующая лицензия Microsoft 365 Copilot. Агент работает в экосистеме Microsoft 365 и обрабатывает только те данные, к которым у пользователя есть разрешённый доступ.

    Что такое Analyst Agent?

    Analyst Agent — это встроенный аналитический помощник, доступный в Microsoft 365 Copilot. Его основная задача — выполнять структурированный анализ данных и представлять результаты в понятной и пригодной для использования форме.

    Он может:

    • обобщать данные

    • создавать диаграммы и визуализации

    • интерпретировать тренды и закономерности

    • выполнять аналитические рассуждения

    • преобразовывать сырые данные в структурированную информацию

    Агент работает с различными форматами данных, включая:

    • текстовые документы

    • структурированные файлы

    • изображения

    • табличные наборы данных

    По сути, Analyst Agent работает как профессиональный аналитик данных, который быстро извлекает инсайты из исходной информации и превращает их в понятные выводы для принятия решений.

    Основные аналитические возможности

    Интерпретация и суммирование данных

    Агент анализирует содержимое и формирует краткие выводы, позволяя пользователям понимать ключевые результаты без необходимости вручную изучать большие объёмы данных или длинные документы.

    Генерация визуализаций

    Он автоматически создаёт визуальные представления, такие как:

    • столбчатые диаграммы

    • линейные графики

    • круговые диаграммы

    • визуализации трендов

    Это помогает быстрее выявлять закономерности и взаимосвязи.

    Обработка данных с помощью Python

    Для сложного анализа Analyst Agent может выполнять Python-код в реальном времени. Это позволяет:

    • выполнять сложные вычисления

    • трансформировать данные

    • выявлять закономерности

    • проводить статистический анализ

    Агент отображает выполняемый код и фиксирует шаги анализа.

    Безопасный доступ к данным

    Агент обрабатывает только те данные, к которым пользователь имеет доступ. Он не анализирует информацию без соответствующих прав.

    Интеграция с несколькими источниками данных

    Агент подключается к различным источникам в Microsoft 365, включая недавно использованные файлы и облачные документы. Он может анализировать:

    • таблицы Excel

    • документы Word

    • панели Power BI

    • загруженные файлы

    • изображения

    Его задача — сканировать источники и извлекать значимые инсайты.

    Доступ и установка Analyst Agent

    При переходе в среду Microsoft 365 Copilot Analyst Agent может не отображаться сразу в интерфейсе. Если он отсутствует, его необходимо добавить в тенант.

    Типичная последовательность действий:

    1. Перейти на облачный портал Microsoft 365.

    2. Открыть раздел Agents в левой панели навигации.

    3. Если агент не отображается, открыть All Agents.

    4. Найти агента среди решений, созданных Microsoft.

    5. Выбрать Analyst Agent и нажать Add.

    6. После установки нажать Open для запуска.

    После появления агент нельзя удалить, но его можно предоставить другим пользователям.

    Обзор интерфейса Analyst Agent

    После открытия интерфейс включает:

    • поле ввода запроса

    • инструменты загрузки файлов и прикрепления контента

    • историю взаимодействий

    • рекомендованные аналитические запросы

    • рекомендации системы

    • голосовой ввод

    • настройки и параметры производительности

    • запланированные запросы

    • недавние страницы

    Все предыдущие аналитические сессии доступны в разделе истории.

    Доступные аналитические запросы

    Система предлагает встроенные варианты запросов, например:

    • определить тренды в загруженных файлах

    • выявить корреляцию переменных

    • визуализировать взаимосвязи

    • получить быстрые инсайты из данных

    • создать структурированные таблицы

    • выполнить сравнительный анализ

    Также можно вводить собственные запросы.

    Пример: анализ документа

    Распространённый сценарий — анализ большого документа, например годового отчёта.

    Процесс

    1. Загрузить документ через Add Content.

    2. Выбрать файл с локального устройства или из облака.

    3. Подтвердить загрузку (обработка выполняется через корпоративное хранилище).

    4. Отправить запрос, например:
      «Какие основные выводы можно сделать из данных загруженного файла?»

    Процесс обработки

    Во время анализа агент:

    • разбирает структуру документа

    • исследует содержимое

    • выполняет Python-код

    • анализирует финансовые закономерности

    • выделяет ключевые моменты

    • формирует итоговые выводы

    Каждый этап отображается пользователю, включая выполнение кода и лог анализа.

    Время обработки зависит от размера и сложности данных и может составлять от одной до десяти и более минут.

    Прозрачность и аудит процесса

    В отличие от инструментов, которые показывают только результат, Analyst Agent предоставляет:

    • пошаговые журналы обработки

    • записи выполнения кода

    • аналитическое обоснование

    • ссылки на источники

    Это обеспечивает прозрачность формирования выводов.

    Пример: анализ изображения

    Analyst Agent также способен анализировать данные, содержащиеся в изображениях.

    Если изображение содержит структурированную информацию (например, финансовое распределение), агент может:

    • определить содержание изображения

    • извлечь структурированный смысл

    • выполнить аналитическое описание

    • предложить построить визуализации трендов

    По запросу агент создаёт графики и предоставляет ключевые выводы.

    Управление диалогами и историей

    Через панель истории можно просматривать предыдущие взаимодействия. Каждая запись содержит:

    • загруженные источники

    • отправленные запросы

    • выполненные шаги анализа

    • полученные выводы

    Любую сессию можно открыть повторно и продолжить работу.

    Отслеживание источников и управление результатами

    Каждый результат анализа включает раздел Sources, где указаны использованные источники.

    Пользователь может:

    • копировать ответы

    • оставлять оценку

    • сохранять результаты на страницы или в блокноты

    • структурировать аналитические материалы

    Пример: создание визуализаций из текстовых данных

    Если документ содержит табличные числовые данные без графиков, агент может автоматически создать визуализации.

    Например, он может:

    • определить сегменты выручки

    • построить сравнительные графики по годам

    • выделить ключевые тенденции

    • создать столбчатые и круговые диаграммы

    • предоставить интерпретацию результатов

    Также агент может предложить дополнительные аналитические улучшения, например выделение сегментов с высоким ростом.

    Расширенное взаимодействие и итерационный анализ

    После получения первичных результатов можно запрашивать дополнительные визуализации или более глубокий анализ, например:

    • распределение сегментов

    • сравнение роста

    • выделение ключевых метрик

    • расчёт доли от общего объёма

    Агент последовательно уточняет анализ на основе новых запросов.

    Информация о разрешениях и лицензировании

    В разделе About доступна информация:

    • необходимые разрешения

    • требования к лицензии

    • описание функций

    • область доступа к данным

    Назначение и стратегическая ценность

    Analyst Agent предназначен для поддержки принятия решений на основе данных за счёт:

    • сокращения ручного анализа

    • автоматизации сложных вычислений

    • повышения наглядности информации

    • объединения данных из разных источников

    • быстрого предоставления структурированных инсайтов

    В основе работы лежат модели глубокого аналитического рассуждения, которые выявляют связи и формируют содержательные выводы.

    Заключение

    Analyst Agent в Microsoft 365 Copilot — это мощный встроенный аналитический инструмент, который обрабатывает структурированные и неструктурированные данные различных форматов. Благодаря автоматизированному анализу, выполнению Python-кода в реальном времени, прозрачным журналам обработки и динамической визуализации он помогает организациям быстро извлекать инсайты и принимать обоснованные стратегические решения.

    Он преобразует сырые данные в практическую аналитическую информацию и является важным инструментом анализа в среде Microsoft 365.

  • Миграция среды между tenants в Power Platform Admin Center

    Миграция среды между арендаторами в Power Platform Admin Center

    Полное руководство по перемещению среды между tenant-ами

    Новая возможность в центре администрирования Power Platform позволяет администраторам переносить целую среду из одного арендатора (tenant) в другой. Это отличается от традиционной миграции решений, которая переносит только компоненты между средами внутри одного арендатора. Миграция tenant-to-tenant позволяет перемещать полностью всю среду между организационными границами.

    В этой статье рассматриваются сценарии использования, требования, поддерживаемые типы сред, предварительные условия, процесс миграции, административные действия и важные ограничения.

    1. Типичный сценарий миграции между арендаторами

    Рассмотрим организацию, которая использует несколько арендаторов:

    • Основной корпоративный tenant для рабочих приложений, потоков, агентов и операционных задач.

    • Отдельный tenant для разработки, где команда исследует возможности, тестирует функции и проводит эксперименты.

    Предположим, что в dev-tenant создано что-то ценное, и это нужно перенести в основной tenant компании. Вместо экспорта отдельных компонентов или решений можно перенести всю среду целиком из одного tenant в другой.

    Это принципиально отличается от миграции между средами внутри одного tenant, где обычно используются:

    • управляемые решения (managed solutions)

    • неуправляемые решения (unmanaged solutions)

    Эти методы переносят только компоненты. Миграция между арендаторами переносит всю среду.

    2. Перемещение среды в Power Platform Admin Center

    Когда администратор выбирает среду в центре администрирования Power Platform, появляется опция Move environment.

    После запуска перемещения отображаются статусы, например:

    • Pending request for approval to move environments

    • Your request to move environments is pending approval

    Возможны две ситуации:

    1. Вы отправили запрос на перенос среды в другой tenant.

    2. Другой tenant отправил запрос на перенос среды к вам.

    Каждый запрос должен быть рассмотрен и одобрен.

    3. Требование управляемых сред (Managed Environments)

    Миграция tenant-to-tenant поддерживается только для управляемых сред.

    Управляемая среда предоставляет расширенные функции управления и контроля, которые недоступны в обычных средах.

    4. Поддерживаемые и неподдерживаемые типы сред

    Не все среды можно переносить.

    Поддерживаются

    • Production

    • Sandbox

    Не поддерживаются

    • Developer

    • Default

    • Trial

    • Teams

    Также нельзя переносить Dataverse-организации, связанные с Finance and Operations (актуально на конец 2025 года).

    5. Различия идентификации и лицензирования

    Исходный и целевой tenant независимы, поэтому:

    • домены пользователей различаются

    • email-адреса различаются

    • лицензии могут отличаться

    • административные роли разделены

    Пример:

    • источник: girish.onmicrosoft.com

    • назначение: girishinc.onmicrosoft.com

    Пользовательские данные должны быть сопоставлены при миграции.

    6. Требуемые административные права

    Миграция — это административная операция.

    Необходимы права администратора:

    • в исходном tenant

    • в целевом tenant

    7. Что переносится

    Переносится вся среда, включая:

    • Power Apps

    • Power Automate flows

    • ресурсы Copilot Studio

    • данные Dataverse

    Но некоторые элементы требуют ручных действий.

    8. Что нужно экспортировать или настраивать вручную

    Ручной экспорт

    • решения Power Apps

    • чат-боты Copilot Studio

    Ручная настройка

    • connectors

    • environment variables

    • connections

    • gateways

    Очистка

    • solution-aware apps нужно удалить после экспорта

    9. Требование PowerShell

    PowerShell для администрирования Power Platform должен быть установлен:

    • у администратора источника

    • у администратора назначения

    Он устанавливается из PowerShell Gallery и используется для выполнения команд миграции.

    Некоторые действия нельзя выполнить через интерфейс.

    10. Перенастройка интеграций после миграции

    Некоторые сервисы требуют перенастройки:

    • Dynamics 365 for Outlook

    • server-side synchronization

    • интеграция с SharePoint

    Например, если SharePoint был связан с исходным tenant, нужно перенастроить связь в целевом.

    11. Файл сопоставления пользователей (критически важен)

    Нужно создать файл сопоставления пользователей (обычно Excel).

    Он содержит:

    • user principal name источника

    • соответствующий пользователь назначения

    Пример:

    Пользователь источника Пользователь назначения
    g@g.onmicrosoft.com g1@gcorp.onmicrosoft.com

    После миграции владельцы записей заменяются согласно сопоставлению.

    12. Отправка запроса на перенос

    Процесс начинается с выбора среды и команды Move environment.

    Система формирует:

    • migration request

    • target tenant ID

    • migration ID

    Среда не переносится сразу — требуется одобрение целевого tenant.

    13. Команды PowerShell

    Submit migration request

    Указать среду и tenant назначения.

    View migration requests

    Проверить статус.

    View approval requests

    Посмотреть ожидающие одобрения.

    Approve migration

    Использовать migration ID.

    14. Определение source и destination

    Каждый tenant имеет:

    • уникальный tenant ID

    • собственный домен

    • отдельный набор пользователей

    Перенос возможен в обе стороны при наличии админ-доступа.

    15. Как узнать target tenant ID

    В Power Platform Admin Center:

    • открыть session details

    • найти target tenant ID

    16. Отправка запроса не запускает перенос сразу

    Перенос начинается только после:

    1. проверки запроса

    2. одобрения через PowerShell

    17. Просмотр ожидающих запросов

    Администратор может:

    • просмотреть запросы

    • проверить детали

    • отменить перенос

    18. Одобрение миграции

    Требуется:

    1. получить migration ID

    2. выполнить команду approval

    Через интерфейс это пока сделать нельзя.

    19. Отслеживание статуса

    Возможные статусы:

    • pending

    • submitted

    • awaiting approval

    20. Отмена миграции

    Можно отменить до одобрения:

    • отклонить запрос

    • не выполнять approval

    21. Ограничения (на начало 2026 года)

    • только managed environments

    • только production и sandbox

    • Finance and Operations Dataverse не поддерживается

    • часть компонентов экспортируется вручную

    • интеграции перенастраиваются вручную

    • approval только через PowerShell

    22. Общий алгоритм миграции

    1. Подготовка среды

    2. Ручной экспорт компонентов

    3. Создание файла сопоставления пользователей

    4. Установка PowerShell

    5. Отправка запроса

    6. Получение migration ID

    7. Одобрение в целевом tenant

    8. Перенастройка сервисов

    23. Заключение

    Миграция среды между арендаторами в Power Platform Admin Center позволяет переносить полностью рабочие среды между tenant-ами, а не отдельные компоненты. Это особенно полезно, когда разработка, тестирование и эксплуатация выполняются в разных арендаторах.

    Процесс требует подготовки, административной координации, использования PowerShell и корректного сопоставления пользователей. При правильной организации перенос среды между арендаторами становится управляемым процессом, поддерживаемым технологиями Microsoft.

  • Windows AI Foundry: создание приватных AI-приложений на Windows

    Windows AI Foundry: создание приватных AI-приложений на Windows

    Windows AI Foundry — это комплексная платформа, созданная для того, чтобы разработчики могли интегрировать возможности искусственного интеллекта напрямую в приложения для Windows. В её основе лежит локальный запуск AI-моделей на устройствах Windows с использованием аппаратного ускорения для оптимальной производительности. Вместо зависимости от облачных сервисов платформа предоставляет набор инструментов, API и встроенных моделей, которые работают прямо на вашем ПК, ноутбуке или частном сервере.

    Такой подход «local-first» позволяет создавать интеллектуальные, ориентированные на приватность приложения, максимально использующие возможности аппаратного обеспечения Windows. Даже если устройство не подключено к интернету, модели продолжают работать безопасно и конфиденциально. Нет внешних вызовов сервисов, скрытой передачи данных или зависимости от сторонних провайдеров. Всё остаётся на устройстве.

    Зачем использовать Windows AI Foundry?

    Windows AI Foundry создана для сценариев, где важны приватность, безопасность и возможность офлайн-работы. Типичные варианты использования включают:

    • Суммаризацию текста и создание отчётов

    • Семантический поиск для обнаружения контента

    • Генерацию, масштабирование и улучшение изображений

    • Апскейлинг видео

    • Обнаружение объектов и сегментацию изображений

    • Распознавание текста на изображениях и в сканированных документах

    Если вам нужен безопасный экосистемный подход без отправки данных в большие языковые модели, размещённые в интернете, Windows AI Foundry предлагает инфраструктуру, адаптированную под конкретные сценарии и задачи, которые не взаимодействуют с внешним миром.

    Локальное выполнение с Foundry Local

    В центре экосистемы находится Foundry Local. Это ключевой механизм, позволяющий запускать AI-модели в вашей собственной инфраструктуре — на ПК, ноутбуке или частном сервере. Windows AI Foundry ориентирована на операционную систему Windows, тогда как Azure AI Foundry (также известная как Microsoft Foundry) является облачной альтернативой.

    Если вашему приложению необходимо полностью оставаться на устройстве Windows по соображениям приватности или соответствия требованиям, Foundry Local — идеальный выбор. Он даёт полный контроль над выполнением моделей, их хранением и настройкой в локальной среде.

    Встроенные модели и готовые API

    Windows AI Foundry включает встроенные модели и готовые к использованию API. Например:

    • Silica — небольшая языковая модель для генерации текста, оптимизированная под NPU

    • Распознавание текста для извлечения текста из изображений и сканированных документов

    • Описание изображений и семантический поиск

    • Масштабирование, повышение резкости и удаление объектов на изображениях

    • Идентификация объектов

    Все эти сервисы работают полностью внутри операционной системы. Вам не нужно подключаться к интернету или использовать сторонние сервисы. Хотя здесь перечислены лишь несколько примеров, возможности практически безграничны. Вы можете выполнять многие из тех же операций, которые обычно реализуются в облачных сервисах, но локально в Windows AI Foundry.

    Тонкая настройка и кастомизация моделей

    Разработчики могут дообучать встроенные модели с помощью low-rank adaptation (LoRA). Windows AI Foundry интегрируется с Foundry Local, который является центральным элементом экосистемы. Разработчики могут просматривать, тестировать и развёртывать open-source модели, оптимизированные под CPU, GPU и NPU.

    Эта гибкость позволяет выбирать подходящую модель под конкретный сценарий — будь то текст, изображения, аудио или код — и адаптировать её под собственные задачи.

    ONNX и кросс-аппаратная совместимость

    Ключевой концепцией Windows AI Foundry является ONNX (Open Neural Network Exchange). Windows ML выступает в роли рантайма инференса, упрощая развёртывание пользовательских ONNX-моделей на различном оборудовании.

    Это означает, что модели, созданные Meta, Google, Microsoft и другими, могут взаимодействовать друг с другом. Вы не привязаны к одному провайдеру, а ваши модели остаются переносимыми и совместимыми между CPU, GPU и NPU.

    Архитектура Foundry Local в общих чертах

    Архитектура Foundry Local состоит из нескольких уровней:

    • Аппаратный уровень: CPU, GPU и NPU на сервере, ноутбуке или ПК

    • Опыт разработчика: инструменты командной строки, SDK или приложения для взаимодействия с моделями

    • Управление моделями: получение, компиляция, загрузка и локальное кэширование моделей

    • Слой коммуникации: HTTP или именованные каналы для связи с сервисом Foundry Local

    • Рантайм: ONNX Runtime для выполнения моделей

    • Кэш моделей: локальное хранилище загруженных или подключённых моделей

    Такой дизайн позволяет моделям от разных провайдеров работать в единой среде, полностью в рамках локальной инфраструктуры.

    Изучение моделей и API с помощью AI Dev Gallery

    В Windows AI Foundry есть приложение из Microsoft Store под названием AI Dev Gallery. Оно предоставляет примеры моделей, API и готовые к запуску демонстрации, такие как:

    • Классификация изображений

    • Обнаружение объектов

    • Сегментация изображений

    • Транскрибация аудио

    • Перевод текста

    • Генерация и суммаризация текста

    • Super-resolution изображений

    Вы можете выбрать предустановленную модель, загрузить новую или загрузить модель с диска. Система подстраивается под конфигурацию вашего оборудования — CPU, GPU или NPU — и предлагает подходящие модели в зависимости от возможностей устройства.

    Каждый пример можно экспортировать в Visual Studio Code вместе с исходным кодом, чтобы вы могли изучить, изменить и интегрировать его в собственное приложение.

    Установка и использование Foundry Local

    Установка Foundry Local максимально проста. Это похоже на установку обычного приложения. После установки он предоставляет интерфейс командной строки и локальный сервис для управления выполнением моделей.

    Из командной строки вы можете просматривать список доступных моделей, загружать их, загружать в память и запускать. Модели кэшируются локально, поэтому после первой загрузки их можно использовать повторно без повторного скачивания.

    Затем вы можете отправлять запросы в локально запущенную модель. Поскольку модель работает офлайн, она отвечает, опираясь на свои внутренние знания и данные обучения. Она не обращается к интернету или внешним сервисам, что делает её идеальной для приложений, чувствительных к приватности.

    Windows AI Foundry vs. Azure AI Foundry

    Windows AI Foundry предназначена для локального выполнения на устройствах Windows. Azure AI Foundry, в свою очередь, является облачным решением, предлагающим более широкий набор моделей, инструментов и сервисов.

    Если вы хотите создать облачное AI-приложение с богатыми интеграциями, Azure AI Foundry — правильный выбор. Если же вам нужно самодостаточное приложение, которое полностью работает на локальном ПК или в частной инфраструктуре, Windows AI Foundry подойдёт лучше.

    Итог

    Windows AI Foundry приносит мощные AI-возможности прямо на устройства Windows. Благодаря локальному выполнению, встроенным моделям, совместимости с ONNX и аппаратному ускорению она позволяет создавать безопасные, приватные и офлайн-доступные AI-приложения.

    Будь то генерация текста, анализ изображений, транскрибация аудио или семантический поиск, Windows AI Foundry предлагает гибкую экосистему, работающую на разных устройствах, моделях и типах оборудования — без отправки данных в облако.

  • Действительно ли .NET Aspire является открытым исходным кодом?

    Действительно ли .NET Aspire является открытым исходным кодом?

    .NET Aspire позиционируется как бесплатная платформа с открытым исходным кодом. Однако это заявление заслуживает более внимательного рассмотрения. Более глубокий анализ внутренних компонентов выявляет проприетарный элемент в самом центре системы оркестрации — что поднимает серьёзные вопросы о прозрачности, лицензировании и доверии.

    Более пристальный взгляд на среду выполнения Aspire

    После создания нового приложения Aspire в Windows и его запуска всё поначалу выглядит нормально. Панель управления запускается корректно, а опыт разработчика соответствует ожиданиям от инструмента с открытым исходным кодом на .NET.

    Однако при изучении установленных пакетов NuGet — в частности Azure Hosting App Orchestration Tools — обнаруживается странный исполняемый файл: DCP.exe.

    Что это за файл? Почему он там?

    Тот же бинарник на macOS

    Повторение эксперимента на macOS приводит к тому же результату. Хотя версия Aspire там немного старее, тот же бинарный файл DCP появляется в папке пакетов.

    Это поднимает критический вопрос:
    Если Aspire — это открытый исходный код, почему он включает закрытый исполняемый файл?

    Лицензия рассказывает другую историю

    Открытие лицензионного файла, связанного с этим бинарником, выявляет нечто неожиданное:
    Microsoft Developer Control Plane.

    Условия лицензии ясно дают понять, что это проприетарное программное обеспечение. Соглашение прямо запрещает реверс-инжиниринг, декомпиляцию или дизассемблирование. В нём также содержатся положения о сборе данных, обработке персональных данных и экспортных ограничениях.

    Этот бинарник не является открытым исходным кодом.

    Ещё более тревожно то, что при установке Aspire не появляется явного запроса на принятие лицензии. Проприетарный компонент бесшумно встраивается в цепочку инструментов.

    Что такое DCP?

    Документация Aspire описывает DCP (Developer Control Plane) так:

    «В основе функциональности оркестрации хоста приложений Azure. Отвечает за оркестрацию всех ресурсов».

    Другими словами, это не какой-то необязательный вспомогательный инструмент — он является центральным элементом работы Aspire.

    В документации также отмечается, что DCP написан на Go, а не на .NET, чтобы обеспечить глубокую нативную интеграцию с API Kubernetes.

    Чего в ней не упоминается:
    что этот критически важный компонент является закрытым исходным кодом.

    Откуда берётся этот бинарник?

    Похоже, что DCP не распространяется через публичный канал NuGet. Вместо этого в файлах проектов Aspire присутствуют ссылки на загрузку пакетов Microsoft Developer Control Plane из приватных источников.

    Есть основания полагать, что эти бинарники могут происходить из внутреннего репозитория Microsoft на GitHub, к которому у общественности нет доступа.

    Таким образом, цепочка инструментов подтягивает проприетарный бинарник из приватного источника и упаковывает его в Aspire — не предоставляя возможности просмотреть или принять его лицензию.

    Опасения по поводу телеметрии и сбора данных

    В лицензии упоминаются сбор данных и обработка персональных данных. Согласно комментариям инженеров Microsoft, DCP в настоящее время не собирает телеметрию или данные об использовании.

    Слово «в настоящее время» здесь делает очень многое.

    Поскольку бинарник закрытого исходного кода, нет практического способа проверить, что именно он делает сегодня — или что он может начать делать в будущем. Если телеметрия будет добавлена позже, у разработчиков не будет никакой видимости того, когда и как это изменение произошло.

    А поскольку DCP запускается на машинах разработчиков, эта неопределённость имеет значение.

    Является ли это всё ещё «открытым исходным кодом»?

    .NET Aspire размещён под эгидой .NET Foundation, которая требует лицензии, одобренные OSI. Формально Aspire этим требованиям соответствует.

    Однако на практике он оборачивает проприетарный бинарник в самом центре своей архитектуры.

    Это означает:

    • Вы не можете полностью собрать Aspire из исходного кода.

    • Вы не можете провести аудит самой критически важной части его логики оркестрации.

    • Вы не можете форкнуть его в полностью независимую реализацию.

    Это растягивает определение «открытого исходного кода» за пределы того, что большинство разработчиков сочло бы разумным.

    Озабоченность сообщества и открытые вопросы

    Эта проблема уже была поднята публично, в том числе на GitHub. Один из заданных вопросов:

    Есть ли планы открыть исходный код Developer Control Plane?

    Текущий лицензионный язык наводит на мысль, что Microsoft может позиционировать DCP как будущий коммерческий продукт.

    Если это произойдёт, это будет означать, что Aspire фактически является обёрткой вокруг проприетарного ядра, которое позже может стать платным программным обеспечением.

    Это был бы классический «rug pull».

    Почему ядро написано на Go?

    Ещё одна неудобная деталь:
    DCP написан на Go, а не на .NET.

    Для платформы, позиционируемой как флагманское решение .NET для оркестрации, вынесение самой важной логики в Go-бинарник выглядит противоречиво.

    Если .NET должен быть первоклассной платформой для cloud-native инструментов, почему тогда его оркестрационное ядро не реализовано на .NET?

    Настоящая ценность Aspire?

    Одно из самых проницательных наблюдений из глубокого технического анализа заключается в том, что бинарник DCP может быть самой ценной частью Aspire. Он выглядит значительно более сложным, чем окружающий его C#-код.

    В этом свете Aspire начинает выглядеть не столько как платформа с открытым исходным кодом, сколько как тонкая обёртка вокруг закрытого движка.

    Лучшее направление вперёд

    Вот конструктивное предложение:

    • Открыть исходный код Developer Control Plane.

    • Если Go абсолютно необходим, оставить его на Go — но сделать код публичным.

    • Ещё лучше — реализовать его на .NET.

    • Предоставить документированный, поддающийся аудиту API оркестрации.

    Полностью открытый, нативный для .NET движок оркестрации Kubernetes был бы действительно впечатляющим — и гораздо более соответствующим духу .NET Foundation.

    Окончательный вердикт

    Можно ли сегодня честно назвать .NET Aspire платформой с открытым исходным кодом?

    Нет.

    Не тогда, когда проприетарный бинарник Microsoft находится в центре его функциональности.
    Не тогда, когда разработчики не могут просмотреть, собрать или заменить этот компонент.
    Не тогда, когда лицензионные условия тихо связывают компании без явного согласия.

    Пока эта проблема не будет решена, трудно рекомендовать Aspire добросовестно.

    Microsoft должна прояснить статус Developer Control Plane, опубликовать его исходный код или, по крайней мере, быть прозрачной в отношении закрытой зависимости, встроенной в Aspire.

    Прямо сейчас эта ситуация не просто запутанная — она глубоко тревожная.

  • Microsoft Entra Agent ID: назначение, возможности и архитектура

    Microsoft Entra Agent ID: назначение, возможности и архитектура

    Microsoft Entra Agent ID предназначен для предоставления возможностей идентификации специально для AI-агентов в рамках Microsoft Entra ID. По своей сути он вводит учетные записи идентичности, которые позволяют однозначно идентифицировать и аутентифицировать AI-агентов в экосистеме Microsoft.

    Эти идентичности агентов формируют основу для безопасного и масштабируемого развертывания AI-агентов. Они помогают решать растущие проблемы безопасности и эксплуатации, связанные с использованием AI-агентов, обеспечивая каждому агенту корректную идентичность, соответствующий уровень доступа и управляемость.

    Зачем нужен Microsoft Entra Agent ID

    По мере того как организации создают и внедряют AI-агентов, особенно в больших масштабах, возникают новые вызовы. Когда один агент разворачивается в нескольких экземплярах, становится критически важно отличать действия AI-агентов от действий пользователей, рабочих нагрузок или клиентов.

    Microsoft Entra Agent ID создан именно для решения этой задачи. Он предотвращает ситуацию, при которой AI-агенты случайно получают повышенные привилегии или доступ к чувствительным системам, к которым они не должны иметь доступа. Это особенно важно в средах, где агенты быстро создаются и удаляются.

    Идентичности агентов также обеспечивают масштабируемое управление учетными записями. Большое количество AI-агентов может быть создано и уничтожено без ущерба для безопасности или операционной прозрачности. Каждый агент получает доступ, строго соответствующий его назначению.

    Возможности, которые дают идентичности агентов

    Идентичности агентов могут использоваться для:

    • безопасного доступа к веб-сервисам;

    • аутентификации входящих сообщений;

    • поддержки автономных и делегированных сценариев доступа;

    • обеспечения четкого разделения между AI-агентами и человеческими учетными записями.

    Назначая агентам собственные идентичности, организации получают видимость, контроль и средства управления тем, как агенты взаимодействуют с системами и сервисами.

    Понятие агентных blueprint’ов

    Идентичности агентов создаются на основе blueprint’ов. Blueprint — это родительский шаблон, который лежит в основе агентных идентичностей в рамках тенанта. Каждый созданный агент имеет агентную идентичность, а сама идентичность формируется из blueprint’а.

    Blueprint’ы определяют, каким образом создаются и управляются идентичности агентов. Несколько агентов могут быть связаны с одним blueprint’ом, что позволяет обеспечить единообразное поведение идентичностей для однотипных агентов. Использование blueprint’ов не является обязательным для всех агентов, но они дают дополнительную структуру и контроль при масштабировании.

    Управление идентичностями агентов в Microsoft Entra

    В административной среде Microsoft Entra доступна отдельная функция Agent ID, которая предоставляет полную видимость всех агентных идентичностей в тенанте. В этом интерфейсе администраторы могут просматривать:

    • все идентичности агентов;

    • статус агентов (активен или неактивен);

    • Object ID и связь с blueprint’ами;

    • владельцев и спонсоров;

    • информацию о том, использует ли агент идентичность.

    Централизованный обзор позволяет применять политики управления, защищать агентов по умолчанию и управлять полным жизненным циклом идентичностей с помощью встроенных механизмов Entra.

    Контроль blueprint’ов и управление жизненным циклом

    Для каждого blueprint’а отображается количество связанных агентных идентичностей, дата создания и уровень предоставленного доступа. Администраторы могут:

    • отключить blueprint, чтобы запретить создание новых агентных идентичностей;

    • сохранить работоспособность уже существующих идентичностей;

    • просмотреть разрешения администраторского и пользовательского согласия;

    • назначить владельцев и спонсоров;

    • изучить журналы аудита и входов в систему.

    Отключение blueprint’а не отключает существующих агентов, а лишь предотвращает создание новых идентичностей на его основе.

    Коллекции агентов и управление

    Идентичности агентов также могут быть организованы в коллекции, которые могут быть как преднастроенными, так и пользовательскими. Примеры таких коллекций:

    • глобальная коллекция, доступная всем идентичностям в тенанте;

    • карантинная коллекция для изолированных или ограниченных агентов.

    Коллекции усиливают управление, позволяя группировать агентов по назначению, уровню доверия или операционному состоянию.

    Интеграция с платформами Microsoft

    Microsoft Entra Agent ID тесно интегрирован с такими платформами, как:

    • Microsoft Copilot Studio;

    • Power Platform Admin Center;

    • Microsoft 365 Admin Center;

    • Azure AI Foundry.

    Copilot Studio ориентирован на создание и настройку агентов, в то время как детали, связанные с идентичностью — такие как Agent ID, привязка к blueprint’ам и параметры управления — обрабатываются через административные центры. Такое разделение обеспечивает четкое разграничение между функциональностью агента и управлением его идентичностью.

    Итог

    Microsoft Entra Agent ID — это учетная запись идентичности в Microsoft Entra ID, которая предоставляет AI-агентам уникальные возможности идентификации и аутентификации. Он играет ключевую роль в обеспечении безопасности, масштабируемости и управляемости AI-агентов в экосистеме Microsoft.

    Используя идентичности агентов и blueprint’ы, организации могут безопасно разворачивать AI-агентов с контролируемым доступом, прозрачной ответственностью и корпоративным уровнем защиты. Помимо безопасности, агентные идентичности обеспечивают аутентифицированное взаимодействие, делегированный доступ и интеграцию с веб-сервисами, что делает их фундаментальным элементом современной архитектуры AI-агентов.

  • MCP Inspector: тестирование и отладка MCP-серверов

    Что такое MCP?

    MCP (Model Context Protocol) — это открытый стандарт, который позволяет большим языковым моделям (LLM) безопасно получать доступ к внешним данным и инструментам. К таким ресурсам могут относиться файлы, базы данных, поисковые инструменты, среды выполнения кода и многое другое.

    Концептуально MCP можно представить как универсальный магазин приложений для AI-ассистентов, где модели взаимодействуют с внешними возможностями по единому стандарту.

    Что такое MCP Inspector?

    MCP Inspector — это интерактивный инструмент для разработчиков, предназначенный для тестирования и отладки MCP-серверов. При создании MCP-сервера, который предоставляет данные или инструменты, необходимо убедиться, что запросы, ответы и конфигурации работают корректно. MCP Inspector решает именно эту задачу.

    Инструмент предоставляет веб-интерфейс, позволяющий подключаться к MCP-серверам, выполнять инструменты, анализировать ответы, просматривать логи и эффективно устранять ошибки.

    Как работает MCP Inspector

    MCP Inspector запускается локально и не требует классической установки. Он стартует с помощью команды npx:

    npx @modelcontextprotocol/inspector

    Что такое npx?

    npx — это запускатель пакетов Node.js, который позволяет выполнять пакеты без их предварительной установки. После выполнения команды:

    • автоматически разворачивается приложение инспектора;

    • запускается локальный веб-интерфейс;

    • интерфейс становится доступен по адресу localhost:6274.

    Локальные и удалённые MCP-серверы

    Хотя MCP Inspector работает локально, он может использоваться для отладки как:

    • локальных MCP-серверов,

    • так и удалённых MCP-серверов.

    Локальный прокси начинает прослушивание порта localhost:6277, обеспечивая обмен данными между интерфейсом инспектора и целевым MCP-сервером. Для этого автоматически используются сессионные токены.

    Обзор интерфейса MCP Inspector

    Интерфейс MCP Inspector состоит из двух основных частей:

    • Левая панель — параметры конфигурации и подключения

    • Основная область — выполнение инструментов, история и уведомления сервера

    Основные возможности:

    • просмотр доступных инструментов;

    • выполнение инструментов с пользовательским вводом;

    • просмотр истории выполнения;

    • мониторинг уведомлений и логов сервера.

    Параметры конфигурации

    Типы транспорта

    MCP Inspector поддерживает несколько механизмов передачи данных:

    • Streamable HTTP

    • SSE (Server-Sent Events)

    • STDIO

    Выбор транспорта зависит от реализации MCP-сервера.

    Способы подключения

    Доступны два варианта подключения:

    • Прямое подключение

    • Подключение через прокси

    Уровни логирования и отладки

    Поддерживаются следующие уровни логирования:

    • Debug

    • Info

    • Notice

    • Warning

    • Error

    • Critical

    • Alert

    • Emergency

    Это позволяет гибко управлять объёмом диагностической информации.

    Аутентификация

    MCP Inspector поддерживает несколько способов аутентификации:

    • пользовательские JSON-заголовки;

    • заголовки авторизации с секретами;

    • OAuth 2.0 (Client ID, Client Secret, Redirect URL, Scope).

    Дополнительные настройки

    Также доступны следующие параметры:

    • тайм-аут запроса;

    • тайм-аут запроса в процессе выполнения;

    • максимальный общий тайм-аут;

    • адрес прокси;

    • сессионный токен прокси.

    Подключение к MCP-серверу

    После настройки параметров подключение к MCP-серверу инициирует сессию и загружает метаданные сервера, включая:

    • имя сервера;

    • поддерживаемые возможности;

    • список доступных инструментов;

    • начальный уровень логирования.

    После подключения становятся доступны расширенные параметры отладки и история команд.

    Выполнение инструментов в MCP Inspector

    После успешного подключения автоматически открывается вкладка Tools.

    Здесь можно:

    1. Получить список всех доступных инструментов

    2. Выбрать нужный инструмент

    3. Задать входные параметры (часто в формате JSON)

    4. Запустить инструмент

    5. Проанализировать ответ и логи

    Пример: MCP-сервер с примерами приложений

    Пример MCP-сервера может предоставлять такие инструменты, как:

    • поиск примеров по ключевому слову;

    • получение примеров по продукту;

    • получение примеров по автору.

    При выполнении инструментов:

    • входные параметры должны соответствовать ожидаемому формату;

    • некоторые инструменты требуют строго структурированный JSON;

    • другие принимают простой текстовый ввод.

    Например, поиск по ключевому слову может вернуть:

    • общее количество результатов;

    • данные с поддержкой пагинации;

    • подробные метаданные для каждого элемента.

    Параметры пагинации включают:

    • номер страницы;

    • размер страницы.

    Все действия фиксируются во вкладке History, что позволяет отследить всю цепочку выполненных команд и изменений конфигурации.

    Документация и ресурсы

    Официальная документация MCP Inspector доступна по адресу:

    • modelcontextprotocol.io/docs/tools/inspector

    В ней описаны:

    • архитектура MCP (серверы и клиенты);

    • подключение к локальным и удалённым MCP-серверам;

    • создание MCP-серверов и клиентов;

    • поддерживаемые транспортные механизмы.

    Также доступен репозиторий GitHub:

    • modelcontextprotocol/inspector

    В нём можно ознакомиться с исходным кодом и деталями реализации инструмента.

    Заключение

    MCP Inspector — это мощный и удобный инструмент для разработчиков, предназначенный для проверки и отладки MCP-серверов. Он поддерживает различные транспорты, механизмы аутентификации, детальное логирование, а также работу как с локальными, так и с удалёнными серверами.

    Использование MCP Inspector позволяет уверенно разрабатывать, тестировать и сопровождать MCP-серверы, интегрирующие AI-модели с реальными данными и инструментами.

  • Сравнение TOON и JSON

    Сравнение TOON и JSON

    В этой статье рассматривается сравнение TOON и JSON с точки зрения их назначения, структуры, эффективности использования токенов и применения в современных приложениях, особенно в контексте больших языковых моделей (LLM).

    Что такое TOON?

    TOON — это token-oriented object notation (объектная нотация, ориентированная на токены), разработанная специально для AI-приложений. Её основная цель — снизить количество токенов при работе с запросами и ответами LLM. TOON представляет собой компактное, человекочитаемое кодирование модели данных JSON и оптимизирован для эффективного взаимодействия с языковыми моделями.

    TOON был создан Йоханом Шокпличем при участии Джейсона и Дугласа Крокфорда в рамках более широкой экосистемы JSON. По состоянию на декабрь 2025 года TOON является относительно новым форматом и в основном используется в AI-среде.

    Что такое JSON?

    JSON (JavaScript Object Notation) — это открытый стандарт файлового формата и формат обмена данными. Он широко используется для передачи данных между системами, представления структурированных данных, хранения конфигурационных файлов и взаимодействия между API и сервисами.

    JSON — универсальный формат с широкой поддержкой на разных платформах, языках программирования и инструментах.

    Ключевые характеристики

    Характеристики TOON

    • Эффективен с точки зрения токенов и оптимизирован для LLM

    • Структурированный и компактный

    • Человекочитаемый

    • Поддерживает вложенность

    • Разработан специально для AI-приложений

    Характеристики JSON

    • Человекочитаемый и понятный

    • Поддерживает глубоко вложенные объекты

    • Универсально принят и широко поддерживается

    • Подходит для конфигурационных файлов и обмена данными

    • Открытый стандарт с развитой экосистемой инструментов

    Ограничения

    Ограничения TOON

    • Ограниченная универсальная поддержка по состоянию на декабрь 2025 года

    • Новый и пока малоизвестный формат

    • Требует специального парсера

    • Иногда испытывает сложности с глубоко вложенными структурами данных

    Ограничения JSON

    • Избыточность формата

    • Повторяющиеся ключи

    • Дублирование данных увеличивает размер и количество токенов

    Расширения файлов

    • TOON использует собственное расширение формата

    • JSON использует расширение .json

    Сравнение использования

    TOON в основном используется для:

    • Токено-эффективного ввода данных в LLM

    • Токено-эффективного вывода данных из LLM

    • Передачи компактных структурированных данных языковым моделям

    JSON в основном используется для:

    • Передачи данных между API и сервисами

    • Управления конфигурациями

    • Универсального представления и обмена данными

    Поддержка структур данных

    • TOON лучше всего подходит для плоских или табличных структур, но также поддерживает вложенность

    • JSON хорошо подходит для иерархических и вложенных объектов

    Совместимость

    • TOON имеет ограниченную совместимость из-за недавнего появления

    • JSON обладает широкой совместимостью с различными системами и платформами

    Требования к парсеру

    • TOON требует специального парсера для декодирования и интерпретации данных

    • JSON является универсально распознаваемым форматом и не требует специальных парсеров

    Эффективность использования токенов

    С точки зрения использования токенов TOON даёт существенные преимущества. При сравнении эквивалентных структур данных TOON может сокращать количество токенов примерно на 45% и более. В некоторых тестах наблюдается сокращение почти на 60%, в зависимости от сложности данных и используемой LLM.

    Примеры структур

    Простая структура TOON может включать:

    • Поле задачи

    • Статус

    • Список шагов, представленный в компактном формате массива

    TOON позволяет гибко управлять уровнем вложенности данных. Например, сведения о сотрудниках или этапы рабочих процессов могут быть представлены на одном уровне вложенности или разбиты на массивы для повышения эффективности.

    При сравнении с JSON те же данные в формате JSON обычно содержат повторяющиеся ключи и более глубокую вложенность, что увеличивает количество токенов. На высоком уровне JSON-структуры часто включают родительские объекты, такие как client или workDetails, каждый из которых содержит несколько полей и вложенных объектов. TOON представляет те же данные в более сжатом виде.

    Экосистема и ресурсы

    Документация JSON содержит информацию о:

    • Истории создания формата

    • Валидных структурах JSON

    • Синтаксисе

    • Использовании JSON для передачи данных между системами

    Документация TOON объясняет:

    • Как JSON кодируется в TOON

    • Как работает сжатие с учётом схемы

    • Почему требуется специальный парсер

    • Как TOON сравнивается с JSON, YAML, XML, компактным JSON и CSV

    В некоторых сравнениях показано сокращение токенов примерно на 59,8%, а для отдельных LLM — ещё больше.

    Существуют также инструменты и сообщества, которые позволяют:

    • Конвертировать JSON в TOON

    • Загружать примеры данных

    • Сравнивать количество токенов

    • Скачивать или копировать результат в формате TOON

    • Просматривать экономию токенов в реальном времени

    Например, простая JSON-структура из 59 токенов может быть преобразована в 24 токена в формате TOON, что даёт экономию более 59%. Для более сложных JSON-структур степень сжатия может быть ещё выше.

    Заключение

    TOON и JSON решают разные задачи. JSON остаётся универсальным стандартом для обмена данными, конфигураций и взаимодействия API. TOON, в свою очередь, является специализированным форматом, ориентированным на эффективность в AI- и LLM-ориентированных сценариях.

    Хотя TOON обеспечивает значительную экономию токенов и компактное представление данных, его ограниченное распространение и необходимость специального парсера означают, что в настоящее время он дополняет JSON, а не заменяет его. По мере развития AI-приложений TOON может получить более широкое распространение, особенно в сценариях, где критична эффективность использования токенов.

  • Foundry Local: запуск моделей Azure AI на локальном устройстве

    Foundry Local: запуск моделей Azure AI на локальном устройстве

    Введение в Foundry Local

    Foundry Local — это решение от Microsoft, которое переносит возможности Azure AI прямо в локальную среду. Оно позволяет разработчикам запускать AI-модели полностью на собственной инфраструктуре — будь то настольный компьютер, ноутбук или персональный сервер. С Foundry Local инференс выполняется на устройстве, без подключения к облаку, при этом сохраняется корпоративный уровень безопасности.

    Такой подход делает Foundry Local удобным выбором для разработчиков, которым важны конфиденциальность, экономия средств и полный контроль над выполнением AI-моделей.

    Что такое Foundry Local

    Foundry Local — это бесплатное решение Microsoft для локального AI-инференса. Оно позволяет запускать большие языковые модели (LLM) и другие AI-модели локально, без необходимости иметь подписку Azure или оплачивать облачные ресурсы.

    Платформа поддерживает несколько способов интеграции:

    • интерфейс командной строки (CLI);

    • SDK;

    • REST API.

    Благодаря этому Foundry Local легко встраивается в различные процессы разработки и приложения.

    Основные преимущества локального запуска AI-моделей

    Использование Foundry Local даёт ряд ключевых преимуществ:

    Конфиденциальность

    Все запросы и подсказки остаются внутри локальной системы. Данные не передаются на внешние серверы, что особенно важно для работы с чувствительной информацией.

    Производительность

    Производительность зависит от аппаратной конфигурации. Foundry Local может использовать CPU, GPU и NPU, позволяя максимально задействовать доступные ресурсы.

    Экономия затрат

    Поскольку модели запускаются локально, отсутствуют облачные платежи, подписки и биллинг. Используются только ресурсы вашего устройства.

    Гибкая настройка

    Разработчик полностью контролирует выбор моделей, их конфигурацию и способы интеграции в приложения.

    Поддерживаемые платформы и варианты установки

    Foundry Local поддерживает несколько операционных систем и сред разработки:

    • Windows — установка через пакетный менеджер winget

    • macOS — установка с помощью Homebrew (brew)

    • Доступные SDK:

      • Python

      • JavaScript

      • C#

      • Rust

    В Windows установка выполняется следующей командой:

    winget install Microsoft.FoundryLocal

    После установки Foundry Local становится доступным как консольное приложение.

    Работа с AI-моделями

    Просмотр доступных моделей

    После установки можно получить список доступных моделей через CLI. В списке отображается:

    • поддерживаемое устройство выполнения (CPU, GPU, NPU);

    • размер модели;

    • информация о лицензии;

    • варианты моделей.

    Это позволяет выбрать модель с учётом аппаратных возможностей и объёма памяти.

    Загрузка и запуск моделей

    Модели загружаются в локальный кэш и могут загружаться по требованию. После загрузки Foundry Local предоставляет интерактивный режим чата для ввода запросов.

    Основные CLI-команды:

    • foundry model list — список доступных моделей

    • foundry model info — подробная информация о модели

    • foundry model run — загрузка и запуск модели

    • foundry model unload — выгрузка модели из сервиса

    Команды интерактивного чата

    Во время работы с моделью доступны следующие команды:

    • /help — справка по командам

    • Ctrl + C — отмена генерации

    • /exit — выход из чата

    Ограничения локальных моделей

    Поскольку Foundry Local работает полностью офлайн, модели не имеют доступа к данным в реальном времени или внешним инструментам. Поэтому:

    • ответы ограничены данными, полученными во время обучения модели;

    • запросы в реальном времени (например, текущая погода) не могут быть корректно обработаны;

    • качество ответов зависит от размера модели и качества её обучения.

    Эти ограничения являются естественной платой за локальный, автономный запуск.

    Обзор доступных моделей

    Foundry Local предоставляет доступ к большому количеству моделей, которые можно фильтровать и сортировать по:

    • семейству моделей;

    • размеру файла;

    • устройству выполнения (только CPU, GPU и т. д.);

    • дате последнего обновления.

    Для каждой модели доступна подробная информация:

    • описание;

    • лицензия;

    • владелец;

    • варианты модели;

    • поддерживаемые задачи.

    Это упрощает выбор модели под конкретные задачи.

    Открытый исходный код и сообщество

    Разработчики, желающие глубже изучить Foundry Local, могут ознакомиться с его репозиторием на GitHub. Там доступны:

    • исходный код;

    • релизы;

    • список участников;

    • информация о развитии проекта.

    Это обеспечивает прозрачность и возможности для расширенной настройки.

    Заключение

    Foundry Local позволяет запускать AI-модели непосредственно на собственных устройствах с полной конфиденциальностью данных, отсутствием облачных затрат и гибкими вариантами развёртывания. Его можно использовать на ноутбуке, настольном компьютере или персональном сервере.

    Поддержка нескольких платформ, SDK и постоянно расширяющегося каталога моделей делает Foundry Local мощным инструментом для разработчиков, которым нужен полный контроль над AI-инференсом без зависимости от облачной инфраструктуры.

  • Agent 365: Единая плоскость управления ИИ-агентами в масштабах организации

    Agent 365: Единая плоскость управления ИИ-агентами в масштабах организации

    Введение в Agent 365

    Agent 365 — это новая плоскость управления агентами, предназначенная для того, чтобы помочь организациям централизованно управлять, защищать и масштабировать ИИ-агентов в экосистеме Microsoft. По мере того как компании все активнее создают агентов с использованием различных инструментов и платформ, возрастает потребность в централизованном управлении и прозрачности. Agent 365 решает эту задачу, предоставляя единое место для управления всеми агентами.

    С точки зрения технологий Microsoft, агенты могут быть созданы с помощью Copilot Studio, Copilot Studio Light, Azure AI Foundry, SDK, а также расширений для Visual Studio Code. Однако такие агенты часто управляются через разные административные порталы, что приводит к фрагментации и усложняет администрирование. Agent 365 объединяет этот опыт в единую систему.

    Необходимость централизованной плоскости управления агентами

    В настоящее время разные типы агентов настраиваются и управляются через разные интерфейсы:

    • Агенты Microsoft 365 Copilot — через Microsoft 365 Admin Center

    • Агенты Copilot Studio — через Power Platform Admin Center

    • Агенты Azure AI Foundry — через Azure Portal

    Такая разрозненность затрудняет отслеживание, защиту и единообразное управление агентами. Agent 365 объединяет все агенты в одной плоскости управления, позволяя администрировать весь жизненный цикл агентов из единого интерфейса.

    Для этого каждому агенту присваивается уникальный идентификатор, который обеспечивает централизованное управление жизненным циклом, доступом и безопасностью.

    Microsoft Entra Agent ID

    Ключевым элементом Agent 365 является Microsoft Entra Agent ID. Каждый агент получает собственную уникальную идентичность, которая используется для:

    • управления жизненным циклом агента

    • контроля доступа и разрешений

    • идентификационной безопасности

    • соответствия требованиям и аудита

    Такие идентичности позволяют применять к ИИ-агентам корпоративные практики управления идентификацией и доступом — аналогично тому, как сегодня управляются пользователи и приложения.

    Ключевые возможности Agent 365

    Agent 365 построен на пяти основных столпах:

    1. Реестр агентов

    Реестр предоставляет консолидированный обзор всех агентов в организации независимо от того, где они были созданы. Сюда входят агенты, созданные в Copilot Studio, Copilot Studio Light, Microsoft 365 Copilot Chat и Azure AI Foundry.

    2. Контроль доступа и применение политик

    Встроенные механизмы применения политик позволяют администраторам задавать единые правила управления для всех агентов. Политики могут регулировать совместное использование, развертывание, использование и права доступа.

    3. Визуализация и аналитика

    Agent 365 предоставляет аналитику по производительности агентов, уровню использования, возврату инвестиций и степени внедрения. Это помогает организациям оценивать вклад агентов в продуктивность и бизнес-результаты.

    4. Интероперабельность

    Платформа поддерживает взаимодействие между инструментами Microsoft, open-source технологиями и партнерскими экосистемами. Агенты могут быть оснащены приложениями и данными для упрощения рабочих процессов и повышения эффективности взаимодействия человека и агента.

    5. Безопасность и соответствие требованиям

    Agent 365 опирается на корпоративную инфраструктуру безопасности Microsoft и интегрируется с Microsoft Defender, Entra и Purview. Это обеспечивает защиту идентификаций, соблюдение нормативных требований, наблюдаемость и обнаружение угроз.

    Основные заинтересованные стороны и сценарии использования

    ИТ-администраторы

    Для ИТ-администраторов Agent 365 предоставляет единое окно для мониторинга активности агентов, применения политик и управления угрозами безопасности. Управление агентами доступно как через Microsoft 365 Admin Center, так и через Entra Admin Center.

    Руководители и лица, принимающие бизнес-решения

    Бизнес-руководители могут использовать Agent 365 для оценки влияния агентов на продуктивность и бизнес-результаты, что позволяет принимать более обоснованные стратегические решения.

    Информационные работники

    Сотрудники, работающие с информацией, могут передавать агентам рутинные и монотонные задачи, эффективно сотрудничать с ними и сосредотачиваться на более ценной работе.

    Специалисты по безопасности

    Команды безопасности получают централизованный контроль над идентификацией, аутентификацией, соответствием требованиям и наблюдаемостью. Agent 365 помогает контролировать распространение агентов и гарантировать их использование только по назначению.

    Разработчики агентов

    Разработчики получают единый SDK и фреймворк, поддержку внешних инструментов и MCP, а также возможность регистрировать, сертифицировать и развертывать агентов по всей организации.

    Управление агентами в Microsoft 365 Admin Center

    В Microsoft 365 Admin Center администраторы могут:

    • просматривать реестр агентов и их общее количество

    • отслеживать активных пользователей, издателей и платформы

    • настраивать параметры совместного использования и развертывания

    • управлять разрешенными типами агентов (внутренние, общие, внешние)

    • блокировать, развертывать или удалять агентов

    • назначать владельцев агентам в целях соблюдения требований

    Также можно загружать пользовательские агенты с помощью манифеста и развертывать их для отдельных пользователей, групп или всей организации.

    Управление агентами в Microsoft Entra

    При создании агента автоматически формируется регистрация приложения в Microsoft Entra. В Entra Admin Center администраторы получают доступ к:

    • идентичностям агентов и их object ID

    • дате создания и источнику provisioning

    • корпоративным приложениям, связанным с агентами

    • коллекциям агентов и карантинным группам

    Этот уровень предоставляет более глубокое понимание того, как агенты аутентифицируются и управляются внутри тенанта.

    Шаблоны (Blueprints) и коллекции агентов

    Шаблоны агентов

    Blueprints — это родительские шаблоны, которые лежат в основе идентичностей агентов в тенанте. Они определяют способ provisioning, выдачи согласий и настройки безопасности. Администраторы могут:

    • назначать владельцев и спонсоров

    • выдавать административное или пользовательское согласие

    • отключать агентов

    • просматривать журналы аудита и входа

    Владелец управляет всей идентичностью агента, а спонсор отвечает за контроль жизненного цикла.

    Коллекции агентов

    Коллекции агентов позволяют группировать агентов автоматически или вручную. Такие коллекции могут использоваться для сценариев управления, например глобального карантина или дополнительных требований соответствия.

    Заключение

    Agent 365 предоставляет полнофункциональную корпоративную платформу для управления ИИ-агентами в экосистеме Microsoft. Благодаря единой плоскости управления, агентским идентичностям на базе Entra и глубокой интеграции с инструментами безопасности и администрирования Microsoft, Agent 365 позволяет безопасно, последовательно и эффективно масштабировать использование ИИ-агентов.

    По мере роста числа агентов Agent 365 становится ключевым элементом управления, безопасности и операционной устойчивости в рабочей среде, ориентированной на искусственный интеллект.