Автор: admin

  • Виконання агента в Power Automate: концепція, поведінка та практична реалізація

    У цій статті пояснюється концепція виконання агента в потоці Power Automate, принцип його роботи та випадки, коли використовуються різні дії виконання. Також розглядається практичний сценарій, що демонструє, як один агент може запускати потік, який викликає іншого агента для виконання незалежної обробки.

    Розуміння концепції виконання агента

    Виконання агента — це дія в потоці Power Automate, яка дозволяє викликати агента та запустити виконання певних кроків.

    Під час використання цієї дії відбувається таке:

    1. Потік Power Automate надсилає повідомлення агенту Copilot для початку діалогу.

    2. Потік одразу переходить до наступного кроку, не чекаючи завершення обробки агентом.

    Наприклад, якщо першою дією в потоці є Execute Agent, потік викличе агента, але не буде чекати відповіді. Він просто продовжить виконання наступного кроку.

    Коли корисна дія Execute Agent

    Така поведінка корисна, коли потрібно:

    • ініціювати незалежний діалог

    • запустити фонову операцію

    • виконати агента, результат якого не потрібен у загальному робочому процесі

    Іншими словами, якщо агент виконує дію самостійно після запуску — і ця дія не впливає на решту потоку — тоді Execute Agent є правильним вибором.

    Цей тип виконання є асинхронним, що означає:

    • агент працює незалежно

    • потік одразу продовжує виконання

    • результат роботи агента не можна надійно використати в наступних кроках потоку

    Execute Agent та Execute Agent and Wait

    Існують дві пов’язані дії:

    Execute Agent

    • асинхронне виконання

    • викликає агента і одразу продовжує роботу

    • не очікує відповіді

    • не дозволяє надійно використовувати результат агента

    Execute Agent and Wait

    • синхронне виконання

    • викликає агента і чекає завершення обробки

    • повертає результат, який можна використати далі

    Простіше кажучи:

    • використовуйте Execute Agent, якщо потрібно лише запустити агента

    • використовуйте Execute Agent and Wait, якщо потрібна відповідь агента

    Параметри та структура відповіді

    Під час виконання агента можна передати такі параметри:

    • ID розмови (Conversation ID)

    • ID середовища (Environment ID)

    • тіло або повідомлення (Body / Message)

    Агент може повернути:

    • тіло відповіді агента

    • ID розмови

    • відповідь агента

    Однак при асинхронному виконанні потік може продовжити роботу до завершення обробки агентом. Тому повернена відповідь може бути недоступною або некоректною в момент її використання.

    Через це використання результату агента при асинхронному виконанні зазвичай не має сенсу.

    Приклад сценарію: виклик агента з потоку

    Розглянемо приклад, у якому існує агент круїзного лайнера. Завдання — викликати цього агента через потік Power Automate.

    Вимоги до середовища

    Поширена помилка — створення агента і потоку в різних середовищах. Щоб уникнути проблем:

    • агент і потік повинні знаходитися в одному середовищі

    • потік має бути пов’язаний із рішенням (solution-aware)

    • перед створенням потоку потрібно вибрати або створити рішення в потрібному середовищі

    Можна:

    • створити власне рішення

    • використати існуюче рішення, пов’язане з агентом

    Створення потоку

    Усередині рішення:

    1. створіть новий автоматизований потік

    2. задайте зрозумілу назву (наприклад, “Execute Agent Feb 2026”)

    3. додайте тригери, наприклад:

      • коли агент викликає потік

      • відповідь агенту

    Збережіть потік і переконайтеся, що він правильно перейменований.

    Структура потоку та логіка

    Усередині потоку:

    • тригер дозволяє агенту запускати потік

    • потік може виконувати логіку (наприклад, дію compose)

    • додається дія Execute Agent для виклику іншого агента

    Можна вибрати потрібного агента та передати параметри, наприклад повідомлення.

    Приклад переданого повідомлення:

    cruise from Netherlands

    Потік також може включати:

    • обробку вхідних параметрів

    • відповідь Copilot

    • вихідні параметри

    Однак при асинхронному виконанні вихідні значення можуть бути порожніми, оскільки обробка ще не завершена на момент формування відповіді.

    Чому результат агента може бути недоступним

    Під час асинхронного виконання відбувається таке:

    1. потік доходить до Execute Agent

    2. потік викликає агента

    3. агент починає обробку

    4. потік одразу продовжує виконання

    Оскільки агент ще працює, відповідь може ще не існувати. Тому використання вихідних даних у цьому сценарії часто не має сенсу.

    Публікація потоку

    Якщо вихідні дані не потрібні, можна видалити зайві змінні відповіді та опублікувати потік.

    Після цього:

    • потік викликає агента круїзного лайнера

    • агент обробляє дані незалежно

    Виклик потоку з іншого агента

    Далі інший агент (наприклад, демонстраційний агент ALM) може викликати цей потік.

    Кроки:

    1. створити нову тему всередині другого агента

    2. визначити намір, наприклад «деталі круїзу»

    3. додати інструмент, який виконує створений потік

    Тепер архітектура виглядає так:

    Агент A → викликає потік → потік викликає агента B → агент B обробляє дані незалежно

    Поведінка під час виконання

    Коли запускається другий агент:

    1. визначається відповідна тема

    2. починається виконання потоку

    3. може знадобитися автентифікація

    4. потік викликає агента круїзного лайнера

    5. агент круїзного лайнера обробляє повідомлення незалежно

    Агенту-ініціатору не потрібен результат роботи агента круїзного лайнера.

    Моніторинг виконання

    Щоб перевірити виконання:

    • відкрийте історію запусків потоку

    • переконайтеся в успішному виконанні

    • перегляньте журнал активності агента

    Агент круїзного лайнера покаже активність, викликану через потік, включаючи:

    • передане повідомлення («cruise from Netherlands»)

    • виконану обробку

    • сформовану відповідь

    Хоча відповідь існує, вона не потрібна для початкового робочого процесу.

    Типові сценарії використання Execute Agent

    Ця дія ідеально підходить для запуску незалежних процесів, наприклад:

    • одноразові фонові операції

    • планові сервіси (щоденні, щотижневі тощо)

    • операції за запитом

    • незалежні задачі обробки

    • системні операції обслуговування або автоматизації

    Ключова ідея — агент виконує роботу незалежно, і його результат не потрібен.

    Підсумок

    Виконання агента в Power Automate дозволяє потоку запускати дії агента.

    Існують два варіанти виконання:

    • Execute Agent

      • асинхронно

      • лише запускає обробку

      • не чекає відповіді

    • Execute Agent and Wait

      • синхронно

      • чекає завершення обробки

      • повертає результат

    Якщо потрібно лише запустити незалежну роботу агента, використовуйте Execute Agent. Потік надішле повідомлення, продовжить виконання та передасть керування назад без очікування результату.

    Якщо потрібна відповідь агента, використовуйте Execute Agent and Wait.

  • Технічний огляд Analyst Agent у Microsoft 365 Copilot

    Технічний огляд Analyst Agent у Microsoft 365 Copilot

    У цій статті розглядається Analyst Agent, доступний у Microsoft 365 Copilot. Analyst Agent — це інтелектуальний помічник, вбудований за замовчуванням, призначений для аналізу, інтерпретації та узагальнення даних із різних джерел. Він допомагає перетворювати необроблену інформацію на змістовні висновки, що підтримують обґрунтоване прийняття рішень.

    Для доступу до Analyst Agent потрібна чинна ліцензія Microsoft 365 Copilot. Агент працює в екосистемі Microsoft 365 і обробляє лише ті дані, до яких користувач має відповідні права доступу.

    Що таке Analyst Agent?

    Analyst Agent — це вбудований аналітичний помічник, доступний у Microsoft 365 Copilot. Його основне завдання — виконувати структурований аналіз даних і подавати результати у зрозумілій та придатній для використання формі.

    Він може:

    • узагальнювати дані

    • створювати діаграми та візуалізації

    • інтерпретувати тренди та закономірності

    • виконувати аналітичні розрахунки

    • перетворювати сирі дані на структуровану інформацію

    Агент працює з різними форматами даних, зокрема:

    • текстовими документами

    • структурованими файлами

    • зображеннями

    • табличними наборами даних

    Фактично Analyst Agent працює як досвідчений аналітик даних, який швидко отримує інсайти з первинної інформації та перетворює їх на зрозумілі висновки для прийняття рішень.

    Основні аналітичні можливості

    Інтерпретація та узагальнення даних

    Агент аналізує вміст і формує короткі висновки, що дозволяє зрозуміти ключові результати без ручного перегляду великих обсягів даних або довгих документів.

    Створення візуалізацій

    Він автоматично генерує візуальні представлення, такі як:

    • стовпчикові діаграми

    • лінійні графіки

    • кругові діаграми

    • візуалізації трендів

    Це допомагає швидше виявляти закономірності та взаємозв’язки.

    Обробка даних за допомогою Python

    Для складного аналізу Analyst Agent може виконувати Python-код у реальному часі. Це дозволяє:

    • виконувати складні обчислення

    • трансформувати дані

    • виявляти закономірності

    • проводити статистичний аналіз

    Агент відображає виконаний код і фіксує всі кроки аналізу.

    Безпечний доступ до даних

    Агент обробляє лише ті дані, до яких користувач має доступ. Він не працює з інформацією без відповідних дозволів.

    Інтеграція з кількома джерелами даних

    Агент підключається до різних джерел у Microsoft 365, включно з нещодавно використаними файлами та хмарними документами. Він може аналізувати:

    • таблиці Excel

    • документи Word

    • панелі Power BI

    • завантажені файли

    • зображення

    Його завдання — сканувати джерела та витягувати змістовні інсайти.

    Доступ і встановлення Analyst Agent

    Під час переходу до середовища Microsoft 365 Copilot Analyst Agent може не відображатися одразу. Якщо його немає, його потрібно додати до тенанта.

    Типова послідовність дій:

    1. Перейти до хмарного порталу Microsoft 365.

    2. Відкрити розділ Agents у лівій панелі навігації.

    3. Якщо агент не відображається — відкрити All Agents.

    4. Знайти агента серед рішень, створених Microsoft.

    5. Обрати Analyst Agent і натиснути Add.

    6. Після встановлення натиснути Open для запуску.

    Після появи агент не можна видалити, але його можна надати іншим користувачам.

    Огляд інтерфейсу Analyst Agent

    Після відкриття інтерфейс містить:

    • поле введення запиту

    • інструменти завантаження файлів і додавання контенту

    • історію взаємодій

    • рекомендовані аналітичні запити

    • системні рекомендації

    • голосове введення

    • налаштування та параметри продуктивності

    • заплановані запити

    • нещодавні сторінки

    Усі попередні аналітичні сесії доступні в розділі історії.

    Доступні аналітичні запити

    Система пропонує готові варіанти запитів, наприклад:

    • визначити тренди у завантажених файлах

    • виявити кореляцію змінних

    • візуалізувати взаємозв’язки

    • отримати швидкі інсайти з даних

    • створити структуровані таблиці

    • виконати порівняльний аналіз

    Також можна вводити власні запити.

    Приклад: аналіз документа

    Поширений сценарій — аналіз великого документа, наприклад річного звіту.

    Процес

    1. Завантажити документ через Add Content.

    2. Вибрати файл із локального пристрою або хмари.

    3. Підтвердити завантаження (обробка відбувається через корпоративне сховище).

    4. Надіслати запит, наприклад:
      «Які основні висновки можна отримати з даних завантаженого файлу?»

    Процес обробки

    Під час аналізу агент:

    • аналізує структуру документа

    • досліджує вміст

    • виконує Python-код

    • виявляє фінансові закономірності

    • визначає ключові моменти

    • формує підсумкові висновки

    Кожен етап відображається користувачу, включно з виконанням коду та журналом аналізу.

    Час обробки залежить від обсягу та складності даних і може становити від однієї до десяти і більше хвилин.

    Прозорість і аудит процесу

    На відміну від інструментів, які показують лише результат, Analyst Agent надає:

    • покрокові журнали обробки

    • записи виконання коду

    • аналітичне обґрунтування

    • посилання на джерела

    Це забезпечує прозорість формування висновків.

    Приклад: аналіз зображення

    Analyst Agent також може аналізувати дані, що містяться у зображеннях.

    Якщо зображення містить структуровану інформацію (наприклад фінансовий розподіл), агент може:

    • визначити зміст зображення

    • витягти структуровані дані

    • виконати аналітичний опис

    • запропонувати створення візуалізацій трендів

    За запитом агент створює графіки та надає ключові висновки.

    Керування діалогами та історією

    Через панель історії можна переглядати попередні взаємодії. Кожен запис містить:

    • завантажені джерела

    • надіслані запити

    • виконані кроки аналізу

    • отримані висновки

    Будь-яку сесію можна відкрити повторно та продовжити аналіз.

    Відстеження джерел і керування результатами

    Кожен результат аналізу містить розділ Sources, де показано використані джерела.

    Користувач може:

    • копіювати відповіді

    • залишати оцінку

    • зберігати результати на сторінки або в блокноти

    • структурувати аналітичні матеріали

    Приклад: створення візуалізацій із текстових даних

    Якщо документ містить табличні числові дані без графіків, агент може автоматично створити візуалізації.

    Наприклад, він може:

    • визначити сегменти доходу

    • створити порівняльні графіки за роками

    • виділити ключові тенденції

    • побудувати стовпчикові та кругові діаграми

    • надати інтерпретацію результатів

    Також агент може запропонувати додаткові аналітичні покращення, наприклад виділення сегментів із високим зростанням.

    Розширена взаємодія та ітераційний аналіз

    Після отримання первинних результатів можна запитувати додаткові візуалізації або глибший аналіз, наприклад:

    • розподіл сегментів

    • порівняння зростання

    • виділення ключових метрик

    • розрахунок частки від загального обсягу

    Агент послідовно уточнює аналіз відповідно до нових запитів.

    Інформація про дозволи та ліцензування

    У розділі About доступна інформація:

    • необхідні дозволи

    • вимоги до ліцензії

    • опис функцій

    • область доступу до даних

    Призначення та стратегічна цінність

    Analyst Agent створений для підтримки прийняття рішень на основі даних шляхом:

    • скорочення ручного аналізу

    • автоматизації складних обчислень

    • підвищення наочності інформації

    • об’єднання даних із різних джерел

    • швидкого надання структурованих інсайтів

    У його основі — моделі глибокого аналітичного мислення, що виявляють зв’язки та формують змістовні висновки.

    Висновок

    Analyst Agent у Microsoft 365 Copilot — це потужний вбудований аналітичний інструмент, який обробляє структуровані та неструктуровані дані різних форматів. Завдяки автоматизованому аналізу, виконанню Python-коду в реальному часі, прозорим журналам обробки та динамічним візуалізаціям він допомагає організаціям швидко отримувати інсайти та приймати обґрунтовані стратегічні рішення.

    Він перетворює сирі дані на практичну аналітичну інформацію та є важливим інструментом аналізу в середовищі Microsoft 365.

  • Міграція середовища між tenant-ами у Power Platform Admin Center

    Повний посібник з перенесення середовища між орендарями

    Нова можливість у центрі адміністрування Power Platform дозволяє адміністраторам переносити ціле середовище з одного орендаря (tenant) до іншого. Це відрізняється від традиційної міграції рішень, яка переносить лише компоненти між середовищами в межах одного tenant. Міграція tenant-to-tenant дає змогу переміщувати повністю всю середу між організаційними межами.

    У цій статті розглянуто сценарії використання, вимоги, підтримувані типи середовищ, попередні умови, процес міграції, адміністративні дії та важливі обмеження.

    1. Типовий сценарій міграції між орендарями

    Розглянемо організацію, яка використовує кілька tenant-ів:

    • Основний корпоративний tenant для робочих застосунків, потоків, агентів та операційних задач.

    • Окремий tenant для розробки, де команда досліджує можливості, тестує функції та проводить експерименти.

    Припустимо, що в dev-tenant створено щось важливе, і це потрібно перенести до основного tenant компанії. Замість експорту окремих компонентів або рішень можна перенести все середовище повністю з одного tenant до іншого.

    Це принципово відрізняється від міграції між середовищами в межах одного tenant, де зазвичай використовуються:

    • керовані рішення (managed solutions)

    • некеровані рішення (unmanaged solutions)

    Ці методи переносять лише компоненти. Міграція між орендарями переносить усе середовище.

    2. Переміщення середовища в Power Platform Admin Center

    Коли адміністратор вибирає середовище в центрі адміністрування Power Platform, з’являється опція Move environment.

    Після запуску перенесення відображаються статуси, наприклад:

    • Pending request for approval to move environments

    • Your request to move environments is pending approval

    Можливі дві ситуації:

    1. Ви надіслали запит на перенесення середовища до іншого tenant.

    2. Інший tenant надіслав запит на перенесення середовища до вас.

    Кожен запит має бути переглянутий і затверджений.

    3. Вимога керованих середовищ (Managed Environments)

    Міграція tenant-to-tenant підтримується лише для керованих середовищ.

    Кероване середовище надає розширені можливості керування та контролю, недоступні у звичайних середовищах.

    4. Підтримувані та непідтримувані типи середовищ

    Не всі середовища можна переносити.

    Підтримуються

    • Production

    • Sandbox

    Не підтримуються

    • Developer

    • Default

    • Trial

    • Teams

    Також не можна переносити Dataverse-організації, пов’язані з Finance and Operations (станом на кінець 2025 року).

    5. Відмінності ідентифікації та ліцензування

    Вихідний і цільовий tenant незалежні, тому:

    • домени користувачів різні

    • email-адреси різні

    • ліцензії можуть відрізнятися

    • адміністративні ролі розділені

    Приклад:

    • джерело: girish.onmicrosoft.com

    • призначення: girishinc.onmicrosoft.com

    Користувачів потрібно зіставити під час міграції.

    6. Необхідні адміністративні права

    Міграція — це адміністративна операція.

    Потрібні права адміністратора:

    • у вихідному tenant

    • у цільовому tenant

    7. Що переноситься

    Переноситься все середовище, включно з:

    • Power Apps

    • Power Automate flows

    • ресурсами Copilot Studio

    • даними Dataverse

    Однак деякі елементи потребують ручних дій.

    8. Що потрібно експортувати або налаштовувати вручну

    Ручний експорт

    • рішення Power Apps

    • чат-боти Copilot Studio

    Ручне налаштування

    • connectors

    • environment variables

    • connections

    • gateways

    Очищення

    • solution-aware apps потрібно видалити після експорту

    9. Вимога PowerShell

    PowerShell для адміністрування Power Platform має бути встановлений:

    • у адміністратора джерела

    • у адміністратора призначення

    Він встановлюється з PowerShell Gallery і використовується для виконання команд міграції.

    Деякі дії не можна виконати через інтерфейс.

    10. Переналаштування інтеграцій після міграції

    Деякі служби потребують переналаштування:

    • Dynamics 365 for Outlook

    • server-side synchronization

    • інтеграція з SharePoint

    Наприклад, якщо SharePoint був підключений у вихідному tenant, потрібно повторно налаштувати зв’язок у цільовому.

    11. Файл зіставлення користувачів (критично важливий)

    Потрібно створити файл зіставлення користувачів (зазвичай Excel).

    Він містить:

    • user principal name джерела

    • відповідного користувача призначення

    Приклад:

    Користувач джерела Користувач призначення
    g@g.onmicrosoft.com g1@gcorp.onmicrosoft.com

    Після міграції власники записів змінюються відповідно до зіставлення.

    12. Надсилання запиту на перенесення

    Процес починається з вибору середовища та команди Move environment.

    Система формує:

    • migration request

    • target tenant ID

    • migration ID

    Середовище не переноситься одразу — потрібне схвалення цільового tenant.

    13. Команди PowerShell

    Submit migration request

    Вказати середовище та tenant призначення.

    View migration requests

    Перевірити статус.

    View approval requests

    Переглянути запити, що очікують схвалення.

    Approve migration

    Використати migration ID.

    14. Визначення source і destination

    Кожен tenant має:

    • унікальний tenant ID

    • власний домен

    • окремий набір користувачів

    Перенесення можливе в обидва боки за наявності адмін-доступу.

    15. Як дізнатися target tenant ID

    У Power Platform Admin Center:

    • відкрити session details

    • знайти target tenant ID

    16. Надсилання запиту не запускає перенесення одразу

    Перенесення починається лише після:

    1. перевірки запиту

    2. схвалення через PowerShell

    17. Перегляд запитів, що очікують

    Адміністратор може:

    • переглянути запити

    • перевірити деталі

    • скасувати перенесення

    18. Схвалення міграції

    Потрібно:

    1. отримати migration ID

    2. виконати команду approval

    Через інтерфейс це поки зробити неможливо.

    19. Відстеження статусу

    Можливі статуси:

    • pending

    • submitted

    • awaiting approval

    20. Скасування міграції

    Можна скасувати до схвалення:

    • відхилити запит

    • не виконувати approval

    21. Обмеження (на початок 2026 року)

    • лише managed environments

    • лише production і sandbox

    • Finance and Operations Dataverse не підтримується

    • частина компонентів експортується вручну

    • інтеграції налаштовуються повторно

    • approval тільки через PowerShell

    22. Загальний алгоритм міграції

    1. Підготовка середовища

    2. Ручний експорт компонентів

    3. Створення файлу зіставлення користувачів

    4. Встановлення PowerShell

    5. Надсилання запиту

    6. Отримання migration ID

    7. Схвалення у цільовому tenant

    8. Переналаштування сервісів

    23. Висновок

    Міграція середовища між орендарями в Power Platform Admin Center дозволяє переносити повністю робочі середовища між tenant-ами, а не окремі компоненти. Це особливо корисно, коли розробка, тестування та експлуатація виконуються в різних орендарях.

    Процес потребує підготовки, адміністративної координації, використання PowerShell і правильного зіставлення користувачів. За умови правильної організації перенесення середовища між орендарями стає керованим процесом, що підтримується технологіями Microsoft.

  • Windows AI Foundry: створення приватних AI-застосунків на Windows

    Windows AI Foundry: створення приватних AI-застосунків на Windows

    Windows AI Foundry — це комплексна платформа, створена для того, щоб розробники могли інтегрувати можливості штучного інтелекту безпосередньо в застосунки для Windows. В її основі лежить локальний запуск AI-моделей на пристроях Windows із використанням апаратного прискорення для оптимальної продуктивності. Замість залежності від хмарних сервісів платформа надає набір інструментів, API та вбудованих моделей, які працюють прямо на вашому ПК, ноутбуці або приватному сервері.

    Такий підхід «local-first» дозволяє створювати інтелектуальні, орієнтовані на приватність застосунки, що максимально використовують можливості апаратного забезпечення Windows. Навіть якщо пристрій не підключений до інтернету, моделі продовжують працювати безпечно та конфіденційно. Немає зовнішніх викликів сервісів, прихованої передачі даних або залежності від сторонніх провайдерів. Усе залишається на пристрої.

    Навіщо використовувати Windows AI Foundry?

    Windows AI Foundry створена для сценаріїв, де важливі приватність, безпека та можливість офлайн-роботи. Типові варіанти використання включають:

    • Сумаризацію тексту та створення звітів

    • Семантичний пошук для виявлення контенту

    • Генерацію, масштабування та покращення зображень

    • Апскейлінг відео

    • Виявлення об’єктів і сегментацію зображень

    • Розпізнавання тексту на зображеннях і в сканованих документах

    Якщо вам потрібен безпечний екосистемний підхід без відправки даних у великі мовні моделі, розміщені в інтернеті, Windows AI Foundry пропонує інфраструктуру, адаптовану під конкретні сценарії та завдання, які не взаємодіють із зовнішнім світом.

    Локальне виконання з Foundry Local

    У центрі екосистеми знаходиться Foundry Local. Це ключовий механізм, що дозволяє запускати AI-моделі у вашій власній інфраструктурі — на ПК, ноутбуці або приватному сервері. Windows AI Foundry орієнтована на операційну систему Windows, тоді як Azure AI Foundry (також відома як Microsoft Foundry) є хмарною альтернативою.

    Якщо вашому застосунку потрібно повністю залишатися на пристрої Windows з міркувань приватності або відповідності вимогам, Foundry Local — ідеальний вибір. Він дає повний контроль над виконанням моделей, їх зберіганням і налаштуванням у локальному середовищі.

    Вбудовані моделі та готові API

    Windows AI Foundry включає вбудовані моделі та готові до використання API. Наприклад:

    • Silica — невелика мовна модель для генерації тексту, оптимізована під NPU

    • Розпізнавання тексту для вилучення тексту із зображень і сканованих документів

    • Опис зображень і семантичний пошук

    • Масштабування, підвищення різкості та видалення об’єктів на зображеннях

    • Ідентифікація об’єктів

    Усі ці сервіси працюють повністю всередині операційної системи. Вам не потрібно підключатися до інтернету або використовувати сторонні сервіси. Хоча тут перелічено лише кілька прикладів, можливості практично безмежні. Ви можете виконувати багато з тих самих операцій, які зазвичай реалізуються в хмарних сервісах, але локально в Windows AI Foundry.

    Тонке налаштування та кастомізація моделей

    Розробники можуть донавчати вбудовані моделі за допомогою low-rank adaptation (LoRA). Windows AI Foundry інтегрується з Foundry Local, який є центральним елементом екосистеми. Розробники можуть переглядати, тестувати та розгортати open-source моделі, оптимізовані під CPU, GPU та NPU.

    Ця гнучкість дозволяє обирати відповідну модель під конкретний сценарій — будь то текст, зображення, аудіо чи код — і адаптувати її під власні завдання.

    ONNX і крос-апаратна сумісність

    Ключовою концепцією Windows AI Foundry є ONNX (Open Neural Network Exchange). Windows ML виступає в ролі рантайму інференсу, спрощуючи розгортання користувацьких ONNX-моделей на різному обладнанні.

    Це означає, що моделі, створені Meta, Google, Microsoft та іншими, можуть взаємодіяти між собою. Ви не прив’язані до одного провайдера, а ваші моделі залишаються переносимими та сумісними між CPU, GPU та NPU.

    Архітектура Foundry Local у загальних рисах

    Архітектура Foundry Local складається з кількох рівнів:

    • Апаратний рівень: CPU, GPU та NPU на сервері, ноутбуці або ПК

    • Досвід розробника: інструменти командного рядка, SDK або застосунки для взаємодії з моделями

    • Керування моделями: отримання, компіляція, завантаження та локальне кешування моделей

    • Шар комунікації: HTTP або іменовані канали для зв’язку з сервісом Foundry Local

    • Рантайм: ONNX Runtime для виконання моделей

    • Кеш моделей: локальне сховище завантажених або підключених моделей

    Такий дизайн дозволяє моделям від різних провайдерів працювати в єдиному середовищі, повністю в межах локальної інфраструктури.

    Дослідження моделей і API за допомогою AI Dev Gallery

    У Windows AI Foundry є застосунок із Microsoft Store під назвою AI Dev Gallery. Він надає приклади моделей, API та готові до запуску демонстрації, такі як:

    • Класифікація зображень

    • Виявлення об’єктів

    • Сегментація зображень

    • Транскрибування аудіо

    • Переклад тексту

    • Генерація та сумаризація тексту

    • Super-resolution зображень

    Ви можете обрати попередньо встановлену модель, завантажити нову або завантажити модель із диска. Система підлаштовується під конфігурацію вашого обладнання — CPU, GPU або NPU — і пропонує відповідні моделі залежно від можливостей пристрою.

    Кожен приклад можна експортувати у Visual Studio Code разом із вихідним кодом, щоб ви могли вивчити, змінити та інтегрувати його у власний застосунок.

    Установка та використання Foundry Local

    Установка Foundry Local максимально проста. Це схоже на встановлення звичайного застосунку. Після встановлення він надає інтерфейс командного рядка та локальний сервіс для керування виконанням моделей.

    З командного рядка ви можете переглядати список доступних моделей, завантажувати їх, завантажувати в пам’ять і запускати. Моделі кешуються локально, тому після першого завантаження їх можна використовувати повторно без повторного скачування.

    Потім ви можете надсилати запити до локально запущеної моделі. Оскільки модель працює офлайн, вона відповідає, спираючись на свої внутрішні знання та дані навчання. Вона не звертається до інтернету чи зовнішніх сервісів, що робить її ідеальною для застосунків, чутливих до приватності.

    Windows AI Foundry vs. Azure AI Foundry

    Windows AI Foundry призначена для локального виконання на пристроях Windows. Azure AI Foundry, у свою чергу, є хмарним рішенням, що пропонує ширший набір моделей, інструментів і сервісів.

    Якщо ви хочете створити хмарний AI-застосунок із багатими інтеграціями, Azure AI Foundry — правильний вибір. Якщо ж вам потрібен самодостатній застосунок, який повністю працює на локальному ПК або в приватній інфраструктурі, Windows AI Foundry підійде краще.

    Підсумок

    Windows AI Foundry приносить потужні AI-можливості прямо на пристрої Windows. Завдяки локальному виконанню, вбудованим моделям, сумісності з ONNX та апаратному прискоренню вона дозволяє створювати безпечні, приватні й офлайн-доступні AI-застосунки.

    Чи то генерація тексту, аналіз зображень, транскрибування аудіо або семантичний пошук — Windows AI Foundry пропонує гнучку екосистему, що працює на різних пристроях, моделях і типах обладнання — без відправки даних у хмару.

  • Чи справді .NET Aspire є платформою з відкритим вихідним кодом?

    Чи справді .NET Aspire є платформою з відкритим вихідним кодом?

    .NET Aspire позиціонується як безкоштовна платформа з відкритим вихідним кодом. Однак це твердження заслуговує на уважніший розгляд. Глибший аналіз внутрішніх компонентів виявляє пропрієтарний елемент у самому центрі системи оркестрації — що піднімає серйозні питання щодо прозорості, ліцензування та довіри.

    Детальніший погляд на середовище виконання Aspire

    Після створення нового застосунку Aspire у Windows і його запуску спочатку все виглядає нормально. Панель керування запускається коректно, а досвід розробника відповідає очікуванням від інструмента з відкритим вихідним кодом на .NET.

    Однак під час вивчення встановлених пакетів NuGet — зокрема Azure Hosting App Orchestration Tools — виявляється дивний виконуваний файл: DCP.exe.

    Що це за файл? Чому він там?

    Той самий бінарник на macOS

    Повторення експерименту на macOS призводить до того ж результату. Хоча версія Aspire там трохи старіша, той самий бінарний файл DCP з’являється в папці пакетів.

    Це піднімає критичне питання:
    Якщо Aspire — це відкритий вихідний код, чому він містить закритий виконуваний файл?

    Ліцензія розповідає іншу історію

    Відкриття ліцензійного файлу, пов’язаного з цим бінарником, виявляє дещо несподіване:
    Microsoft Developer Control Plane.

    Умови ліцензії чітко дають зрозуміти, що це пропрієтарне програмне забезпечення. Угода прямо забороняє реверс-інжиніринг, декомпіляцію або дизасемблювання. У ній також містяться положення щодо збору даних, обробки персональних даних та експортних обмежень.

    Цей бінарник не є відкритим вихідним кодом.

    Ще більш тривожно те, що під час встановлення Aspire не з’являється явного запиту на прийняття ліцензії. Пропрієтарний компонент безшумно вбудовується в ланцюжок інструментів.

    Що таке DCP?

    Документація Aspire описує DCP (Developer Control Plane) так:

    «В основі функціональності оркестрації хоста застосунків Azure. Відповідає за оркестрацію всіх ресурсів».

    Іншими словами, це не якийсь необов’язковий допоміжний інструмент — він є центральним елементом роботи Aspire.

    У документації також зазначається, що DCP написаний на Go, а не на .NET, щоб забезпечити глибоку нативну інтеграцію з API Kubernetes.

    Чого в ній не згадується:
    що цей критично важливий компонент є закритим вихідним кодом.

    Звідки береться цей бінарник?

    Схоже, що DCP не поширюється через публічний канал NuGet. Натомість у файлах проєктів Aspire присутні посилання на завантаження пакетів Microsoft Developer Control Plane з приватних джерел.

    Є підстави вважати, що ці бінарники можуть походити з внутрішнього репозиторію Microsoft на GitHub, до якого громадськість не має доступу.

    Таким чином, ланцюжок інструментів підтягує пропрієтарний бінарник із приватного джерела й упаковує його в Aspire — не надаючи можливості переглянути або прийняти його ліцензію.

    Побоювання щодо телеметрії та збору даних

    У ліцензії згадуються збір даних і обробка персональних даних. Згідно з коментарями інженерів Microsoft, DCP наразі не збирає телеметрію або дані про використання.

    Слово «наразі» тут робить дуже багато.

    Оскільки бінарник є закритим вихідним кодом, немає практичного способу перевірити, що саме він робить сьогодні — або що він може почати робити в майбутньому. Якщо телеметрію буде додано пізніше, у розробників не буде жодної видимості того, коли й як ця зміна відбулася.

    А оскільки DCP запускається на машинах розробників, ця невизначеність має значення.

    Чи є це все ще «відкритим вихідним кодом»?

    .NET Aspire розміщений під егідою .NET Foundation, яка вимагає ліцензій, схвалених OSI. Формально Aspire цим вимогам відповідає.

    Однак на практиці він обгортає пропрієтарний бінарник у самому центрі своєї архітектури.

    Це означає:

    • Ви не можете повністю зібрати Aspire з вихідного коду.

    • Ви не можете провести аудит найкритичнішої частини його логіки оркестрації.

    • Ви не можете форкнути його в повністю незалежну реалізацію.

    Це розтягує визначення «відкритого вихідного коду» за межі того, що більшість розробників вважала б розумним.

    Стурбованість спільноти та відкриті питання

    Цю проблему вже було піднято публічно, зокрема на GitHub. Одне з поставлених питань:

    Чи є плани відкрити вихідний код Developer Control Plane?

    Поточна мова ліцензії наводить на думку, що Microsoft може позиціонувати DCP як майбутній комерційний продукт.

    Якщо це станеться, це означатиме, що Aspire фактично є обгорткою навколо пропрієтарного ядра, яке згодом може стати платним програмним забезпеченням.

    Це був би класичний «rug pull».

    Чому ядро написане на Go?

    Ще одна незручна деталь:
    DCP написаний на Go, а не на .NET.

    Для платформи, що позиціонується як флагманське рішення .NET для оркестрації, винесення найважливішої логіки в Go-бінарник виглядає суперечливо.

    Якщо .NET має бути першокласною платформою для cloud-native інструментів, то чому тоді його оркестраційне ядро не реалізоване на .NET?

    Справжня цінність Aspire?

    Одне з найпроникливіших спостережень із глибокого технічного аналізу полягає в тому, що бінарник DCP може бути найціннішою частиною Aspire. Він виглядає значно складнішим, ніж оточуючий його C#-код.

    У цьому світлі Aspire починає виглядати не стільки як платформа з відкритим вихідним кодом, скільки як тонка обгортка навколо закритого рушія.

    Кращий напрямок уперед

    Ось конструктивна пропозиція:

    • Відкрити вихідний код Developer Control Plane.

    • Якщо Go абсолютно необхідний, залишити його на Go — але зробити код публічним.

    • Ще краще — реалізувати його на .NET.

    • Надати документований, придатний для аудиту API оркестрації.

    Повністю відкритий, нативний для .NET рушій оркестрації Kubernetes був би справді вражаючим — і набагато більш відповідним духові .NET Foundation.

    Остаточний вердикт

    Чи можна сьогодні чесно назвати .NET Aspire платформою з відкритим вихідним кодом?

    Ні.

    Не тоді, коли пропрієтарний бінарник Microsoft знаходиться в центрі його функціональності.
    Не тоді, коли розробники не можуть переглянути, зібрати або замінити цей компонент.
    Не тоді, коли ліцензійні умови тихо зв’язують компанії без явної згоди.

    Поки цю проблему не буде вирішено, важко рекомендувати Aspire добросовісно.

    Microsoft повинна прояснити статус Developer Control Plane, опублікувати його вихідний код або, принаймні, бути прозорою щодо закритої залежності, вбудованої в Aspire.

    Прямо зараз ця ситуація не просто заплутана — вона глибоко тривожна.

  • Microsoft Entra Agent ID: призначення, можливості та архітектура

    Microsoft Entra Agent ID: призначення, можливості та архітектура

    Microsoft Entra Agent ID призначений для надання можливостей ідентифікації спеціально для AI-агентів у межах Microsoft Entra ID. По суті, він запроваджує облікові записи ідентичності, які дозволяють однозначно ідентифікувати та автентифікувати AI-агентів у екосистемі Microsoft.

    Ідентичності агентів формують основу для безпечного та масштабованого розгортання AI-агентів. Вони допомагають вирішувати зростаючі виклики безпеки та експлуатації, пов’язані з використанням AI-агентів, забезпечуючи кожному агенту коректну ідентичність, відповідний рівень доступу та керованість.

    Навіщо потрібен Microsoft Entra Agent ID

    У міру того як організації створюють і впроваджують AI-агентів, особливо у великих масштабах, з’являються нові виклики. Коли один агент розгортається у кількох екземплярах, стає критично важливо відрізняти дії AI-агентів від дій користувачів, робочих навантажень або клієнтів.

    Microsoft Entra Agent ID створений саме для вирішення цього завдання. Він запобігає ситуаціям, коли AI-агенти випадково отримують підвищені привілеї або доступ до чутливих систем, до яких вони не повинні мати доступу. Це особливо важливо в середовищах, де агенти швидко створюються та видаляються.

    Ідентичності агентів також забезпечують масштабоване управління обліковими записами. Велику кількість AI-агентів можна створювати та знищувати без шкоди для безпеки або операційної прозорості. Кожен агент отримує доступ, який точно відповідає його призначенню.

    Можливості, які надають ідентичності агентів

    Ідентичності агентів можуть використовуватися для:

    • безпечного доступу до вебсервісів;

    • автентифікації вхідних повідомлень;

    • підтримки автономних і делегованих сценаріїв доступу;

    • чіткого розмежування між AI-агентами та людськими обліковими записами.

    Призначаючи агентам власні ідентичності, організації отримують видимість, контроль і засоби управління тим, як агенти взаємодіють із системами та сервісами.

    Поняття агентних blueprint’ів

    Ідентичності агентів створюються на основі blueprint’ів. Blueprint — це батьківський шаблон, який лежить в основі агентних ідентичностей у межах тенанта. Кожен створений агент має агентну ідентичність, а сама ідентичність формується з blueprint’а.

    Blueprint’и визначають, яким чином створюються та керуються ідентичності агентів. Кілька агентів можуть бути пов’язані з одним blueprint’ом, що дозволяє забезпечити однакову поведінку ідентичностей для однотипних агентів. Використання blueprint’ів не є обов’язковим для всіх агентів, але вони надають додаткову структуру та контроль під час масштабування.

    Керування ідентичностями агентів у Microsoft Entra

    В адміністративному середовищі Microsoft Entra доступна окрема функція Agent ID, яка забезпечує повну видимість усіх агентних ідентичностей у тенанті. У цьому інтерфейсі адміністратори можуть переглядати:

    • усі ідентичності агентів;

    • статус агентів (активний або неактивний);

    • Object ID та зв’язок із blueprint’ами;

    • власників і спонсорів;

    • інформацію про те, чи використовує агент ідентичність.

    Централізований огляд дозволяє застосовувати політики управління, захищати агентів за замовчуванням і керувати повним життєвим циклом ідентичностей за допомогою вбудованих механізмів Entra.

    Контроль blueprint’ів і управління життєвим циклом

    Для кожного blueprint’а відображається кількість пов’язаних агентних ідентичностей, дата створення та рівень наданого доступу. Адміністратори можуть:

    • вимкнути blueprint, щоб запобігти створенню нових агентних ідентичностей;

    • зберегти працездатність уже існуючих ідентичностей;

    • переглянути дозволи адміністративної та користувацької згоди;

    • призначити власників і спонсорів;

    • переглянути журнали аудиту та входів у систему.

    Вимкнення blueprint’а не вимикає існуючих агентів, а лише запобігає створенню нових ідентичностей на його основі.

    Колекції агентів і управління

    Ідентичності агентів також можуть бути організовані в колекції, які можуть бути як попередньо визначеними, так і користувацькими. Приклади таких колекцій:

    • глобальна колекція, видима всім ідентичностям у тенанті;

    • карантинна колекція для ізольованих або обмежених агентів.

    Колекції посилюють управління, дозволяючи групувати агентів за призначенням, рівнем довіри або операційним станом.

    Інтеграція з платформами Microsoft

    Microsoft Entra Agent ID тісно інтегрований із такими платформами, як:

    • Microsoft Copilot Studio;

    • Power Platform Admin Center;

    • Microsoft 365 Admin Center;

    • Azure AI Foundry.

    Copilot Studio зосереджений на створенні та налаштуванні агентів, тоді як деталі, пов’язані з ідентичністю — такі як Agent ID, прив’язка до blueprint’ів і параметри управління — опрацьовуються через адміністративні центри. Такий підхід забезпечує чітке розмежування між функціональністю агента та управлінням його ідентичністю.

    Підсумок

    Microsoft Entra Agent ID — це обліковий запис ідентичності в Microsoft Entra ID, який надає AI-агентам унікальні можливості ідентифікації та автентифікації. Він відіграє ключову роль у забезпеченні безпеки, масштабованості та керованості AI-агентів у екосистемі Microsoft.

    Використовуючи ідентичності агентів і blueprint’и, організації можуть безпечно розгортати AI-агентів із контрольованим доступом, прозорою відповідальністю та корпоративним рівнем захисту. Окрім безпеки, агентні ідентичності забезпечують автентифіковану взаємодію, делегований доступ і інтеграцію з вебсервісами, що робить їх фундаментальним елементом сучасної архітектури AI-агентів.

  • MCP Inspector: тестування та налагодження MCP-серверів

    Що таке MCP?

    MCP (Model Context Protocol) — це відкритий стандарт, який дозволяє великим мовним моделям (LLM) безпечно отримувати доступ до зовнішніх даних і інструментів. До таких ресурсів можуть належати файли, бази даних, пошукові інструменти, середовища виконання коду тощо.

    За своєю концепцією MCP можна порівняти з універсальним магазином застосунків для AI-асистентів, де моделі взаємодіють із зовнішніми можливостями за єдиним стандартом.

    Що таке MCP Inspector?

    MCP Inspector — це інтерактивний інструмент для розробників, призначений для тестування та налагодження MCP-серверів. Під час створення MCP-сервера, який надає дані або інструменти, важливо переконатися, що запити, відповіді та конфігурації працюють коректно. MCP Inspector саме для цього й використовується.

    Інструмент надає вебінтерфейс, який дозволяє підключатися до MCP-серверів, виконувати інструменти, аналізувати відповіді, переглядати логи та ефективно усувати помилки.

    Як працює MCP Inspector

    MCP Inspector запускається локально та не потребує класичної інсталяції. Він стартує за допомогою команди npx:

    npx @modelcontextprotocol/inspector

    Що таке npx?

    npx — це запускач пакетів Node.js, який дозволяє виконувати пакети без їх попереднього встановлення. Після виконання команди:

    • автоматично розгортається застосунок інспектора;

    • запускається локальний вебінтерфейс;

    • інтерфейс стає доступним за адресою localhost:6274.

    Локальні та віддалені MCP-сервери

    Хоча MCP Inspector працює локально, його можна використовувати для налагодження як:

    • локальних MCP-серверів,

    • так і віддалених MCP-серверів.

    Локальний проксі починає прослуховувати порт localhost:6277, забезпечуючи обмін даними між інтерфейсом інспектора та цільовим MCP-сервером. Для цього автоматично використовуються сесійні токени.

    Огляд інтерфейсу MCP Inspector

    Інтерфейс MCP Inspector складається з двох основних частин:

    • Ліва панель — параметри конфігурації та підключення

    • Основна область — виконання інструментів, історія та повідомлення сервера

    Основні можливості:

    • перегляд доступних інструментів;

    • виконання інструментів із користувацьким введенням;

    • перегляд історії виконання;

    • моніторинг повідомлень і логів сервера.

    Параметри конфігурації

    Типи транспорту

    MCP Inspector підтримує кілька механізмів передавання даних:

    • Streamable HTTP

    • SSE (Server-Sent Events)

    • STDIO

    Вибір транспорту залежить від реалізації MCP-сервера.

    Способи підключення

    Доступні два варіанти підключення:

    • Пряме підключення

    • Підключення через проксі

    Рівні логування та налагодження

    Підтримуються такі рівні логування:

    • Debug

    • Info

    • Notice

    • Warning

    • Error

    • Critical

    • Alert

    • Emergency

    Це дозволяє гнучко керувати обсягом діагностичної інформації.

    Аутентифікація

    MCP Inspector підтримує кілька способів автентифікації:

    • користувацькі JSON-заголовки;

    • заголовки авторизації з секретами;

    • OAuth 2.0 (Client ID, Client Secret, Redirect URL, Scope).

    Додаткові налаштування

    Також доступні такі параметри:

    • тайм-аут запиту;

    • тайм-аут запиту під час виконання;

    • максимальний загальний тайм-аут;

    • адреса проксі;

    • сесійний токен проксі.

    Підключення до MCP-сервера

    Після налаштування параметрів підключення до MCP-сервера ініціює сесію та завантажує метадані сервера, зокрема:

    • назву сервера;

    • підтримувані можливості;

    • список доступних інструментів;

    • початковий рівень логування.

    Після підключення стають доступними розширені параметри налагодження та історія команд.

    Виконання інструментів у MCP Inspector

    Після успішного підключення автоматично відкривається вкладка Tools.

    Тут можна:

    1. Отримати список усіх доступних інструментів

    2. Обрати потрібний інструмент

    3. Задати вхідні параметри (часто у форматі JSON)

    4. Запустити інструмент

    5. Проаналізувати відповідь і логи

    Приклад: MCP-сервер із прикладами застосунків

    Приклад MCP-сервера може надавати такі інструменти:

    • пошук прикладів за ключовим словом;

    • отримання прикладів за продуктом;

    • отримання прикладів за автором.

    Під час виконання інструментів:

    • вхідні параметри мають відповідати очікуваному формату;

    • деякі інструменти вимагають чітко структурований JSON;

    • інші приймають просте текстове введення.

    Наприклад, пошук за ключовим словом може повертати:

    • загальну кількість результатів;

    • дані з підтримкою пагінації;

    • детальні метадані для кожного елемента.

    Параметри пагінації включають:

    • номер сторінки;

    • розмір сторінки.

    Усі дії фіксуються у вкладці History, що дозволяє відстежити весь ланцюг виконаних команд і змін конфігурації.

    Документація та ресурси

    Офіційна документація MCP Inspector доступна за адресою:

    • modelcontextprotocol.io/docs/tools/inspector

    У ній описано:

    • архітектуру MCP (сервери та клієнти);

    • підключення до локальних і віддалених MCP-серверів;

    • створення MCP-серверів і клієнтів;

    • підтримувані транспортні механізми.

    Також доступний GitHub-репозиторій:

    • modelcontextprotocol/inspector

    У ньому можна ознайомитися з вихідним кодом та деталями реалізації інструмента.

    Висновок

    MCP Inspector — це потужний і зручний інструмент для розробників, призначений для перевірки та налагодження MCP-серверів. Він підтримує різні типи транспорту, механізми автентифікації, детальне логування, а також роботу як із локальними, так і з віддаленими серверами.

    Використання MCP Inspector дозволяє впевнено розробляти, тестувати та супроводжувати MCP-сервери, які інтегрують AI-моделі з реальними даними та інструментами.

  • Порівняння TOON і JSON

    Порівняння TOON і JSON

    У цій статті розглядається порівняння TOON і JSON з точки зору їх призначення, структури, ефективності використання токенів і застосування в сучасних застосунках, особливо в контексті великих мовних моделей (LLM).

    Що таке TOON?

    TOON — це token-oriented object notation (об’єктна нотація, орієнтована на токени), розроблена спеціально для AI-застосунків. Її основна мета — зменшити кількість токенів під час роботи із запитами та відповідями LLM. TOON є компактним, людиночитабельним кодуванням моделі даних JSON і оптимізований для ефективної взаємодії з мовними моделями.

    TOON був створений Йоганом Шокплічем за участі Джейсона та Дугласа Крокфорда в межах ширшої екосистеми JSON. Станом на грудень 2025 року TOON є відносно новим форматом і переважно використовується в AI-середовищі.

    Що таке JSON?

    JSON (JavaScript Object Notation) — це відкритий стандарт файлового формату та формат обміну даними. Він широко використовується для передавання даних між системами, подання структурованих даних, зберігання конфігураційних файлів і взаємодії між API та сервісами.

    JSON — універсальний формат із широкою підтримкою на різних платформах, мовах програмування та інструментах.

    Ключові характеристики

    Характеристики TOON

    • Ефективний з точки зору токенів і оптимізований для LLM

    • Структурований і компактний

    • Людиночитабельний

    • Підтримує вкладеність

    • Розроблений спеціально для AI-застосунків

    Характеристики JSON

    • Людиночитабельний і зрозумілий

    • Підтримує глибоко вкладені об’єкти

    • Універсально прийнятий і широко підтримується

    • Підходить для конфігураційних файлів і обміну даними

    • Відкритий стандарт із розвиненою екосистемою інструментів

    Обмеження

    Обмеження TOON

    • Обмежена універсальна підтримка станом на грудень 2025 року

    • Новий і поки що маловідомий формат

    • Потребує спеціального парсера

    • Іноді має труднощі з глибоко вкладеними структурами даних

    Обмеження JSON

    • Надмірна словесність формату

    • Повторювані ключі

    • Дублювання даних збільшує розмір і кількість токенів

    Розширення файлів

    • TOON використовує власне розширення формату

    • JSON використовує розширення .json

    Порівняння використання

    TOON переважно використовується для:

    • Токеноефективного введення даних у LLM

    • Токеноефективного виведення даних з LLM

    • Передавання компактних структурованих даних мовним моделям

    JSON переважно використовується для:

    • Передавання даних між API та сервісами

    • Керування конфігураціями

    • Універсального подання та обміну даними

    Підтримка структур даних

    • TOON найкраще підходить для пласких або табличних структур, але також підтримує вкладеність

    • JSON добре підходить для ієрархічних і вкладених об’єктів

    Сумісність

    • TOON має обмежену сумісність через нещодавнє впровадження

    • JSON має широку сумісність із різними системами та платформами

    Вимоги до парсера

    • TOON потребує спеціального парсера для декодування та інтерпретації даних

    • JSON є універсально розпізнаваним форматом і не потребує спеціальних парсерів

    Ефективність використання токенів

    З точки зору використання токенів TOON забезпечує суттєві переваги. Під час порівняння еквівалентних структур даних TOON може скорочувати кількість токенів приблизно на 45% і більше. У деяких тестах зафіксовано скорочення майже на 60%, залежно від складності даних і використовуваної LLM.

    Приклади структур

    Проста структура TOON може містити:

    • Поле завдання

    • Статус

    • Список кроків, поданий у компактному форматі масиву

    TOON дає змогу гнучко керувати рівнем вкладеності даних. Наприклад, відомості про співробітників або етапи робочих процесів можуть бути представлені на одному рівні вкладеності або розбиті на масиви для підвищення ефективності.

    У порівнянні з JSON ті самі дані у форматі JSON зазвичай містять повторювані ключі та глибшу вкладеність, що збільшує кількість токенів. На високому рівні JSON-структури часто включають батьківські об’єкти, такі як client або workDetails, кожен із яких містить кілька полів і вкладених об’єктів. TOON подає ті самі дані у більш стисненому вигляді.

    Екосистема та ресурси

    Документація JSON містить інформацію про:

    • Історію створення формату

    • Валідні структури JSON

    • Синтаксис

    • Використання JSON для передавання даних між системами

    Документація TOON пояснює:

    • Як JSON кодується в TOON

    • Як працює стиснення з урахуванням схеми

    • Чому потрібен спеціальний парсер

    • Як TOON порівнюється з JSON, YAML, XML, компактним JSON і CSV

    У деяких порівняннях показано скорочення токенів приблизно на 59,8%, а для окремих LLM — ще більше.

    Також існують інструменти та спільноти, які дають змогу:

    • Конвертувати JSON у TOON

    • Завантажувати приклади даних

    • Порівнювати кількість токенів

    • Завантажувати або копіювати результат у форматі TOON

    • Переглядати економію токенів у реальному часі

    Наприклад, проста JSON-структура з 59 токенів може бути перетворена на 24 токени у форматі TOON, що забезпечує економію понад 59%. Для складніших JSON-структур рівень стиснення може бути ще вищим.

    Висновок

    TOON і JSON виконують різні завдання. JSON залишається універсальним стандартом для обміну даними, конфігурацій і взаємодії API. TOON, своєю чергою, є спеціалізованим форматом, орієнтованим на ефективність в AI- та LLM-орієнтованих сценаріях.

    Хоча TOON забезпечує значну економію токенів і компактне подання даних, його обмежене поширення та потреба у спеціальному парсері означають, що наразі він доповнює JSON, а не замінює його. З розвитком AI-застосунків TOON може набути ширшого поширення, особливо в сценаріях, де критичною є ефективність використання токенів.

  • Foundry Local: запуск моделей Azure AI на локальному пристрої

    Вступ до Foundry Local

    Foundry Local — це рішення від Microsoft, яке переносить можливості Azure AI безпосередньо у локальне середовище. Воно дозволяє розробникам запускати AI-моделі повністю на власній інфраструктурі — на настільному комп’ютері, ноутбуці або персональному сервері. Завдяки Foundry Local інференс виконується на пристрої без використання хмари, при цьому зберігається корпоративний рівень безпеки.

    Такий підхід робить Foundry Local зручним вибором для розробників, яким важливі конфіденційність, економія коштів і повний контроль над виконанням AI-моделей.

    Що таке Foundry Local

    Foundry Local — це безкоштовне рішення Microsoft для локального AI-інференсу. Воно дозволяє запускати великі мовні моделі (LLM) та інші AI-моделі локально без необхідності мати підписку Azure або оплачувати хмарні ресурси.

    Платформа підтримує кілька способів інтеграції:

    • інтерфейс командного рядка (CLI);

    • SDK;

    • REST API.

    Це робить Foundry Local гнучким інструментом для інтеграції в різні процеси розробки та застосунки.

    Основні переваги локального запуску AI-моделей

    Використання Foundry Local має низку ключових переваг:

    Конфіденційність

    Усі запити та підказки залишаються в межах локальної системи. Дані не передаються на зовнішні сервери, що особливо важливо для роботи з чутливою інформацією.

    Продуктивність

    Продуктивність залежить від апаратної конфігурації. Foundry Local може використовувати CPU, GPU та NPU, дозволяючи максимально задіяти наявні ресурси.

    Економія коштів

    Оскільки моделі працюють локально, відсутні хмарні платежі, підписки та білінг. Використовуються лише ресурси вашого пристрою.

    Гнучке налаштування

    Розробник повністю контролює вибір моделей, їх конфігурацію та способи інтеграції в застосунки.

    Підтримувані платформи та варіанти встановлення

    Foundry Local підтримує кілька операційних систем і середовищ розробки:

    • Windows — встановлення через пакетний менеджер winget

    • macOS — встановлення за допомогою Homebrew (brew)

    • Доступні SDK:

      • Python

      • JavaScript

      • C#

      • Rust

    У Windows встановлення виконується за допомогою такої команди:

    winget install Microsoft.FoundryLocal

    Після встановлення Foundry Local стає доступним як консольний застосунок.

    Робота з AI-моделями

    Перегляд доступних моделей

    Після встановлення можна переглянути список доступних моделей через CLI. У списку відображається:

    • підтримуваний пристрій виконання (CPU, GPU, NPU);

    • розмір моделі;

    • інформація про ліцензію;

    • варіанти моделей.

    Це дозволяє обрати модель з урахуванням апаратних можливостей і обсягу пам’яті.

    Завантаження та запуск моделей

    Моделі завантажуються до локального кешу та можуть підвантажуватися за потреби. Після запуску Foundry Local надає інтерактивний режим чату для введення запитів.

    Основні CLI-команди:

    • foundry model list — список доступних моделей

    • foundry model info — детальна інформація про модель

    • foundry model run — завантаження та запуск моделі

    • foundry model unload — вивантаження моделі зі сервісу

    Команди інтерактивного чату

    Під час взаємодії з моделлю доступні такі команди:

    • /help — довідка

    • Ctrl + C — скасування генерації

    • /exit — вихід з чату

    Обмеження локальних моделей

    Оскільки Foundry Local працює повністю офлайн, моделі не мають доступу до даних у реальному часі або зовнішніх інструментів. У результаті:

    • відповіді обмежені даними, отриманими під час навчання моделі;

    • запити в реальному часі (наприклад, поточна погода) не можуть бути коректно оброблені;

    • якість відповідей залежить від розміру моделі та якості її навчання.

    Ці обмеження є природним компромісом автономного локального запуску.

    Огляд доступних моделей

    Foundry Local надає доступ до широкого каталогу моделей, які можна фільтрувати та сортувати за:

    • сімейством моделей;

    • розміром файлу;

    • пристроєм виконання (лише CPU, GPU тощо);

    • датою останнього оновлення.

    Для кожної моделі доступна детальна інформація:

    • опис;

    • ліцензія;

    • власник;

    • варіанти моделі;

    • підтримувані завдання.

    Це значно спрощує вибір моделі для конкретних задач.

    Відкритий код і спільнота

    Розробники, які хочуть глибше ознайомитися з Foundry Local, можуть переглянути його репозиторій на GitHub. Там доступні:

    • вихідний код;

    • релізи;

    • учасники проєкту;

    • інформація про розвиток рішення.

    Це забезпечує прозорість і можливості для розширеного налаштування.

    Висновок

    Foundry Local дозволяє запускати AI-моделі безпосередньо на власних пристроях із повною конфіденційністю даних, без хмарних витрат і з гнучкими варіантами розгортання. Його можна використовувати на ноутбуці, настільному комп’ютері або персональному сервері.

    Підтримка кількох платформ, SDK та постійно зростаючий каталог моделей роблять Foundry Local потужним інструментом для розробників, яким потрібен повний контроль над AI-інференсом без залежності від хмарної інфраструктури.

  • Agent 365: Єдина площина керування ШІ-агентами в масштабах організації

    Agent 365: Єдина площина керування ШІ-агентами в масштабах організації

    Вступ до Agent 365

    Agent 365 — це нова площина керування агентами, створена для того, щоб допомогти організаціям централізовано керувати, захищати та масштабувати ШІ-агентів в екосистемі Microsoft. У міру того як компанії все активніше створюють агентів за допомогою різних інструментів і платформ, зростає потреба в централізованому управлінні та прозорості. Agent 365 вирішує цю проблему, надаючи єдине середовище для керування всіма агентами.

    З технологічної точки зору Microsoft, агентів можна створювати за допомогою Copilot Studio, Copilot Studio Light, Azure AI Foundry, SDK, а також розширень для Visual Studio Code. Проте такі агенти часто керуються через різні адміністративні портали, що призводить до фрагментації та ускладнює адміністрування. Agent 365 об’єднує цей досвід у єдину систему.

    Необхідність централізованої площини керування агентами

    Наразі різні типи агентів налаштовуються та керуються через різні інтерфейси:

    • Агенти Microsoft 365 Copilot — через Microsoft 365 Admin Center

    • Агенти Copilot Studio — через Power Platform Admin Center

    • Агенти Azure AI Foundry — через Azure Portal

    Така розрізненість ускладнює відстеження, захист і уніфіковане керування агентами. Agent 365 об’єднує всі агенти в одній площині керування, дозволяючи адмініструвати весь життєвий цикл агентів з єдиного інтерфейсу.

    Для цього кожному агенту присвоюється унікальний ідентифікатор, який забезпечує централізоване керування життєвим циклом, доступом і безпекою.

    Microsoft Entra Agent ID

    Ключовим компонентом Agent 365 є Microsoft Entra Agent ID. Кожен агент отримує власну унікальну ідентичність, яка використовується для:

    • керування життєвим циклом агента

    • контролю доступу та дозволів

    • ідентифікаційної безпеки

    • відповідності вимогам і аудиту

    Такі ідентичності дозволяють застосовувати до ШІ-агентів корпоративні практики керування ідентифікацією та доступом — аналогічно тому, як сьогодні керуються користувачі та застосунки.

    Ключові можливості Agent 365

    Agent 365 побудований на п’яти основних стовпах:

    1. Реєстр агентів

    Реєстр надає консолідований огляд усіх агентів в організації незалежно від того, де вони були створені. До нього входять агенти, створені в Copilot Studio, Copilot Studio Light, Microsoft 365 Copilot Chat та Azure AI Foundry.

    2. Контроль доступу та застосування політик

    Вбудовані механізми застосування політик дозволяють адміністраторам встановлювати єдині правила керування для всіх агентів. Політики можуть регулювати спільне використання, розгортання, використання та права доступу.

    3. Візуалізація та аналітика

    Agent 365 надає аналітику щодо продуктивності агентів, рівня використання, окупності інвестицій і ступеня впровадження. Це допомагає організаціям оцінювати внесок агентів у продуктивність і бізнес-результати.

    4. Інтероперабельність

    Платформа підтримує взаємодію між інструментами Microsoft, open-source технологіями та партнерськими екосистемами. Агенти можуть бути оснащені застосунками й даними для спрощення робочих процесів і підвищення ефективності взаємодії між людиною та агентом.

    5. Безпека та відповідність вимогам

    Agent 365 спирається на корпоративну інфраструктуру безпеки Microsoft і інтегрується з Microsoft Defender, Entra та Purview. Це забезпечує захист ідентичностей, відповідність нормативним вимогам, спостережуваність і виявлення загроз.

    Основні зацікавлені сторони та сценарії використання

    ІТ-адміністратори

    Для ІТ-адміністраторів Agent 365 надає єдину панель для моніторингу активності агентів, застосування політик і керування загрозами безпеки. Керування агентами доступне як через Microsoft 365 Admin Center, так і через Entra Admin Center.

    Керівники та особи, що ухвалюють бізнес-рішення

    Бізнес-керівники можуть використовувати Agent 365 для оцінки впливу агентів на продуктивність і бізнес-результати, що дозволяє ухвалювати більш обґрунтовані стратегічні рішення.

    Інформаційні працівники

    Працівники, які працюють з інформацією, можуть передавати агентам рутинні та монотонні завдання, ефективно співпрацювати з ними та зосереджуватися на більш цінній роботі.

    Фахівці з безпеки

    Команди безпеки отримують централізований контроль над ідентифікацією, автентифікацією, відповідністю вимогам і спостережуваністю. Agent 365 допомагає контролювати розповсюдження агентів і гарантує їх використання лише за призначенням.

    Розробники агентів

    Розробники отримують єдиний SDK і фреймворк, підтримку зовнішніх інструментів і MCP, а також можливість реєструвати, сертифікувати та розгортати агентів по всій організації.

    Керування агентами в Microsoft 365 Admin Center

    У Microsoft 365 Admin Center адміністратори можуть:

    • переглядати реєстр агентів і їх загальну кількість

    • відстежувати активних користувачів, видавців і платформи

    • налаштовувати параметри спільного використання та розгортання

    • керувати дозволеними типами агентів (внутрішні, спільні, зовнішні)

    • блокувати, розгортати або видаляти агентів

    • призначати власників агентам для дотримання вимог

    Також можна завантажувати користувацькі агенти за допомогою маніфесту та розгортати їх для окремих користувачів, груп або всієї організації.

    Керування агентами в Microsoft Entra

    Під час створення агента автоматично формується реєстрація застосунку в Microsoft Entra. В Entra Admin Center адміністратори отримують доступ до:

    • ідентичностей агентів та їх object ID

    • дати створення й джерела provisioning

    • корпоративних застосунків, пов’язаних з агентами

    • колекцій агентів і карантинних груп

    Цей рівень надає глибше розуміння того, як агенти автентифікуються та керуються всередині тенанта.

    Шаблони (Blueprints) та колекції агентів

    Шаблони агентів

    Blueprints — це батьківські шаблони, які лежать в основі ідентичностей агентів у тенанті. Вони визначають спосіб provisioning, надання згод і налаштування безпеки. Адміністратори можуть:

    • призначати власників і спонсорів

    • надавати адміністративну або користувацьку згоду

    • вимикати агентів

    • переглядати журнали аудиту та входу

    Власник керує всією ідентичністю агента, тоді як спонсор відповідає за контроль життєвого циклу.

    Колекції агентів

    життєвого циклу.

    Колекції агентів

    Колекції агентів дозволяють групувати агентів автоматично або вручну. Такі колекції можуть використовуватися для сценаріїв керування, зокрема глобального карантину або додаткових вимог відповідності.

    Висновок

    Agent 365 надає повнофункціональну корпоративну платформу для керування ШІ-агентами в екосистемі Microsoft. Завдяки єдиній площині керування, агентським ідентичностям на базі Entra та глибокій інтеграції з інструментами безпеки й адміністрування Microsoft, Agent 365 дозволяє безпечно, послідовно та ефективно масштабувати використання ШІ-агентів.

    У міру зростання кількості агентів Agent 365 стає ключовим елементом керування, безпеки та операційної стійкості в робочому середовищі, орієнтованому на штучний інтелект.