AI агентите бързо навлизат в ежедневната работа — от писане на код и проучване на продукти до анализ на приходи и обработване на разходи. Според публикация на Microsoft тази полезност обаче изисква достъп до фирмени данни, приложения, инструменти и други агенти, което ги превръща в потенциален вътрешен риск.

Опасността не произтича от това, че агентите непременно са злонамерени. Microsoft посочва, че те могат да допускат грешки, да бъдат манипулирани или компрометирани, а резултатите им да се променят заедно с контекста и входните данни. Затова агент, който в началото изпълнява задачата правилно, може по-късно да реагира по различен начин.

Рискът нараства, когато такива системи работят непрекъснато, с машинна скорост и в голям мащаб. Затова според Microsoft защитните механизми трябва да могат да се адаптират в реално време към промените в идентичността, поведението, контекста и риска.

Основният принцип в позицията на Microsoft е да се разделят интелигентността на модела и правото му да действа. Решенията до какво има достъп агентът, какви операции може да извършва и дали да продължи работа трябва да се вземат от външни контроли, които моделът не може да заобикаля или променя.

Този подход измества фокуса от безусловното доверие в поведението на модела към архитектура, която ограничава последствията при грешка или злоупотреба. На практика това означава правомощията на агента да бъдат отделени от способността му да анализира, планира и генерира следващи стъпки.

Microsoft свързва тази рамка за сигурност с Microsoft Entra Agent ID, Microsoft 365 E7 и Project Perception. Компанията представя новите си възможности като средства, с които организациите да ограничават риска от агентите и да адаптират защитата си в движение.

Посланието към организациите е да третират агентите като участници с реален достъп, а не само като помощен софтуер. Колкото повече системи и данни могат да използват, толкова по-важни стават ясните разрешения, независимите ограничения и възможността работата им да бъде прекратена отвън.