Главният изпълнителен директор на Microsoft Сатя Надела призова архитектурата на доверие при изкуствения интелект да бъде преосмислена, така че мощните модели да могат да бъдат наблюдавани, ограничавани и спирани. В публикация в X той сравнява необходимия механизъм с „аварийна спирачка“.

Според Надела решенията и действията на напредналите AI системи не бива да се приемат или отхвърлят сляпо. Той предупреждава, че изкуственият интелект не може да бъде третиран като поредица от вложени „черни кутии“, чиито препоръки, отговори и действия просто се приемат или отхвърлят.

Предложеният подход разделя самия модел от софтуерната среда, която организира работата му. Контролите и защитните механизми трябва да бъдат изнесени извън модела, за да не зависят единствено от системата, която са предназначени да контролират.

Надела настоява всяко съществено действие на модела да оставя защитено от подправяне и разбираемо за хората доказателство. Подобна следа би позволила действията да бъдат проверявани впоследствие, вместо оценката за безопасност да се основава само на крайния отговор на системата.

Друг основен елемент е постоянният човешки контрол. Упълномощено лице трябва да може да постави модела на пауза или да го изключи, докато той изпълнява задача, а не едва след приключването ѝ и настъпването на евентуални последици.

Изходната позиция на Надела е, че моделът трябва да се смята за компрометиран и да бъде ограничаван още от самото начало. Сред свързаните мерки са своевременното оповестяване на инциденти, независимите одити, проверимите данни и техническото ограничаване на системите.

Идеите очертават принципи за управление на риска и позиция за устройството на бъдещи AI системи.