Няколко служители на Google DeepMind са напуснали или са в процес на напускане заради опасения от военните приложения на изкуствения интелект, съобщава BBC след разговори с настоящи и бивши служители. В центъра на спора са разширяващият се обхват на договорите с американските военни и въпросът дали човешкият надзор е достатъчен за безопасна употреба на технологията.

Базираната в Лондон изследователка и инженер София Лигуори разказва пред BBC, че е подала оставка тази седмица след три години в компанията. Тя посочва като причина нарастващата работа на Google с американските и израелските военни. По думите ѝ тази посока я е накарала да загуби доверие, че работодателят ѝ спазва заявените си етични ценности.

Изследователят Андреас Кирш, напуснал Google DeepMind по-рано този месец, смята, че управлението и надзорът в компанията са недостатъчни за безопасно и отговорно внедряване на изкуствен интелект във военна среда и при работа с класифицирана информация. Според него Google изглежда няма право да контролира или да спира начина, по който Пентагонът използва моделите ѝ, и има ограничена видимост за употребата им. Кирш смята също, че сегашните модели не са достатъчно надеждни и не са обучени за подобни задачи.

Според BBC договорът на Google с Пентагона, подписан по-рано тази година, допуска използването на моделите за класифицирана военна работа и за „всяка законна правителствена цел“. Цитираният текст посочва, че те не бива да се използват за масово наблюдение вътре в страната или за автономни оръжия, включително подбор на цели, без подходящ човешки надзор и контрол. Ограничението е обвързано с наличието на човешки контрол, а не представлява безусловна забрана на тези приложения.

В отговор пред BBC Google заявява, че работи с организации от публичния сектор по света и следва последователна процедура за преглед на договорите, включително за съответствие с политиките за допустима употреба и принципите си за изкуствен интелект. Тези принципи включват човешки надзор и съобразяване с международното право и човешките права.

Подобни договори за внедряване на изкуствен интелект във военни дейности като транспорт, планиране и операции на бойното поле са подписали и OpenAI, Amazon, Microsoft, SpaceX, Oracle, Nvidia и Reflection. Американският министър на отбраната Пийт Хегсет е обявил интегрирането на технологията във въоръжените сили за ключов приоритет.

Сара Шокър, бивша ръководителка на екипа по геополитика в OpenAI, предупреждава пред BBC, че скоростта на изкуствения интелект съкращава времето, с което операторът разполага за решение — особено рисково в среда на силен стрес. Според нея, когато системата подбира стотици цели за кратко време, смислената човешка проверка за грешки става почти невъзможна.

Като пример за военна употреба BBC описва Maven Smart Systems на Palantir — платформа за организиране на разузнавателни данни, която използва изкуствен интелект, за да подпомага идентифицирането и избора на цели за удари. Бившият директор на Project Maven, пенсионираният генерал-лейтенант Джак Шанахан, предупреждава, че стремежът към бързо и широко внедряване може да е за сметка на строгите изпитвания и оценка. Пентагонът защитава ускореното въвеждане на технологията: „Скоростта определя победата в ерата на изкуствения интелект“, заявява по-рано тази година заместник-министърът на отбраната Емил Майкъл.

Работата на Google с Израел също е предизвиквала недоволство сред служители. През 2024 г. техни критики са насочени към Project Nimbus — съвместен договор с Amazon на стойност 1,2 млрд. долара за предоставяне на технологии за изкуствен интелект и облачна инфраструктура на израелското правителство и военни. Тогава Google заявява, че проектът не е предназначен за особено чувствителни, класифицирани или военни задачи, свързани с оръжия или разузнавателни служби.

Лигуори твърди още, че договорът ѝ ограничава публичната критика към Google и че служители се страхуват от ответни действия и риск за кариерата си. Компанията заявява пред BBC, че има специални канали за безопасно подаване на сигнали — от въпроси на бизнес етиката до нарушения — и строги вътрешни правила срещу всякакви ответни действия.