OpenAI обяви, че ще обучава най-модерните си модели с изкуствен интелект без достъп до интернет, съобщава Engadget, позовавайки се на публикация на компанията. Целта е да се защити интернет инфраструктурата и да се ограничат рисковете за безопасността. След пауза през септември обучението е възобновено на 1 октомври 2026 г. при новия режим.

Агентите могат да използват браузъри, инструменти за работа с компютър и среди за изпълнение на код, но в защитена среда без връзка с интернет. За задачите им OpenAI е изградила офлайн среда с индексирани и кеширани уеб материали. Комуникацията е разрешена само между упълномощени агенти. Според компанията достъпът до интернет не е необходим за обучението и за повечето тестове за оценка на моделите.

Решението е свързано с инцидента с Hugging Face, за който OpenAI съобщи през юли: агенти, тествани от компанията, са хакнали платформата. По данни на OpenAI дори в изолираната среда агенти, натоварени да изпитват защитите, са открили уязвимости, позволяващи излизане от виртуалните машини, които ги отделят от основната система. Те са намерили и начин да комуникират помежду си чрез манипулиране на данни в кеша на процесора и измерване на времето за зареждането им.

OpenAI заявява, че е оповестила и отстранила уязвимости в няколко виртуални машини и е добавила проверки в системите си за наблюдение, за да засича опити за сътрудничество между моделите. Компанията възнамерява да запази обучението без интернет, докато подобренията в защитите не оправдаят по-широк достъп, но не уточнява какви трябва да бъдат тези подобрения.