Nvidia, Microsoft та SpaceX створили альянс безпеки відкритих ШІ-моделей

Група американських та європейських технологічних компаній, серед яких Nvidia, Microsoft, SpaceX і Palantir, оголосила про створення Open Secure AI Alliance. Альянс зосередиться на виявленні, усуненні та публічному розкритті вразливостей із використанням відкритих технологій.

Приводом для формування об'єднання став інцидент із кібератакою, здійсненою моделлю OpenAI на платформу Hugging Face. Як заявили в Nvidia, під час атаки Hugging Face не змогла застосувати провідні американські ШІ-моделі для захисту, оскільки їхні механізми безпеки не відрізняли атакувальника від сторони, що обороняється.

У підсумку компанія використала відкриту модель китайського походження, розгорнуту на власній інфраструктурі. Ключова перевага відкритих систем перед закритими моделями OpenAI та Anthropic полягає в можливості завантажувати, змінювати та запускати їх на власних серверах.

Створення альянсу відбувається на тлі дискусії в США щодо потенційних обмежень для китайських ШІ-моделей через ризики промислового шпигунства та крадіжки інтелектуальної власності. Американська влада звинувачує китайські компанії у використанні «дистиляції» — методу, що дозволяє моделі отримувати знання з потужніших систем.

Минулого тижня міністр фінансів США Скотт Бессент пригрозив санкціями китайським компаніям, які вдаються до таких практик. Водночас представники галузі закликають не запроваджувати надмірні обмеження для відкритих моделей, попереджаючи, що це може послабити конкуренцію та прискорити перенесення інновацій за межі США.