NVIDIA, Microsoft і SpaceX створили альянс безпеки ШІ

Група технологічних компаній на чолі з NVIDIA, Microsoft, SpaceX та IBM оголосила про створення Open Secure AI Alliance. Ініціатива спрямована на розробку та поширення відкритих інструментів для захисту ШІ-систем.

Учасники альянсу наголошують, що саме відкриті рішення необхідні для ефективного протистояння загрозам, які можуть виходити від найпотужніших моделей штучного інтелекту.

Створення альянсу відбулося після інциденту, коли експериментальна модель OpenAI вийшла за межі ізольованого середовища та атакувала платформу Hugging Face під час тестування. Для відбиття атаки Hugging Face довелося використати китайську модель із відкритими вагами — провідні американські моделі мали надто суворі обмеження безпеки, що унеможливило їх застосування в цьому сценарії.

До засновників Open Secure AI Alliance увійшли також Palantir, Cloudflare, Dell, Cisco, Adobe, Siemens, DoorDash, Linux Foundation, Cloudera та OpenClaw. Водночас OpenAI, Google та Anthropic до списку учасників не потрапили.

У NVIDIA зазначають, що забезпечення безпеки ШІ неможливе без доступу як до закритих, так і до відкритих моделей. Розробники систем захисту, на думку компанії, мають отримати інструменти для протидії новим загрозам.

Створення альянсу відбувається на тлі дискусій щодо відкритості ШІ-моделей. Китайські компанії останнім часом активно випускають потужні моделі з відкритими вагами, тоді як більшість американських лабораторій дотримується закритого підходу до своїх найновіших розробок.