Anthropic зупинила спробу створити біозброю за допомогою ШІ. Днями компанія попереджала про загрозу знищення людства

Американський розробник штучного інтелекту Anthropic заявив, що компанія виявила та припинила спроби використати її модель ШІ для "зловмисної діяльності", яка могла сприяти розробці біологічної зброї.

Про це йдеться в нещодавньому аналізі компанії щодо загроз.

Це останнє з низки попереджень дослідників ШІ та представників індустрії про потенційні ризики цієї технології для людства.

Попередження вже спричинило заклики до конкретних дій. Сенатор США Берні Сандерс закликав призупинити розробку передових систем ШІ та заборонити створення штучного суперінтелекту.

Дональд Трамп наразі відкидає такі побоювання. У четвер він заявив, що його більше непокоїть інше: "Якщо ми не переможемо у сфері ШІ, ми опинимося в дуже скрутному становищі".

У четвер компанія опублікувала свій останній звіт про загрози. Подібні аналізи публікують й інші розробники ШІ.

Зокрема, у вівторок Google повідомила, що хтось намагався використати її ШІ-інструмент Gemini, щоб отримати "покроковий технічний посібник зі створення біологічних агентів, призначених для використання як зброя".

Згідно зі звітом Anthropic, її модель ШІ Claude також використовували в кібершпигунській кампанії, пов'язаній із Росією, а також іранська пропагандистська структура.

Виявлені за останні вісім місяців випадки зловживання ШІ були різноманітними - від фальшивих застосунків для знайомств і шахрайських схем через Wi-Fi у готелях до систем стеження, призначених для виявлення дисидентів.

Anthropic також звинуватила китайські компанії-розробники ШІ у спробах відтворити можливості Claude.

У великому звіті наведено випадки, коли технології компанії використовували не за призначенням імовірні державні структури, злочинці, розробники шпигунського програмного забезпечення, державні пропагандистські установи та політично вмотивовані особи.

За даними компанії, у період із грудня 2025 року до серпня 2026 року їй вдалося припинити випадки зловмисного використання моделей Claude Haiku, Sonnet та Opus.

Жоден із виявлених випадків не стосувався моделей Claude Fable або потужніших моделей класу Mythos, за винятком одного випадку "дистиляції" - процесу, за якого менші моделі ШІ навчають за допомогою більших і дорожчих моделей.

Anthropic заявила, що її моделі використовували не лише для кібератак та інформаційних операцій, стеження, шахрайства, а й для розробки біозброї. Компанії довелося блокувати науковців, які використовували ШІ таким чином, що це могло сприяти створенню зброї.

Anthropic назвала зловживання ШІ у біологічній сфері "одним із найсерйозніших ризиків для передових моделей ШІ". За відсутності належних запобіжників це "може мати катастрофічні наслідки", заявила компанія.

"Ту саму інформацію, яку можна використати для розробки біологічної зброї, можна також застосувати, наприклад, для створення вакцини або ліків від хвороби", - зазначили в Anthropic.

Керівник відділу аналізу загроз Anthropic Джейкоб Кляйн сказав New York Times, що це "надзвичайно складна й неоднозначна ситуація".

"Це не те, що ви бачите лиходія з коміксів, який заявляє: "Я хочу створити біологічну зброю, щоб убити всіх", - сказав Кляйн.

У звіті також згадуються шість випадків, коли Claude використовували для розробки програмного забезпечення для звичайних озброєнь, зокрема вогнепальної зброї, ракет, ударних дронів, бомб та інших боєприпасів, а також систем наведення й управління, за допомогою яких їх застосовують.

Кіберзлочинці та хакери

У звіті зазначено, що кіберзлочинці та хакерські угруповання, які підтримують уряди, дедалі частіше використовують технології компанії для своїх операцій.

Серед згаданих у звіті - хакерське угруповання ShinyHunters, а також лабораторії, що базуються в Китаї.

У звіті також йдеться про хакерське угруповання, пов'язане з Росією. Імовірно, вони використовували ШІ, щоб створити систему, яка автоматично виявляла блокування шкідливого програмного забезпечення. Система змінювала код доти, доки кіберзахист переставав його розпізнавати.

Каліфорнійська компанія заявила, що врахувала результати дослідження у своїх внутрішніх процесах, "щоб у майбутньому краще запобігати, виявляти та припиняти подібну діяльність".

Anthropic також повідомила, що в разі потреби передавала отриману інформацію правоохоронним органам та партнерам у технологічній галузі.

Цей звіт, перший за цей рік, з'явився після того, як провідний дослідник у галузі безпеки Anthropic попередив: штучний інтелект розвивається так стрімко, що, на його думку, ймовірність того, що протягом наступного десятиліття він "може знищити все людство", перевищує 10%.

У статті, опублікованій 6 вересня, головний науковець OpenAI Якуб Пачоцький закликав галузь запровадити "добровільне уповільнення" розробки ШІ, доки не будуть створені необхідні запобіжники.

"Я стурбований тим, що ніхто не готовий до наслідків подальшого стрімкого зростання машинного інтелекту", - заявив Пачоцький. Він додав, що OpenAI, яка створила ChatGPT, продовжить працювати над системами безпеки, однак потрібні масштабніші заходи.

Це попередження стало приводом для відкритого листа до прем'єр-міністра Великої Британії Енді Бернема із закликом укласти новий міжнародний договір про безпечний розвиток ШІ.

Автори листа також закликали уряди спільно визначити, яким має бути договір, що регулюватиме розвиток суперінтелекту.

У США демократ Берні Сандерс вніс законопроєкт про заборону штучного суперінтелекту та тимчасове призупинення розробки передових систем ШІ.

"Коли вчені кажуть вам, що існує ймовірність, навіть просто ймовірність, катастрофічних наслідків для людства, треба бути дурнем, щоб не сказати: пригальмуйте", - заявив він у четвер в ефірі BBC Newsnight.

За участю Осмонда Чіа.