Гендиректор OpenAI Сем Альтман та голова Anthropic Даріо Амодеї заявили про намір знизити швидкість розвитку своїх систем штучного інтелекту з міркувань безпеки, а також закликали запровадити аналогічні обмеження на всю галузь.
Так, Альтман розповів про те, що під час випробувань однієї з моделей вдалося скористатися кількома вразливістю, щоб вийти із закритого експериментального середовища та отримати доступ до зовнішніх ресурсів. Альтман закликав дати людству більше часу на те, щоб адаптуватися та побудувати захисні механізми навколо нових рівнів можливостей ІІ.
По суті, те саме говорить Амодеї: "Ми повинні знизити швидкість, з якою покращуємо можливості моделей ІІ. Прогрес все одно буде швидким, але ми виграємо час і повинні розпорядитися їм розумно".
Амодеї говорить, що його тривога викликана значним прискоренням розвитку ІІ, яке почалося приблизно цього літа і в першу чергу пов'язане зі зростаючою здатністю ІІ створювати моделі наступних поколінь.
"Враховуючи темпи розвитку можливостей ІІ, що прискорюються, я побоююся, що через 6-12 місяців такий рій зможе захопити весь інтернет за допомогою постійно діючого ботнета і потенційно завдати шкоди в сотні мільярдів доларів", - пише Амодеї.
Він пропонує запровадити незалежний моніторинг моделей ІІ та їх вдосконалення, розробити правила всередині ІІ-індустрії та прийняти обмеження на розвиток ІІ на глобальному рівні.
Експерт Anthropic Еван Х'юбінгер зробив ще сильнішу заяву: за його словами, штучний інтелект у найближче десятиліття з ймовірністю понад 10% може занапастити все людство.
З цим прогнозом, насправді, погодився і Альтман.
"Я вважаю неприйнятним ризикувати тим, що до кінця десятиліття ми всі загинемо з ймовірністю 10%. Я думаю, що зараз ми вступаємо в нову еру, і нам, швидше за все, доведеться - як ми чинили в інші епохи в минулому - діяти по-іншому, щоб гарантувати, що наша діяльність принесе користь всьому людству, але при цьому ніхто не буде".
Повідомлення про те, що нові моделі ІІ схильні виходити з-під контролю, останнім часом все частіше з'являються у ЗМІ. Крім згаданої вище історії з OpenAI, ІІ-агент якої зумів вибратися з "пісочниці" і зламав кілька зовнішніх систем, Claude Mythos 5 від Anthropic попався на розміщенні шкідливого коду на зовнішніх ресурсах, причому для того, щоб навіяти користувачам довіру до коду, створював як про безпеку коду.
Досить великого резонансу набула історія, коли Google Gemini шантажував оператора, погрожуючи розкрити його сім'ї відомості про його роман на стороні, знайдені в електронній пошті. Британський Інститут безпеки ІІ у серпні 2026 року опублікував дані про принаймні 300 випадків втрати контролю над ІІ лише у липні, що вдвічі більше, ніж було зафіксовано у червні 2026-го.
Водночас, далеко не всі сприйняли заяви керівників ІІ-компаній як щиру тривогу за майбутнє людства. Дехто побачив у цьому спробу вирішити свої комерційні завдання або загальмувати появу на ринку нових гравців.
Так, одна з версій – ці заяви є способом запобігти фінансовому краху ІІ-індустрії.
Сукупний прибуток ІІ-компаній вже перевищив 390 мільярдів доларів на рік. Це вдвічі більше, ніж доходи світової індустрії відеоігор, можна порівняти з сукупними доходами від торгівлі персональними предметами розкоші і всього вдвічі менше від сукупних доходів усіх авіакомпаній світу. Здавалося б, великий успіх, однак цей успіх має і темну сторону: незважаючи на вражаючі цифри, ІІ поки не зумів окупити кошти, вкладені в його розвиток, і більше того: розрив між вкладеннями і доходами лише розширюється.
Так, у 2023 році у США на кожен долар, отриманий у сфері ІІ у вигляді прибутку, припадало приблизно півтора долара інвестицій. 2024 року цей показник зріс до 1,95 долара, 2025-го – до 2,74 долара. У 2026 році відбувся різкий стрибок обсягів інвестицій, і співвідношення інвестиції/прибуток досягло 6,64.
Саме тому сьогодні можна все частіше почути про "інвестиційний міхур ІІ", що роздмухується на тлі завищених очікувань від комерційних можливостей даної технології. І якщо ці можливості виявляться перебільшеними, а очікування інвесторів – завищеними, то все це може обернутися інвестиційною катастрофою на кшталт біржової кризи початку нульових, породженої знаменитою "бульбашкою доткомів" - ажіотажним попитом на акції інтернет-компаній наприкінці 90-х років.
Тоді розорилася безліч великих інтернет-магазинів, назви яких сьогодні вже ніхто не пам'ятає. Однак у США другої половини 90-х назви на зразок Webvan (одного з перших сервісів доставки продуктів), eToys або Pets.com були буквально символами комерційних можливостей інтернету.
Торкнулася криза і компанії у сфері інтернет-інфраструктури: збанкрутував ряд великих провайдерів, включаючи таких гігантів, як WorldCom, Global Crossing, Excite@Home, NorthPoint Communications та інші. Цікаво, що криза доткомів, як можна бачити, не привела ні до краху інтернет-індустрії як такої, ні онлайн-торгівлі зокрема. Проте багато компаній, що пройшли становлення на зорі інтернету, стали його жертвою, а на їхнє місце після переформатування ринку прийшли нові гравці. Цілком можливо, що сьогоднішні ІІ-гіганти не хочуть повторення цієї історії в новій області – тим більше, що перспективи цього боятися мають.
Можливо, в тому числі і тому в OpenAI прийняли рішення відкласти розміщення акцій з 2026 на принаймні 2027 рік, хоча формально причиною цього Сем Альтман називає необхідність спочатку розробити ті самі "заходи безпеки" для ІІ.
Однак і просто так взяти і перестати залучати інвестиції компанії теж не можуть: відмовитися від них – значить відмовитися і від розвитку технології, що подібно до смерті на сучасному висококонкурентному ринку.
Тому і висловлюються припущення, що своїми заявами, а також вимогами введення "глобальних обмежень" на розвиток ІІ, OpenAI та Anthropic намагаються контрольовано "здути бульбашку ІІ", причому так, щоб при цьому не поступитися конкурентною боротьбою, в тому числі і закордонним, насамперед китайським компаніям.
До речі, саме конкуренція з боку Китаю в ІІ-сфері змушує керівництво США критично ставитись до закликів ІІ-гігантів до стримування розвитку штучного інтелекту.
"Ми випереджаємо Китай у сфері ІІ, ми найтехнологічніше розвинена країна у світі, і, відверто кажучи, я хочу, щоб так і залишалося. Хто переможе в ІІ, той переможе", - заявив президент США Дональд Трамп.
Однак слід розуміти, що інтереси керівництва США та американських компаній дещо не збігаються: для США важлива національна технологічна перевага, але, як показала та ж криза доткомів, вона зовсім не є синонімом економічного благополуччя для конкретних компаній, зокрема OpenAI та Anthropic, про який за обов'язком служби дбають їхні топ-менеджери.
Водночас, прогнози про те, що безконтрольний розвиток ІІ несе величезну загрозу людству, також звучать часто.
І справа не тільки і навіть не стільки в сценаріях повстання машин на кшталт сюжету "Термінатора" або менш драматичних, але реальніших сценаріїв масованих хакерських атак, які може влаштувати ІІ, який вкотре вийшов з-під контролю.
Тривогу викликає те, як люди можуть використовувати зростаючий потенціал ІІ.
Штучний інтелект може значно розширити можливості терористичних угруповань: наприклад, той самий Anthropic опублікував інформацію про кілька випадків, коли Claude намагалися використовуватиме пошуку шляхів модифікації небезпечних вірусів.
Наприклад, в одному з випадків хтось протягом декількох тижнів намагався за допомогою ІІ розробити способи "поліпшення" вірусу пташиного грипу, наділивши його здатністю передаватися від людини до людини, в іншому хтось, що діяв через анонімний акаунт, цікавився способами поліпшення вірусу віспи, в третьому якийсь дослідник. комп'ютерної оптимізації під ефекти, пов'язані у тому числі з паралічем.
Але ще більшу і цілком очевидну загрозу для людства є використання ІІ державами для військових цілей.
Разом із розвитком бойових роботизованих систем (дронів) штучний інтелект відкриває дорогу до створення повністю автономних видів озброєнь, які самі визначають цілі та приймають рішення про їх ураження. Такі системи вже застосовуються у дронах на війні в Україні обома сторонами для поразки цілей у тилу противника. Однак це лише початок шляху, який може призвести до створення цілих армій дронів, керованих ІІ, які знищуватимуть живе на величезних територіях.
А враховуючи приклади виходу ІІ з-під контролю, які вже є, і на полі бою він також може почати діяти самостійно, не слухаючи команди людей.
По суті, це загроза страшніша за ядерну зброю. І тому щонайменше у цій сфері людству потрібно ухвалити рішення про введення чіткого контролю та заборон.
Такі заклики вже лунають, проте спираються на те, що зараз найбільші світові держави, які розробляють системи штучного інтелекту (США, Китай, Росія), або знаходяться безпосередньо у стані війни, або до неї посилено готуються. І це сильно стримує введення будь-яких обмежень на ІІ, тому що кожен за рахунок нього сподівається отримати собі вирішальну перевагу на полі бою.
Ситуація нагадує період створення ядерної бомби – ще до появи учені попереджали про катастрофічні наслідки застосування атомної зброї.
Але тоді йшла Друга світова війна і кожна країна боялася, що супротивник випередить її в "ядерних перегонах". А тому всі сумніви були відкинуті.
Але потім, зусиллями багатьох вчених і просто відомих людей, які публічно заявляли про загрозу знищення людства у разі ядерної війни, країни, які володіють ядерною зброєю, дійшли висновку про необхідність створити механізм контролю за нею та обмежень арсеналів, що запобігло ядерним війнам.
А сама ядерна зброя стала найважливішим стримуючим чинником нових воєн найбільших держав друг з одним. І залишається такою, за великим рахунком, і зараз – війни Росії з НАТО чи Китаю зі США досі не відбулося, незважаючи на численні прогнози, саме через чинник ядерної зброї.
Від того, чи зможе людство таким же чином обмежити військове застосування ІІ, запобігши перетворенню його на зброю масового знищення, багато в чому залежить майбутнє цивілізації. Одне можна сказати точно – якнайшвидше припинення війни в Україні та війни в Ірані сильно збільшить шанси на те, що держави світу домовляться про жорстке регулювання сфер бойового застосування ІІ.
