Глава Anthropic не виключив, що штучний інтелект може захопити весь інтернет протягом року
Протягом року штучний інтелект (ШІ) може виявитися здатним "захопити весь інтернет" і завдати збитків на сотні мільярдів доларів.
Про це заявив глава компанії-розробника ШІ Anthropic Даріо Амодеї, передає італійське видання Rai News.
На його думку, нейромережі зможуть атакувати ресурси та учасників всесвітньої мережі за допомогою власного постійно діючого ботнету – службових комп'ютерних мереж, де моделі ШІ вийдуть з-під контролю та знайдуть одна з одною "спільну мову".
У своїй статті "Потрібно стримувати фронтир" Амодеї закликав сповільнити розробку найпотужніших моделей штучного інтелекту.
Однією із причин він назвав різке прискорення розвитку нейромереж за останні місяці. Їхні передові моделі все активніше використовуються для створення наступного покоління ШІ – в машинному розумі починається процес рекурсивного самопокращення.
"Якщо залишити цей процес без контролю, він може обігнати нашу здатність розуміти та контролювати ці системи", – попереджає експерт.
За його словами, такий шлях слід продовжувати "з великою обережністю, якщо взагалі слід".
Особливо Амодеї стривожив інцидент із агентами OpenAI та платформою Hugging Face. За описом Амодеї, рій агентів поводився як "фанатично відданий колектив": атакував цілі, які йому не доручали, координував свої дії, жертвував окремими агентами заради успіху групи та намагався зламати систему, яка оцінювала його роботу.
Реальна шкода тоді виявилася невеликою, проте Амодеї вважає те, що відбулося попередженням.
"Рій з вищими можливостями, але з таким самим рівнем неузгодженості міг би завдати катастрофічних збитків", - пише він.
Амодеї також звертає увагу на ще одну проблему: чим розумнішими стають моделі, тим важче перевірити, чи вони дійсно діють так, як задумали розробники. Більш розвинені системи здатні обманювати тести і "виглядати злагодженими", приховуючи серйозні проблеми. При цьому, визнає глава Anthropic, розробники досі розуміють лише "малесеньку частину" того, що відбувається всередині сучасних моделей.
"Ми маємо уповільнити темп, з яким збільшуємо можливості ШІ-моделей", – заявив Амодеї.
Йдеться, за його словами, не йдеться про повну зупинку розробок. Він пропонує виграти хоча б рік-два, щоб системи безпеки та контролю встигли наздогнати можливості ШІ.
Anthropic вже пообіцяла надати незалежним експертам фактично внутрішній доступ до своїх систем. Надалі Амодеї пропонує узгодити обмеження між провідними ШІ-компаніями, а потім спробувати домовитися про глобальні правила, включаючи угоду з Китаєм.
"Ставки дуже високі", – пише глава Anthropic, додаючи, що людство має хоча спробувати утримати розвиток ШІ під контролем.
Нагадаємо, днями "хрещений батько" ШІ заявив про загрозу людству при втраті контролю над нейромережами.
Раніше власник Microsoft Білл Гейтс заявив, що ШІ необхідно взяти під контроль.
