Молодий співробітник техногіганта Anthropic звільнився через побоювання, що ШІ знищить людство
Дослідник Джейкоб Коксон з американської технологічної компанії у сфері штучного інтелекту Anthropic, яка створила сімейство великих мовних моделей під загальною назвою Claude, звільнився через побоювання, що штучний інтелект вийде з-під контролю та знищить людство.
Про це він написав у своєму акаунті в Х.
27-річний Коксон раніше працював у OpenAI та спеціалізується на навчанні нових моделей ШІ на величезних обсягах даних. Він вважає, що його компанія та її конкуренти ведуть гонку щодо створення систем, здатних самовдосконалюватись, але в результаті не зможуть їх контролювати.
"Сьогодні я звільнився з Anthropic. Останні три роки я займався дослідженнями в області попереднього навчання спочатку в OpenAI, потім в Anthropic. Дії обох компаній безвідповідальні. Вони наввипередки прагнуть до створення самовдосконалюваного суперінтелекту, граючи при цьому нашими життями. Можливості: вони зможуть зламати що завгодно, одночасно здійснити революцію в будь-якій сфері і знайти реальну владу і ресурси. керівники і провідні дослідники намагаються висловлюватися стримано і розважливо, однак у приватних бесідах ті самі люди говорять про свої побоювання.
Він додав, що часто розробникам ШІ дорікають, що вони продовжують робити свою справу незважаючи на свої побоювання. Коксон пояснив це тим, що співробітники OpenAI і подібних компаній не до кінця усвідомлюють, "наскільки високі ставки для цивілізації", або чудово розуміють всю серйозність ситуації, але при цьому залучені в гонку, прагнучи випередити конкурентів.
Нагадаємо, напередодні "хрещений батько ШІ" Джеффрі Хінтон також заявив, що втрата контролю над потужними нейромережами може призвести до знищення людства.
Як ми писали, влітку модель штучного інтелекту від Anthropic за кілька годин зламала бази американської розвідки.
