Сем Альтман підтримав обмеження проти ІІ. Фото: Фейсбук

Гендиректор компанії OpenAI Сем Альтман слідом за керівником Anthropic Даріо Амодеї заявив, що необхідні термінові обмеження у розвитку штучного інтелекту (ШІ).

Слова Альтмана наводить британська газета The Guardian.

На його думку, через швидкий розвиток ШІ до кінця десятиліття існує ризик загибелі людства.

Тому зараз OpenAI буде зосереджена на питаннях безпеки та контролю за ШІ – нехай навіть і на шкоду подальшому розвитку продукту.

"Я вважаю неприйнятним ризикувати тим, що до кінця десятиліття ми всі загинемо з ймовірністю 10%. Я думаю, що зараз ми вступаємо в нову еру, і нам, швидше за все, доведеться - як ми чинили в інші епохи в минулому - діяти по-іншому, щоб гарантувати, що наша діяльність принесе користь всьому людству, але при цьому ніхто не ризикуватиме, – заявив Альтман.

Нагадаємо, глава Anthropic (модель Claude) Даріо Амодеї раніше написав статтю із закликом обмежити темпи вдосконалення нових моделей штучного інтелекту.

"За останні кілька місяців я переконався, що для повного вирішення проблем, пов'язаних з ризиками, потрібна ще більша обачність - не просто інвестиції в запобігання ризикам, але регулювання темпів розвитку можливостей, щоб система запобігання ризикам не відставала", - вважає глава Anthropic.

Амодеї говорить, що його тривога викликана значним прискоренням розвитку нейромереж, яке почалося приблизно цього літа і в першу чергу пов'язане зі зростаючою здатністю ШІ створювати моделі наступних поколінь.

"Враховуючи темпи розвитку можливостей ШІ, що прискорюються, я побоююся, що через 6-12 місяців такий рій зможе захопити весь інтернет за допомогою постійно діючого ботнета і потенційно завдати шкоди в сотні мільярдів доларів", - пише Амодей.

Глава Anthropic запропонував триетапний план, першим кроком якого має стати зовнішня експертна перевірка всіх передових компаній у сфері штучного інтелекту. Другий етап – координація між компаніями для встановлення загальних стандартів безпеки та обмежень, третій – глобальна координація на рівні урядів.

Засновник xAI (Grok) Ілон Маск погодився із цими ідеями.

"Даріо прав", - написав він у соцмережі Х.

Сем Альтман заявив про загрозу людству з боку штучного інтелекту.

Раніше "хрещений батько" штучного інтелекту Джеффрі Хінтон заявив, що втрата контролю над потужними нейромережами може призвести до знищення людства.

Перед цим молодий співробітник техногіганта Anthropic звільнився через побоювання, що ШІ знищить людство.

Читайте Страну в Google News - натисніть Підписатися