Творці ШІ не приховують, що готують сценарії у разі нештатної ситуації. Фото: b1.ru

Керівники вищої ланки компаній Anthropic, OpenAI та інших розробників штучного інтелекту прораховують сценарії суспільної реакції на катастрофічний інцидент, пов'язаний із ШІ. На думку представників галузі, вже у найближчі 6-12 місяців можлива кібератака, яка призведе до припинення доступу до фінансових послуг, інтернету або навіть відключення електроенергії та водопостачання.

Про це повідомляє Axios.

Як пише видання, перший випадок серйозної реальної шкоди, спричиненої небезпечним ШІ, ще більше налаштує і без того насторожену громадськість проти цієї технології та її розробників, зокрема, генерального директора Anthropic Даріо Амодеї та голови OpenAI Сема Альтмана, а також проти президента США Дональда Трампа через його небажання.

Хоча сценарне планування - звичайна практика для багатьох компаній, які відповідають за безпеку, у випадку з ШІ ситуація інша, оскільки багато провідних дослідників та керівників у цій сфері впевнені, що великий інцидент неминучий. Хоча публічно представники компаній затверджують протилежне.

"OpenAI проводить навчання з забезпечення готовності, в ході яких команди обговорюють і проробляють різні потенційні сценарії. Ці сценарії не розглядаються як неминучі; вони покликані допомогти нам підготуватися до різних обставин", - заявив представник компанії.

Провідні фахівці в галузі ШІ вважають, що якщо на проміжних виборах до Конгресу демократи зміцнять свої позиції, то намагатимуться обмежити розвиток ШІ, але зіткнуться з труднощами. Втім, як пише видання, склад Конгресу, що старіє, далекий від реалій "революції ШІ", може виявитися не в змозі адекватно оцінити небезпеку.

 

Одночасно з виходом публікації Axios один із творців Microsoft Білл Гейтс в інтерв'ю CNN попередив, що в 2027 році людство чекає "багато неприємних сюрпризів" через розвиток штучного інтелекту. На його думку, планеті загрожують кібератаки із використанням ШІ. Причому небезпека зараз полягає не так у виході ШІ з-під контролю, як у його використанні зловмисниками для кібератак, здирництва та маніпуляцій на фінансових ринках.

"Коли є погані люди, відсутність захисних обмежень та новітні моделі ШІ, у найближчий рік на нас чекає багато неприємних сюрпризів, насамперед у кіберсфері", - сказав Гейтс.

Гейтс також вважає за недостатнє саморегулювання ШІ-компаній і закликав до їх державного контролю.

У вересні Альтман та Амодеї заявили про намір знизити швидкість розвитку своїх систем ШІ з міркувань безпеки, а також закликали запровадити аналогічні обмеження на всю галузь.

Щоправда, вже у жовтні Альтман запевняв, що переваги використання технологій ШІ загалом виправдовують пов'язані з нею ризики.

Підпишіться на телеграм-канал Політика Страни, щоб отримувати ясну, зрозумілу та швидку аналітику щодо політичних подій в Україні.