Крупнейшие разработчики искусственного интеллекта готовятся к возможной масштабной катастрофе из-за него
Руководители высшего звена компаний Anthropic, OpenAI и других разработчиков искусственного интеллекта просчитывают сценарии общественной реакции на катастрофический инцидент, связанный с ИИ. По мнению представителей отрасли, уже в ближайшие 6-12 месяцев вероятна кибератака, которая приведет к прекращению доступа к финансовым услугам, интернету или даже к отключению электроэнергии и водоснабжения.
Об этом сообщает Axios.
Как пишет издание, первый случай серьезного реального ущерба, вызванного небезопасным ИИ, еще больше настроит и без того настороженную общественность против этой технологии и ее разработчиков, в частности, генерального директора Anthropic Дарио Амодеи и главы OpenAI Сэма Альтмана, а также против президента США Дональда Трампа из-за его нежелания регулировать эту сферу.
Хотя сценарное планирование - обычная практика для многих компаний, отвечающих за безопасность, в случае с ИИ ситуация иная, поскольку многие ведущие исследователи и руководители в этой сфере уверены, что крупный инцидент неизбежен. Хотя публично представители компаний утверждают обратное.
"OpenAI проводит учения по обеспечению готовности, в ходе которых команды обсуждают и прорабатывают различные потенциальные сценарии. Эти сценарии не рассматриваются как неизбежные; они призваны помочь нам подготовиться к самым разным обстоятельствам", - заявил представитель компании.
Ведущие специалисты в области ИИ полагают, что если на промежуточных выборах в Конгресс демократы укрепят свои позиции, то попытаются ограничить развитие ИИ, но столкнутся с трудностями. Впрочем, как пишет издание, стареющий состав Конгресса, далекий от реалий "революции ИИ", может оказаться не в состоянии адекватно оценить опасность.
Одновременно с выходом публикации Axios один из создателей Microsoft Билл Гейтс в интервью CNN предупредил, что в 2027 году человечество ждут "много неприятных сюрпризов" из-за развития искусственного интеллекта. По его мнению, планете грозят кибератаки с использованием ИИ. Причем опасность сейчас заключается не столько в выходе ИИ из-под контроля, сколько в его использовании злоумышленниками для кибератак, вымогательства и манипуляций на финансовых рынках.
"Когда есть плохие люди, отсутствие защитных ограничений и новейшие модели ИИ, в ближайший год нас ждет много неприятных сюрпризов, прежде всего в киберсфере", - сказал Гейтс.
Гейтс также считает недостаточным саморегулирование ИИ-компаний и призвал к их государственному контролю.
В сентябре Альтман и Амодеи заявили о намерении снизить скорость развития своих систем ИИ из соображений безопасности, а также призвали ввести аналогичные ограничения на всю отрасль.
Правда, уже в октябре Альтман заверял, что преимущества использования технологий ИИ в целом оправдывают связанные с нею риски.
