Разработчики ChatGPT и Claude заявили, что ИИ может скоро захватить весь интернет или даже уничтожить человечество
Гендиректор компании OpenAI Сэм Альтман вслед за руководителем Anthropic Дарио Амодеи заявил, что необходимы срочные ограничения в развитии искусственного интеллекта (ИИ).
Слова Альтмана приводит британская газета The Guardian.
По его мнению, из-за быстрого развития ИИ к концу десятилетия существует риск гибели человечества.
Поэтому сейчас OpenAI будет сосредоточена на вопросах безопасности и контроля за ИИ - пусть даже и в ущерб дальнейшему развитию продукта.
"Я считаю неприемлемым рисковать тем, что к концу десятилетия мы все погибнем с вероятностью 10%. Я думаю, что сейчас мы вступаем в новую эру, и нам, скорее всего, придётся – как мы поступали в другие эпохи в прошлом – действовать по-другому, чтобы гарантировать, что наша деятельность принесёт пользу всему человечеству, но при этом никто не будет рисковать", – заявил Альтман.
Напомним, глава Anthropic (модель Claude) Дарио Амодеи ранее написал статью с призывом ограничить темпы совершенствования новых моделей искусственного интеллекта.
"За последние несколько месяцев я убедился, что для полного решения проблем, связанных с рисками, требуется ещё бо́льшая осмотрительность – не просто инвестиции в предотвращение рисков, но регулирование темпов развития возможностей, чтобы система предотвращения рисков не отставала", – считает глава Anthropic.
Амодеи говорит, что его тревога вызвана значительным ускорением развития нейросетей, которое началось примерно этим летом и в первую очередь связано с возрастающей способностью ИИ создавать модели следующих поколений.
"Учитывая ускоряющиеся темпы развития возможностей ИИ, я опасаюсь, что через 6-12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета и потенциально причинить ущерб в сотни миллиардов долларов", – пишет Амодей.
Глава Anthropic предложил трёхэтапный план, первым шагом которого должна стать внешняя экспертная проверка всех передовых компаний в сфере искусственного интеллекта. Второй этап – координация между компаниями для установления общих стандартов безопасности и ограничений, третий – глобальная координация на уровне правительств.
Основатель xAI (Grok) Илон Маск согласился с этими идеями.
"Дарио прав", – написал он в соцсети Х.
.jpg)
Ранее "крёстный отец" искусственного интеллекта Джеффри Хинтон заявил, что утрата контроля над мощными нейросетями может привести к уничтожению человечества.
Перед этим молодой сотрудник техногиганта Anthropic уволился из-за опасений, что ИИ уничтожит человечество.
