Молодой сотрудник техногиганта Anthropic уволился из-за опасений, что ИИ уничтожит человечество
Исследователь Джейкоб Коксон из американской технологической компании в сфере искусственного интеллекта Anthropic, создавшей семейство больших языковых моделей под общим названием Claude, уволился из-за опасений, что искусственный интеллект выйдет из-под контроля и уничтожит человечество.
Об этом он написал в своем аккаунте в Х.
27-летний Коксон ранее работал в OpenAI и специализируется на обучении новых моделей ИИ на огромных объемах данных. Он считает, что его компания и ее конкуренты ведут гонку по созданию систем, способных самосовершенствоваться, но в итоге не смогут их контролировать.
"Сегодня я уволился из Anthropic. Последние три года я занимался исследованиями в области предварительного обучения сначала в OpenAI, затем в Anthropic. Действия обеих компаний безответственны. Они наперегонки стремятся к созданию самосовершенствующегося суперинтеллекта, играя при этом нашими жизнями. Не стоит недооценивать мощь этой технологии. Вскоре появятся системы, превосходящие человеческие возможности: они смогут взломать что угодно, в одночасье совершить революцию в любой сфере и обрести реальную власть и ресурсы. Мы все были свидетелями прогресса в каждой из этих областей, и этот прогресс не замедляется. Люди, создающие искусственный интеллект, всерьез полагают, что к концу десятилетия он сможет нас всех погубить. Это не маркетинговый ход. Напротив, в публичных заявлениях многие руководители и ведущие исследователи стараются выражаться сдержанно и рассудительно, однако в частных беседах те же самые люди говорят о своих опасениях. Никакая другая сфера человеческой деятельности не таит в себе столь серьезной угрозы", - написал Коксон в Х.
Он добавил, что часто разработчиков ИИ упрекают в том, что они продолжают делать свое дело несмотря на свои опасения. Коксон объяснил это тем, что сотрудники OpenAI и подобных компаний не до конца осознают, "насколько высоки ставки для цивилизации", или же прекрасно понимают всю серьезность ситуации, но при этом вовлечены в гонку, стремясь опередить конкурентов.
Напомним, накануне "крестный отец ИИ" Джеффри Хинтон тоже заявил, что утрата контроля над мощными нейросетями может привести к уничтожению человечества.
Как мы писали, летом модель искусственного интеллекта от Anthropic за несколько часов взломала базы американской разведки.
