Левые демократы внесли в Конгресс США законопроект о запрете разработки искусственного сверхинтеллекта
В США левые демократы – сенатор Берни Сандерс и член Палаты представителей Грег Касар – инициировали рассмотрение Конгрессом закона о запрете искусственного сверхинтеллекта.
Документ опубликован на сайте Сената.
Под "искусственным сверхинтеллектом" понимается:
- система искусственного интеллекта (ИИ), которая обладает или может быть легко модифицирована таким образом, чтобы обладать способностями, соответствующими человеческим когнитивным возможностям или превосходящими их в широком спектре областей и задач;
- либо системы ИИ, обладающие достаточными возможностями для планирования и осуществления лишения человечества контроля и власти, в том числе путём свержения правительства США или подрыва его деятельности.
Предлагается приостановка разработки передового ИИ до тех пор, пока не будет создан и полноценно запущен новый федеральный орган по регулированию искусственного интеллекта, который установит чёткие правила и процедуры проверки моделей, обеспечивающие безопасную и защищённую разработку и внедрение ИИ.
Ведомство будет:
- контролировать передовые системы ИИ на всех этапах их жизненного цикла на предмет наличия опасных возможностей;
- контролировать устранение опасных возможностей - например, способности обходить команды отключения или осуществлять несанкционированные кибератаки;
- контролировать уничтожение искусственного сверхинтеллекта.
Проект предлагает установление наказаний для любого физического или юридического лица, пытающегося нарушить или обойти предусмотренные законопроектом моратории и запреты.
Для организаций предусматривается так называемая "корпоративная смертная казнь", то есть фактически принудительная ликвидация компании, а для физических лиц - до 20 лет лишения свободы.
Указывается, что это сопоставимо с существующими наказаниями за незаконную разработку ядерного оружия.
Напомним, накануне разработчики ChatGPT и Claude заявили, что ИИ может скоро захватить весь интернет или даже уничтожить человечество.
Однако президент США Дональд Трамп и спикер американского Конгресса Майк Джонсон отвергли призывы замедлить развитие искусственного интеллекта из-за рисков уничтожение человечества.
