OpenAI откладывает запуск взрослого режима. Фото: из открытых источников

Консультативный совет экспертов американской компании OpenAI по вопросам благополучия пользователей раскритиковал идею запуска "взрослого режима" в чат-боте ChatGPT, поэтому его пока отложили.

Об этом пишет  The Wall Street Journal.

О планах запустить упомянутый режим глава компании Сэм Альтман объявил еще в 2025 году, релиз планировали на декабрь, затем перенесли на первый квартал 2026-го, а теперь отложили.

Компания OpenAI предполагала внедрить чаты, в которых чат-бот будет вести с пользователями диалоги эротического характера. Однако консультативный совет OpenAI заявил, что новая функция может привести к "нездоровой эмоциональной зависимости" пользователей от чат-бота. Один из экспертов упомянул случаи, когда люди, установив тесную связь с ИИ, совершали самоубийства.

По данным издания, проблемы возникли и на техническом уровне. Система проверки возраста в тестах ошибочно определяла несовершеннолетних как взрослых примерно в 12% случаев, что потенциально может открыть доступ к эротическим чатам миллионам пользователей младше 18 лет.

Кроме того, разработчики столкнулись с иными трудностями: им нужно было разрешить "взрослые" темы, но одновременно надежно блокировать более чувствительный контент, включая насилие над детьми.

В OpenAI заявили, что планируют ограничиться текстовыми диалогами, а новые правила и инструменты модерации должны снизить риски и не допустить формирования "эксклюзивных отношений" между пользователем и ботом.

Ранее ИИ-клиент Grok от компании Илона Маска разрешил создавать фото и видео эротического характера. После этого его раскритиковали в Европе и призвали запретить.

Между тем ChatGPT обвиняли в подстрекательстве к самоубийствам.

Подпишитесь на телеграм-канал Политика Страны, чтобы получать ясную, понятную и быструю аналитику по политическим событиям в Украине.