OpenAI відкладає запуск дорослого режиму. Фото: із відкритих джерел

Консультативна рада експертів американської компанії OpenAI з питань благополуччя користувачів розкритикувала ідею запуску "дорослого режиму" у чат-боті ChatGPT, тому його поки що відклали.

Про це пише The Wall Street Journal.

Про плани запустити згаданий режим глава компанії Сем Альтман оголосив ще 2025 року, реліз планували на грудень, потім перенесли на перший квартал 2026-го, а тепер відклали.

Компанія OpenAI передбачала впровадити чати, в яких чат-бот вестиме з користувачами діалоги еротичного характеру. Однак консультативна рада OpenAI заявила, що нова функція може призвести до "нездорової емоційної залежності" користувачів від чат-бота. Один із експертів згадав випадки, коли люди, встановивши тісний зв'язок із ШІ, чинили самогубства.

За даними видання, проблеми виникли і на технічному рівні. Система перевірки віку в тестах помилково визначала неповнолітніх як дорослих приблизно в 12% випадків, що потенційно може відкрити доступ до еротичних чатів мільйонам користувачів віком до 18 років.

Крім того, розробники зіткнулися з іншими труднощами: їм потрібно було вирішити "дорослі" теми, але одночасно надійно блокувати більш чутливий контент, включаючи насильство над дітьми.

В OpenAI заявили, що планують обмежитися текстовими діалогами, а нові правила та інструменти модерації мають знизити ризики та не допустити формування "ексклюзивних відносин" між користувачем та ботом.

Раніше ШІ-клієнт Grok від компанії Ілона Маска дозволив створювати фото та відео еротичного характеру. Після цього його розкритикували в Європі та закликали заборонити.

Тим часом ChatGPT звинувачували у підбурюванні до самогубств.

Підпишіться на телеграм-канал Політика Страни, щоб отримувати ясну, зрозумілу та швидку аналітику щодо політичних подій в Україні.