Roblox пользуется огромной популярностью. Иллюстративное фото: из открытых источников

После запретов во многих странах американская игровая платформа Roblox тестирует новую систему модерации на базе искусственного интеллекта (ИИ), которая меняет текст сообщений игроков до того, как их увидит другой пользователь.

Об этом сообщают западные СМИ.

Алгоритм анализирует сообщения в реальном времени и автоматически редактирует их. Он может исправлять опечатки, удалять обходы фильтров, заменять отдельные слова и фразы на более нейтральные или вежливые. В итоге получатель может увидеть уже измененную версию сообщения, а не оригинальный текст.

Разработчики объясняют, что система должна бороться с токсичным поведением и деструктивным контентом.

Критики отмечают, что такая технология фактически меняет смысл общения между игроками: платформа начинает решать, что пользователь "имел в виду", а не просто удаляет запрещенные слова, как происходит сейчас. По их мнению, это может привести к искажению сообщений и к ситуации, когда люди общаются уже не напрямую, а через алгоритм.

Ранее в Верховной Раде предложили запретить в Украине платформу Roblox. Парламентарии поставили в пример другие страны, которые запрещали или ограничивали Roblox, в частности, Турцию и Китай.

Напомним, что Roblox запретили и в России. Также обвинения в адрес платформы начали звучать в США.

В то же время в Кремле говорили, что российские дети просят вернуть им Roblox.

Подпишитесь на телеграм-канал Политика Страны, чтобы получать ясную, понятную и быструю аналитику по политическим событиям в Украине.