Перейти к содержимому


Эффективная система модерации чатов, борьба с токсичностью

карма токсичность

  • Закрытая тема Тема закрыта
Сообщений в теме: 11

ZLOfm #1 Отправлено 14 июл 2020 - 01:18

    Ефрейтор

  • Супертестеры
  • 26079 боев
  • 39
  • [RA1W] RA1W
  • Регистрация:
    23.03.2012

Доброго времени суток, несколько лет назад я участвовал в создании алгоритма борьбы с нецензурной лексикой в игровом чате сторонней онлайн-игры. И там эта система работает уже почти два года, и на мой взгляд, она близка к совершенству. Тк проблем с нецензурной лексикой в чате практически нет. А когда в игру играют дети, то это особенно актуально. Все мы понимаем, что комьюнити танков не слишком сдержанное, а маленьких детей тут хватает, которые по разным причинам сталкиваются с агрессией. Как и есть люди, которых оскорбления могут очень сильно задеть. Почему бы не убрать эту проблему, и мир станет хоть чуточку добрее и позитивнее? Для этого я хотел бы предложить Вам такой вариант системы поощрений и наказаний. Много букв.


Суть системы такова - практически нет модераторов чата, при постоянном онлайне в несколько тысяч человек на двух десятках серверов модераторов всего трое. И они даже не всегда онлайн. Все решают сами игроки. У каждого пользователя есть своеобразная карма и рейтинг, которые отражают его полезность и порядочность. За чатом следит простой бот в автоматическом режиме.

Как это выглядит?
В случае, если игрок матерится, то его сообщения цензурируются синонимами. Пример окончания спора выглядит так: вместо всем известного указания, куда человеку идти, в чате оказывается сообщение "друг, иди сюда, обниму" или "давай пожмем руки" примеры ругательств система берет из собственной базы данных. Если система сама не в силах понять, что это мат, но у нее есть подозрения, она ставит звездочки или смайлики. Например, если использованное слово не встречается в русскоязычном словаре (по факту, обычно это завуалированный мат), или это слово через пробелы, но среди букв есть две и более, которые используются в ругательствах. При этом, обращает внимание и на хорошие слова, и на грамматику. Если игрок приветливый, допускает минимум ошибок, то растет его карма. Если он ведет себя плохо: пытается ругаться, допускает много ошибок - его карма падает. На игроков с низкой кармой система обращает внимание и где-то бот подсказывает, как пишется то, или иное слово, а где-то меняет ругательства на другие выражения, приятные глазу. Игроки с большой кармой отключаются от наблюдения, и система их поведение игнорирует. Для облегчения работы самого бота. Наказание рецидивистов-нарушителей ужесточается, вплоть до перманентного бана чата. С точки зрения психологии, когда мы не видим напрямую оскорбления и ругательства, то мы меньше нервничаем, а когда вместо мата видим забавные приятные слова, то уже и не хочется ругаться. Нарушитель теряется и выглядит нелепо, и другие пользователи с улыбкой на лице смотрят на его сообщения. Стоит так же предусмотреть и небольшие поощрения для игроков, которые стараются положительно повлиять на культуру общения.


У каждого игрока есть и второе значение - своеобразный рейтинг порядочности. Если в чате проскальзывают нарушения, (а такое бывает), то все желающие могут кинуть репорт некультурному собеседнику. Если ему дают мут, то рейтинг отправивших жалобу растет. А если мут не дают, то рейтинг падает. Тут тоже работает все на 90% автоматически. Игроки с низким рейтингом имеют малый приоритет, их жалоб нужно очень много, а игроки с большим рейтингом имеют большой приоритет. Чем выше суммарный приоритет пожаловавшихся, тем меньше жалоб нужно для мута. Всего несколько игроков с абсолютным рейтингом (выше значения N) имеют возможность оперативно дать мут. (Я нахожу этот вариант оптимальным, но не самым идеальным, и с удовольствием выслушаю ваши предложения и критику)


Как решена проблема договорных репортов, когда несколько человек по сговору хотят забанить игрока, который ничего не нарушал, и снизить его карму?
Рейтинг порядочности, это не просто сумма одобренных и отклоненных решений. Это перемноженное количество отклоненных заявок на принятые. Соответственно, повысить рейтинг сложно, а снизить очень легко. Те, кто всегда подает жалобу правильно - имеют приоритет, а кто косячит - им уже очень сложно восстановить свой рейтинг.

 

Что по итогу дают эти два значения?

Карма - отражает порядочность и адекватность пользователя. Согласитесь, полезная информация для рекрутера клана, или рекрутера на портале волонтеров WG. Никакой WN8 и процент побед на покажет, что в голове у человека. А знать, что человек не будет трепать нервы в дальнейшем - очень важно для тех, кто занимается набором.

Рейтинг порядочности - влияет на возможность человека сделать вклад в наказание токсичных пользователей. Не будет людей, которые говорят, что муты не работают. Все зависит от самого игрока, и таких же, как он сам. Данное значение было бы интересно при наборе тех же модераторов чата, где сразу понятно, понимает человек, что является нарушением, а что нет, и не злоупотребялет ли он своей привилегией. А так же разгрузит работу самих модераторов чатов и через промежуток времени снизит токсичность в боевом/ангарном и других чатах к минимуму. Как говорится, половина сидит, а вторая половина - охраняет. 

Итог.
В рамках небольшого проекта эта система работает, как часы. Как она покажет себя в столь крупном проекте, как WoT - неизвестно. Каждая крупная онлайн-игра решает проблему по-своему, и именно такого в крупных играх я не встречал. На самом деле, я описал суть очень кратко, чтоб не было ну слишком много текста (я могу расписать на много конкретнее, но это не для общей огласки) Но я считаю, что если возникнут трудности, то их можно решить "малой кровью" Я не отрицаю, что она не может решить все сложности, и человек способен перехитрить любой компьютер. По этому, с удовольствием отвечу на ваши вопросы, выслушаю предложения и критику.

 

 


 


Сообщение отредактировал SKOLOV2: 19 июл 2020 - 22:42


kak_kotyavo #2 Отправлено 14 июл 2020 - 18:24

    Старшина

  • Игроки
  • 44017 боев
  • 454
  • [1SPB-] 1SPB-
  • Регистрация:
    02.02.2011

Я вот чатом не польюсь, там нету общения

Предлагаю удалить чат в ангаре совсем.



ZLOfm #3 Отправлено 14 июл 2020 - 18:48

    Ефрейтор

  • Супертестеры
  • 26079 боев
  • 39
  • [RA1W] RA1W
  • Регистрация:
    23.03.2012

Просмотр сообщенияkak_kotyavo (14 июл 2020 - 19:24) писал:

Я вот чатом не польюсь, там нету общения

Предлагаю удалить чат в ангаре совсем.

Им редко пользуются старые пользователи, а вот новички там часто задают вопросы.
Каждый массовый глюк серверов - в чате люди высказывают свое мнение о ситуации.
Ну и всякие реклами, поиски, наборы. Для другого этот чат и не нужен, по сути. А вот боевой чат и ему подобные, там общение присутствует. Опять же, благодаря такой системе можно не бояться открыть общий чат команд.



BoJIwe6HuK_B_TaHKe #4 Отправлено 16 июл 2020 - 01:53

    Лейтенант

  • Супертестеры
  • 57214 боев
  • 1 632
  • [WG-ST] WG-ST
  • Регистрация:
    26.05.2012
Я обычно только здороваюсь с модераторами там 
Донабор в клан LYK

GenMajor_Schwalzkopf #5 Отправлено 19 июл 2020 - 23:17

    Ефрейтор

  • Игроки
  • 48308 боев
  • 38
  • [WAGON] WAGON
  • Регистрация:
    08.05.2011
очень познавательная тема. я узнал много интересного для себя. автор - молодец!

_KPA6CTEP_ #6 Отправлено 19 июл 2020 - 23:30

    Главная Клешня СуперТеста

  • Координаторы Супертеста
  • 27577 боев
  • 1 742
  • [WG-ST] WG-ST
  • Регистрация:
    25.08.2011
Общий чат уже давно умер и скатился в спам объявлений о наборе в ноунейм кланы. Боевой чат давно для "вождения в кино" и высказывания недовольства.

Посылать людей на войну необученными - значит предавать их...
Вторая мировая война - вторая неудачная попытка цивилизации покончить с собой...


bikkelvlad #7 Отправлено 19 июл 2020 - 23:50

    Старший сержант

  • Игроки
  • 6772 боя
  • 220
  • Регистрация:
    02.11.2016
По условиям игрового соглашения дети играть в танчики не должны. Ну а за детишек старше 12 лет можно не беспокоиться - сделайте замечание какой либо компании школоты - и даже Склиф вас не восстановит! Да и судя по вам - армию видели только в фильмах. Любое соперничество предполагает жесткость - как физическую, так и моральную. Слабаков топчат везде - и в реальной жизни, и в играх. Если финансовый ущерб от негатива будет серьёзный - ВГ найдёт пути решения этой проблемы. Если его нет -это проблемы лузеров. На сильных игроков негатива нет! А умными,априори, все быть не могут!

redisson13 #8 Отправлено 19 июл 2020 - 23:59

    Лейтенант

  • Игроки
  • 49276 боев
  • 2 156
  • [RF_LP] RF_LP
  • Регистрация:
    13.05.2013

Просмотр сообщенияbikkelvlad (20 июл 2020 - 01:50) писал:

Да и судя по вам - армию видели только в фильмах.

Да, было бы странно, если бы человек служил и плакался из-за матов в чате. В армии ток матом и разговаривают.

П.С. Для нежных версальских ушей, именно разговаривают матом, не обязательно унижают. А, за унижения, да, надо банить, но не сильно усердствовать в этом процессе.


Во Славу Сотоне!

 


ZLOfm #9 Отправлено 20 июл 2020 - 00:17

    Ефрейтор

  • Супертестеры
  • 26079 боев
  • 39
  • [RA1W] RA1W
  • Регистрация:
    23.03.2012

Просмотр сообщенияbikkelvlad (20 июл 2020 - 00:50) писал:

Да и судя по вам - армию видели только в фильмах.

Я служил во внутренних войсках, где позитивного маловато. Служба в ВВ всегда была страшным сном призывника, и мне через это удалось в жизни пройти. Да и служил я в одной из самых отмороженных частей. Просто, я стараюсь не помнить те ужасы, которые меня окружали (а их там для обычной службы по призыву, было слишком много)

И сравнивать армию с игрой совсем не стоит. Лично я не хочу ловить лишний негатив, когда два рака в чате спорят, кто из них больший рак. Или когда один игрок начинает заливать команду в боевом чатике своим радикальным мнением. Даже если их игнорировать, то подсознательно они все-равно будут действовать на психику других игроков. На протяжении нескольких десятков боев такие вещи действуют на нервы. Да и, как показывает практика, единственный шанс их заткнуть - дать мут. А муты сейчас  в боевом чате модераторы давать не могут.
Я считаю, что ругань, мат и все подобное, в игре должны отсутствовать на публике. Между собой, во взводе - пожалуйста. А в общем чате, извольте избавить.


Сообщение отредактировал SKOLOV2: 20 июл 2020 - 00:23


GenMajor_Schwalzkopf #10 Отправлено 20 июл 2020 - 22:45

    Ефрейтор

  • Игроки
  • 48308 боев
  • 38
  • [WAGON] WAGON
  • Регистрация:
    08.05.2011

Просмотр сообщенияSKOLOV2 (20 июл 2020 - 00:17) писал:

Я служил во внутренних войсках, где позитивного маловато. Служба в ВВ всегда была страшным сном призывника, и мне через это удалось в жизни пройти. Да и служил я в одной из самых отмороженных частей. Просто, я стараюсь не помнить те ужасы, которые меня окружали (а их там для обычной службы по призыву, было слишком много)

И сравнивать армию с игрой совсем не стоит. Лично я не хочу ловить лишний негатив, когда два рака в чате спорят, кто из них больший рак. Или когда один игрок начинает заливать команду в боевом чатике своим радикальным мнением. Даже если их игнорировать, то подсознательно они все-равно будут действовать на психику других игроков. На протяжении нескольких десятков боев такие вещи действуют на нервы. Да и, как показывает практика, единственный шанс их заткнуть - дать мут. А муты сейчас  в боевом чате модераторы давать не могут.
Я считаю, что ругань, мат и все подобное, в игре должны отсутствовать на публике. Между собой, во взводе - пожалуйста. А в общем чате, извольте избавить.

расскажи про "ужасы службы в армии". очень интересно. там, к слову, в насройках есть галочка "отключить чат", попробуй включить ее, убирает весь негатив в чате, я проверял :)



LeoVis61 #11 Отправлено 21 июл 2020 - 00:32

    Ефрейтор

  • Игроки
  • 29793 боя
  • 35
  • [LENOR] LENOR
  • Регистрация:
    22.04.2012

обоже токсичность юшутимовца оскорбил розовый танк  в бою вот гад картавый научил обзываться уши вянут

если ты не 7ми летний  - для тебя токс не проблема. особо говорливым нужно просто уметь заткнуть рот(чат) текстом, если ты этого не можешь - конечно ты будешь ныть 



Sup_Mo #12 Отправлено 16 авг 2020 - 19:29

    Вежливый человек

  • Глобальные модераторы
  • 43582 боя
  • 5 182
  • [RTK-] RTK-
  • Регистрация:
    16.08.2014
В связи с отсутствием желающих продолжить дискуссию в последние 14 дней тема подлежит закрытию согласно Правилам публикации предложений. Всем спасибо.




Тема закрыта

Из всех времен года я ненавижу утро и понедельник.

Скажите, а Вы читали ЛС перед тем, как с ним согласиться? (с) SerB






Читать еще на тему: карма, токсичность

Количество пользователей, просматривающих этот форум: 2

0 пользователей, 2 гостей, 0 анонимных