Google Новая перспектива проекта фильтры онлайн Комментарии на основе токсичности

фото: Мартино Пьетрополи

Интернет-преследования является горячей темой прямо сейчас, как многолетней битве Twitter с троллями нагревается, заставляя компанию разрабатывать новые функции для борьбы со злоупотреблениями. Технологические компании пытаются создать решения, которые сделают их общины безопаснее для пользователей, и теперь Google берет на себя задачу онлайн-преследования как часть своего инкубатора технологии Jigsaw. Инженеры и исследователи Jigsaw решают геополитические проблемы, такие как нападения на свободу слова, несправедливость, коррупцию и насильственный экстремизм.

Перспектива является последним проектом Jigsaw, направленных на улучшение комментариев разделов веб-сайтов, которые могут стать очагами преследования, когда оставили неумеренным. Оказывается, что устранение темных аспектов человеческого поведения, особенно при борьбе с теми, кто работает под прикрытием онлайн анонимности, оказалась изысканной задачей лучше всего подходит для ботов.

Проект «Перспектива» использует машинное обучение для выявления и фильтрации комментариев на токсичность. Его API оценивает комментарии на основе “предполагаемого влияния комментария на разговор”. Издатели могут использовать эту информацию, чтобы предложить комментаторам обратную связь в режиме реального времени и ускорить модерацию. Демонстрация в реальном маштабе времени позволяет читателям фильтровать комментарии основанные на скользящей маштабе токсичности что они охотно готовы включить.

Перспектива сайт также включает в себя дать демо, который обеспечивает в режиме реального времени обратную связь для уровня токсичности, как вы вводите. Модель определяет токсичные как “грубый, неуважительный, или необоснованные комментарии, которые могут заставить вас оставить обсуждение”.

Разработчики могут запросить доступ к перспективной API и основные публикации уже экспериментируют с ним

Токсичные комментарии и тролли особенно безудержно распространены на новостных сайтах, требуя от модераторов постоянно быть бдительными и готовыми нейтрализовать угрозы гражданскому дискурсу. Вот почему New York Times использует 14 штатных модераторов, чтобы вручную просмотреть 11000 комментариев, которые приходят каждый день. Несмотря на усилия этой преданной команды, комментарии доступны только на 10% статей Times из-за умеренной нагрузки.

В качестве партнера по этому проекту, New York Times с открытым исходным кодом 10 лет модерирует сярют архивы комментариев, чтобы помочь команде Jigsaw построить модели машинного обучения, которые улучшат разговоры в Интернете. Издание в настоящее время создает инструмент модерации с открытым исходным кодом для расширения обсуждения сообщества в других областях Times.

Фонд Викимедиа также сотрудничает с Jigsaw в разработке инструментов для автоматизации обнаружения токсичных комментариев и анализа их воздействия в масштабных дискуссиях. Эти инструменты направлены на смягчение личных атак, взимаемых с редакторов-добровольцев в целях улучшения общего здоровья населения.

Проект «Перспектива» все еще находится на первых днях исследований и разработок, но разработчики могут зарегистрироваться, чтобы запросить ключ API. Google будет открытым поиском экспериментов, моделей и исследований данных, полученных от тестирования машинного обучения в качестве инструмента для улучшения онлайн-дискуссии.

Как WordPress полномочия более 27% всех веб-сайтов, плагин построен с перспективой API может иметь большое влияние на повышение стандарта дискурса для большого сегмента комментариев с поддержкой сайтов. Многие публикации, которые в противном случае могли бы ценить вдумчивое обсуждение, прибегают к полному отказу от комментариев из-за бремени умеренности.

Те, кто гремят от усталой интернет-максима, которая говорит:“Никогда не читайте комментарии”говорить с широко распространенной токсичности, которая вторглась в онлайн дискурса, но они также предают свою собственную хрупкость в привлечении комментаторов, которые саботируют дискуссии с беспринципностью. Читатели не всегда имеют эмоциональную энергию, чтобы иметь дело с грубыми комментариями, которые проскользнули через умеренность. Хотя некоторые могут найти Reddit стиле дикого Запада комментируя быть энергичным и забавным, Есть много других, которые находят его деморализующим.

Одна вещь, я ценю о демо проекта Перспектива является то, что его цель не отменить или изменить комментарии, чтобы быть менее токсичными, а он предлагает читателю способ фильтрации на основе уровня комфорта человека. С четкими предупреждениями на месте и представление по умолчанию, установленным на более безопасной стороне, публикация больше не обязана чрезмерно цензурировать комментарии для самого низкого порога преступления.

Проект «Перспектива» экспериментирует с использованием машинного обучения для того, чтобы спорить с человеческим фактором взаимодействия в Интернете. Он пришел к точке, что модерации комментариев и отсеивания токсичности стало подавляющим для тех, кто пытается запустить публикацию. Наиболее обнадеживающим аспектом этого эксперимента является то, что Google положить инженеров, дизайнеров и исследователей по этой проблеме, потому что комментарии по-прежнему имеют значение. Эта новая технология подтверждает важность общественного дискурса в Интернете и направлена на сохранение комментариев в качестве безопасного места для разговоров. Мне интересно посмотреть, что разработчики WordPress могут построить с перспективой API, как только он доступен.

Хотите написать для WP таверне? Мы всегда принимаем гостевые сообщения от сообщества и ищем новых участников. Свяжитесь с нами и давайте обсудим ваши идеи.

 

Оригинал: wptavern.com

Добавить комментарий

%d такие блоггеры, как: