Инстаграм будет использовать ИИ для борьбы с травлей пользователей

В последнее время на борьбу с кибербуллингом (то есть травлей или осознанным унижением) в сети обратили внимание многие компании. В первую очередь это касается владельцев крупных социальных сетей и подобных инернет-площадок. Например, Facebook, компания, владеющая популярной платформой Instagram, запускает новую функцию, направленную на борьбу с издевательствами над пользователями. Примечательно тут не столько то, что она будет отслеживать комментарии к постам, сколько то, что работать она будет на основе алгоритмов искусственного интеллекта.

Instagram хочет сделать свою социальную сеть менее «токсичной»

Как работает функция по борьбе с кибербуллингом в Instagram?

Начиная с 16 декабря, некоторые пользователи Instagram уже получили (даже незаметно для самих себя) данную опцию. Она будет уведомлять людей, когда подписи к их фото или видео «могут считаться оскорбительными». Руководство Instagram заявляет, что они «разработали и протестировали» ИИ, который может «распознавать различные формы издевательств» в рамках социальной сети. Прежде, чем подобного рода комментарии будут опубликованы, сначала алгоритм уведомит пользователей об этом, если посчитает нужным.

Результаты наших тестов были очень многообещающими, и мы обнаружили, что такой подход часто заставляет пользователей пересмотреть свои слова. — заявляют в пресс-службе Instagram.

Но как же работает эта функция? Давайте разберем на примере: когда вы создаете подпись к своему или чужому посту, алгоритм искусственного интеллекта определит, является ли ее содержание потенциально оскорбительным или опасным. Вы сможете получить подсказку, информирующую вас об этом. После вам дадут возможность отредактировать написанное. Хотя это и не обязательно. Если хотите, то вы можете оставить все так, как задумывалось изначально. Звучит не очень убедительно, верно? Но не все так просто. Дело в том, что даже если вы опубликуете комментарий или пост и после более глубокого анализа выяснится, что он содержит-таки оскорбительные высказывания, другие пользователи платформы его просто не увидят. Как вам данная возможность? Напишите свое мнение в нашем чате в Телеграм. Там ваши комментарии никто скрывать не станет.

Читайте также: Приложения Facebook и Instagram для Android в опасности. Будьте осторожны

Представители Instagram говорят, что эта функция уже доступна в некоторых регионах, и постепенно начнет распространяться на весь мир в ближайшие месяцы. Но хотелось бы поговорить вот о чем. Все мы знаем довольно странные случаи бана пользователей платформ вроде Twitch или YouTube за высказывания подобного рода, которые по-факту таковыми не всегда являлись.

Поэтому, где гарантия того, что благое на словах начинание на деле обернется очередными «санкциями» в угоду чрезмерной боязни задеть разные слои населения? И вместо того, чтобы пропускать через «ИИ-фильтр» обоснованную критику или жесткие, но справедливые высказывания, Instagram не начнет «банить» всех подряд в надежде сделать из социальной сети платформу с «радугой и единорогами»? Без сомнений, некие механизмы регулировки нужны. Но кто будет контролировать те механизмы, которые контролируют наше общение?

Теги
Лонгриды для вас
Android
Google расскажет о проблемах популярных Android-смартфонов

Несмотря на то что в последнее время среди производителей смартфонов стало даже модно поддерживать свои аппараты в актуальном состоянии, регулярно их обновляя, от ежемесячных патчей безопасности для них всегда было меньше толку, чем для устройств линейки Google Pixel. Ведь если «пиксели» работают на базе чистого Android, то и проблемы безопасности у них одни, а в прошивках сторонних производителей, которые в процессе их проектирования наверняка допускают ошибки, проблемы эти совершенно другие. Но Google решила исследовать и их.

Читать далее
Android
Новый вирус для Android блокирует смартфоны от имени МВД РФ

Думаю, не ошибусь, если предположу, что большинство пользователей Android в том или ином виде сталкивались с вредоносным ПО. Это могли быть рекламные вирусы, которые принято называть adware, приложения-шпионы, которые собирали информацию обо всех перемещениях своих жертв, или программы-вымогатели, которые требуют выкуп, угрожая в случае неподчинения заблокировать смартфон или сделать кое-что похуже. Казалось бы, что может быть хуже? Но жертвы нового трояна-вымогателя знают.

Читать далее
Chrome
Как включить безопасный просмотр в Chrome на Android

Говорят, что сервисы Google и безопасность – понятия несовместимые. Взять хотя бы Google Play, куда на постоянной основе проникают разного рода вредоносные приложения, а удаляются только тогда, когда тревогу забьют исследователи в области кибербезопасности. На этом фоне регулярное расширение функциональности Google Chrome, направленное на повышение защиты пользовательских данных, выглядит по меньшей мере необычно. Рассказываю, какие нововведения появились в последнем обновлении и как их включить, чтобы обеспечить себе безопасность.

Читать далее
Новый комментарий