Инстаграм будет использовать ИИ для борьбы с травлей пользователей

В последнее время на борьбу с кибербуллингом (то есть травлей или осознанным унижением) в сети обратили внимание многие компании. В первую очередь это касается владельцев крупных социальных сетей и подобных инернет-площадок. Например, Facebook, компания, владеющая популярной платформой Instagram, запускает новую функцию, направленную на борьбу с издевательствами над пользователями. Примечательно тут не столько то, что она будет отслеживать комментарии к постам, сколько то, что работать она будет на основе алгоритмов искусственного интеллекта.

Instagram хочет сделать свою социальную сеть менее «токсичной»

Как работает функция по борьбе с кибербуллингом в Instagram?

Начиная с 16 декабря, некоторые пользователи Instagram уже получили (даже незаметно для самих себя) данную опцию. Она будет уведомлять людей, когда подписи к их фото или видео «могут считаться оскорбительными». Руководство Instagram заявляет, что они «разработали и протестировали» ИИ, который может «распознавать различные формы издевательств» в рамках социальной сети. Прежде, чем подобного рода комментарии будут опубликованы, сначала алгоритм уведомит пользователей об этом, если посчитает нужным.

Результаты наших тестов были очень многообещающими, и мы обнаружили, что такой подход часто заставляет пользователей пересмотреть свои слова. — заявляют в пресс-службе Instagram.

Но как же работает эта функция? Давайте разберем на примере: когда вы создаете подпись к своему или чужому посту, алгоритм искусственного интеллекта определит, является ли ее содержание потенциально оскорбительным или опасным. Вы сможете получить подсказку, информирующую вас об этом. После вам дадут возможность отредактировать написанное. Хотя это и не обязательно. Если хотите, то вы можете оставить все так, как задумывалось изначально. Звучит не очень убедительно, верно? Но не все так просто. Дело в том, что даже если вы опубликуете комментарий или пост и после более глубокого анализа выяснится, что он содержит-таки оскорбительные высказывания, другие пользователи платформы его просто не увидят. Как вам данная возможность? Напишите свое мнение в нашем чате в Телеграм. Там ваши комментарии никто скрывать не станет.

Читайте также: Приложения Facebook и Instagram для Android в опасности. Будьте осторожны

Представители Instagram говорят, что эта функция уже доступна в некоторых регионах, и постепенно начнет распространяться на весь мир в ближайшие месяцы. Но хотелось бы поговорить вот о чем. Все мы знаем довольно странные случаи бана пользователей платформ вроде Twitch или YouTube за высказывания подобного рода, которые по-факту таковыми не всегда являлись.

Поэтому, где гарантия того, что благое на словах начинание на деле обернется очередными «санкциями» в угоду чрезмерной боязни задеть разные слои населения? И вместо того, чтобы пропускать через «ИИ-фильтр» обоснованную критику или жесткие, но справедливые высказывания, Instagram не начнет «банить» всех подряд в надежде сделать из социальной сети платформу с «радугой и единорогами»? Без сомнений, некие механизмы регулировки нужны. Но кто будет контролировать те механизмы, которые контролируют наше общение?

Теги
Лонгриды для вас
WhatsApp
Как удалить аккаунт в Ватсапе

В начале этого года WhatsApp перестал строить из себя безопасный и независимый мессенджер и предложил пользователям принять новое соглашение, согласно которому теперь они дают разрешение Facebook на сбор своих личных данных. Не скажу, что для меня это стало неожиданностью, учитывая, что WhatsApp уже много лет принадлежит Facebook. Но настолько неприкрытая наглость меня, честно говоря, немного удивила, да и не только меня. Поэтому не стоит удивляться, что многие оставили WhatsApp и пересели на альтернативные площадки, а чтобы окончательно сжечь все мосты, решили навсегда удалить свой аккаунт.

Читать далее
Рекламные приложения
Какие приложения для Android пора удалить, если вы их скачали

Несмотря на то что Google уверяет всех в максимальной безопасности Google Play, рекомендуя пользователям скачивать софт только из своего каталога, по факту это очень незащищённое место. Время от времени там обнаруживаются приложения, которые представляют опасность для пользователей, но при этом почему-то игнорируются цензорами поискового гиганта. Хорошо ещё, что исследователи в области кибербезопасности выявляют вредоносные программы и сообщают о них пользователям.

Читать далее
Chrome
Почему я перестал пользоваться расширениями для Google Chrome

Основным преимуществом Chrome всегда считались расширения. Несмотря на серьёзную прожорливость браузера, пользователи всё равно предпочитали его. Ведь благодаря расширениям Chrome превращался в самую настоящую операционную систему в операционной системе, предлагая неимоверно обширный перечень программных возможностей. С их помощью можно было сделать всё – от настройки предварительной загрузки ссылок до использования паролей из iCloud. Но с некоторых пор я вообще перестал пользоваться расширениями. Объясняю на пальцах, почему.

Читать далее
Новый комментарий