Инстаграм будет использовать ИИ для борьбы с травлей пользователей

В последнее время на борьбу с кибербуллингом (то есть травлей или осознанным унижением) в сети обратили внимание многие компании. В первую очередь это касается владельцев крупных социальных сетей и подобных инернет-площадок. Например, Facebook, компания, владеющая популярной платформой Instagram, запускает новую функцию, направленную на борьбу с издевательствами над пользователями. Примечательно тут не столько то, что она будет отслеживать комментарии к постам, сколько то, что работать она будет на основе алгоритмов искусственного интеллекта.

Instagram хочет сделать свою социальную сеть менее «токсичной»

Как работает функция по борьбе с кибербуллингом в Instagram?

Начиная с 16 декабря, некоторые пользователи Instagram уже получили (даже незаметно для самих себя) данную опцию. Она будет уведомлять людей, когда подписи к их фото или видео «могут считаться оскорбительными». Руководство Instagram заявляет, что они «разработали и протестировали» ИИ, который может «распознавать различные формы издевательств» в рамках социальной сети. Прежде, чем подобного рода комментарии будут опубликованы, сначала алгоритм уведомит пользователей об этом, если посчитает нужным.

Результаты наших тестов были очень многообещающими, и мы обнаружили, что такой подход часто заставляет пользователей пересмотреть свои слова. — заявляют в пресс-службе Instagram.

Но как же работает эта функция? Давайте разберем на примере: когда вы создаете подпись к своему или чужому посту, алгоритм искусственного интеллекта определит, является ли ее содержание потенциально оскорбительным или опасным. Вы сможете получить подсказку, информирующую вас об этом. После вам дадут возможность отредактировать написанное. Хотя это и не обязательно. Если хотите, то вы можете оставить все так, как задумывалось изначально. Звучит не очень убедительно, верно? Но не все так просто. Дело в том, что даже если вы опубликуете комментарий или пост и после более глубокого анализа выяснится, что он содержит-таки оскорбительные высказывания, другие пользователи платформы его просто не увидят. Как вам данная возможность? Напишите свое мнение в нашем чате в Телеграм. Там ваши комментарии никто скрывать не станет.

Читайте также: Приложения Facebook и Instagram для Android в опасности. Будьте осторожны

Представители Instagram говорят, что эта функция уже доступна в некоторых регионах, и постепенно начнет распространяться на весь мир в ближайшие месяцы. Но хотелось бы поговорить вот о чем. Все мы знаем довольно странные случаи бана пользователей платформ вроде Twitch или YouTube за высказывания подобного рода, которые по-факту таковыми не всегда являлись.

Поэтому, где гарантия того, что благое на словах начинание на деле обернется очередными «санкциями» в угоду чрезмерной боязни задеть разные слои населения? И вместо того, чтобы пропускать через «ИИ-фильтр» обоснованную критику или жесткие, но справедливые высказывания, Instagram не начнет «банить» всех подряд в надежде сделать из социальной сети платформу с «радугой и единорогами»? Без сомнений, некие механизмы регулировки нужны. Но кто будет контролировать те механизмы, которые контролируют наше общение?

Теги
Лонгриды для вас
Android Auto и еще 5 убитых проектов Google

На днях стало известно о том, что еще один сервис Google попал "под нож" - это Android Auto для смартфонов. Удобное приложение стало недоступно для смартфонов, которые работают на тестовой версии Android 12. А ведь это не первый случай, когда неплохие перспективные проекты компании оказываются в таком положении. Мы собрали несколько ярких примеров, которые наглядно показывают, почему Google безжалостно расправляется со своими детищами, отправляя их на свалку истории.

Читать далее
Google Play
Как добавить и удалить карту из Google Play

Несмотря на то что пользователи Android имеют возможность скачивать взломанные версии платных приложения на пиратских сайтах, адекватные люди всё-таки предпочитают покупать софт в Google Play. В конце концов, спиратить подписку не получится даже при всём желании, а без них многие уже не представляют своей жизни. Поэтому – хочешь, не хочешь, - а карту к Google Play привязывать надо, даже если пользоваться ей собираешься от силы раз в месяц, а то и реже. Другое дело, что многие понятия не имеют, как это делать. Значит, будем разбираться.

Читать далее
Clubhouse
Clubhouse для Android должен выйти уже в следующем месяце

Часто бывает так, что какая-то социальная сеть или тому подобное явление резко появляется и потом так же резко уходит на дно, подобно дельфину, который выпрыгивает из воды и снова ныряет в нее. Многие думали, что так и получится с Clubhouse, но это явление оказалось куда более прочным. Когда социальная сеть только появилась, все обратили на нее внимание и начали так активно обсуждать ее возможности (и недостатки), что услышали об этом буквально все. Причин такой популярности было много. К ним можно отнести и известных людей, которые там выступали, и необычность формата, и даже относительную недоступность. До сих пор официально Clubhouse доступен только на iOS, но это скоро изменится, и ждать, судя по всему, осталось буквально несколько недель.

Читать далее
Новый комментарий