Инстаграм будет использовать ИИ для борьбы с травлей пользователей

В последнее время на борьбу с кибербуллингом (то есть травлей или осознанным унижением) в сети обратили внимание многие компании. В первую очередь это касается владельцев крупных социальных сетей и подобных инернет-площадок. Например, Facebook, компания, владеющая популярной платформой Instagram, запускает новую функцию, направленную на борьбу с издевательствами над пользователями. Примечательно тут не столько то, что она будет отслеживать комментарии к постам, сколько то, что работать она будет на основе алгоритмов искусственного интеллекта.

Instagram хочет сделать свою социальную сеть менее «токсичной»

Как работает функция по борьбе с кибербуллингом в Instagram?

Начиная с 16 декабря, некоторые пользователи Instagram уже получили (даже незаметно для самих себя) данную опцию. Она будет уведомлять людей, когда подписи к их фото или видео «могут считаться оскорбительными». Руководство Instagram заявляет, что они «разработали и протестировали» ИИ, который может «распознавать различные формы издевательств» в рамках социальной сети. Прежде, чем подобного рода комментарии будут опубликованы, сначала алгоритм уведомит пользователей об этом, если посчитает нужным.

Результаты наших тестов были очень многообещающими, и мы обнаружили, что такой подход часто заставляет пользователей пересмотреть свои слова. — заявляют в пресс-службе Instagram.

Но как же работает эта функция? Давайте разберем на примере: когда вы создаете подпись к своему или чужому посту, алгоритм искусственного интеллекта определит, является ли ее содержание потенциально оскорбительным или опасным. Вы сможете получить подсказку, информирующую вас об этом. После вам дадут возможность отредактировать написанное. Хотя это и не обязательно. Если хотите, то вы можете оставить все так, как задумывалось изначально. Звучит не очень убедительно, верно? Но не все так просто. Дело в том, что даже если вы опубликуете комментарий или пост и после более глубокого анализа выяснится, что он содержит-таки оскорбительные высказывания, другие пользователи платформы его просто не увидят. Как вам данная возможность? Напишите свое мнение в нашем чате в Телеграм. Там ваши комментарии никто скрывать не станет.

Читайте также: Приложения Facebook и Instagram для Android в опасности. Будьте осторожны

Представители Instagram говорят, что эта функция уже доступна в некоторых регионах, и постепенно начнет распространяться на весь мир в ближайшие месяцы. Но хотелось бы поговорить вот о чем. Все мы знаем довольно странные случаи бана пользователей платформ вроде Twitch или YouTube за высказывания подобного рода, которые по-факту таковыми не всегда являлись.

Поэтому, где гарантия того, что благое на словах начинание на деле обернется очередными «санкциями» в угоду чрезмерной боязни задеть разные слои населения? И вместо того, чтобы пропускать через «ИИ-фильтр» обоснованную критику или жесткие, но справедливые высказывания, Instagram не начнет «банить» всех подряд в надежде сделать из социальной сети платформу с «радугой и единорогами»? Без сомнений, некие механизмы регулировки нужны. Но кто будет контролировать те механизмы, которые контролируют наше общение?

Теги
Читайте также
Какие данные пользователей Android может тайно собирать TikTok

Ох сколько было в последнее время сказано про TikTok. То скандалы с запретами на публикацию ”некрасивых людей”, но скандалы, связанные с пропагандой насилия или накручиванием рейтинга в Google Play. Теперь во многих странах говорят, что сервис собирает слишком много информации и угрожает национальной безопасности. Из самого свежего можно отметить попытки запрета в США и расследование во Франции. Теперь масла в огонь подливают журналисты, которые рассказывают, как еще TikTok следит за своими пользователями, уже в течение нескольких месяцев обходя правила Google Play. Как им это удается?

Читать далее
Google Pixel 4a первым получил важный сертификат безопасности уже при запуске

Безопасность стала главной темой современного смартфоностроения и просто нашей жизни. Все постоянно хотят, чтобы за ними никто не следил, никто не мог взломать их гаджеты и подключиться к домашней сети. Иногда это действительно важно, но часто люди просто переоценивают важность безопасности. Это тема для большого отдельного разговора, а пока повод для обсуждения подкинула Google, которая выпустила первый смартфон, который уже сразу при запуске имеет важный сертификат безопасности и тем самым выделяется на фоне остальных. Он есть и у некоторых других устройств, но именно Pixel 4a стал немного особенным в этом смысле.

Читать далее
Половина всех Android-смартфонов в мире в опасности. Что случилось?

Защищённость Android всегда вызывала большие сомнения. Несмотря на то что в последние годы Google ежемесячно выпускает патчи безопасности, во-первых, получают их далеко не все, а, во-вторых, ориентированы они только на исправление системных багов и уязвимостей, не затрагивая при этом тех, которые скрываются в прошивке процессоров. А, между тем, именно они оказываются наиболее опасными, потому что охватывают гораздо больше устройств, да и исправляются заметно медленнее, требуя особенного подхода. За примерами далеко ходить не надо.

Читать далее

Новый комментарий