Инстаграм будет использовать ИИ для борьбы с травлей пользователей

В последнее время на борьбу с кибербуллингом (то есть травлей или осознанным унижением) в сети обратили внимание многие компании. В первую очередь это касается владельцев крупных социальных сетей и подобных инернет-площадок. Например, Facebook, компания, владеющая популярной платформой Instagram, запускает новую функцию, направленную на борьбу с издевательствами над пользователями. Примечательно тут не столько то, что она будет отслеживать комментарии к постам, сколько то, что работать она будет на основе алгоритмов искусственного интеллекта.

Инстаграм будет использовать ИИ для борьбы с травлей пользователей. Instagram хочет сделать свою социальную сеть менее «токсичной». Фото.

Instagram хочет сделать свою социальную сеть менее «токсичной»

Как работает функция по борьбе с кибербуллингом в Instagram?

Начиная с 16 декабря, некоторые пользователи Instagram уже получили (даже незаметно для самих себя) данную опцию. Она будет уведомлять людей, когда подписи к их фото или видео «могут считаться оскорбительными». Руководство Instagram заявляет, что они «разработали и протестировали» ИИ, который может «распознавать различные формы издевательств» в рамках социальной сети. Прежде, чем подобного рода комментарии будут опубликованы, сначала алгоритм уведомит пользователей об этом, если посчитает нужным.

Результаты наших тестов были очень многообещающими, и мы обнаружили, что такой подход часто заставляет пользователей пересмотреть свои слова. — заявляют в пресс-службе Instagram.

Но как же работает эта функция? Давайте разберем на примере: когда вы создаете подпись к своему или чужому посту, алгоритм искусственного интеллекта определит, является ли ее содержание потенциально оскорбительным или опасным. Вы сможете получить подсказку, информирующую вас об этом. После вам дадут возможность отредактировать написанное. Хотя это и не обязательно. Если хотите, то вы можете оставить все так, как задумывалось изначально. Звучит не очень убедительно, верно? Но не все так просто. Дело в том, что даже если вы опубликуете комментарий или пост и после более глубокого анализа выяснится, что он содержит-таки оскорбительные высказывания, другие пользователи платформы его просто не увидят. Как вам данная возможность? Напишите свое мнение в нашем чате в Телеграм. Там ваши комментарии никто скрывать не станет.

Читайте также: Приложения Facebook и Instagram для Android в опасности. Будьте осторожны

Представители Instagram говорят, что эта функция уже доступна в некоторых регионах, и постепенно начнет распространяться на весь мир в ближайшие месяцы. Но хотелось бы поговорить вот о чем. Все мы знаем довольно странные случаи бана пользователей платформ вроде Twitch или YouTube за высказывания подобного рода, которые по-факту таковыми не всегда являлись.

Поэтому, где гарантия того, что благое на словах начинание на деле обернется очередными «санкциями» в угоду чрезмерной боязни задеть разные слои населения? И вместо того, чтобы пропускать через «ИИ-фильтр» обоснованную критику или жесткие, но справедливые высказывания, Instagram не начнет «банить» всех подряд в надежде сделать из социальной сети платформу с «радугой и единорогами»? Без сомнений, некие механизмы регулировки нужны. Но кто будет контролировать те механизмы, которые контролируют наше общение?

Теги
Лонгриды для вас
Как понять, что тебя заблокировали в телефоне и добавили в черный список

Являясь основным средством коммуникации в XXI веке, смартфон не всегда выполняет свою функцию. Причем это бывает связано не с багами прошивки, а с действиями пользователя, до которого вы пытаетесь дозвониться или связаться через СМС. Распространенная причина подобных проблем — работа черного списка на Андроид. В нем может оказаться любой из нас, а потому важно разобраться, как понять, что человек тебя заблокировал.

Читать далее
Google добавила в Android 16 кнопку максимальной защиты смартфона. Что она делает?

В рамках презентации The Android Show 2025 компания Google поделилась подробностями о новых функциях Android 16. Многие из них посвящены разносторонней безопасности устройства. Например, чтобы не регулировать вручную десятки переключателей, Google придумала кнопку расширенной защиты Android. Рассказываем, для чего она нужна и как ее включить на своем смартфоне.

Читать далее
Нужно ли заклеивать камеру смартфона, чтобы защититься от слежки на Android

В эпоху интернета и гаджетов каждый человек вынужден тщательно следить за своей приватностью. Иногда это выходит за рамки рационального мышления, и люди даже заклеивают камеру своих умных устройств, опасаясь слежки. Согласно результатам опроса, который провела Ассоциации профессиональных пользователей соцсетей и мессенджеров, так поступают 16.7% обладателей ПК и, что более интересно, 9.5% владельцев смартфонов в России. То есть, если считать исследование релевантным, каждый десятый россиянин боится фронтальной камеры своего андроида или айфона.

Читать далее
Новости партнеров