Приложения с ИИ могут быть опасны. Хорошо, что Google это понимает

Мы находимся на той стадии, когда искусственный интеллект проникает во все лучшие приложения для Android. Иногда это может быть не только удобно для пользователей, но и опасно, ведь подобные системы во многом действуют самостоятельно и могут сделать что угодно. А если их изначально настроили на плохие действия против пользователей, то угрозы становятся еще более серьезными. Чтобы защитить пользователей, Google со следующего года потребует от разработчиков приложений для Android более строгого контроля ИИ. Как обычно, звучит хорошо, но что мы получим на практике?

Опасность приложений с ИИ

Тема, которую мы сейчас рассматриваем, стоит довольно остро. Как минимум из-за того, что внедренный в ваш смартфон ИИ получает широкие возможности. Представьте, вы скачали приложение и раздали ему доступ к определению местоположения, отслеживанию звонков, управлению камерой и прочим функциям устройства.

А теперь представьте себе, что это не программный код, который какой есть, такой есть. И такие иногда вредоносные функции довольно легко выявить при модерации. ИИ — это меняющаяся система, которая попадает на ваш смартфон и дальше может действовать не так, как было преподнесено изначально.

Не забывайте о нашем Дзен, где очень много всего интересного и познавательного!

Как Google проверяет приложения

Google понимает, что с этим надо бороться, и делает все возможное. Например, несколько дней назад она объявила об обновлении политики для разработчиков, в частности, по теме генеративного ИИ. Компания заявила, что в начале следующего года она потребует от разработчиков ”предоставить возможность сообщать или отмечать оскорбительный контент, генерируемый искусственным интеллектом, без необходимости выхода из приложения”. Это немного не то, что было описано выше, но шаги в правильном направлении явно прослеживаются.

Что касается текущих нововведений, Google утверждает, что разработчики будут использовать эти сообщения для фильтрации и модерации контента в своих приложениях. Как сообщается, эта система будет работать аналогично существующей системе сообщений в приложениях для пользовательского контента.

Кроме того, разработчики должны будут следовать рекомендациям Google по запрету и предотвращению создания ограниченного контента. В качестве примера Google приводит контент, изображающий насилие, а также «контент, позволяющий вести себя обманчиво”.

Если ищите что-то интересное на AliExpress, не проходите мимо Telegram-канала "Сундук Али-Бабы"!

Приложения с ИИ

Эти изменения распространяются на любые приложения, использующие чат-боты с искусственным интеллектом, генераторы изображений с искусственным интеллектом, генераторы голоса или видео с искусственным интеллектом. Однако на приложения, использующие искусственный интеллект для обобщения контента или в целях повышения производительности, эти правила не распространяются. Но это только вопрос времени, ведь до них модераторы тоже явно доберутся. Пока не было прецедентов и нет понимания, как контролировать возможности ИИ в этой сфере.

Не распространяются новые правила и на приложения, которые содержат контент, созданный искусственным интеллектом. Скорее всего, тут имеется в виду контент, который сгенерирован заранее и просто находится внутри приложения. Например, подборка обоев, сгенерированных ИИ, или что-то тому подобное. Тут как таковой ИИ не попадает на смартфон, поэтому никакой угрозы нет — есть только плоды его ”труда”.

Присоединяйтесь к нам в Telegram!

Приложения в Гугл Плей станут безопаснее

Впрочем, изменения в части безопасности данных все же есть. Так, например, еще одно изменение, которое вносит компания из Маунтин-Вью, касается разрешений на использование приложений. По словам ее представителей, в будущем она будет ограничивать доступ к фото- и видеоматериалам в приложениях «для целей, непосредственно связанных с функциональностью приложения». Это означает, что только те приложения, которым необходим широкий доступ к этим функциям, будут по-прежнему получать общие разрешения. Приложениям, которым редко требуется доступ к этим функциям, будет предложено использовать системный подборщик.

5 приложений из Google Play с красивыми обоями, которые сделают ваш смартфон неповторимым.

Все это позволит повысить уровень безопасности. Осталось только, чтобы модераторы могли нормально обрабатывать такие приложения. Ведь и сейчас вирусы часто проходят проверку, о чем регулярно появляются соответствующие новости. С ИИ все будет намного сложнее, и, если Google научится с этим бороться, мир станет намного более безопасным.