Приложения с ИИ могут быть опасны. Хорошо, что Google это понимает

Мы находимся на той стадии, когда искусственный интеллект проникает во все лучшие приложения для Android. Иногда это может быть не только удобно для пользователей, но и опасно, ведь подобные системы во многом действуют самостоятельно и могут сделать что угодно. А если их изначально настроили на плохие действия против пользователей, то угрозы становятся еще более серьезными. Чтобы защитить пользователей, Google со следующего года потребует от разработчиков приложений для Android более строгого контроля ИИ. Как обычно, звучит хорошо, но что мы получим на практике?

Приложения с ИИ могут быть опасны. Хорошо, что Google это понимает. ИИ теперь везде. Даже в смартфонах. Фото.

ИИ теперь везде. Даже в смартфонах.

Опасность приложений с ИИ

Тема, которую мы сейчас рассматриваем, стоит довольно остро. Как минимум из-за того, что внедренный в ваш смартфон ИИ получает широкие возможности. Представьте, вы скачали приложение и раздали ему доступ к определению местоположения, отслеживанию звонков, управлению камерой и прочим функциям устройства.

А теперь представьте себе, что это не программный код, который какой есть, такой есть. И такие иногда вредоносные функции довольно легко выявить при модерации. ИИ — это меняющаяся система, которая попадает на ваш смартфон и дальше может действовать не так, как было преподнесено изначально.

Не забывайте о нашем Дзен, где очень много всего интересного и познавательного!

Как Google проверяет приложения

Google понимает, что с этим надо бороться, и делает все возможное. Например, несколько дней назад она объявила об обновлении политики для разработчиков, в частности, по теме генеративного ИИ. Компания заявила, что в начале следующего года она потребует от разработчиков ”предоставить возможность сообщать или отмечать оскорбительный контент, генерируемый искусственным интеллектом, без необходимости выхода из приложения”. Это немного не то, что было описано выше, но шаги в правильном направлении явно прослеживаются.

Как Google проверяет приложения. Приложения станут более безопасными. Источник: Комсомольская правда. Фото.

Приложения станут более безопасными. Источник: Комсомольская правда

Что касается текущих нововведений, Google утверждает, что разработчики будут использовать эти сообщения для фильтрации и модерации контента в своих приложениях. Как сообщается, эта система будет работать аналогично существующей системе сообщений в приложениях для пользовательского контента.

Кроме того, разработчики должны будут следовать рекомендациям Google по запрету и предотвращению создания ограниченного контента. В качестве примера Google приводит контент, изображающий насилие, а также «контент, позволяющий вести себя обманчиво”.

Если ищите что-то интересное на AliExpress, не проходите мимо Telegram-канала "Сундук Али-Бабы"!

Приложения с ИИ

Эти изменения распространяются на любые приложения, использующие чат-боты с искусственным интеллектом, генераторы изображений с искусственным интеллектом, генераторы голоса или видео с искусственным интеллектом. Однако на приложения, использующие искусственный интеллект для обобщения контента или в целях повышения производительности, эти правила не распространяются. Но это только вопрос времени, ведь до них модераторы тоже явно доберутся. Пока не было прецедентов и нет понимания, как контролировать возможности ИИ в этой сфере.

Приложения с ИИ. Google Play станет более безопасным. Фото.

Google Play станет более безопасным.

Не распространяются новые правила и на приложения, которые содержат контент, созданный искусственным интеллектом. Скорее всего, тут имеется в виду контент, который сгенерирован заранее и просто находится внутри приложения. Например, подборка обоев, сгенерированных ИИ, или что-то тому подобное. Тут как таковой ИИ не попадает на смартфон, поэтому никакой угрозы нет — есть только плоды его ”труда”.

Присоединяйтесь к нам в Telegram!

Приложения в Гугл Плей станут безопаснее

Впрочем, изменения в части безопасности данных все же есть. Так, например, еще одно изменение, которое вносит компания из Маунтин-Вью, касается разрешений на использование приложений. По словам ее представителей, в будущем она будет ограничивать доступ к фото- и видеоматериалам в приложениях «для целей, непосредственно связанных с функциональностью приложения». Это означает, что только те приложения, которым необходим широкий доступ к этим функциям, будут по-прежнему получать общие разрешения. Приложениям, которым редко требуется доступ к этим функциям, будет предложено использовать системный подборщик.

5 приложений из Google Play с красивыми обоями, которые сделают ваш смартфон неповторимым.

Все это позволит повысить уровень безопасности. Осталось только, чтобы модераторы могли нормально обрабатывать такие приложения. Ведь и сейчас вирусы часто проходят проверку, о чем регулярно появляются соответствующие новости. С ИИ все будет намного сложнее, и, если Google научится с этим бороться, мир станет намного более безопасным.

Теги
Лонгриды для вас
Google сделала для Android нейросеть, которая работает без интернета. Она читает картинки и пишет тексты

Замечали, как во время презентаций новых смартфонов производители акцентируют внимание на используемых в них нейронных процессорах, которые якобы отвечают за работу искусственного интеллекта? Самое смешное, что нейросети работают через интернет, а потому модель устройства никак не влияет ни на ChatGPT, ни на Алису. Все запросы обрабатываются быстро и на смартфоне с Helio G99, и на флагмане со Snapdragon 8 Elite, ведь они не обращаются к процессору. То ли дело Google AI Edge Gallery — новая нейросеть, которая работает без интернета, используя мощность самого устройства.

Читать далее
Экген-игра
Отличные экшен-игры для Android, которые никогда не поздно попробовать

Экшн-игры - одни из самых популярных среди всех платформ. Они захватывают, увлекают, а условия выигрыша, как правило, довольно просты. Кроме того, в экшн-играх могут присутствовать элементы самых разных жанров. Никакой конкретный набор механик не делает экшн-игру такой, какая она есть. Зато некоторые из лучших игр для Android содержат множество элементов экшена. Чтобы вам не пришлось изучать все уголки Google Play в писках чего-то интересного, мы сделали это за вас и собрали лучшие экшен-игры для смартфона.

Читать далее
5 приложений для телевизора, которые сложно найти в Гугл Плей на Android TV

Google Play славится обилием приложений для Android: в каталоге настолько много софта, что некоторые приложения попросту имеют одинаковое название, а найти нужное можно, разве что, по прямой ссылке. Того же нельзя сказать про Play Market на Android TV: магазин приложений для телевизора невероятно беден, а ассортимент софта может разниться в зависимости региона и даже производителя. К счастью, установить приложение на Андроид ТВ можно разными способами - осталось лишь определиться с тем, что вы хотите скачать на телевизор. В этом вам поможет наша подборка, в которой только самое нужное и полезное.

Читать далее
Новости партнеров