Google сформулировала свои «законы робототехники»

Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.

google_ai

Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:

  • Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
  • Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
  • Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
  • Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
  • Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
Теги
Лонгриды для вас
Зарядка MagSafe
Apple опять не смогла в беспроводную зарядку, или Что не так с MagSafe

Магнитная зарядка MagSafe, которую Apple выдаёт за передовое решение в области беспроводных зарядок, оказалась не настолько продвинутой, как нам говорили. Несмотря на то что iPhone 12 может заряжаться на мощностях до 15 Вт, MagSafe демонстрирует не очень высокую скорость зарядки. Новый аксессуар компании заряжает классический iPhone 12 с аккумулятором 2815 мА*ч до 50% за целый час против 28 минут у 20-ваттного фирменного зарядного устройства с коннектором USB-C. А если не видно разницы – простите мне этот каламбур, - зачем платить больше?

Читать далее
Как смотреть жуков, бабочек и других насекомых в 3D в Google

Дополненная реальность – это технология, которую Apple начала продвигать одной из первых. Причём долгое время продвижение состояло в основном в россказнях Тима Кука о её совершенстве и широчайшей сфере применения. Многие в это поверили, но хотели увидеть хотя бы одно практическое подтверждение слов генерального директора, которого почему-то всё не было и не было. Но на помощь вовремя пришла Google, которая хоть и начала развивать дополненную реальность заметно позже, всё-таки смогла найти её интересное всем применение.

Читать далее
Почему смартфоны Google Pixel — такой шлак?

Самый быстрый смартфон на Android? Pixel. Смартфон с лучшей камерой? Pixel. Самый гиковский смартфон? Тоже Pixel. Такой образ, во всяком случае, сложился вокруг фирменных аппаратов Google за то время, что они существуют. Несмотря на статус идеальных устройств на Android, который им приписали сами пользователей, это смартфоны откровенно неинтересны, и, если Google хочет удержаться на рынке смартфонов, ей нужно срочно что-то с этим делать. Впрочем, она и сама понимает, что в какой-то момент просто свернула не туда и нужно возвращаться.

Читать далее

3 комментария Оставить свой

  1. 30_c

    Блиин, вот бы не было ИИ

  2. Swift hack)

    Не, это не те 3 закона Азмова, которые действительно могли бы послужить на пользу любому искусственному интеллекту…. а эти законы чересчур примитивны и годятся только для робота-уборщика(

    • Swift hack)

      Хотя нет, просто сверхумы конторки google захотели опять выпендриться и создали более разжеваные и примитивные законы, взяв за основу законы Айзека Азимова

Новый комментарий