Google сформулировала свои «законы робототехники»
3

google_ai

Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.

Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:


  • Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
  • Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
  • Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
  • Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
  • Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
Теги

3 комментария Оставить свой

  1. 30_c #

    Блиин, вот бы не было ИИ

  2. Swift hack) #

    Не, это не те 3 закона Азмова, которые действительно могли бы послужить на пользу любому искусственному интеллекту…. а эти законы чересчур примитивны и годятся только для робота-уборщика(

    • Swift hack) #

      Хотя нет, просто сверхумы конторки google захотели опять выпендриться и создали более разжеваные и примитивные законы, взяв за основу законы Айзека Азимова

Новый комментарий