Google сформулировала свои «законы робототехники»

Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.

google_ai

Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:

  • Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
  • Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
  • Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
  • Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
  • Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
Теги
Лонгриды для вас
Как использовать смартфон в качестве микрофона для ПК

В современном мире практически у каждого пользователя возникает необходимость в микрофоне на ПК. При этом далеко не каждый готов потратиться и приобрести себе для этих задач профессиональное устройство с более-менее вменяемым звуком. Обычно проблему решают с помощью наушников с гарнитурой, но и их иногда может под рукой не оказаться. В такой ситуации на помощь придет смартфон на базе Android. Да, мало кто знает о том, что из телефона можно сделать микрофон для компьютера, но пользы от такой фишки выше крыши.

Читать далее
Huawei отказалась работать в России, но привезла оборудования на 15$ миллионов. Как так-то

Интересные дела творятся вокруг. С одной стороны против России постоянно вводятся санкции, а многие компании уходят с нашего рынка. Многие действуют более осторожно и заявляют, что приостанавливают работу, чтобы иметь возможность вернуться, когда предоставится возможность. Но есть и совсем необычные ситуации. Компании вроде уходят или приостанавливают продажи, но техника продолжает поступать на рынок. Звучит странно, но если верить появившейся информации, именно такая ситуация сложилась вокруг поставок Huawei оборудования на наш рынок. Мы, конечно, не против, но как такое вообще возможно?

Читать далее
деньги
Будут ли телефоны продаваться по подписке

Почти все в современном мире стало иметь необычную до этого времени модель распространения - подписка. В этом случае вы просто платите сколько-то денег в месяц и получаете полный доступ к продукту. Да чего я рассказываю, каждый из вас пользуется такими вещами, как облачное хранилище, музыка и приложения. Они первыми освоили новый формат распространения, отказавшись от единовременной покупки. Иногда это немного раздражает и кажется, что проще купить сразу, чем платить каждый месяц, но не все разработчики дают право выбора. До недавнего времени такие продажи были в основном среди приложений и других программных продуктов, но сейчас, похоже, мы стоим на пороге больших перемен.

Читать далее
3 комментария
  1. 30_c

    Блиин, вот бы не было ИИ

  2. Swift hack)

    Не, это не те 3 закона Азмова, которые действительно могли бы послужить на пользу любому искусственному интеллекту…. а эти законы чересчур примитивны и годятся только для робота-уборщика(

    • Swift hack)

      Хотя нет, просто сверхумы конторки google захотели опять выпендриться и создали более разжеваные и примитивные законы, взяв за основу законы Айзека Азимова

Новый комментарий