Google сформулировала свои «законы робототехники»

Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.

google_ai

Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:

  • Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
  • Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
  • Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
  • Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
  • Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
Теги
Лонгриды для вас
Huawei
Huawei вкладывает больше миллиарда долларов в электромобили

В последнее время Huawei редко дает поводы поговорить о себе. Зато сегодня их было уже два. Первый вы можете найти на нашем сайте, а второй заключается в том, что компания вкладывает больше миллиарда долларов в разработки в сфере автономного вождения электрических автомобилей. Можно было бы пройти мимо этой новости, но она более чем привлекательная с точки зрения дальнейшего положения дел и перестановки компании на новые рельсы. В некотором роде можно даже порассуждать на тему того, как компания сама откажется от производства смартфонов и станет заниматься чем-то существенно более серьезным и доходным. А заодно изменит мир взаимодействия с гаджетами. Но это пока только рассуждения на будущее, а пока давайте посмотрим, что там с автопилотом и миллиардом долларов.

Читать далее
Honor
Сервисы Google и топовое железо. Сможет ли Honor Magic 3 заменить Huawei

Не знаю, как вы, а я ждал этот момент. Мне всегда нравились телефоны Huawei и Honor. Поэтому я сильно расстроился после введения санкций и постепенного прекращения истории этих смартфонов. Когда стало известно, что бренд Honor продали и он может получить второй шанс, я стал следить за ситуацией, и поэтому делал большую ставку на презентацию Honor Magic 3. Я ждал смартфона, который сможет заменить те Huawei, которые мы потеряли. Презентация прошла и осталось несколько двоякое впечатление, которым и хочется поделиться. А заодно рассказать о том, что вообще из себя представляют новые смартфоны.

Читать далее
OnePlus
Не спешите радоваться партнерству OPPO и OnePlus

OnePlus уже давно ассоциируется с Oppo, начиная с первых лет его становления. Связь между двумя брендами, аффилированными с BBK, в последние годы углубилась, и в начале этого года две компании сблизились еще больше, объединив свои усилия в области исследований и разработок. Теперь OnePlus объявила, что будет ”дальше интегрироваться” со своим более крупным партнером. Многие могут обрадоваться такому заявлению, но я бы на их месте не спешил этого делать. Даже заявление Пита Лау о том, что OnePlus останется независимым брендом, не вселяет оптимизма. На самом деле причин волноваться из-за этого куда больше, чем может показаться на первый взгляд. Поэтому давайте разбираться в них по порядку.

Читать далее
3 комментария
  1. 30_c

    Блиин, вот бы не было ИИ

  2. Swift hack)

    Не, это не те 3 закона Азмова, которые действительно могли бы послужить на пользу любому искусственному интеллекту…. а эти законы чересчур примитивны и годятся только для робота-уборщика(

    • Swift hack)

      Хотя нет, просто сверхумы конторки google захотели опять выпендриться и создали более разжеваные и примитивные законы, взяв за основу законы Айзека Азимова

Новый комментарий