Google сформулировала свои «законы робототехники»

Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.

google_ai

Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:

  • Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
  • Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
  • Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
  • Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
  • Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
Теги
Лонгриды для вас
Как Google испортила свой бизнес по производству гаджетов

Если изучить последние отчеты Google, то можно заметить интересную вещь. Оказывается, компания имеет бизнес по продаже гаджетов и он приносит ей 2 миллиарда долларов в год. Удивлены? Если серьезно, конечно, понятно, что компания торгует смартфонами и гаджетами умного дома с буквой ”G” на корпусе, но не верится, что такая деятельность способна приносить ей столько денег. Эти цифры все равно не отражают всей картины. Теперь, когда Pixel 5 уже не за горами, хорошо бы проанализировать действенность компании в отношении гаджетов и понять, что с ними не так, и что компания делает не правильно, продвигая эту идею.

Читать далее
Чему Apple должна поучиться у Google, или За что я люблю Google Assistant

Залог успеха голосового ассистента – глубокая интеграция с экосистемой. При наличии достаточно развитой системы ПО виртуальный помощник будет независим от аппаратной основы и сможет работать на любых устройствах независимо от их типа. Google уже давно это поняла и добилась успеха. Однако Apple, у которой есть и обширный ассортимент собственных устройств, и обширная экосистема, до сих пор не может соединить эти две составляющие в одно целое. Поэтому Siri хоть и является одним из самых старых голосовых помощников на рынке, остаётся одним из самых бесполезных и малофункциональных.

Читать далее
Google попросила всех установить последнее обновление Chrome

Временный отказ Google от обновления Chrome, о котором она объявила в марте, просто не мог пройти бесследно ни для компании, ни для пользователей, ни для самого браузера. Как оказалось, вынужденный тайм-аут, взятый поисковым гигантом из-за коронавируса, в конечном итоге привёл к тому, что ряд уязвимостей, которые следовало исправить, по-прежнему остались в браузере, а злоумышленники получили дополнительные возможности для взлома и перехвата конфиденциальных данных. К счастью, Google вовремя проснулась и выпустила обновление, обязательное для установки всем пользователям.

Читать далее

3 комментария Оставить свой

  1. 30_c

    Блиин, вот бы не было ИИ

  2. Swift hack)

    Не, это не те 3 закона Азмова, которые действительно могли бы послужить на пользу любому искусственному интеллекту…. а эти законы чересчур примитивны и годятся только для робота-уборщика(

    • Swift hack)

      Хотя нет, просто сверхумы конторки google захотели опять выпендриться и создали более разжеваные и примитивные законы, взяв за основу законы Айзека Азимова

Новый комментарий