Google сформулировала свои «законы робототехники»

Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.

google_ai

Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:

  • Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
  • Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
  • Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
  • Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
  • Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
Теги
Лонгриды для вас
SD 888
Кто выпустит первый смартфон на Snapdragon 888

Отгремели презентации, на которых нам показали новый Snapdragon 888. Пока на бумаге все выглядит слишком круто, чтобы быть правдой, поэтому, как обычно, хочется дождаться первого смартфона с новым процессором, чтобы понять, что он будет из себя представлять. Сейчас появляется много информации о том, каким будет новое устройство, а самое главное, кто его выпустит. Вопреки многим слухам и уверенности аналитиков, это будет не Samsung, а Xiaomi. При этом появиться новинка должна уже до конца этого года. Выпускать смартфон в конце декабря - это немного странная затея, но определённый смысл в этом есть. Да и первым в своем деле быть хотят почти все.

Читать далее
Stadia
Google закрывает Stadia? Откуда пошли слухи и правда ли это?

В прошлом году Google наделала немало шума, продвигая свой сервис облачного гейминга. Мы знаем его под именем Stadia. Идея была очень крутая! От вас требовался только экран, на который выводилось изображение с сервера, и минимальная вычислительная мощность подключенного к Интернету устройства. Вычисления производились на сервере и отправлялись вам. То есть даже на недорогом смартфоне, старом телевизоре или даже приставке Google Chromecast можно было играть в топовые игры. Правда, ценник был довольно существенным, но вам давали не только вычислительную мощность сервера, но и подборку игр, среди которых было много топовых представителей этой индустрии. Теперь пошли слухи, что сервис может закрыться. Что лежало в его основе и стоит ли переживать из-за этого?

Читать далее
Chrome
Google перестанет выпускать обновления Chrome для старых ПК

Google Chrome – самый популярный браузер в мире. Появившийся намного позже Internet Explorer, он мгновенно завоевал народную любовь. Не в последнюю очень на это повлияли расширения, которые предложили разработчики. С их помощью пользователи смогли расширять штатные возможности Chrome, который благодаря этому превратился из простого браузера в подобие операционки в операционке. В результате его доля на рынке веб-обозревателей вплотную приблизилась к отметке в 90%. Поэтому очень жалко, что вскоре часть пользователей лишится доступа к Chrome.

Читать далее
3 комментария Оставить свой
  1. 30_c

    Блиин, вот бы не было ИИ

  2. Swift hack)

    Не, это не те 3 закона Азмова, которые действительно могли бы послужить на пользу любому искусственному интеллекту…. а эти законы чересчур примитивны и годятся только для робота-уборщика(

    • Swift hack)

      Хотя нет, просто сверхумы конторки google захотели опять выпендриться и создали более разжеваные и примитивные законы, взяв за основу законы Айзека Азимова

Новый комментарий