Google сформулировала свои «законы робототехники»

Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.

Google сформулировала свои «законы робототехники». Фото.

Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:

  • Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
  • Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
  • Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
  • Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
  • Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
Теги
Лонгриды для вас
Может ли Apple догнать Android производителей. Что она выпустит в ближайшее время

По информации из различных, включая довольно авторитетные, источников, компания Apple планирует запустить несколько новых устройств в 2027 году. Среди них - два новых iPhone, включая складной смартфон и телефон с "преимущественно стеклянным, изогнутым" дизайном. Компания также работает над умными очками и настольным роботом. Про это говорят уже давно и некоторые прогнозы пока не сбылись, но есть много причин, чтобы через два года компания все же представила все эти гаджеты. Вот и давайте разберемся, может ли это повлиять на мир Android, или он будет продолжать развиваться параллельно.

Читать далее
TECNO выпустила обновление HiOS 15 для своих смартфонов. Что нового и кто получит апдейт

Пока Google готовится к релизу Android 16, производители смартфонов продолжают выпускать свежие прошивки на базе предыдущей версии операционной системы. Так, компания TECNO, чьи смартфоны пользуются большой популярностью в России, представила обновление HiOS 15 на Android 15. Посмотрим на самые интересные фишки апдейта, разберемся, когда выйдет обнова, и выясним, кто ее получит на свой TECNO.

Читать далее
Использование ИИ стало обязательным требованием в некоторых компаниях, включая Microsoft

Корпорация Microsoft кардинально изменила подход к оценке эффективности своих сотрудников, превратив использование искусственного интеллекта из рекомендации в обязательное требование. Теперь способность менеджеров применять ИИ-инструменты в работе стала ключевым показателем при оценке их профессиональной деятельности. А ведь еще недавно мы говорили о том, что это вспомогательный инструмент для работы. Теперь это перестало быть бонусом и стало обязательным. Но заменить человека он все равно пока не может.

Читать далее
Новости партнеров