Google сформулировала свои «законы робототехники»

Наверняка вы слышали о трех законах робототехники фантаста Азимова. Настало время, когда мы нуждаемся в этих законах, но для современного искусственного интеллекта правила Азимова не подходят. Ученые из Google, OpenAI, Стэнфорда и Беркли опубликовали документ, в котором целых пять законов для искусственного интеллекта. Они будут работать в реальной жизни.

Google сформулировала свои «законы робототехники». Фото.

Крис Олах из Google Research на странице блога, посвященной этому событию, рассказал, что искусственный интеллект призван помочь людям и работать во благо человечества, но все же следует исключить некоторые риски. Для того чтобы избежать потенциальных проблем, были разработаны следующие законы:

  • Избегание негативных побочных эффектов — это дает гарантию того, что искусственный интеллект не будет менять что-либо в худшую сторону, преследуя свои цели. Например, робот-уборщик не станет бить вазы потому, что это может ускорить процесс уборки.
  • Избегание жульничества — тот же робот должен убирать мусор, а не прятать его, создавая видимость выполненной работы.
  • Масштабируемость надзора — искусственный интеллект должен максимально эффективно использовать полученную информацию о его работе от человека, не надоедая человеку слишком частыми вопросами и просьбами уточнить что-либо.
  • Безопасное обучение — очевидно, что робот должен экспериментировать и совершенствоваться, однако эти эксперименты не должны приводить к негативным последствиям. К примеру, робот-уборщик не должен пытаться протереть розетки влажной тряпкой, даже если это может оказаться эффективным.
  • Устойчивость к изменению вида деятельности — робот-уборщик, ответственный за порядок на фабрике, не должен опираться на свой опыт, занимаясь уборкой в офисе.
Теги
Лонгриды для вас
Самые красивые смартфоны за последние 15 лет. Это вам не iPhone

Когда выходит новый смартфон, мы часто тратим много времени, рассказывая о его внутренних аппаратных характеристиках и о том, что он может сделать такого, чего не может большинство других телефонов. Однако первое, на что обращают внимание при выборе телефона, - это его внешний вид, и от этого во многом зависит наше отношение к нему. За последние 15 лет мы увидели несколько действительно потрясающих дизайнов телефонов. Сегодня может показаться, что смартфоны - это в основном скучные прямоугольники, но так было не всегда. Время от времени компании создают произведения искусства, которые, так уж получилось, выполняют функцию телефона. Давайте вспомним самые интересные из них. Хотя, мнение конечно будет субъективным. Да и сами телефоны могли не быть лучшими в классе, просто они были красивыми и этого у них не отнять.

Читать далее
Что нового в ИИ Galaxy AI, показанном на презентации Samsung Galaxy S25

Компания Samsung продолжает уверенно двигаться по пути инноваций. Правда это какой-то собственный путь инноваций, с которым не все и не всегда согласны. Тем не менее, компания в очередной раз говорит об улучшения собственной работы с искусственным интеллектом. Так, на презентации Galaxy S25, нам много говорили о Galaxy AI — революционном подходе к использованию искусственного интеллекта в мобильных устройствах. Новая линейка Galaxy S25 демонстрирует, насколько глубоко технологические гиганты интегрируют машинное обучение в повседневные гаджеты.

Читать далее
Как создать песню через нейросеть на телефоне Android

Искусственный интеллект постепенно проникает во все сферы нашей жизни, и, кажется, многие люди в скором времени лишатся своей работы. Например, музыканты и авторы песен. Зачем донатить бесталанным исполнителям, если существует бесплатная нейросеть для создания музыки, которая пишет песни не хуже людей? Причем подобные приложения доступны на Android любому желающему.

Читать далее
Новости партнеров