Поделиться:

Совместимость. Как контролировать искусственный интеллект

  • Автор стоял у истоков создания искуственного интеллекта и точно знает, стоит ли нам опасаться «живых машин».
  • Эта книга не только интеллектуальный, но и литературный шедевр, написанный легким ироничным языком.

Издательство:
Альпина нон-фикшн
Разделы:
Входит в серию:
Год издания:
2021
ISBN:
978-5-00139-288-0
Переводчик:
Наталья (Колпакова) Кияченко
Научный редактор:
Борис Миркин, д-р техн. наук
Тип обложки:
Твердый переплет
Количество страниц:
438
Возрастные ограничения:
12+

В массовом сознании сверхчеловеческий искусственный интеллект — технологическое цунами, угрожающее не только экономике и человеческим отношениям, но и самой цивилизации. Конфликт между людьми и машинами видится неотвратимым, а его исход предопределенным. Выдающийся исследователь ИИ Стюарт Рассел утверждает, что этого сценария можно избежать.

В своей новаторской книге автор рассказывает, каким образом люди уже научились использовать ИИ, в диапазоне от смертельного автономного оружия до манипуляций нашими предпочтениями, и чему еще смогут его научить. Если это случится и появится сверхчеловеческий ИИ, мы столкнемся с сущностью, намного более могущественной, чем мы сами. Как гарантировать, что человек не окажется в подчинении у сверхинтеллекта?

Для этого, полагает Рассел, искусственный интеллект должен строиться на новых принципах. Машины должны быть скромными и альтруистичными и решать наши задачи, а не свои собственные.

О том, что это за принципы и как их реализовать, читатель узнает из этой книги, которую самые авторитетные издания в мире назвали главной книгой об искусственном интеллекте.

Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги — объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход.

Введение понятия полезности — невидимого свойства — для объяснения человеческого поведения посредством математической теории было потрясающим для своего времени. Тем более что, в отличие от денежных сумм, ценность разных ставок и призов с точки зрения полезности недоступна для прямого наблюдения.

Первыми, кто действительно выиграет от появления роботов в доме, станут престарелые и немощные, которым полезный робот может обеспечить определенную степень независимости, недостижимую иными средствами. Даже если робот выполняет ограниченный круг заданий и имеет лишь зачаточное понимание происходящего, он может быть очень полезным.

Очевидно, действия лояльных машин должны будут ограничиваться правилами и запретами, как действия людей ограничиваются законами и социальными нормами. Некоторые специалисты предлагают в качестве решения безусловную ответственность.

  • Обязательно к прочтению: интеллектуальный шедевр одного из подлинных первопроходцев в сфере ИИ не только захватывающе и убедительно раскрывает риски все более мощного искусственного интеллекта, но и предлагает многообещающее практическое решение.

    Макс Тегмарк
    космолог и астрофизик, профессор MIT

  • Это самая важная книга из прочитанных мной за немалое время. Она в доступной форме объясняет, почему наступающая эпоха искусственного сверхинтеллекта грозит человечеству утратой контроля.  Самое главное, книга предлагает новаторское решение этой проблемы и дает основания надеяться на благополучный исход.

    Даниэль Канеман
    лауреат Нобелевской премии

     

  • Книга «Совместимость» заставила меня разделить обеспокоенность Рассела в вопросе о том, насколько мы способны контролировать собственное грядущее творение — сверхинтеллектуальные машины. В отличие от непрофессионалов в этом вопросе, алармистов и футурологов, Рассел — ведущий авторитет в области ИИ. Его новая книга расскажет обществу об ИИ больше, чем любая другая. К тому же ее очень приятно читать.

    Джуда Перл
    лауреат премии Тьюринга

  • Прекрасно написанная книга обращается к фундаментальному вызову, встающему перед человечеством, — появлению все более разумных машин, подчиняющихся нашим командам, но не нашим истинным намерениям. Если вам не все равно, каким будет завтра, вы обязаны ее прочитать.

    Йошуа Бенжио
    лауреат премии Тьюринга

Рубрики

Серии

Раздзелы

Издательство