БИЗНЕС-КНИГИ

названиеавтор

Менеджмент.Книги: телеграм-канал для управленцев



Совместимость. Как контролировать искусственный интеллект (Стюарт Рассел)

КУПИТЬ КНИГУ ↓

Kniga.biz.ua

BizLit

Yakaboo.ua


Название: Совместимость. Как контролировать искусственный интеллект
Автор(ы): Стюарт Рассел
Издательство: "Альпина Паблишер", — 2021

Описание:

Оригинал (англ.): "Human Compatible: Artificial Intelligence and the Problem of Control" by Stuart Russell

Книга в доступной форме рассказывает о проблемах, связанных с развитием искусственного интеллекта

В массовом сознании сверхчеловеческий искусственный интеллект — технологическое цунами, угрожающее не только экономике и человеческим отношениям, но и самой цивилизации. Конфликт между людьми и машинами видится неотвратимым, а его исход предопределенным. Выдающийся исследователь ИИ Стюарт Рассел утверждает, что этого сценария можно избежать.

В своей новаторской книге автор рассказывает, каким образом люди уже научились использовать ИИ, в диапазоне от смертельного автономного оружия до манипуляций нашими предпочтениями, и чему еще смогут его научить. Если это случится и появится сверхчеловеческий ИИ, мы столкнемся с сущностью, намного более могущественной, чем мы сами. Как гарантировать, что человек не окажется в подчинении у сверхинтеллекта?

Для этого, полагает Рассел, искусственный интеллект должен строиться на новых принципах. Машины должны быть скромными и альтруистичными и решать наши задачи, а не свои собственные.

О том, что это за принципы и как их реализовать, читатель узнает из этой книги, которую самые авторитетные издания в мире назвали главной книгой об искусственном интеллекте.

Все, что может предложить цивилизация, является продуктом нашего интеллекта; обретение доступа к существенно превосходящим интеллектуальным возможностям стало бы величайшим событием в истории. Цель этой книги — объяснить, почему оно может стать последним событием цивилизации и как нам исключить такой исход.

Введение понятия полезности — невидимого свойства — для объяснения человеческого поведения посредством математической теории было потрясающим для своего времени. Тем более что, в отличие от денежных сумм, ценность разных ставок и призов с точки зрения полезности недоступна для прямого наблюдения.

Первыми, кто действительно выиграет от появления роботов в доме, станут престарелые и немощные, которым полезный робот может обеспечить определенную степень независимости, недостижимую иными средствами. Даже если робот выполняет ограниченный круг заданий и имеет лишь зачаточное понимание происходящего, он может быть очень полезным.

Очевидно, действия лояльных машин должны будут ограничиваться правилами и запретами, как действия людей ограничиваются законами и социальными нормами. Некоторые специалисты предлагают в качестве решения безусловную ответственность.

Целевая аудитория:

Для топ-менеджеров, руководителей ИТ-департаментов и отделов инноваций, операционных директоров.

Книга издана также на украинском языке — "Сумісний з людиною. Штучний інтелект і проблема контролю"


Об авторе:

Стюарт Рассел (Stuart Russell) — почетный профессор Калифорнийского университета в Беркли, специалист по искусственному интеллекту. В прошлом вице-председатель Совета Всемирного экономического форума по ИИ и робототехнике и советник ООН по контролю над вооружениями, член Ассоциации по продвижению ИИ, Ассоциации вычислительной техники и Американской ассоциации содействия развитию науки.


СОДЕРЖАНИЕ ˅
  • Предисловие
  • Зачем эта книга? Почему именно сейчас?
  • Общий план книги

  • 1. Что, если мы добьемся своего?
    • Как мы к этому пришли
    • Что будет дальше
    • Что пошло не так?
    • Можем ли мы что-то исправить

  • 2. Разумность людей и машин
    • Разумность
    • Компьютеры
    • Интеллектуальные компьютеры

  • 3. Как может развиваться ИИ?
    • Ближайшее будущее
    • Когда появится сверхинтеллектуальный ИИ?
    • Какие концептуальные прорывы нас ожидают
    • Представим себе сверхинтеллектуальную машину
    • Пределы сверхинтеллекта
    • В чем польза людям от ИИ?

  • 4. Неправомерное использование ИИ
    • Наблюдение, убеждение и контроль
    • Уничтожение привычной нам работы
    • Присвоение других человеческих занятий

  • 5. Слишком интеллектуальный ИИ
    • «Проблема гориллы»
    • «Проблема царя Мидаса»
    • Страх и жадность: инструментальные цели
    • Взрывоподобное развитие ИИ

  • 6. Спор вокруг не столь могущественного ИИ
    • Отрицание
    • Уклонение
    • Нашизм
    • Нельзя ли просто…

  • 7. Другой подход к ИИ
    • Принципы построения полезных машин
    • Причины для оптимизма
    • Причины для опасений

  • 8. Доказуемо полезный ИИ
    • Математические гарантии
    • Изучение предпочтений по поведению
    • Игры в помощника
    • Игра в скрепку
    • Запросы и инструкции
    • Токовая стимуляция
    • Рекурсивное самосовершенствование

  • 9. Затруднение: мы
    • Люди — разные
    • Многочисленность людей
    • Хорошие, отвратительные и завистливые люди
    • Тупые, эмоциональные люди
    • Действительно ли у людей есть предпочтения?

  • 10. Проблема решена?
    • Полезные машины
    • Управление ИИ
    • Недобросовестное использование ИИ
    • Умственная деградация и автономия человека

  • Приложение А. Поиск решений
  • Приложение Б. Знание и логика
  • Приложение В. Неопределенность и вероятность
  • Приложение Г. Обучение на опыте

  • Благодарности
  • Благодарность за предоставленные графические материалы


ОТЗЫВЫ ˅
"Обязательно к прочтению: интеллектуальный шедевр одного из подлинных первопроходцев в сфере ИИ не только захватывающе и убедительно раскрывает риски все более мощного искусственного интеллекта, но и предлагает многообещающее практическое решение". — Макс Тегмарк, космолог и астрофизик, профессор MIT

* * *

"Это самая важная книга из прочитанных мной за немалое время. Она в доступной форме объясняет, почему наступающая эпоха искусственного сверхинтеллекта грозит человечеству утратой контроля. Самое главное, книга предлагает новаторское решение этой проблемы и дает основания надеяться на благополучный исход". — Даниэль Канеман, лауреат Нобелевской премии

* * *

"Книга «Совместимость» заставила меня разделить обеспокоенность Рассела в вопросе о том, насколько мы способны контролировать собственное грядущее творение — сверхинтеллектуальные машины. В отличие от непрофессионалов в этом вопросе, алармистов и футурологов, Рассел — ведущий авторитет в области ИИ. Его новая книга расскажет обществу об ИИ больше, чем любая другая. К тому же ее очень приятно читать". — Джуда Перл, лауреат премии Тьюринга

* * *

"Прекрасно написанная книга обращается к фундаментальному вызову, встающему перед человечеством, — появлению все более разумных машин, подчиняющихся нашим командам, но не нашим истинным намерениям. Если вам не все равно, каким будет завтра, вы обязаны ее прочитать". — Йошуа Бенжио, лауреат премии Тьюринга



ДРУГИЕ КНИГИ АВТОРА (Стюарт Рассел):
Desktop Version: www.management.com.ua/books/view-books.php?id=2830




Copyright © 2001-2021, Management.com.ua
bigmir)net TOP 100