Взгляд в будущее: литературные произведения о развитии искусственного интеллекта

20 лучших книг по искусственному интеллекту, которые вы должны прочитать в 2023 году

# 4. Совместимость с человеком: искусственный интеллект и проблема управления Стюарт Рассел

Что произойдет, если нам удастся создать разумного агента, нечто, что воспринимает, действует и является более разумным, чем его создатели? Как мы убедим машины достичь наших целей, а не их собственных целей?

Вышеизложенное приводит к одной из самых важных концепций книги:Совместимость с человеком: искусственный интеллект и проблема управлениязаключается в том, что мы должны избегать «закладывания цели в машину», как однажды сказал Норберт Винер. Умная машина, которая слишком уверена в своих фиксированных целях, — это высший тип опасного ИИ. Другими словами, если ИИ отказывается рассматривать возможность того, что он неправильно выполняет свою заранее запрограммированную цель и функцию, то может оказаться невозможным отключить систему ИИ.

Трудность, описанная Стюартом Расселом, заключается в том, чтобы проинструктировать ИИ/робота о том, что никакая проинструктированная команда не предназначена для выполнения любой ценой. Недопустимо жертвовать человеческой жизнью, чтобы принести кофе, или поджарить кошку, чтобы приготовить обед. Следует понимать, что «как можно быстрее доставьте меня в аэропорт» не означает, что могут быть нарушены правила превышения скорости, даже если это указание не является явным. Если ИИ ошибается в вышеуказанном, тогда отказоустойчивость — это определенный заранее запрограммированный уровень неопределенности. С некоторой неуверенностью ИИ может бросить вызов самому себе перед выполнением задачи, возможно, для получения словесного подтверждения.

В статье 1965 года под названием «Спекуляции относительно первой сверхразумной машины«И. Дж. Гуд, блестящий математик, работавший вместе с Аланом Тьюрингом, заявил: «Выживание человека зависит от раннего создания сверхразумной машины». Вполне возможно, что для того, чтобы спасти себя от экологической, биологической и гуманитарной катастрофы, мы должны создать самый совершенный ИИ, какой только сможем.

Эта основополагающая статья объясняет взрыв интеллекта, эта теория состоит в том, что сверхинтеллектуальная машина может создавать еще более совершенные и совершенные машины с каждой итерацией, и это неизбежно ведет к созданию ОИИ. Хотя изначально ОИИ может иметь такой же интеллект, как и человек, он быстро превзойдет людей в течение короткого промежутка времени

Из-за этого заранее сделанного вывода разработчикам ИИ важно актуализировать основные принципы, изложенные в этой книге, и научиться безопасно применять их при разработке систем ИИ, способных не только служить людям, но и спасать людей от самих себя

Как отметил Стюарт Рассел, отказ от исследований в области ИИ невозможен, мы должны двигаться вперед. Эта книга — дорожная карта, которая поможет нам разработать безопасные, ответственные и доказуемо полезные системы искусственного интеллекта.

Sorting Things Out: Classification and its Consequences — Джеффри Боукер, Сьюзан Ли Стар

Мередит Уиттакер, сооснователь и содиректор AI Now Institute при Нью-Йоркском университете:

— Это маст-рид для всех, кто интересуется вопросами предвзятости, беспристрастности и справедливости AI.

AI-системы — прежде всего системы классификации. Они обучаются на данных и используют свои «знания» для классификации того, что «видят». Например, AI-систему для найма можно научить тому, что из себя представляет «перспективный соискатель», введя в неё видео «успешных сотрудников». Если показать такой системе видеоролик соискателя, она сравнит его с комплексным образом успешного сотрудника и классифицирует соискателя как перспективного или неперспективного. Подобные системы уже используются, но есть опасные нюансы: если, к примеру, в обучающем датасете доля видео с темнокожими женщинами была слишком низка, то система вряд ли классифицирует их как «перспективных», а значит, шансы темнокожих женщин получить работу стремятся к нулю.

Книга Sorting Things Out затрагивает политику и последствия такого механизма классификации; классификация рассматривается не как отражение «естественных категорий», а как продукт истории, культуры и власти, в котором «каждая категория фокусируется на одной точке зрения и нивелирует другую». Авторы приводят примеры различных систем классификации от апартеида в Южной Африке до Международной классификации болезней ВОЗ, чтобы показать случайность категорий, которые мы часто принимаем как должное

Книга о важности понимания и критической оценки AI-систем, которые сегодня автоматизируют классификацию в ключевых социальных сферах

Эксперт цифрового бизнеса Дэвид Мошелла

Эксперт в области цифрового бизнеса и ведущий специалист исследовательского отдела Leading Edge Forum в компании DXC Technology. Дэвид Мошелла изучает влияние интернет-технологий на мировой бизнес, а именно подрывные бизнес-модели, отраслевые реформы и машинный интеллект.

Книга «Путеводитель по цифровому будущему». Дэвид Мошелла разобрал концепции, модели и сценарии цифрового будущего. В своей книге автор рассуждает о том, кто должен развивать технологии и внедрять их в бизнес, и как они изменят жизнь человека. А также, готовы ли существующие компании к изменениям и какие профессии будут востребованы в мире цифрового будущего. Купить книгу можно на «ЛитРес».

Войны и оружие

Военные разработки и искусственный интеллект — довольно опасное сочетание. Но некоторые оборонные предприятия уже работают в этом направлении.

Одним из основных инструментов здесь являются дроны. Им не запрещено передвигаться по открытым территориям, пользоваться компьютерным зрением и носить оружие.

Авторы утверждают, что покушение на президента Венесуэлы в 2018 году с помощью дрона обошлось преступникам менее чем в тысячу долларов. А армия из 10 000 таких дронов, способных уничтожать обширные территории и людей, обойдется в $10 млн, что является вполне реальным бюджетом для оборонки.

Мастер-алгоритм Педро Домингоса

Машинное обучение меняет мир, но его технические аспекты часто затмевают гениальные концепции, лежащие в основе математики. Мастер-алгоритм — это увлекательное и легко читаемое путешествие по идеям, лежащим в основе машинного обучения.

Педро Домингос — профессор компьютерных наук в Вашингтонском университете и лауреат премии SIGKDD Innovation Award, одной из самых высоких наград в области науки о данных.

Он делится своим опытом для создания информативного руководства по технологиям, на которых работают такие технологические гиганты, как Google и Amazon.

Одноименный мастер-алгоритм относится к будущему универсальному ученику, который, по прогнозам Домингоса, коренным образом изменит наше общество.

Историк-медиевист Юваль Ной Харари

Профессор истории в Еврейском университете Иерусалима, историк-медиевист и автор бестселлеров о развитии и будущем человечества. Самой популярной книгой Юваль Ной Харари стала «Sapiens», в которой он рассмотрел эволюцию человека от каменного века до наших дней. А «Homo Deus. Краткая история будущего» стала прямым ее продолжением. 

Книга Homo Deus. Краткая история будущего В ней Юваль Ной Харари рассматривает влияние технологий на человеческие эмоции, поиск своего места в современном мире и развитие человека как вида. Автор описывает термин «Homo Deus» — человек божественный или сверхчеловек. Это следующий этап эволюции человека, который невозможен без понимания себя и выбора верного пути развития. 

Также Юваль Ной Харари рассуждает о быстроразвивающихся технологиях и роли человека в обществе будущего. Историк пробует представить мир, в котором нейросети будут знать людей лучше них самих, рабочие профессии исчезнут, а производствами будет управлять искусственный интеллект. Купить книгу можно на «ЛитРес».

Рекомендуем материалДля тех, кто хочет узнать, какие технологии из фантастических фильмов о будущем уже стали реальны. В материале разобрали фильм «Валериан и город тысячи планет» и показали примеры устройств и платформ из него в реальной жизни.

«Россия 2050: Утопии и прогнозы», Михаил Ратгауз

2021 год

Захватывающее погружение в будущее России, наполненное утопическими представлениями и прогнозами. Ратгауз с помощью яркой и проникновенной прозы, предлагает читателю необычную возможность заглянуть в далекое будущее и увидеть, каким образом Россия может развиться.

В книге он проводит увлекательные рассуждения о политике, экономике, технологиях и социальных изменениях, позволяя нам представить возможные сценарии развития страны. «Россия 2050» — это не только книга прогнозов, но и вызов к размышлениям о том, какие действия и решения могут сформировать будущее нашей страны.

«Выборы» — Айзек Азимов

Тим Хван, директор совместной программы Ethics and Governance of AI Initiative Массачусетского технологического института и Гарвардского института:

— Серия книг Азимова о роботах, наверно, первое, что приходит на ум, когда речь заходит о влиянии искусственного интеллекта на социум. Это повод вспомнить три избитых закона робототехники и с умным видом порассуждать о том, как давно человек мечтает изобрести «умную» машину.

Но среди работ Азимова современные реалии машинного обучения лучше отражены в рассказах цикла «Мультивак». Он посвящён не говорящим и ходячим роботам, а мощному глобальному компьютеру, для управления которым нужны специальные знания и смысл результатов которого часто не понятен его операторам.

Один из рассказов, к которым я постоянно возвращаюсь, — это «Выборы». Он был впервые напечатан в журнале If за август 1955 года. Действие происходит в Америке в 2008 году; в ходе президентских выборов привычное голосование решено заменить статистической моделью, которая просчитывает результаты кампании на основании опроса всего одного среднестатистического человека.

В «Выборах» искусно передана необычно цикличная природа прогнозов, а также вполне реальный и хрупкий баланс между предсказуемостью и легитимностью. Даже если бы мы могли в точности спрогнозировать исход голосований, рецидивов или безработицы, как автоматизированный процесс отличался бы от проводимого человеком? Эта книга безусловно заслуживает прочтения.

Американский физик Митио Каку

Футуролог, физик, ученик изобретателя МРТ, один из создателей теории струн и автор научно-популярных бестселлеров. Митио Каку получил признание благодаря популяризации теоретической физики и современных концепций об устройстве мироздания. 

Книга «Физика будущего». При ее создании Митио Каку собрал результаты исследований, научные доказательства и прогнозы современных футурологов. С их помощью ученый представил, как изменится жизнь человека через 100 лет. По мнению автора, телекинез, телепортация, летающие автомобили и вечная жизнь станут возможны благодаря развитию науки. Купить книгу можно на «ЛитРес».

Книга «Будущее человечества. Колонизация Марса, путешествия к звездам и обретение бессмертия». Митио Каку рассуждает о возможных сценариях колонизации человечеством космоса. В этой книге он представил «дорожную карту» развития науки, которое необходимо человечеству, чтобы выжить. По мнению ученого, колонизация других планет, поиск жизни за пределами Земли и обретение бессмертия станут главными целями человечества. 

Ученый разбирает в книге технические возможности и варианты переселения человечества в космос. С их помощью колонизация Марса, строительство заправочных станций на кометах и встречи с инопланетным разумом станут нормой жизни. Купить книгу можно на «ЛитРес».

Книга Будущее разума. Митио Каку при ее написании опирался на исследования в области нейробиологии и физики. С их помощью он представил, как цифровые технологии и генная модификация изменят образ мышления человека.

Ученый предположил, как специальные чипы, препараты для усиления мозговой активности и программы для управления силой мысли сделают реальными телекинез, телепатию и мыслительное воспроизведение образов. Все эти изобретения в будущем изменят подход к работе, общению, обучению и развитию человечества. Купить книгу можно на «ЛитРес».

«Сверхразум: пути, опасности, стратегии» Ника Бострома

Ник Бостром — философ шведского происхождения, известный своей работой о рисках сверхразума. В настоящее время он является профессором Оксфордского университета в качестве директора Института будущего человечества.

Его книга «Суперинтеллект» — амбициозная попытка представить ландшафт ИИ. Он затрагивает такие темы, как оракулы, инструментальная конвергенция, коллективный разум и преступления против разума.

Бостром размышляет, возможно ли создать ИИ, который никогда не выйдет из-под нашего контроля.

Если вы хотите узнать больше о проблемах, которые ИИ представляет для нашего будущего, эта книга, безусловно, является хорошей отправной точкой.

Генерация контента

По мере совершенствования нейронных сетей будет развиваться и технология дипфейков. К 2041 году эти искусственно созданные видеоролики уже не будут различимы глазом. Поэтому социальные сети и медиа-платформы должны будут легально фильтровать пользовательский контент и социальные сигналы .

Это будет гонка вооружений, поскольку каждая сторона будет пытаться победить: одни разработчики будут улучшать нейросети дипфейков, а другие создавать детекторы для борьбы с ними.

Генерация контента с помощью ИИ также будет иметь положительный эффект. Например, мы получим онлайн-курсы, на которых учитель, созданный искусственным интеллектом, говорит на нашем родном языке. Но мы также должны учитывать риски, включая, помимо прочего, дезинформацию пользователей и дискредитацию общественных деятелей.

«Наше постчеловеческое будущее», Фрэнсис Фукуяма

2002 год

Автор рассматривает различные аспекты будущего, включая искусственный интеллект, генетическую модификацию, биотехнологии и другие сферы, исследуя их влияние на наш образ жизни, социальные отношения и человеческую природу.

Фукуяма предлагает критический взгляд на последствия этих трансформаций и постулирует возникновение нового постчеловеческого общества, где границы между человеком и технологией становятся все более размытыми. Он выдвигает важные этические и политические вопросы, связанные с развитием технологий и генетических манипуляций. Его призыв в том, что обществу пора принимать меры, чтобы гарантировать, что эти изменения происходят в рамках справедливости, безопасности и учета общественных интересов.

«Алмазный век, или Букварь для благородных девиц» — Нил Стивенсон

Джереми Ховард, сооснователь fast.ai:

— «Букварь» — это величайшее творение ведущего разработчика в самой успешной софтверной компании мира. Потому что это не обычная книга: она невероятно интерактивна и рассказывает читателю именно то, что ему нужно в определённый момент времени, языком, который разжигает ещё больший интерес. В центре сюжета — девочка по имени Нелл из неблагоприятной семьи, которую «Букварь» научил всем необходимым навыкам для выживания и процветания. Читатель вместе с Нелл проживает её путь от маленькой девочки, которая потеряла всё, до молодой девушки, в чьих силах изменить мир.

Я впервые прочёл эту книгу 20 лет назад, и навсегда усвоил её идею: технологии могут открыть возможности для тех, кто иначе был бы их лишён. Как и в случае с любыми технологиями, многие сегодня критикуют то, что дети постоянно смотрят «в экран». Но качественных современных исследований в поддержку этого скептицизма нет. Препятствуя использованию технологий в обучении, мы ограничиваем шанс получить лучшее образование для детей из непривилегированных слоёв, у которых нет доступа к лучшим учителям.

Миссия fast.ai — помочь обеспечить свободный доступ к AI-инструментам и образованию. Технологии играют ключевую роль в этой миссии. Без них наши пользователи и слушатели не смогли бы проходить наши онлайн-курсы и быть частью сообщества, а также пользоваться облачными платформами, которые мы применяем. Хотя я ещё не встречал настолько кастомизированного образовательного продукт на основе AI, как «Букварь». Технологическая база для этого уже подготовлена — нужно, чтобы кто-то просто собрал всё воедино.

Амбассадор цифровых технологий Джарон Ланье

Футуролог и визионер Кремниевой долины, ученый-программист и амбассадор цифровых технологий. Джарон Ланье строит прогнозы влияния интернета на общество, которые по мнению экспертов чаще всего сбываются.

Книга «Кому принадлежит будущее? Мир, где за информацию платить будут вам». Джарон Ланье рассуждает о сценариях, по которым могут строиться отношения людей и машин. А также объясняет, почему роботы не займут место людей в будущем. Благодаря книге можно проанализировать, как эпоха интернета уже изменила социум и предположить, как он продолжит меняться дальше. Купить книгу можно на «ЛитРес».

Like this post? Please share to your friends: