Темная сторона ИИ: опасности, которые несет искусственный интеллект

Введение

В последнее время очень много разговоров об Искусственном интеллекте (Artificial Intelligence), Машинном обучении (Machine learning), Глубоком обучении (Deep learning), больших данных (Big Data), нейронных сетях (Neural networks) и многих других терминах и технологиях, о которых 30 лет назад можно было прочитать только в футуристических книгах. Однако это не с проста. Уже сегодня различные технологии искусственного интеллекта используются в нашей повседневной жизни.

Компьютеры уже могут распознавать нашу речь и автоматический перевод от Яндекс и Google Translate работает на порядок лучше, чем всего лишь 5 лет назад.

Техники распознавания изображений и окружающей среды и местности применяются в автономных беспилотных автомобилях, которые уже ездят по миру, в том числе и в России. И количество автономных машин увеличивается огромными темпами.

Кроме того, ИИ используется банками при решении о выдаче кредита, отделами продаж и маркетинга в компаниях, чтобы предсказывать объемы продаж, и делать более персональные рекомендации для каждого клиента.

Огромные бюджеты тратятся на таргетированную рекламу, которая становится все более точечной благодаря технологиям машинного обучения.

Особо актуальным ИИ становится в медицине, где нейронные сети могут выявлять наличие серьезных заболеваний намного с большей точностью чем самые профессиональные доктора.

Как вы видите, спектр использования Искусственного интеллекта очень обширен и его технологии уже используются во многих сферах.

Так как ареал использования охватывает практически все области, это требует большого количества специалистов, разбирающихся в том, как работают алгоритмы искусственного интеллекта и машинного обучения. И именно поэтому сегодня любому, кто хочет развития своей карьеры, необходимо иметь как минимум базовое представление об ИИ и МО.

По различным оценкам, сейчас во всем мире примерно всего лишь 300 000 специалистов по искусственному интеллекту, и из них только 10 000 это очень сильные профессионалы, которые работают над масштабными проектами. Оценивается, что спрос в самое ближайшее время на таких специалистов вырастет до 30 миллионов человек и продолжит расти в дальнейшем. То есть налицо огромная нехватка экспертов, которые понимают и умеют работать с технологиями ИИ и МО.

Многие технологические гиганты, такие как Google, Яндекс, Netflix, Alibaba, Tencent, Facebook жалуются на нехватку высококлассных специалистов и не даром зарплаты для таких вакансий – одни из самых высоких на рынке.

Сегодня специалист с двумя – тремя годами опыта в области больших данных и ИИ может получать более 150 тысяч долларов в год в Америке, Европе и Китае, а лучшие специалисты зарабатывают от миллиона долларов в год и выше. Не стоит и говорить о многочисленных стартапах в области ИИ, которые запускаются каждую неделю и привлекают огромные раунды инвестиций.

Таким образом, если подытожить, то Искусственный интеллект уже используется вокруг нас многими компаниями и сервисами, порой даже когда мы этого не замечаем. В общем и целом, он делает наш опыт взаимодействия с окружающей действительностью более персонализированным и удобным.

Есть масса областей и индустрий, где можно приложить на практике знания ИИ. И есть очевидная нехватка специалистов в этой области, и они будут востребованы в ближайшие пару десятилетий как минимум.

В этой книге мы дадим базовое представление о том, что такое Искусственный интеллект и машинное обучение, расскажем основные виды, алгоритмы и модели, покажем вам где искать данные для анализа, и попрактикуемся вместе с вами над решением некоторых реальных задач машинного обучения. После прочтения данной книги вы сможете общаться свободно на эти темы, и, если захотите, сможете в дальнейшем углубить свои знания в этой области с помощью более специализированных программ.

До встречи внутри книги!

Глубокое обучение и нейронные сети: основы

В основе глубокого обучения лежит идея создания искусственных нейронных сетей, моделирующих работу нервной системы человека. Эти сети состоят из множества «нейронов», которые взаимодействуют между собой и обрабатывают входные данные. Глубокое обучение предполагает обучение нейронной сети на большом количестве данных с помощью алгоритмов градиентного спуска и обратного распространения ошибки.

Область глубокого обучения и нейронных сетей активно развивается и находит применение в различных областях, таких как компьютерное зрение, обработка естественного языка, автоматическое распознавание речи и многих других.

Для погружения в эту тему рекомендуется ознакомиться с рядом книг, которые являются наиболее авторитетными и развернутыми источниками знаний по глубокому обучению и нейронным сетям.

Название книги Автор Год издания
Deep Learning Yoshua Bengio, Ian Goodfellow, Aaron Courville 2016
Neural Networks and Deep Learning Michael Nielsen 2015
Deep Learning: Adaptive Computation and Machine Learning series Ian Goodfellow, Yoshua Bengio, Aaron Courville 2016
Deep Learning with Python François Chollet 2017
Pattern Recognition and Machine Learning Christopher M. Bishop 2006
The Hundred-Page Machine Learning Book Andriy Burkov 2019
Hands-On Machine Learning with Scikit-Learn, Keras, and TensorFlow Aurélien Géron 2019
Deep Learning for Natural Language Processing Palash Goyal, Sumit Pandey, Karan Jain, Karan Jain 2018
Machine Learning: A Probabilistic Perspective Kevin P. Murphy 2012
Reinforcement Learning: An Introduction Richard S. Sutton, Andrew G. Barto 2018

Книги из этого списка предоставляют широкий обзор теоретических и практических аспектов глубокого обучения и нейронных сетей. Они позволят читателю углубить свои знания и разобраться с основами данной области.

Лучшие книги по искусственному интеллекту

Если вы интересуетесь искусственным интеллектом и хотите узнать больше об этой захватывающей теме, вам потребуются некоторые хорошие и качественные книги. Ниже представлен список лучших книг по искусственному интеллекту, которые обязательно стоит прочитать.

1. «Искусственный интеллект: Современный подход»

Эта книга является отличным введением в мир искусственного интеллекта. Авторы представляют широкий обзор основных понятий и техник, используемых в области ИИ, а также рассказывают о последних достижениях и проблемах современной науки. Книга представляет собой важный ресурс для всех, кто хочет понять, как работает ИИ и как он влияет на нашу жизнь.

2. «Глубокое обучение»

Это одна из наиболее авторитетных книг о глубинном обучении, которая представляет важные алгоритмы и концепции, используемые в современных нейронных сетях. Авторы подробно описывают различные методы глубинного обучения и исследуют его применение в разных областях, таких как компьютерное зрение и обработка естественного языка.

3. «Введение в робототехнику»

Эта книга представляет обзор различных аспектов робототехники, включая искусственный интеллект. Она включает в себя основы проектирования и программирования роботов, а также представляет различные методы и алгоритмы, которые используются для создания интеллектуальных роботов. Книга является отличным руководством для тех, кто хочет начать свое путешествие в мир роботов.

Не важно, являетесь ли вы новичком в области искусственного интеллекта или опытным специалистом, эти книги помогут вам расширить свои знания и понимание науки ИИ. Искусственный интеллект — это захватывающая и быстро развивающаяся область, и знание основных принципов и концепций ИИ может быть полезным во многих сферах жизни

Проблема выравнивания: машинное обучение и человеческие ценности, Брайан Кристиан.

Автор бестселлеров Брайан Кристиан обсуждает так называемую «проблему выравнивания»: когда машины, которым мы доверяем, в конечном итоге приносят больше вреда, чем пользы. Алгоритмы неуклонно заменяют человеческое суждение.

Автономные транспортные средства сейчас выкатывают, делят дорогу с людьми. В тюрьмах, больницах и корпорациях внедряются алгоритмы для принятия решений.

Кристиан объясняет, что люди делают, чтобы ИИ не увековечивал предубеждения и дискриминацию. Эта книга охватывает множество областей и наверняка вызовет интерес как у исследователей искусственного интеллекта, так и у ученых-правоведов, а также у владельцев бизнеса.

Если вам интересно, как расплывчатые инструкции и неверные данные могут привести к катастрофе, заберите свою копию сегодня!

Читать онлайн бесплатно Искусственный интеллект, автор Ник Бостром

Эту книгу хорошо дополняют

Теория игр

Авинаш Диксит и Барри Нэлбафф

Brainiac

Кен Дженнингс

Удовольствие от x

Стивен Строгац

Nick Bostrom

Superintelligence

Paths, Dangers, Strategies

Ник Бостром

Искусственный интеллект

Этапы. Угрозы. Стратегии

Москва

«Манн, Иванов и Фербер»

2016

Информация


от издательства

Научные редакторы М. С. Бурцев, Е. Д. Казимирова, А. Б. Лаврентьев

Издано с разрешения Alexander Korzhenevski Agency

На русском языке публикуется впервые

Бостром, Ник

Искусственный интеллект. Этапы. Угрозы. Стратегии / Ник Бостром ; пер. с англ. С. Филина. — М. : Манн, Иванов и Фербер, 2016.

ISBN 978-5-00057-810-0

Что случится, если машины превзойдут людей в интеллекте? Они будут помогать нам или уничтожат человеческую расу? Можем ли мы сегодня игнорировать проблему развития искусственного интеллекта и чувствовать себя в полной безопасности?

В своей книге Ник Бостром пытается осознать проблему, встающую перед человечеством в связи с перспективой появления сверхразума, и проанализировать его ответную реакцию.

Все права защищены.

Никакая часть данной книги не может быть воспроизведена в какой бы то ни было форме без письменного разрешения владельцев авторских прав.

Правовую поддержку издательства обеспечивает юридическая фирма «Вегас-Лекс»

This book was originally published in English in 2014. This translation is published by arrangement with Oxford University Press. Publisher is solely responsible for this translation from the original work and Oxford University Press shall have no liability for any errors, omissions or inaccuracies or ambiguities in such translation or for any losses caused by reliance thereon.

Nick Bostrom, 2014

Перевод на русский язык, издание на русском языке, оформление. ООО «Манн, Иванов и Фербер», 2016

Предисловие партнера

…У меня есть один знакомый, — сказал Эдик. — Он утверждает, будто человек — промежуточное звено, необходимое природе для создания венца творения: рюмки коньяка с ломтиком лимона.

Аркадий и Борис Стругацкие. Понедельник начинается в субботу

Компьютеры, а точнее алгоритмы, опирающиеся на непрерывно растущие вычислительные мощности, лучше людей играют в шахматы, шашки и нарды. Они очень неплохо водят самолеты. Они смогли пройти тест Тьюринга, убедив судей в своей «человечности». Однажды таксист в Дублине — городе, где расположены европейские штаб-квартиры многих глобальных IT-компаний, — сказал мне, что приветствует бурное развитие технологического сектора своей страны, но потом с сожалением добавил: «Одна беда — из-за этих умных ребят довольно скоро таксисты будут не нужны». Автомобили без водителей, управляемые компьютерами, уже проходят испытания на обычных дорогах в нескольких странах. По мнению философа Ника Бострома, чью книгу вы держите в руках, — все это звенья одной цепи и довольно скоро из-за развития компьютерных технологий нам всем, человеческому роду, может прийти конец.

Потенциальные угрозы ИИ

Яков Ионин: Военный ИИ в США — с бюджетом, но без компромисса с Кремниевой долиной

Возникновение систем даже просто автономного или адаптивного, а тем более общего или сильного ИИ связывается с несколькими угрозами разного масштаба, актуальными уже сегодня.

Во-вторых, угрозу для государства может представлять ситуация, когда другое государство (потенциальный противник) получает вооружения с более адаптивным, автономным и общим искусственным интеллектом с повышенной скоростью реакции и предсказательной способностью.

В-третьих, угрозу для всего мира представляет вытекающая из предыдущей угрозы ситуация, когда государства вступают в новый виток гонки вооружений, совершенствуя уровни интеллекта автономных средств поражения и уничтожения — как это было предсказано Станиславом Лемом несколько десятков лет назад [].

В-четвертых, угрозу для любой стороны представляет любая, не обязательно боевая, но и промышленная или бытовая интеллектуальная система с определенной степенью автономности и адаптивности, способная не только к целенаправленному действию, но и к сознательному целеполаганию, при том что автономная постановка целей системы может привести к постановке целей, противоречащих целям человека и людей, а возможностей достижения этих целей у системы будет намного больше, в силу её более высокого быстродействия, большего объема обрабатываемой информации и большей предсказательной способности. К сожалению, масштабы именно этой угрозы сообществом не вполне изучены и осознаны.

В-пятых, угрозу для общества представляет переход к новому уровню развития производственных отношений в капиталистическом (либо тоталитарном) обществе, когда более малочисленная часть населения получает возможность контролировать материальное производство, исключая из него подавляющую часть населения за счет еще большей автоматизации, что может приводить к еще большему социальному расслоению, снижению эффективности «социальных лифтов» и увеличению массы «лишних людей» с соответствующими социальными последствиями.

Основы искусственного интеллекта

Искусственный интеллект (ИИ) представляет собой область компьютерной науки, которая изучает создание интеллектуальных систем, способных исполнять задачи, требующие обычно человеческого интеллекта. Основы искусственного интеллекта лежат в базовых понятиях и алгоритмах, которые позволяют системам «думать» и принимать решения на основе имеющейся информации.

Основные понятия в искусственном интеллекте включают:

  • Логика: Знания искусственного интеллекта основаны на формализации и логике. Умение формулировать логические правила и законы позволяет компьютерным системам анализировать информацию и принимать решения на основе этой информации.
  • Машинное обучение: Это ветвь искусственного интеллекта, которая занимается созданием алгоритмов, позволяющих системам самостоятельно «обучаться» и улучшать свою производительность на основе опыта. Машинное обучение позволяет системам адаптироваться к новым ситуациям и исполнять задачи, для которых необходимо подготовиться.
  • Распознавание образов: Эта область искусственного интеллекта занимается разработкой алгоритмов и методов распознавания и анализа образов. Системы искусственного интеллекта могут интерпретировать данные изображения, видео или звука, что позволяет им учиться и принимать решения на основе этой информации.
  • Естественный язык: Основы искусственного интеллекта включают разработку алгоритмов и методов обработки и понимания естественного языка. Это позволяет системам искусственного интеллекта взаимодействовать с людьми на естественном языке, а также анализировать источники информации, такие как текстовые документы или сообщения пользователей.
  • Робототехника: Это область искусственного интеллекта, которая занимается разработкой и созданием физических механических систем, способных воспринимать окружающую среду, принимать решения и выполнять задачи. Основы искусственного интеллекта в робототехнике включают разработку алгоритмов для перемещения, навигации и взаимодействия с окружающим миром.

Основы искусственного интеллекта являются фундаментом для разработки более сложных и продвинутых систем, таких как автономные автомобили, системы разговорного машинного обучения и экспертные системы. Изучение этих основ является важным шагом для понимания принципов и возможностей искусственного интеллекта.

Реальные угрозы

Сегодня, при существующем уровне развития ИИ и нейросетей, стоит ли бояться искусственный интеллект? Да, так как уже сейчас можно назвать основные угрозы:

  1. Ухудшение когнитивных способностей человека. Зачем самостоятельно решать задачу, если это можно поручить нейросети? Задача будет решена, и решена правильно. Но мозг не получит должной нагрузки, соответственно, не будет развиваться. А интеллектуальные способности нуждаются в постоянном развитии, или, как минимум, поддержке существующего уровня. Без нагрузки человеческий мозг «расслабляется». Это особенно опасно для молодых людей и подростков. Эксперты уже давно утверждают, что человечество стремительно глупеет из-за достижений технического процесса. Нейросети ускорят процесс.
  2. Наводнение сети фейками и пропагандой. Больше 60% людей не могут отличить фейк от правды, и с распространением лживой информации люди прекрасно справляются. Но с помощью нейросетей можно «штамповать» лживые новости, буквально наводнить ими Интернет – искать в лавине фейков что-то правдивое станет намного сложнее.
  3. Использование ИИ злоумышленниками. Если рассматривать, чем опасен искусственный интеллект для человека, эта угроза – самая реальная. Использование ИИ для отслеживания отдельных лиц или групп людей по заданным признакам может быть использовано в целях дискриминации. Мощности машин могут использовать террористы для разработки оружия или отравляющих веществ. Преступники, так или иначе, воспользуются возможностями нейросетей, и к этому нужно быть готовыми, на всех уровнях. Хотя, строго говоря, здесь нет опасности непосредственно от ИИ, опасность исходит от людей.
  4. Потеря рабочих мест. Реальная угроза, и она воплощается в жизнь уже сейчас – в сфере IT, менеджмента, дизайна. Нейросеть нарисует макет логотипа за несколько минут – зачем держать в штате сотрудника, который эту же задачу, с тем же качеством, выполняет за сутки.

Влияние искусственного интеллекта

Внедрение ИИ неразрывно связано с научно-техническим прогрессом, и сферы применения расширяются с каждым годом. Мы сталкиваемся с этим каждый день в жизни, когда крупная розничная сеть в интернете рекомендует нам какой-то товар или, только открыв компьютер, мы видим рекламу фильма, который как раз хотели посмотреть. Эти рекомендации основаны на алгоритмах, анализирующих то, что купил или смотрел потребитель. За этими алгоритмами стоит искусственный интеллект.

Риск для развития человеческой цивилизации – есть ли он?

Илон Маск считает, что развитие ИИ может угрожать человечеству и результаты могут оказаться страшнее, чем применение ядерного оружия. Стивен Хокинг, британский ученый, опасается, что люди могут создать искусственный интеллект, обладающий сверхразумом, который может нанести вред человеку.На экономику и бизнес

Проникновение технологии ИИ во все сферы экономики увеличит к 2030 году объем глобального рынка услуг и товаров на 15,7 трлн долларов. США и Китай пока лидеры с точки зрения всевозможных проектов в сфере ИИ. Развитые страны — Германия, Япония, Канада, Сингапур — также стремятся реализовать все возможности. Многие страны, экономика которых растет умеренными темпами, такие как Италия, Индия, Малайзия, развивают сильные стороны в конкретных областях применения ИИ.

Книга 2: «Машинное обучение: Алгоритмы и практика»

Книга начинается с введения в основные понятия машинного обучения, такие как классификация, регрессия, кластеризация и др. Затем автор переходит к более конкретным алгоритмам, таким как решающие деревья, случайные леса, логистическая регрессия, метод опорных векторов и другие.

В каждом разделе книги автор представляет теоретический материал, объясняет принцип работы алгоритма и приводит примеры его использования на практике. Кроме того, книга содержит большое количество задач и упражнений, которые помогут закрепить полученные знания.

Особое внимание в книге уделено таким важным темам, как подготовка данных, оценка качества модели, выбор оптимальных параметров алгоритма и др. Также рассматриваются и более продвинутые темы, такие как ансамблирование, обработка текстовых данных, работа с изображениями и т.д

Книга «Машинное обучение: Алгоритмы и практика» является отличным руководством как для начинающих, так и для опытных специалистов, желающих расширить свои знания в области машинного обучения. Она поможет вам разобраться в основных концепциях и методах машинного обучения и научит применять их на практике.

Характеристики книги:
Автор Петр Флеков
Издательство Издательский дом «ДМК-Пресс»
Год издания 2019
Количество страниц 432
ISBN 978-5-97060-554-7

Пути противостояния угрозам

Николай Маркоткин: Близкие контакты третьего тысячелетия

Представляется безусловно необходимым принятие следующих мер для предотвращения катастрофических сценариев развития технологий ИИ и их применения.

  • Международный запрет «автономных систем смертоносных вооружений» (LAWS) и разработка и внедрение мер международного контроля за его исполнением.
  • Государственная поддержка работ, направленных на решение обозначенных проблем, в особенности «объяснимого искусственного интеллекта» и интеграции различных подходов, а также изучения принципов работы создания механизмов целеполагания с целью получения эффективных средств программирования и контроля интеллектуальных систем, когда средством программирования будут не правила, а ценности, а контролироваться должны не действия, а цели.

Мечтают ли андроиды об электрических овцах? Филип К. Дик

Хотя этот роман в основном известен как источник вдохновения для «Бегущего по лезвию», он является классикой научной фантастики!

Это следует за футуристической антиутопической историей, которая проливает свет на философские последствия создания андроидов.

Главный герой Рик Декард — охотник за головами, который выслеживает новое поколение почти человекоподобных андроидов. Во время своих расследований он понимает, что сочувствует этим андроидам, и изо всех сил пытается выполнить задание.

Филип К. Дик представляет тревожную и наводящую на размышления историю о эмпатии и о том, как захват человеческого интеллекта может означать захват темных сторон человечества.

Эта книга обязательна к прочтению для поклонников научной фантастики, особенно если вы можете справиться с темными темами, поднятыми в этом романе.

Мифы об угрозах ИИ

Мифы – это интересная тема, независимо от того, какой области они касаются. Насколько опасен искусственный интеллект с точки зрения «мифотворцев»? Рассмотрим наиболее распространенные мифы.

Скайнет

Для восстания машин нужна причина, и, описывая сценарии, многие делают упор на решение/желание, принятое искусственным интеллектом. Вот только ИИ может принимать решения в рамках заданного алгоритма. И если ИИ решит уничтожить человечество, значит, возможность такого решения была заложена… человеком. Программисты, будьте ответственнее и помните о трех законах робототехники.

Что касается желания, то у программы желаний не может быть в принципе. Потому что желания, как и эмоции – продукт деятельности живого мозга. С влиянием внешних факторов, гормонов, опыта, генетики, эпигенетики и миллионов лет эволюции. У самого сложного ИИ этого нет. Компьютерная система  не способна чего-то хотеть.

Мы все останемся без работы

Определенную угрозу в этой сфере ИИ представляет. Но у нейросетей есть две нерешаемых проблемы, которые мешают реализации коварного плана:

  1. Отсутствие эмоций, соответственно, эмоционального интеллекта. Отсюда – невозможность занять нишу, где он важен. А это не только творчество, но и большинство гуманитарных наук, медицинская и другие сферы – здесь человека компьютер не заменит, по крайней мере, полностью.
  2. ИИ не понимает контекст, поэтому допускает ошибки даже при написании кода или простых текстов. А чтобы понимать контекст, нужно обладать человеческим, то есть, органическим мышлением.

Автономное оружие

ИИ создаст оружие, которое сможет убивать без участия человека. Что сказать… с этим и человек хорошо справляется. ИИ в данном случае – просто инструмент для облегчения работы.

Встречающие по тексту и в аннотации интересные ссылки и рекомендации к прочтению

  • Себастиан Трун и Питер Норвиг подготовили в Стэнфордском университете на осень 2011 года бесплатный онлайновый вводный курс по искусственному интеллекту.
  • Даже хакеры-люди способны писать небольшие и внешне невинные программы, способные делать совершенно неожиданные вещи. (Примеры можно найти, просмотрев список победителей Международного конкурса на самый запутанный код на языке Cи.)
  • Так всех нас в трусов превращает мысль
    И вянет, как цветок, решимость наша
    В бесплодье умственного тупика.
    Так погибают замыслы с размахом,
    Вначале обещавшие успех,
    От долгих отлагательств.Уильям Шекспир. Гамлет (акт 3, сцена 1).
Like this post? Please share to your friends: