Препятствия на пути развития ИИ: анализ проблем и поиск решений

Проблемы в области искусственного интеллекта. марвин л. минский. массачусетский технологический институт, кембридж, массачусетс [1966 - - математические проблемы в биологии]

# 4. Совместимость с человеком: искусственный интеллект и проблема управления Стюарт Рассел

Что произойдет, если нам удастся создать разумного агента, нечто, что воспринимает, действует и является более разумным, чем его создатели? Как мы убедим машины достичь наших целей, а не их собственных целей?

Вышеизложенное приводит к одной из самых важных концепций книги:Совместимость с человеком: искусственный интеллект и проблема управлениязаключается в том, что мы должны избегать «закладывания цели в машину», как однажды сказал Норберт Винер. Умная машина, которая слишком уверена в своих фиксированных целях, — это высший тип опасного ИИ. Другими словами, если ИИ отказывается рассматривать возможность того, что он неправильно выполняет свою заранее запрограммированную цель и функцию, то может оказаться невозможным отключить систему ИИ.

Трудность, описанная Стюартом Расселом, заключается в том, чтобы проинструктировать ИИ/робота о том, что никакая проинструктированная команда не предназначена для выполнения любой ценой. Недопустимо жертвовать человеческой жизнью, чтобы принести кофе, или поджарить кошку, чтобы приготовить обед. Следует понимать, что «как можно быстрее доставьте меня в аэропорт» не означает, что могут быть нарушены правила превышения скорости, даже если это указание не является явным. Если ИИ ошибается в вышеуказанном, тогда отказоустойчивость — это определенный заранее запрограммированный уровень неопределенности. С некоторой неуверенностью ИИ может бросить вызов самому себе перед выполнением задачи, возможно, для получения словесного подтверждения.

В статье 1965 года под названием «Спекуляции относительно первой сверхразумной машины«И. Дж. Гуд, блестящий математик, работавший вместе с Аланом Тьюрингом, заявил: «Выживание человека зависит от раннего создания сверхразумной машины». Вполне возможно, что для того, чтобы спасти себя от экологической, биологической и гуманитарной катастрофы, мы должны создать самый совершенный ИИ, какой только сможем.

Эта основополагающая статья объясняет взрыв интеллекта, эта теория состоит в том, что сверхинтеллектуальная машина может создавать еще более совершенные и совершенные машины с каждой итерацией, и это неизбежно ведет к созданию ОИИ. Хотя изначально ОИИ может иметь такой же интеллект, как и человек, он быстро превзойдет людей в течение короткого промежутка времени

Из-за этого заранее сделанного вывода разработчикам ИИ важно актуализировать основные принципы, изложенные в этой книге, и научиться безопасно применять их при разработке систем ИИ, способных не только служить людям, но и спасать людей от самих себя

Как отметил Стюарт Рассел, отказ от исследований в области ИИ невозможен, мы должны двигаться вперед. Эта книга — дорожная карта, которая поможет нам разработать безопасные, ответственные и доказуемо полезные системы искусственного интеллекта.

Клеточные автоматы

# Автор Название Дополнительно
4.1. Тоффоли Т. Машины клеточных автоматов Т. Тоффоли, Н. Марголус. — М.: Мир, 1991. — 280 с.
4.2. Аладьев В. З. Классические однородные структуры: теория и приложения: монография В. З. Аладьев, В. К. Бойко, Е. А. Ровба. — Гродно: ГрГУ им. Я. Купалы, 2008. — 485 с.
4.3. Беркович С. Я. Клеточные автоматы как модель реальности: поиски новых представления физических и информационных процессов С. Я. Беркович. — М.: Изд-во МГУ, 1993. — 109 с.
4.4. Сырецкий Г. А. Информатика. Фундаментальный курс: учеб. для студентов вузов Г. А. Сырецкий. — Т. 1: Основы информационной и вычислительной техники. — СПб.: БХВ-Петербург, 2005. — 822 с.

Последнее изобретение человечества. Джеймс Баррат

Автор отмечает, что достижения человечества в области робототехники и искусственного интеллекта могут пойти против самого человека. И для всех, кто делает огромные инвестиции в эту область науки, это может стать последним великим изобретением. При достижении определенного уровня развития, искусственный мозг сможет сам самосовершенствоваться.

Достоинства:

  • интересная книга для общего развития;
  • заставляет задуматься о перспективах человечества;
  • соответствие цены и качества.

Недостатки:

  • недостаточное глубокое погружение в суть;
  • к доводам нет научных подтверждений;
  • много воды и околонаучных рассуждений
  • автор повторяет одну и ту же мысль несколько раз разными словами.

«Я, человек: ИИ, автоматизация и стремление вернуть то, что делает нас уникальными», Томас Чаморро-Премузик.

«Я, Человек» — одна из самых последних книг, опубликованных по искусственному интеллекту. Выпущенная в феврале 2023 года книга предлагает другой взгляд на ИИ с точки зрения психолога, а не с технологической точки зрения. Книга исследует сложные отношения человека с технологиями и задает один важный вопрос:

Психолог Томас Чаморро-Премузик предлагает читателям всестороннее исследование текущего состояния ИИ. Признавая потенциальные преимущества ИИ, он также указывает на его потенциальные негативные последствия, такие как увеличение отвлекающих факторов, предубеждений и нетерпения среди других черт.

Искусственные нейронные сети

# Автор Название Дополнительно
1.1. Заенцев И. В. Нейронные сети: основные модели И. В. Заенцев. — Воронеж: Изд-во Воронежского госуд. ун-та, 1999. — 76 с.
1.2. Вороновкий Г. К. Генетические алгоритмы, искусственные нейронные сети и проблемы виртуальной реальности Г. К. Вороновский, К. В. Махотило, С. Н. Петрашев, С. А. Сергеев. — Х.: ОСНОВА, 1997. — 112 с.
1.3. Рутковская Д. Нейронные сети, генетические алгоритмы и нечёткие системы Д. Рутковская, М. Пилиньский, Л. Рутковский. — М.: Горячая линия — Телеком, 2006. — 452 с.
1.4. Каллан Р. Основные концепции нейронных сетей/ Р. Каллан. — Москва, Санкт-Петербург, Киев: Издательский дом «Вильямс», 2001. — 287 с
1.5. Джонс М. Т. Программирование искусственного интеллекта в приложениях М. Тим Джонс; Пер. с англ. Осипов А. И. — М.: ДМК Пресс, 2006. — 312 с.
1.6. Барский А. Б. Нейронные сети: распознавание, управление, принятие решений А. Б. Барский. — М.: Финансы и статистика, 2007. — 174 с.
1.7. Ежов А. А. Нейрокомпьютинг и его применение в экономике и бизнесе: Учеб. пособие А. А. Ежов, С. А. Шумский. — М.: МИФИ, 1998. — 222 с.
1.8. Осовский С. Нейронные сети для обработки информации С. Осовский. — М.: Финансы и статистика, 2004. — 343 с.
1.9. Уоссермен Ф. Нейрокомпьютерная техника: теория и практика Ф. Уоссермен. — М.: Мир, 1992. — 236 с.
1.10. Круглов В. В. Нечёткая логика и искусственные нейронные сети: Учеб. пособие для студентов вузов В. В. Круглов, М. И. Дли, Р. Ю. Голунов. — М.: Физматлит, 2001. — 224 с.
1.11. Яхъяева Г. Э. Нечеткие множества и нейронные сети: учеб. пособие Г. Э. Яхъяева. — М.: Интернет-Ун-т Информ. Технологий: БИНОМ. Лаб. знаний, 2008. — 315 с.
1.12. Хайкин С. Нейронные сети. Полный курс С. Хайкин. 2-e изд. Пер. с англ. – М.: Издательский дом «Вильямс», 2006. – 1104 с.

Заключение

Одним из ключевых постулатов нашей работы является отказ признавать антропоцентризм и монизм модели человека на установление критериев формирования и развития психо-машин. Мы считаем необходимым привнесение структуралистских и коннекционистских воззрений в контекст формирования психо-машин на актуальном этапе техногенеза. Наряду с этим необходимо пересмотреть позиционирование психо-машин и заранее сформировать общественное мнение во избежание проявлений «техно-дискриминации».

Нами принято, что феномен человеческого сознания абсолютно неправомерно признаётся обладающим свободной волей, «решающим» и «контролирующим» аспектом человеческой психики, а напротив – представляет собой скорее пассивно рефлексирующего наблюдателя внутреннего бессознательного и синергетически алгоритмизированного мира, поэтому считаем неактуальным применение классических критериев человеческой психики при моделировании перцептивных и когнитивных процессов в контексте разработки психо-машин.

Останавливаясь на характеристике психо-машины,мы придерживаемся следующего: способность решать логические задачи и осуществлять мыслительную деятельность вовсе не является качеством психо-машины, а представляет собой пример так называемой лого-машины, не имеющий ничего качественно общего с нашим пониманием психо-машины.

Противоречие заключается в том, что системы искусственного интеллекта разрабатываются при помощи частичного и изолированного моделирования перцептивных процессов, что априори не способно привести к достижению некоего «человекоподобия» в контексте воспроизведения сознательных качеств; а требования по поводу признания за системой осознанности и осмысленности являются абсолютно не соответствующими подходу, при помощи которого системы разрабатываются. Дело в несоответствии метода и цели. И до тех пор, пока данное противоречие не будет устранено, мы не будем иметь возможность сформировать психо-машину, а будем только раз за разом материализовывать лого-машины, коих и так уже великое множество.

Аспирант института философии кафедры методологии и философии науки, магистр педагогических наук

Научный руководитель: кандидат философских наук Колесников Андрей Витальевич

[email protected]

Like this post? Please share to your friends: