Популярно о нейросетях, и почему из них не выйдет Искусственного Интеллекта

Популярно о нейросетях, и почему из них не выйдет Искусственного Интеллекта

Знаковая победа в «го» алгоритма Google открыла дверь потоку восторженных публикаций о могуществе нейросетей.

«Пал последний форпост», грядет Искусственный Интеллект, «ИИ в самом обозримом будущем может потеснить человека вообще в любой сфере деятельности», в общем «технологическая сингулярность» за углом.

На сколько оправданы эти ожидания? Посмотрим с точки зрения здравого смысла и научной кибернетики.

-Чем отличается крыса от хомяка?
- У хомяка PR лучше!

  1. Что такое нейросети, и чем они не являются
  2. Что могут короли, а что — нейросети
  3. Полезное применение?
  4. Как делают нейросети
  5. И, наконец, о прибыли
  6. Фундаментально ограниченная применимость
  7. Резюме

 

1. Что такое нейросети, и чем они не являются

«Нейронные сети» — одно из многочисленных семейств компьютерных алгоритмов.
Ни больше, ни меньше.

Рабочая нейросеть не имеет сущностных отличий от любой другой компьютерной программы, будь то Тетрис, Microsoft Windows либо Counter-Strike.

«Нейроны» и «сети» в названии имеют не больше отношения к физической реальности, нежели зачарованный кварк квантовой хромодинамики к эльфийскому волшебству.

В работе нейросетей нет ничего магического, невычислимого и непознаваемого.

Процесс «обучения» нейросети имеет общие черты с нашим, но лишь на уровне натаскивания автоматических реакций («набить руку»).

Нейросеть не думает так, как думаем мы.
И никогда не сможет, ни при каких объемах вычислительных мощностей.

«Нейросети» отнюдь не являются современным изобретением.
Первая действующая нейросеть была построена еще в 1960 году («перцептрон Розенблатта»).

Ярким примером достижений современных нейросетей считается «распознавание образов». Однако «образы» могла «распознавать» самая первая нейросеть полувековой давности.

Пророчества о приходе «искусственного интеллекта» в обозримом будущем — товар весьма потрепанный еще с 1960-х (ровесники вот-вот грядущего термоядерного реактора).

Что, по правде, с того времени изменилось?

Ничего, кроме прогресса в аппаратных мощностях: более мощные компьютеры позволяют строить более сложные нейросети, и только.

 

2. Что могут короли, а что — нейросети

Теоретическим пределом возможностей нейросетей является функционал мозжечка — фрагмента головного мозга homo sapiens, отвечающего за автоматические реакции.
Сознательные мыслительные процессы опираются на другие части мозга.

С помощью нейросетевых алгоритмов можно повторить функциональность муравья, но не человека.

Почему так?

Согласно работам Роджера Пенроуза, знаменитая теорема Гёделя «о неполноте» приводит к невозможности реализации абстрактного мышления алгоритмическими средствами.

Способность оперировать абстрактными понятиями («мир идей» Платона) является неотъемлемым свойством настоящего интеллекта.

Возможно — его определением.

А поскольку любая «нейросеть» является алгоритмом, разговоры о появлении из «нейросетей» настоящего («сильного») ИИ не имеют научных оснований, и относятся целиком и полностью к маркетингу.

Безусловно, всегда найдутся впечатлительные люди, предпочитающих рекламные сказки математически детерминированной реальности. Но тогда не меньшую надежду на успех (надежды меньше нуля не бывает) мечтателям сулит инвестирование стартапа по обучению муравьев математическому анализу.

 

3. Полезное применение?

Медийно раздутая победа Alpha Go, нейросети Google, над человекообразным чемпионом чрезвычайно впечатлила ширнармассы.

Вероятно, тысячу лет назад варварские вожди бывали не менее впечатлены механическими зверями и поющими птицами у трона византийских императоров.
Собственно, родственное целеполагание и объединяет две столь разнесенные во времени технологии.

В самом деле, какую реальную пользу (за вычетом медийного эффекта) несет умение Alpha Go побеждать любого игрока в эту древнюю народную китайскую игру?

Ясно, что никто из людей больше с ним играть не будет в силу предопределенности исхода, так что достижение выходит вполне себе одноразовое.

С другой стороны, впечатленное шумихой правительство Южной Кореи заявило о вложении почти миллиарда долларов в «разработку ИИ».

Несомненно, для адресатов этих «инвестиций» достижение программистов Google имеет материально-приятные следствия более чем счетного характера.

Использовать универсальный (по высококвалифицированному мнению популярной прессы) алгоритм Alpha Go для практического применения не выйдет: любая нейросеть является крайне узко специализированным инструментом.

И в этом ее фундаментальное отличие от истинного интеллекта.

Применимость рабочей нейросети примерно соответствует элементарному моторному навыку человека: даже если вы в совершенстве водите автомобиль, это не дает ничего для фехтования.

 

4. Как делают нейросети

Упрощенно говоря, создание нейросети состоит из трех этапов: программирование/настройка, «обучение», применение.

И на первом же этапе мы упираемся в практическое следствие тезиса Пенроуза: без внешнего устройства, способному к абстрактному мышлению, никакой нейросети построить не выйдет.

В нашем случае в роли такого устройства выступает программист, носитель полноценного интеллекта (неизменно — натурального происхождения).

Разглагольствовать о «самообучении нейросетей» можно сколько угодно, но только ни одна нейросеть без человека ничему не научится.
В точности так же, как человеческий мозжечок не сможет закрепить автоматические навыки без внешних волевых импульсов, направляемых настоящим интеллектом.

После того, как параметры нейросети настроены адекватно решаемой задаче, можно запускать «обучение». Которое, на самом деле, является многократным перезапуском одного и того же алгоритма с различающимися данными на входе.

Суть «обучения» сводится к наработке большого массива данных, хранящего базу данных соответствий типа «Х на входе — Y на выходе».

Колоссальный объем необходимых вычислений и диктует потребность в суперкомпьютерных мощностях и массе времени.

На третьем этапе практического применения наша свежеобученная нейросеть готова исполнить свое предназначение.

 

5. И, наконец, о прибыли

Но... какое именно?

Если не считать таковым генерацию медийного эффекта для сбора «инвестиций в разработку ИИ».

Где простор для свершения технологической революции и грядущего явления технологический сингулярности?

Где магическая замочная скважина для золотого ключика Alpha Go?

Обратимся за подсказкой к авторитетному источнику, одноименной статье Википедии: «When compared with Deep Blue or with Watson, AlphaGo's underlying algorithms are potentially more general-purpose, and may be evidence that the scientific community is making progress towards artificial general intelligence.».

Главное в цитате — «potentially» и «may be».

В переводе на язык бизнес-реализма слово это означает, что никто на самом деле не знает, что с этим Alpha Go делать. Иначе бы использовался более уверенный глагол.

Более того, «as noted by entrepreneur Guy Suter, AlphaGo itself only knows how to play Go, and doesn't possess general purpose intelligence.» (Ibid).

 

6. Фундаментально ограниченная применимость

Ранее мы показывали, что в реальном бизнесе настоящий «искусственный интеллект» просто не нужен. Возможные исключения — entertainment и поддерживающие костыли для головного мозга homo (нейроинтерфейсы, поисковые алгоритмы, etc).

Фундаментальная красота мироустройства: невозможное — не нужно.
Сложно не заметить симметрию с физическим принципом «Возможно все, что явно не запрещено».

С другой стороны, колоссальному техническому прогрессу последних двух веков отсутствие в обиходе нейросетей (не говоря уже о полноценном ИИ) не помешало.

Обычные компьютеры с обычными программами, без всякой медийной шумихи, прекрасно справляются с широчайшим спектром практических задач, забирая на себя с течением времени все больше, и выполняя свою работу все лучше.

Ничего в наблюдаемой реальности не дает оснований полагать, что этот процесс остановится, или даже замедлится.

В точности так же, как нет ни одной причины полагать, что один из множества классов компьютерных алгоритмов магическим образом перенесет человечество в дивный новый мир.
Внезапно — спустя шестьдесят лет после изобретения.

Создание рабочего квантового компьютера может в корне изменить ситуацию, поскольку все вышесказанное справедливо для алгоритмов, исполняемых электронными компьютерами.
Однако предпосылок к скорому решению проблемы квантовых вычислений (пока) немного.

 

7. Резюме

  1. Нейросети — подвид компьютерных алгоритмов ограниченной сферы применения, причем сфера эта будет со временем только сужаться.
  2. В обозримом будущем единственной сферой рентабельного применения нейросетевых алгоритмов останется коммуникация с человеком.
  3. Ни «искусственного интеллекта», ни «технологической сингулярности» из них не выйдет по причинам той же степени фундаментальности, по которым дважды два равно четыре.
  4. Инвестиции в «нейросети» (за исключением entertainment и коммуникационных интерфейсов к homo sapiens) — чистая потеря денег.
April 20, 2017 by John Galt