Искусственный и натуральный интеллект: грань стирается?

Jul 18, 2019
Blog

К 2030 году поездки на такси подешевеют на 80%. Переводчики исчезнут как класс. А вы навсегда забудете об усталости. Таковы прогнозы ученых и футурологов. Однако Ханс Моравек из университета Карнеги–Меллона с ними не согласен. Этот специалист – и не без основания – считает, что большинство надежд, которые мир возлагает на искусственный интеллект, никогда не сбудутся. И вот почему.

Как мы мыслим

Точный механизм того, как наш мозг “думает”, по сей день является предметом дискуссий. Однако мы точно знаем, что он содержит около 100 миллиардов нейронов, объединенных в нейронные сети.

Нейроны постоянно обмениваются информацией с помощью электрических импульсов. При этом, сигналы отдельных нейронов комбинируются друг с другом перед тем, как задействовать другие нейроны в разных слоях мозга. Учитывая количество нейронов в нашем мозгу, работа нервных импульсов и их комбинирование — процесс, мягко говоря, довольно сложный.

Но и это еще не все. Каждый нейрон анализирует входные электрические импульсы и активируется только в том случае, если сигнал достаточно силен для него. Как мы знаем, сигналы поступают в наш мозг из сотен источников, включая органы чувств и внутренние среды организма, которые контролируют, например, давление и уровень кислорода в крови.

Перед тем, как решить, каким образом реагировать на импульс, каждый нейрон получает до 100 000 сигналов. Именно в результате обработки импульсов каждым нейроном наш мозг получает инструкции о том, как действовать здесь и сейчас. Все это мы называем мышлением. Кроме того, связи между нейронами в мозгу могут меняться, разрушая старые нейронные сети и объединяясь в новые. Это связано с обучением и накоплением опыта.

На том же принципе была построена компьютерная симуляция для воспроизведения возможностей мозга – искусственная нейронная сеть. Но ничего не вышло. И тому есть веская причина.

В 1966 году физик Майкл Поланьи выдвинул гипотезу о том, люди “знают гораздо больше, чем могут сказать”. Позже Дэвид Отор из MIT назвал эту теорию “Парадоксом Поланьи” и четко сформулировал ее основную идею. Заключается она в том, что люди делают многое на интуитивном уровне и понятия не имеют, как на самом деле они это делают. Проницательность, креативность, эмпатия – все эти качества можно объединить термином “неявное знание”. И, вероятно, все это заложено в нашем ДНК.

Именно неявные знания делают нас людьми. И это именно то, чем можно объяснить все проблемы автоматизации и компьютеризации последних лет. Сегодня машинам доступно как никогда большое количество данных для выполнения огромного количества задач. Однако когда без интуиции, гибкости, здравого смысла не обойтись – все современные программы пасуют даже перед самым необразованным человеком.

Это предел?

Выходит, искусственный интеллект достиг своего уровня развития? Посмотрите, как выглядит код нейронной сети, способной обрабатывать данные, и сравните его с ДНК.

X = np.array([ [0,0,1],[0,1,1],[1,0,1],[1,1,1] ])
y = np.array([[0,1,1,0]]).T
syn0 = 2*np.random.random((3,4)) — 1
syn1 = 2*np.random.random((4,1)) — 1
for j in xrange(60000):
l1 = 1/(1+np.exp(-(np.dot(X,syn0))))
l2 = 1/(1+np.exp(-(np.dot(l1,syn1))))
l2_delta = (y — l2)*(l2*(1-l2))
l1_delta = l2_delta.dot(syn1.T) * (l1 * (1-l1))
syn1 += l1.T.dot(l2_delta)
syn0 += X.T.dot(l1_delta)

код нейронной сети

митохондриальная ДНК человека

11 строчек из примера выше хватило, чтобы описать небольшую нейронную сеть. Чтобы расписать код человеческого ДНК, представленный на картинке, понадобится создать несколько сотен тысяч строк из нолей и единиц. Впрочем, скачать исходный код ДНК объемом больше 3,4 Гб вы можете здесь – он давно расшифрован. Но этого по-прежнему недостаточно, чтобы оцифровать личность — неявные знания до сих пор не изучены, и никто не знает, как их формализовать.

Именно поэтому долгое время считалось, что абстрактные задачи навсегда останутся прерогативой человечества, но не машин. Так, кстати, думал и Даррен Элиас, четырехкратный победитель Мирового тура покера. До тех пор, пока он вместе с другими представителями элиты безлимитного техасского холдема не проиграл более $2 миллионов покерному боту Pluribus на прошлых выходных.

До недавнего времени ученые были уверены в том, что компьютерные программы хороши только в играх с нулевой суммой. То есть там, где победу определяет математика. В частности, в Heads up покерные боты обыгрывают людей уже многие годы. Да и другие похожие игры уже решены: в рейтинге самых сильных игроков в шахматы лидирует программа Stockfish с 3341 баллами. Для сравнения, навыки Магнуса Карлсена и Гарри Каспарова – двух самых сильных шахматистов в истории — никогда не оценивались выше 2850,6 и 2851 баллов соответственно.

Посмотрите, для примера, как в упрощенном виде выглядит дерево решений для игры против одного оппонента в типичной покерной раздаче:

Это несложно формализовать с помощью кода, чтобы создать бот, который будет играть безошибочно.

Ситуация меняется, когда за столом появляется третий: игра перестает быть игрой с нулевой суммой, и оппоненты вынуждены учитывать действия друг друга. Чтобы получить преимущество, в современном мире покерные профессионалы задействуют всю силу эмоционального интеллекта и ориентируются на “теллсы” – неявные изменения в поведении оппонентов, которые могут свидетельствовать о силе его руки.

До недавнего времени программы не могли составить конкуренцию в играх с ненулевой суммой из-за отсутствия у них неявных знаний. А теперь машина не оставляет никаких шансов профессионалам мирового класса. Что изменилось?

Pluribus перестал считать. Он просто проанализировал больше триллиона раздач, чтобы понять, какие действия приносят наибольшее количество денег. И теперь, действуя против шести оппонентов, робот не просчитывает все свои действия от начала до конца. Вместо этого он меняет свой план каждый раз, когда замечает изменения в поведении своих соперников. Иными словами, робот стал человечнее и научился предсказывать поведение соперников на основе триллионов сыгранных партий. Для этого, кстати, ученые, разработали сложную систему, которую назвали “минимизацией сожалений”.

Вот упрощенная схема того, как машина принимает решения, играя против пяти оппонентов:

Машина научилась думать, как человек?

Нет. Достижения Pluribus, равно как и победы AlphaGo, связаны с методами глубокого обучения. Дело в том, что хотя методы глубокого обучения были разработаны больше 40 лет назад, до недавнего времени разработчикам не хватало вычислительных мощностей для создания сложных нейронных сетей, способных решать комплексные задачи. Однако решать комплексные задачи — не значит думать.

Да, Pluribus, AlphaGO и другие подобные им программы в полной мере соответствуют определению искусственного интеллекта. Каждая из них умеет выполнять творческие функции, с которыми ранее справлялся лишь человек. Тем не менее, в их сути, по-прежнему, — лишь сложные вычислительные алгоритмы и основы теории игр. В конце концов, эти роботы способны выполнять только ту задачу, для которой они созданы (Pluribus – игрок в покер, AlphaGO – в Го). Им не достает того, что многие называют человеческим или обобщенным интеллектом (ОИ).

Несмотря на схожесть терминов, между ИИ и ОИ лежит огромная пропасть. Если ИИ – это способность выполнять отдельные творческие функции, то ОИ – умение самостоятельно познавать окружающий мир и разрабатывать свое, внутреннее понимание всего, с чем приходится сталкиваться, слышать, говорить или делать.

Иными словами, обладатель ОИ может пройти тест Тьюринга, обладатель ИИ – нет. Эта игра в имитацию неподвластна современным роботам потому, что они не способны использовать естественный язык и рассуждать, используя такие человеческие свойства, как эмпатия и интуиция.

Сила искусственного интеллекта

Робот не сможет полностью заменить человека, по крайней мере в обозримом будущем. Однако это не значит, что ИИ не годится для решения “человеческих” задач.

Яркий пример — автопилоты, в том числе автомобильные. Казалось бы, с вождением в постоянно изменяющейся обстановке может справиться только тот, кто способен рассуждать и предугадывать действия других. То есть тот, кто обладает обобщенным интеллектом. Однако уже сейчас машины с ИИ работают в качестве такси, а через 10 лет, вполне возможно, они полностью заменят водителей. Как им это удается?

Давайте рассмотрим, как авто с ИИ справляется с изначально человеческими задачами.

Чтобы ориентироваться в дорожной обстановке, человек использует свои глаза. Для автомобилей глазами служат камеры и лидары, обычно установленные на крыше, капоте и багажнике. Но видеть – это одно, а понимать, что ты видишь – задача совершенно другого порядка.

Именно здесь в дело вступает ИИ и то, что мы называем компьютерным зрением. Вся видеоинформация, поступающая в центральный процессор, сегментируется, а затем машина идентифицирует отдельные объекты. Так компьютер распознает каждый отснятый на камеру кадр, определяет размеры объектов, их скорость относительно автомобиля и расстояние.

Примерно так беспилотный автомобиль воспринимает окружающий мир:

Таким образом, с помощью компьютерного зрения автомобиль несколько тысяч раз в секунду анализирует объекты вокруг себя, в том числе людей, животных и другие машины, а алгоритмы глубокого обучения (по сути такие же, как у Pluribus и AlphaGO) помогают предугадывать действия. Фактически, на дороге беспилотный автомобиль прокладывает себе путь сквозь хаос, используя нечто отдаленно похожее на мыслительный процесс.

В сильно упрощенном варианте дерево решений беспилотного автомобиля, использующего для анализа дорожной ситуации метод главных компонент выглядит примерно так:

*SVR — Support Vector Regression

Думает ли ИИ себя как человек? Однозначно нет. Справляется ли он с изначально человеческой задачей? Да. И лучше человека.

Сравните: риск смертельной аварии при управлении машины человеком составляет 10-6 в час. Когда же в дело вступает автопилот, вероятность погибнуть снижается до 10-9 в час. Откуда берется такое преимущество ПО беспилотных авто перед человеком? Оттуда же, откуда у покерных программ: они не ошибаются.

Вот еще пример:

Представьте, что вы стали участником игры, в которой вам нужно выбрать одну из трёх дверей. За одной из дверей находится автомобиль, за двумя другими дверями — козы. Вы выбираете одну из дверей, например, номер 1, после этого ведущий, который знает, где находится автомобиль, а где – козы, открывает одну из оставшихся дверей, например, номер 3, за которой находится коза. После этого он спрашивает вас – не желаете ли вы изменить свой выбор и выбрать дверь номер 2? Увеличатся ли ваши шансы выиграть автомобиль, если вы примете предложение ведущего и измените свой выбор?

Каков ваш ответ?

Пока вы сомневаетесь и тратите время на обдумывание ответа, машина может со 100% точностью решить порядка миллиарда подобных задач, используя основы теории игр.

Теперь представьте, что на дороге у вас есть десятые доли секунды, чтобы решить, как поступить в критической ситуации. Еще раз: человеку свойственно сомневаться и ошибаться. Машина, созданная для вождения, не тратит время на сомнения и за счет этого получает преимущество перед традиционными водителями.

Кстати, ИИ из задачи выше определенно изменил бы свой выбор и был бы прав. А вы?

ИИ забирает у людей задачи, но не работу

В течение ближайших десяти лет ИИ проникнет во все сферы жизни: транспорт, здравоохранение, ритейл, страхование, строительство, медицину, финтех и другие. По прогнозам Gartner, до 2030 года благодаря этому в мире появится около 2,3 миллионов рабочих мест.

Коллега Ханса Моравека из университета Карнеги–Меллона, Том Митчелл, подтверждает этот прогноз, говоря о том, что влияние ИИ и самообучающихся систем на количество вакансий сомнительно. Естественно, машинное обучение окажет влияние на структуру работы, но автоматизация происходит сейчас – и будет происходить – когда появляется потребность в решении конкретных задач, и не более.

Возьмем наш пример с победой Pluribus в безлимитном холдеме. Данная задача решена, но благодаря этому профессионалы узнали десятки способов одерживать верх в более сложных играх, таких, как Pot-Limit Omaha. В этом виде покера, кстати, программы до сих пор бессильны.

Вождение автомобиля?
Теперь вместо того, чтобы быть сосредоточенным на дороге, вы можете заниматься тем, что действительно важно, и не прилагать усилия ради действий, которые лишь тратят ваше время.

Короче говоря, использование ИИ в экономике может трансформировать многие рабочие места, но полная автоматизация не сократит такого количества рабочих мест, какое появится в результате реинжиниринга процессов и реорганизации задач. Другое дело — создание ОИ (по сути, оцифрованной копии человеческого сознания). Но от этого мы бесконечно далеки.

Еще раз сравните человеческий и самый современный компьютерный мозг:
Человеческий мозг способен обрабатывать порядка 1000 петафлопс (миллиард миллиардов) операций в секунду. Для этого ему нужно не больше 20 Ватт энергии. А китайский суперкомпьютер Tianhe-2 – самый мощный в мире – не может обрабатывать данные быстрее, чем 34 петафлопс в секунду. При этом потребляет он порядка 17600000 Ватт.

У нас просто нет технологий для того, чтобы скопировать человеческий мозг. Более того, мы не представляем, какими методами можно описать те самые неявные знания, о которых говорилось в начале статьи.

Иными словами, ИИ подходит для выполнения задач, поддающихся алгоритмизации. Но когда мы говорим о творчестве, машины могут лишь имитировать человека. Возьмем, к примеру, создание текста. Программы способны написать текст. Но в отличие от человека, не могут поддерживать его ритм и замечать явные логические нестыковки.

Поэтому мы закончим эту статью простым вопросом для вас. Эту статью написал робот или человек? Что вы думаете?

Previous articleNext article