Искусственный интеллект – надежды и опасения

Что, если вам захочется построить машину, способную узнать, что означает все на свете, известное человечеству? С учетом закона Мура оцифровка всей доступной информации не займет много времени. Вы сканируете каждую когда-либо напечатанную книгу, собираете все когда-либо отправленные электронные письма и накапливаете видео на сорок девять лет просмотра каждые двадцать четыре часа, отслеживая, где люди находятся и что они делают, в режиме реального времени. Но как вывести из всего этого смысл?

Даже в эпоху господства цифры смысл невозможно определить сколько-нибудь строго логически, потому что смыслы и значения для людей не являются сугубо логичными. Лучшее, что вы можете сделать, собрав все возможные ответы, – это составить тщательно продуманные вопросы и нарисовать основанную на анализе импульсов карту взаимосвязей. Прежде чем вы это поймете, ваша система не только займется наблюдением и отображением значений, но и начнет конструировать значения. Со временем она станет контролировать значения, как карта трафика начинает контролировать поток уличного движения, даже если никто не контролирует ситуацию непосредственно.

Существуют три закона искусственного интеллекта. Первый известен как закон Эшби, в честь кибернетика У. Росса Эшби, автора книги «Конструкция мозга»; он гласит, что любая эффективная система управления должна быть не менее сложной, чем система, которой она управляет.

Второй закон, сформулированный Джоном фон Нейманом, гласит, что определяющая характеристика сложной системы такова: она представляет собой простейшее описание собственного поведения. Простейшей полной моделью организма выступает сам организм. Попытка свести поведение системы к любому формальному описанию усложняет ситуацию, а не делает ее проще.

Третий закон утверждает, что любая система, достаточно простая для ее понимания, не сумеет усложниться настолько, чтобы начать вести себя разумно, тогда как любая система, достаточно сложная для того, чтобы вести себя разумно, будет слишком сложной для понимания.

Третий закон утешает тех, кто верит, что нет нужды беспокоиться насчет сверхчеловеческого интеллекта, возникающего среди машин, пока мы не постигнем саму суть разума. Но в этом третьем законе есть лазейка. Вполне возможно построить что-то, не понимая его сути. Нет необходимости понимать в мельчайших подробностях, как работает мозг, чтобы создать его работоспособную копию. Эту лазейку не помогут прикрыть никакие надзоры за алгоритмами со стороны программистов и их советников по этике. Условно «благой» ИИ есть миф. Наши отношения с подлинным ИИ всегда будут строиться на вере, а не на факте.

Мы слишком много думаем о машинном интеллекте и уделяем недостаточно внимания самовоспроизведению, коммуникациям и контролю. Следующая революция в компьютерном мире ознаменуется возвышением аналоговых систем, над которыми утратит власть цифровое программирование. Ответ Природы тем, кто верит, что возможно создать машины, контролирующие все на свете, будет заключаться в том, что им позволят создать машину, которая станет контролировать их самих.

Глава 5
Что мы можем сделать?

Дэниел К. Деннет

профессор философии в университете и стипендиат Остина Б. Флетчера, а также директор Центра когнитивных исследований при университете Тафтса. Он опубликовал более десятка книг, в том числе «Объясненное сознание» и, если упоминать последние, «От бактерий к Баху и обратно: эволюция разума».

Дэн Деннет – «философ выбора» в сообществе исследователей искусственного интеллекта. Возможно, он наиболее известен в когнитивных науках своей концепцией интенциональных систем и моделью человеческого сознания, которая описывает вычислительную архитектуру репрезентации потока сознания в массово-параллельной [44]коре головного мозга. Против такого бескомпромиссно «вычислительного» подхода выступали такие философы, как Джон Серл, Дэвид Чалмерс и покойный Джерри Фодор[45], которые утверждали, что наиболее важные аспекты сознания – интенциональность и субъективные признаки – не подвластны вычислениям.

Двадцать пять лет назад я навещал Марвина Минского, одного из пионеров в исследованиях искусственного интеллекта, и спросил его о Дэне. «Он наш лучший нынешний философ, новый Бертран Рассел, – сказал Марвин и добавил, что, в отличие от традиционных философов, Дэн изучал нейронауки, лингвистику, искусственный интеллект, информатику и психологию. – Он переосмысливает философию и реформирует ее роль. Конечно, Дэн не понимает мою теорию сообществ разума[46], но никто не совершенен».

Мнение Дэна по поводу стараний исследователей ИИ создать сверхразум остается неизменно уравновешенным. С какой стати беспокоиться? В своем очерке он напоминает нам, что ИИ прежде всего следует рассматривать – и воспринимать – как инструмент, а не как человекоподобного коллегу.

Он начал интересоваться теорией информации, когда проходил обучение в Оксфорде. Вообще-то он признался мне, что на заре своей карьеры всерьез обдумывал, не написать ли ему книгу о кибернетических идеях Винера. Для мыслителя, приверженного научному методу, показательна его готовность ошибаться. В недавней статье под названием «Что такое информация?» он заявляет: «Я опираюсь на принципы, но допускаю их пересмотр. Я уже вышел за их пределы и осознаю, что разработаны иные, лучшие способы решения некоторых задач». Скорее всего, он сохранит хладнокровие и беспристрастность применительно к исследованиям ИИ, хотя сам Дэн нередко признает, что его собственные идеи эволюционируют – как и все идеи на свете.

Многим знакома ирония ситуации, когда впервые читаешь великую книгу в том возрасте, когда еще слишком молод, чтобы сполна оценить ее величие. Причислить классическое произведение к уже прочитанным и тем самым как бы обезопасить себя от дальнейшего влияния, усвоив всего-навсего сюжет и обрывки нескольких непонятных идей – вот верный рецепт потратить время впустую и без всякой пользы. Эта мысль сразу пришла мне на ум, когда я стал перечитывать «Человеческое применение человеческих существ». Первый раз я прочитал эту книгу шестьдесят лет назад, в далекой юности. Вообще-то, стоило бы ввести в обычай перечитывание книг нашей молодости, ведь так нам откроются наглядные признаки ряда наших собственных более поздних «открытий» и «изобретений», а также станет понятным, какое богатство идей мы вынужденно игнорировали до тех пор, пока наш разум не натренировался, не познал страдания и радости, а кругозор не расширился благодаря многочисленным житейским вызовам, которые пришлось преодолевать.

Написанная в те времена, когда вакуумные лампы являлись основными «кирпичиками» электронных устройств, а действующих вычислительных машин имелось считаное количество, книга Норберта Винера рисовала будущее, в котором мы сегодня обитаем, с поразительными прозрениями – и почти без явных ошибок. Знаменитая статья Алана Тьюринга «Вычислительная техника и интеллект» (1950) в философском журнале «Майнд» предрекала появление ИИ, и Винер разделял это мнение, но он смотрел дальше и глубже, признавая, что ИИ не просто будет подражать людям (и постепенно избавит их от множества интеллектуальных действий), но изменит саму человеческую природу.

Когда эти слова писались, не составляло труда отмахнуться от них как от очередного образчика гераклитовского по духу преувеличения. Ну да, ну да, нельзя войти дважды в одну и ту же реку. Но в этих словах содержались семена грядущей революции в мировоззрении. Сегодня нам известно, что такое сложные адаптивные системы, странные аттракторы, расширенные состояния ума (познания) и гомеостаз[47]; перспектива изменилась, и это сулит исчезновение «объяснительной пропасти»[48] между разумом и механизмом, духом и материей, той пропасти, которую до сих пор горячо защищают современные картезианцы, не желающие смириться с тем, что мы – мы сами – являемся самосохраняющимися информационными структурами, а не «материя, существующая вечно». Эти структуры удивительно стабильны и обладают способностью к самовосстановлению, но одновременно их можно охарактеризовать как текучие, оппортунистические, эгоистичные, склонные к эксплуатации всего и вся вокруг в своем стремлении к сохранению. Именно здесь, как признавал сам Винер, возникают сложности. При обилии привлекательных возможностей мы стараемся платить меньше и соглашаемся лишь на малые, тривиальные, если угодно, расходы по ведению бизнеса для доступа к новым умениям и навыкам. В результате мы очень скоро становимся настолько зависимыми от наших новых инструментов, что теряем способность существовать без них. Дополнительные опции становятся обязательными.

Это старая, как мир, история со множеством хорошо известных глав по эволюции. Большинство млекопитающих способны самостоятельно синтезировать витамин С, но приматы выбрали диету преимущественно из фруктов – и утратили эту врожденную способность. Ныне мы вынуждены потреблять витамин С, но не пожираем фрукты безостановочно, подобно нашим дальним родичам приматам, поскольку мы разработали технологии, позволяющие нам производить и принимать витамины по мере необходимости. Самосохраняющиеся структуры, именуемые людьми, ныне зависят от одежды, приготовленной пищи, витаминов, прививок… кредитных карт, смартфонов и интернета. А еще – завтра, если не сегодня – будут зависеть от ИИ.

Винер предвидел проблемы, которые Тьюринг и другие оптимисты в значительной степени упускали из виду. По его словам, настоящая опасность кроется в том,

Он осознавал, что сила сосредоточена в алгоритмах, а не в оборудовании, которое ими оперирует, хотя современное оборудование позволяет обрабатывать алгоритмы, которые казались бы невообразимо громоздкими во времена Винера. Что мы можем сказать об этих «практиках», «узких и равнодушных к человеческим потребностям»? Они внедряются в общество снова и снова, некоторые из них предположительно полезны, другие предположительно вредны, и большинство из них вызывает огромное количество вопросов.

Рассмотрим несколько конфликтных ситуаций. Мой покойный друг Джо Вейценбаум[49], преемник Винера в роли высокотехнологичного пророка Иеремии в Массачусетском технологическом институте, любил повторять, что кредитные карты, при всех неоспоримых достоинствах, заодно предоставляют правительствам и корпорациям недорогой и почти стопроцентно надежный способ отслеживать перемещения, покупательские привычки и желания граждан. Анонимность наличных денег в значительной степени недооценивается, к ней стремятся разве что торговцы наркотиками и другие преступники, а ныне она и вовсе на грани исчезновения. Тем самым отмывание средств сделается более сложной технической задачей, но поклонники и энтузиасты искусственного интеллекта, ратующие против наличности, добились вдобавок того, что все мы очутились как на ладони у «группы людей», которые могут использовать это обстоятельство «для усиления своего господства над остальной человеческой расой».