Искусственный интеллект – надежды и опасения

Джордж Дайсон

историк науки и техники и автор книг «Каяк «Байдарка», «Дарвин среди машин», «Проект «Орион»» и «Собор Тьюринга».

В 2005 году Джордж Дайсон, историк науки и техники, посетил корпорацию «Гугл» по приглашению ряда тамошних инженеров. Поводом стала шестидесятая годовщина доклада Джона фон Неймана о возможности создания цифрового компьютера. После визита в «Гугл» Джордж написал очерк «Собор Тьюринга», где первым среди ученых предупредил общественность о планах корпорации и ее основателей по покорению мира. «Мы сканируем все эти книги не для того, чтобы их могли прочитать люди, – объяснял один из инженеров. – Мы сканируем их, чтобы их читал ИИ».

Джордж предлагает противодействовать цифровому наступлению. Его научные интересы разнообразны: тут и история алеутского каяка, и эволюция цифровых вычислений и телекоммуникаций, и происхождение цифровой вселенной, и несбывшиеся мечты о покорении космоса. Его карьера (он не закончил среднюю школу, но позднее сделался почетным доктором Университета Виктории) столь же невероятна, как и его книги.

Ему нравится отмечать, что аналоговые вычисления, которые ранее считались вымершими заодно с дифференциальным вычислителем[41], благополучно возродились. Он утверждает, что мы используем цифровые компоненты, но в определенный момент аналоговые вычисления, выполняемые системой, намного превышают сложность цифрового кода, с помощью которого эта система создавалась. Он считает, что подлинный искусственный интеллект – с аналоговыми контурами управления, возникшими из цифрового «субстрата» подобно тому, как цифровые компьютеры появились из аналоговых после Второй мировой войны, – не так далек, не исключено, как принято полагать.

В своем очерке Джордж рассматривает различия между аналоговыми и цифровыми вычислениями и приходит к выводу, что аналоговый метод жив и здоров. Реакцией природы на попытку запрограммировать машины для управления всем на свете могут оказаться машины без программирования, над которыми никто не властен.

Историю вычислений можно разделить, так сказать, на Ветхий и Новый Заветы: до и после появления электронных цифровых компьютеров и распространения кодов, ими порожденных, по всей Земле. Пророками Ветхого Завета, заложившими основы компьютерной логики, были Томас Гоббс и Готфрид-Вильгельм Лейбниц[42]. К пророкам Нового Завета принадлежат Алан Тьюринг, Джон фон Нейман, Клод Шеннон и Норберт Винер. Они создали машины.

Алану Тьюрингу было интересно, что необходимо для того, чтобы машины сделались разумными. Джон фон Нейман задавался вопросом о том, что потребуется для самовоспроизводства машин. Клод Шеннон искал ответ на вопрос, что понадобится для обеспечения надежной связи между машинами, независимо от силы шума. Норберт Винер задумывался над тем, сколько времени уйдет у машин на то, чтобы стать самостоятельными.

Предостережения Винера насчет систем управления, неподвластных человеческому контролю, прозвучали в 1949 году, как раз когда появилось первое поколение электронных цифровых компьютеров с хранимыми в памяти программами. Эти системы требовали прямого контроля со стороны людей-программистов и тем самым как бы опровергали его опасения. В чем проблема, пока программисты контролируют машины? С тех пор и по сей день споры о рисках самостоятельности увязывались и увязываются с дебатами о возможностях и ограничениях кодированных цифровыми способами машин. Несмотря на их удивительные способности, налицо весьма скромные проявления самостоятельности. Впрочем, предаваться самоуспокоенности опасно. А что, если на смену цифровым машинам придут какие-то другие?

За минувшие сто лет электроника претерпела два фундаментальных изменения – переход от аналога к цифре и переход от вакуумных ламп к печатным платам. Тот факт, что эти переходы происходили вместе, не означает, что они неразрывно связаны. Цифровые вычисления производились с использованием ламповых компонентов, тогда как аналоговые вполне возможно выполнять с применением плат. Аналоговые компьютеры, если угодно, живы и здоровы до сих пор, несмотря на фактическое исчезновение вакуумных ламп из коммерческой эксплуатации.

Никто не в состоянии провести строгое различие между аналоговыми и цифровыми компьютерами. Цифровые вычисления больше опираются на целые числа, двоичные последовательности, детерминированную логику и идеальное время, делимое на дискретные приращения, тогда как аналоговые вычисления оперируют действительными числами, недетерминированной логикой и непрерывными функциями, в том числе временем как континуумом, каким оно воспринимается в реальном мире.

Вообразите, что вам нужно отыскать середину дороги. Можно замерить ее ширину с любыми допусками, а затем вычислить цифровым способом среднее значение до ближайшего допуска. Или можно трактовать отрез веревки в качестве аналогового компьютера, сопоставить ширину дороги с длиной отреза и определить середину, без необходимости делать допуски, просто удвоив длину веревки.

Многие системы используют в работе как аналоговый, так и цифровой режимы. Дерево объединяет широкий спектр входных данных в виде непрерывных функций, но если его срубить, вы обнаружите, что оно считало прожитые годы в цифровом виде.

В аналоговых вычислениях сложность заключается в сетевой топологии, а не в коде. Информация обрабатывается как непрерывные функции значений, например напряжение и относительная частота импульсов, а не посредством логических операций над дискретными строками битов. Цифровые вычисления, нетерпимые к ошибкам и неоднозначностям, зависят от исправления ошибок на каждом этапе. Аналоговые вычисления допускают ошибки и дают определенную свободу действий.

Природа использует цифровое кодирование для хранения, репликации и рекомбинации последовательностей нуклеотидов, но полагается на аналоговые вычисления в нервной системе с точки зрения разумности и контроля. Генетическая система каждой живой клетки представляет собой компьютер с программой в памяти. А вот мозг – нет.

Цифровые компьютеры выполняют преобразования между двумя разновидностями битов: теми, которые репрезентируют различия в пространстве, и теми, которые репрезентируют различия во времени. Преобразования между этими двумя формами информации, последовательностей и структур подчинены компьютерному программированию, и, пока компьютерам требуются люди для программирования, мы сохраняем контроль.

Аналоговые компьютеры тоже опосредуют преобразования между двумя формами информации – структурой в пространстве и поведением во времени. Но здесь нет кода и нет программирования. Каким-то образом – мы не до конца понимаем, как именно, – Природа создала аналоговые компьютеры, известные нам как нервная система; эта система накапливает информацию, полученную из внешнего мира. Она способна учиться. В частности, нервная система учится контролю. Она учится контролировать собственное поведение, а также максимально подчинять себе свое окружение, насколько это возможно.

Компьютерная наука имеет долгую историю – восходящую к временам, когда не было никакой компьютерной науки, – применения нейронных сетей, но по большей части это были имитации нейронных сетей с помощью цифровых вычислительных машин, а не нейронные сети как таковые, эволюционировавшие в дикой природе. Ситуация начинает меняться, причем как снизу вверх, поскольку тройственная движущая сила (беспилотные дроны, автономные транспортные средства и мобильные телефоны) стимулирует разработку нейроморфных микропроцессоров, которые воспроизводят реальные нейронные сети, а не их имитации, прямо в кремнии (и прочих потенциальных субстратах), так и сверху вниз, поскольку наши крупнейшие и наиболее успешные компании все чаще обращаются к аналоговым вычислениям, стремясь охватить и покорить весь мир.

Пока мы спорим о разумности цифровых компьютеров, аналоговые вычисления тихо и незаметно превосходят цифровые, точно так же, как аналоговые компоненты наподобие вакуумных ламп стали применяться по-новому для конструирования цифровых компьютеров после Второй мировой войны. Индивидуально детерминированные процессоры конечных состояний, работающие с конечными кодами, формируют крупные, недетерминированные метазонные организмы неконечных состояний, привольно существующие в реальном мире. Итоговые гибридные аналоговые/цифровые системы обрабатывают потоки битов совместно, тем способом, каким поток электронов обрабатывается в вакуумной лампе, а не по отдельности, подобно битам в устройствах с дискретным состоянием, генерирующих поток. Биты суть новые электроны. Аналог вернулся, и его назначение – взять на себя управление.

Управляя всем, от потока товаров до дорожного трафика и потока идей, эти системы действуют статистически, как закодированная импульсной частотой информация обрабатывается в нейроне или мозге. Возникновение разума привлекает внимание Homo Sapiens, но на самом деле нас должно беспокоить расширение самостоятельности. Вообразим, что на дворе 1958 год и нам нужно защитить континентальную территорию Соединенных Штатов Америки от потенциальных воздушных атак. Чтобы выявлять вражеские самолеты, потребуется, помимо сети компьютеров и радиолокационных станций раннего предупреждения, карта всего коммерческого воздушного движения, обновляемая в режиме реального времени. США создали такую систему и назвали ее SAGE (полуавтоматическая наземная среда). Система SAGE, в свою очередь, породила Sabre, первую интегрированную систему бронирования авиабилетов в режиме реального времени. Система Sabre и ее «потомки» вскоре сделались не просто картой свободных мест в самолетах, а этакой сетью с децентрализованным управлением, которая начала определять, где и когда летать авиалайнерам.

Но разве нет где-нибудь пункта управления, где кто-то сидит за пультом? Возможно, нет. Скажем, вы разрабатываете систему картографирования дорожного движения в режиме реального времени, всего-навсего предоставляя автомобилям доступ к карте в обмен на сообщение их скорости и местоположения в данный момент. Результатом будет полностью децентрализованная система управления. Нигде не найдется никакой управляющей модели, кроме самой системы.

Представьте, что идет первое десятилетие XXI века и вы хотите отслеживать сложность человеческих отношений в режиме реального времени. Если речь о социальной жизни небольшого колледжа, можно создать исходную базу данных и поддерживать ее в актуальном состоянии, но обновление такой базы станет отнимать все больше времени по мере ее разрастания. Лучшим вариантом будет раздавать бесплатные копии простого полуавтономного кода с локальным хостингом и позволить социальной сети обновляться самостоятельно. Этот код обрабатывается цифровыми компьютерами, но аналоговые вычисления, выполняемые системой в целом, намного превышают по сложности базовый код. Результирующая импульсно закодированная модель социального графа сама становится социальным графом. Она широко распространяется по всему кампусу, а затем и по всему миру[43].