Читать интересную книгу Драконы Эдема - Карл Саган

В Соединенных Штатах сейчас создаются компьютеры, которые будут способны обнаруживать неисправности в своей собственной конструкции и определять их причину. После того как будут найдены систематические ошибки в работе машины, вышедшие из строя элементы ее автоматически заменяются либо выключаются из схемы. Ремонт будет осуществляться за счет заложенного в схему резерва, эффективность ремонта станет проверяться с помощью регулярно прогоняемых тестовых программ, а результат выполнения каждой из них известен заранее. Существуют уже программы — например, для компьютеров, играющих в шахматы, — которые могут учиться на собственном опыте или же усваивать опыт, накопленный другими компьютерами. Вычислительные машины с каждым днем выглядят все более умными. А поскольку управляемые программы становятся настолько сложными, что даже их создателю не по силам сразу же предугадать все возможные реакции машины, возникает ощущение, будто у компьютеров есть если не разум, то хотя бы свобода воли. Даже бортовая ЭВМ «Викингов», имеющая память всего только в 18 000 слов, уже находится на этом уровне сложности: нам не во всех случаях дано знать, как именно поступит она, получив данную команду. Если бы мы знали это, то могли бы сказать, что она «только» или «просто» машина. Но поскольку мы этого не знаем, то невольно начинаем подозревать у нее настоящий разум.

Положение очень похоже на то, которое описано сразу двумя древними авторами — Плутархом и Плинием. Эта знаменитая история, дошедшая до нас через столетия, заключается в том, что некая собака, искавшая своего хозяина по его следам, добежала до места, где дорога разветвлялась. Принюхиваясь, она помчалась по левому ответвлению, затем остановилась, вернулась к развилке и, также нюхая землю, устремилась по среднему пути. Пробежав небольшое расстояние, собака вновь вернулась в исходную точку и теперь уже без всякого принюхивания радостно бросилась вдоль правого ответвления дороги.

Монтень, комментируя эту историю, утверждал, что в ней ясно просматривается собачья силлогистика: мой хозяин ушел по одной из этих дорог, но не по левой и не по средней, следовательно, по правой, и поэтому мне нет никакой надобности проверять этот вывод с помощью запаха — он подтверждается прямой логикой.

Сама возможность подобных рассуждений у животных, пусть даже и не в столь явно выраженной форме, беспокоила многих, и задолго до Монтеня Фома Аквинский безуспешно пытался разобраться в этой истории. Он приводил ее в качестве поучительного примера того, как может создаться впечатление наличия разума в случае, когда в действительности он отсутствует. Фома Аквинский не предложил, однако, никакого удовлетворительного объяснения поведению собак. Совершенно очевидно, что весьма точный логический анализ может выполняться при полной неспособности к словесному выражению мысли.

В своем подходе к машинному разуму мы находимся в сходном положении. Машины сейчас переступают важный порог, за которым они кажутся непредубежденному человеку разумными. Из-за своего рода человеческого шовинизма или антропоцентризма многие люди не готовы принять такую возможность. Но я думаю, что это неизбежно. По-моему, человеческое достоинство ни в коем случае не принижается из-за того, что сознание и разум оказываются функцией «просто» материи, хотя и достаточно сложно организованной, — напротив, тем воздается дань восхищения изощренности устройства материи и законам природы.

Отсюда никоим образом не следует, что компьютеры в ближайшем будущем смогут продемонстрировать нечто похожее на творческий дух человека, тонкость его чувств или его мудрость. Классической, хотя, вероятно, и апокрифической, иллюстрацией этой мысли служит машинный перевод, когда на вход машины подается текст на одном языке, к примеру английском, а на выходе ее получается текст на другом языке, скажем китайском. Рассказывают, что по завершении работ по созданию наиболее совершенной программы машинного перевода на демонстрацию ее в действии была приглашена делегация, в которую входил американский сенатор. Сенатора попросили предложить английскую фразу для перевода. И он, не задумываясь, сказал: «Out of sight, out of mind». Машина деловито выдала листок бумаги, на котором было написано несколько китайских иероглифов. Но сенатор не умел читать по-китайски. Поэтому, чтобы завершить испытания, программу запустили в обратную сторону: на вход машины подали китайские иероглифы, а на выходе она должна была выдать английский перевод. Посетители столпились вокруг нового листка бумаги, на котором была написана фраза, поначалу очень удивившая их: «Invisible idiot». [ 50 ]

Существующие программы лишь в самой малой степени способны справляться с проблемами даже не слишком высокой степени сложности. Было бы глупо доверять компьютерам при их нынешнем уровне развития принимать важные решения, и не потому, что компьютеры недостаточно разумны, а потому, что для решения сложной проблемы мы не сможем предоставить в его распоряжение всю необходимую информацию. Но использование людьми систем искусственного интеллекта в разумно ограниченных пределах представляется одним из двух главных действенных способов расширения возможностей человеческого интеллекта в ближайшем будущем. (Другим таким способом является совершенствование программ дошкольного и школьного обучения детей.)

Те, кто не рос вместе с компьютерами, обычно боятся их намного больше, чем те, кто привык к ним с детства. Известна история о маньяке-компьютере, который, выполняя роль банковского служащего, регулярно рассылал клиентам банка извещения о том, что за ними числится долг в 00 долларов и 00 центов, и не успокаивался до тех пор, пока не получал чек именно на эту сумму. Но такой слабоумный компьютер нельзя считать представителем всего племени вычислительных машин, а кроме того, его ошибки — это ошибки человека-программиста. Все возрастающее использование в Северной Америке интегральных схем и небольших компьютеров — для обеспечения безопасности полетов, в обучающих машинах, в электронных стимуляторах сердца, в разного рода электронных играх, в устройствах противопожарного оповещения и на автоматизированных заводах (и это еще далеко не полный список) — в высшей степени способствовало уменьшению того чувства непривычности, которое должно было вызвать столь революционное изобретение. Сегодня в мире около 200 000 цифровых компьютеров [ 51 ], в следующее десятилетие их число, вероятно, будет исчисляться десятками миллионов. Поколение, приходящее нам на смену, я думаю, будет относиться к компьютерам как к совершенно естественному или по крайней мере общеизвестному явлению в их жизни.

Рассмотрим, например, совершенствование маленьких карманных компьютеров. В моей лаборатории установлен компьютер размером с письменный стол, который был приобретен для исследовательских целей в конце 1960-х годов за 4 900 долларов. У меня есть также еще одно изделие той же самой фирмы — компьютер, купленный в 1975 году, который помещается на ладони моей руки. Новый компьютер умеет делать все то же, что и старый, включая возможность программирования и несколько ячеек памяти, имеющих доступный адрес. Но он стоит 145 долларов, и цены на такие компьютеры падают с головокружительной скоростью. За период в шесть или семь лет были достигнуты поразительные успехи и в миниатюризации компьютеров, и в снижении их стоимости. По существу, сегодня размеры карманных компьютеров ограничиваются лишь требованием, чтобы их клавиши были достаточно велики для наших больших и неуклюжих пальцев. Не будь этого требования, подобные компьютеры можно было бы делать размером с ноготь. ЭНИАК, первая большая электронно-вычислительная машина, построенная в 1946 году, содержала 18 000 вакуумных ламп и занимала большую комнату. Такими же, как она, вычислительными возможностями обладает сегодня кремниевый чип — полупроводниковый кристаллик с интегральной схемой размером с самый маленький сустав моего мизинца.

Скорость, с которой передается информация в электронных цепях подобных компьютеров, равняется скорости света. По нейронным сетям человеческого мозга сигналы передаются в миллион раз медленнее. То обстоятельство, что маленький и медленно действующий человеческий мозг тем не менее несравненно лучше выполняет неарифметические операции, чем большой и быстрый электронный компьютер, впечатляющее свидетельство того, насколько разумно наш мозг сформирован и запрограммирован — качества, которые он приобрел, разумеется, благодаря естественному отбору. Те, чей мозг был запрограммирован плохо, в конечном итоге не доживали до того, чтобы оставить потомство.

Компьютерная графика достигла сейчас такого совершенства, которое позволяет расширить пределы человеческих возможностей в искусстве и в науке, а также в работе обоих полушарий головного мозга. Бывает, что люди, чрезвычайно одаренные аналитическими способностями, совершенно лишены возможности воспринимать или воображать пространственные взаимоотношения между предметами, особенно трехмерную геометрию мира. Но уже сейчас есть программы для ЭВМ, которые позволяют постепенно строить сложные геометрические формы и вращать их перед нашими глазами на телевизионном экране, соединенном с электронным компьютером.