Уровни футурального шока
18 апреля 2010 // Хельги
Элиэзер Юдковский
Рэндалл Манро в эту пятницу опубликовал комикс, очень хорошо иллюстрирующий суть статьи, перевод* которой я выкладываю.
— Google Maps на «айпаде» — классная штука, просто фантастика. Вжи-и-х! ||
— Вот прямо сейчас, в этот момент, обезьяна управляет механической рукой при помощи нейроимплантов. || На нас надвигается чуждое, пугающее будущее. Жду не дождусь!.. || Впрочем, «айпад» тоже прикольный.
— Хватит портить моё будущее своим чуть более отдалённым.
(Может, мы все скоро и умрём, но это будет *очень прикольно*.)
Уровень шока примерно показывает, о каких высокотехнологических идеях вы сможете думать без страха или слепого восхищения, то есть не испытывая так называемого футурального шока. Нулевой уровень соответствует современным технологиям и современному миру; первый уровень — это виртуальная реальность и электронная экономика, второй — межпланетные путешествия, физическое бессмертие и генная инженерия, третий — нанотехнологии и «сильный» искусственный интеллект1, четвёртый — это Сингулярность2.
Такая классификация полезна потому, что она позволяет оценить, к чему «морально готов» ваш собеседник; к примеру, скачок на два уровня шокирует, но чтобы испытать настоящий ужас, нужно представить себе изменение сразу на три уровня. Разумеется, это лишь грубое эмпирическое правило. Кроме того, часто бывает удобно обозначать группы людей, отталкиваясь от шок-уровня, на котором они находятся; например: «Этот аргумент лучше всего подходит для первого-второго уровней». (Следует понимать, что между социальными группами, находящимися на разных уровнях, отнюдь не обязательно должно быть противостояние. Это не классовая борьба.)
Нулевой уровень. Пресловутый среднестатистический человек, знакомый с современными технологиями — не передовыми, а теми, что применяются в повседневной жизни. Обычные люди, телеведущие, журналисты, политики.
Первый уровень. Виртуальная реальность, жизнь до ста лет, «Дорога в будущее»3, «Обновление Америки»4, «Футурошок»5, передний край современных технологий, освещаемые журналом «Вайред»6. Учёные, программисты, технофрики и все остальные, для кого новизна — абсолютная ценность.
Второй уровень. Физическое бессмертие, межпланетные путешествия, прикладная генная инженерия и контакт с внеземными цивилизациями. Поклонники научной фантастики.
Третий уровень. Нанотехнология, искусственный интеллект в сильном смысле, усиление интеллекта, выгрузка7, полная перестройка тела, межгалактические путешествия. Экстропианцы8 и трансгуманисты.
Четвёртый уровень. Сингулярность, планетарный мозг9, Силы10, полная перестройка разума, сверхинтеллект, постчеловечество, вычисления в точке альфа11, Апофеоз12 и полное исчезновение жизни, какой мы её знаем. Адепты Сингулярности — и вряд ли кто-то ещё.
Не уверен, что хочу знать про пятый уровень, даже если он и существует.
Смысл этой шкалы заключается в следующем: до человека трудно донести какую-то идею, если эта идея на два уровня «опережает» его собственный. При этом уровень человека определяется не всеми идеями, с которыми он знаком, а только теми, которые он воспринимает спокойно. Людей, находящихся на четвёртом уровне, не так уж много, и я еще не относился к их числу, когда писал первую версию статьи «Лицом к лицу с Сингулярностью»13 (был слишком восторжен). Если некто не может свыкнуться с мыслью о виртуальной реальности (ближний конец уровня 1), вы запросто можете рассказывать ему о бессмертии (ближний конец уровня 2), но не о нанотехнологиях (уровень 3) или выгрузке (дальний конец уровня 3). Ваш собеседник, может быть, вам и поверит — но он будет напуган, шокирован такими перспективами.
Это не значит, что так нельзя делать в принципе. Можно и намеренно воспользоваться футуральным шоком, чтобы донести до собеседника свою мысль. Просто нужно иметь в виду возможную реакцию.
Другой пример: адепт Сингулярности может шокировать любителя фантастики, но не трансгуманиста — тот будет заинтересован, быть может, восхищен, но не испуган. (Что само собой разумеется: если человека уже увлекла идея трансгуманизма, то рассказ о Сингулярности вызовет ещё больший энтузиазм.) Трансгуманист, поделившись своими воззрениями, может шокировать постоянного читателя журнала «Вайред», а вот повторять опыт с человеком «с улицы» ему было бы не очень разумно — тот может прийти в ужас. И так далее. Как правило, скачок на один уровень вызывает заметный интерес, скачок на два уровня — горячий энтузиазм, или же, наоборот, недоверие. Скачок на три уровня вызывает страх и часто, но не обязательно, враждебность. Заставив свою публику прыгнуть на четыре уровня, вы рискуете попасть на костёр.
Конечно, не всегда возможно придерживаться приведённых градаций. Если вам задают вопрос, ответ на который лежит на четвёртом уровне, и ничего подходящего на третьем просто нет, надо или сказать как есть, или уж промолчать. (Если однажды меня повесит разъярённая толпа — значит, насчет этого я ошибался.)
Акклиматизация
Ваш уровень, скорее всего, на единицу ниже самого высокого уровня, о котором вы имеете представление. На самом деле, довольно эффективный способ перевести человека с первого уровня на второй — это познакомить его с идеями третьего. Другими словами, уже одно знание о нанотехнологиях позволит вам спокойнее, будничнее относиться к возможности физического бессмертия. Сходным образом, несложное усиление интеллекта производит впечатление только на тех, кто никогда не слышал о Сингулярности. Если угодно, рассматривайте эту посылку как оправдание тому, что мне потребовалось три года, чтобы перейти с третьего на четвёртый уровень — пятого уровня просто не существует, и принять Сингулярность как нечто будничное можно только прожив её. Ничего уровнем выше Сингулярности я не видел, в этом-то и трудность.
Вот что любопытно: сложно не поверить в технологические достижения очередного уровня, сложно свыкнуться с ними. Едва натолкнувшись на идею Сингулярности, я сразу же понял, что Вернор Винджи абсолютно прав. Вся моя этическая система перестроилась буквально за считанные секунды — очень необычное ощущение, признаюсь вам. На то, чтобы поверить, мне потребовалось несколько секунд; на то, чтобы принять Сингулярность, ушли годы. Ускорить акклиматизацию к уровню футурального шока можно только, «побив» этот уровень, как козырем, следующим уровнем.
Теорема о неподвижной точке
Концепция уровней футурального шока представляет интерес потому, что на ее основе можно сформулировать аналог теоремы о неподвижной точке14 для любителей новизны. Кто-то из людей больше других любит изучать новое, отыскивать свежие идеи, играться с передовыми технологиями — они становятся технофилами, программистами и т. п. Дальше, есть люди, с детства привычные к технике и обладающие той же самой страстью к новизне — из них получаются любители научной фантастики. Из тех, кто в детстве зачитывался фантастикой, вырастают трансгуманисты. Детей, воспитанных в духе трансгуманизма, лично я не встречал, но, как показывает опыт, человек, в юном возрасте познакомившийся с этой концепцией, вполне может перейти в стан последователей Винджи. Наконец, о том, что происходит с открытыми к новому детьми адептов Сингулярности, я пока ничего не знаю. И честно говоря, немного боюсь узнать.
С другой стороны, наверняка есть те, кто перескочил за свою жизнь три-четыре уровня. Я лишь предлагаю гипотезу, объясняющую появление уровней футурального шока в обществе.
* Оригинал статьи: Future Shock Levels.
1 Искусственный интеллект в сильном смысле — это «настоящий» разум, а не просто комплекс алгоритмов, направленных на решение сложной, но узкой задачи. Шахматная программа — это «слабый» ИИ; позитронные робота Азимова — «сильный». См. в Википедии. — Здесь и далее примечания переводчика.
2 Сингулярность — зд. технологическая сингулярность, гипотетическая точка на пути развития человечества, в которой ускорение процесса развития технологий станет таким большим, что делать какие-либо предсказания относительно неё заведомо бессмысленно. Термин сингулярность в таком значении впервые использован Джоном фон Нейманом и затем популяризован Вернором Винджи и Рэймондом Курцвейлом. См. в Википедии.
3 «Дорога в будущее» (The Road Ahead) — книга Билла Гейтса о развитии вычислительной техники и влиянии компьютеров на общество.
4 To Renew America — книга американского политика Ньюта Гингрича.
5 «Футурошок» (Future Shock) — книга американского социолога и футуриста Элвина Тоффлера, в которой автор и ввёл термин футуральный шок.
6 Wired — ежемесячный американский журнал, освещающий влияние новых технологий на экономику, политику и общество. Сайт журнала: wired.com.
7 Выгрузка (uploading) — перемещение сознания человека в искусственную (небиологическую) вычислительную среду.
8 Экстропианцы — последователи философии экстропианизма. Экстропианцы полагают, что развитие науки и технологии в конце концов позволит людям достичь личного бессмертия.
9 Планетарный мозг (Jupiter brain) — компьютер размером с планету, представляющий собой искусственный интеллект.
10 Силы (Powers), в книгах Вернора Винджи — расы, совершившие переход (transcend) через сингулярность, в связи с чем представляются практически богами.
11 Вычисления в точке альфа (alpha-point computing) — гипотетическая возможность использования энергии Большого взрыва для вычислений.
12 Апофеоз (Apotheosis) — утопия, гипотетическое точка в развитии человечества, в которой развитие науки и технологии вызвало переход через сингулярность и, в конечном итоге, решение всех современных нам проблем. Иллюстрацией общества, достигшего Апофеоза, может служить Культура Иэна Бэнкса.
13 Staring into the Singularity — статья Элиэзера Юдковского.
14 Теорема о неподвижной точке — математическая теорема, утверждающая, что при выполнении определённых условий относительно функции f эта функция будет иметь по крайней мере одну точку x такую, что f(x) = x. См., например, теорему Банаха о неподвижной точке.
Редакция от 27 апреля 2010
Тэги: лучшее, переводы, сингулярность
Комментарии (3)
| ← | Быстро, решительно | Починил закоррапченный репозиторий «Индианы» | → |