Элиэзер Юдковский
Рэндалл Манро в эту пятницу опубликовал комикс, очень хорошо иллюстрирующий суть статьи, перевод* которой я выкладываю.
— Google Maps на «айпаде» — классная штука, просто фантастика. Вжи-и-х! ||
— Вот прямо сейчас, в этот момент, обезьяна управляет механической рукой при помощи нейроимплантов. || На нас надвигается чуждое, пугающее будущее. Жду не дождусь!.. || Впрочем, «айпад» тоже прикольный.
— Хватит портить моё будущее своим чуть более отдалённым.
(Может, мы все скоро и умрём, но это будет очень прикольно.)
Уровень шока примерно показывает, о каких высокотехнологических идеях вы сможете думать без страха или слепого восхищения, то есть не испытывая так называемого футурального шока. Нулевой уровень соответствует современным технологиям и современному миру; первый уровень — это виртуальная реальность и электронная экономика, второй — межпланетные путешествия, физическое бессмертие и генная инженерия, третий — нанотехнологии и «сильный» искусственный интеллект1, четвёртый — это Сингулярность2.
Такая классификация полезна потому, что она позволяет оценить, к чему «морально готов» ваш собеседник; к примеру, скачок на два уровня шокирует, но чтобы испытать настоящий ужас, нужно представить себе изменение сразу на три уровня. Разумеется, это лишь грубое эмпирическое правило. Кроме того, часто бывает удобно обозначать группы людей, отталкиваясь от шок-уровня, на котором они находятся; например: «Этот аргумент лучше всего подходит для первого-второго уровней». (Следует понимать, что между социальными группами, находящимися на разных уровнях, отнюдь не обязательно должно быть противостояние. Это не классовая борьба.)
Нулевой уровень. Пресловутый среднестатистический человек, знакомый с современными технологиями — не передовыми, а теми, что применяются в повседневной жизни. Обычные люди, телеведущие, журналисты, политики.
Первый уровень. Виртуальная реальность, жизнь до ста лет, «Дорога в будущее»3, «Обновление Америки»4, «Футурошок»5, передний край современных технологий, освещаемые журналом «Вайред»6. Учёные, программисты, технофрики и все остальные, для кого новизна — абсолютная ценность.
Второй уровень. Физическое бессмертие, межпланетные путешествия, прикладная генная инженерия и контакт с внеземными цивилизациями. Поклонники научной фантастики.
Третий уровень. Нанотехнология, искусственный интеллект в сильном смысле, усиление интеллекта, выгрузка7, полная перестройка тела, межгалактические путешествия. Экстропианцы8 и трансгуманисты.
Четвёртый уровень. Сингулярность, планетарный мозг9, Силы10, полная перестройка разума, сверхинтеллект, постчеловечество, вычисления в точке альфа11, Апофеоз12 и полное исчезновение жизни, какой мы её знаем. Адепты Сингулярности — и вряд ли кто-то ещё.
Не уверен, что хочу знать про пятый уровень, даже если он и существует.
Смысл этой шкалы заключается в следующем: до человека трудно донести какую-то идею, если эта идея на два уровня «опережает» его собственный. При этом уровень человека определяется не всеми идеями, с которыми он знаком, а только теми, которые он воспринимает спокойно. Людей, находящихся на четвёртом уровне, не так уж много, и я еще не относился к их числу, когда писал первую версию статьи «Лицом к лицу с Сингулярностью»13 (был слишком восторжен). Если некто не может свыкнуться с мыслью о виртуальной реальности (ближний конец уровня 1), вы запросто можете рассказывать ему о бессмертии (ближний конец уровня 2), но не о нанотехнологиях (уровень 3) или выгрузке (дальний конец уровня 3). Ваш собеседник, может быть, вам и поверит — но он будет напуган, шокирован такими перспективами.
Это не значит, что так нельзя делать в принципе. Можно и намеренно воспользоваться футуральным шоком, чтобы донести до собеседника свою мысль. Просто нужно иметь в виду возможную реакцию.
Другой пример: адепт Сингулярности может шокировать любителя фантастики, но не трансгуманиста — тот будет заинтересован, быть может, восхищен, но не испуган. (Что само собой разумеется: если человека уже увлекла идея трансгуманизма, то рассказ о Сингулярности вызовет ещё больший энтузиазм.) Трансгуманист, поделившись своими воззрениями, может шокировать постоянного читателя журнала «Вайред», а вот повторять опыт с человеком «с улицы» ему было бы не очень разумно — тот может прийти в ужас. И так далее. Как правило, скачок на один уровень вызывает заметный интерес, скачок на два уровня — горячий энтузиазм, или же, наоборот, недоверие. Скачок на три уровня вызывает страх и часто, но не обязательно, враждебность. Заставив свою публику прыгнуть на четыре уровня, вы рискуете попасть на костёр.
Конечно, не всегда возможно придерживаться приведённых градаций. Если вам задают вопрос, ответ на который лежит на четвёртом уровне, и ничего подходящего на третьем просто нет, надо или сказать как есть, или уж промолчать. (Если однажды меня повесит разъярённая толпа — значит, насчет этого я ошибался.)
Ваш уровень, скорее всего, на единицу ниже самого высокого уровня, о котором вы имеете представление. На самом деле, довольно эффективный способ перевести человека с первого уровня на второй — это познакомить его с идеями третьего. Другими словами, уже одно знание о нанотехнологиях позволит вам спокойнее, будничнее относиться к возможности физического бессмертия. Сходным образом, несложное усиление интеллекта производит впечатление только на тех, кто никогда не слышал о Сингулярности. Если угодно, рассматривайте эту посылку как оправдание тому, что мне потребовалось три года, чтобы перейти с третьего на четвёртый уровень — пятого уровня просто не существует, и принять Сингулярность как нечто будничное можно только прожив её. Ничего уровнем выше Сингулярности я не видел, в этом-то и трудность.
Вот что любопытно: сложно не поверить в технологические достижения очередного уровня, сложно свыкнуться с ними. Едва натолкнувшись на идею Сингулярности, я сразу же понял, что Вернор Винджи абсолютно прав. Вся моя этическая система перестроилась буквально за считанные секунды — очень необычное ощущение, признаюсь вам. На то, чтобы поверить, мне потребовалось несколько секунд; на то, чтобы принять Сингулярность, ушли годы. Ускорить акклиматизацию к уровню футурального шока можно только, «побив» этот уровень, как козырем, следующим уровнем.
Концепция уровней футурального шока представляет интерес потому, что на ее основе можно сформулировать аналог теоремы о неподвижной точке14 для любителей новизны. Кто-то из людей больше других любит изучать новое, отыскивать свежие идеи, играться с передовыми технологиями — они становятся технофилами, программистами и т. п. Дальше, есть люди, с детства привычные к технике и обладающие той же самой страстью к новизне — из них получаются любители научной фантастики. Из тех, кто в детстве зачитывался фантастикой, вырастают трансгуманисты. Детей, воспитанных в духе трансгуманизма, лично я не встречал, но, как показывает опыт, человек, в юном возрасте познакомившийся с этой концепцией, вполне может перейти в стан последователей Винджи. Наконец, о том, что происходит с открытыми к новому детьми адептов Сингулярности, я пока ничего не знаю. И честно говоря, немного боюсь узнать.
С другой стороны, наверняка есть те, кто перескочил за свою жизнь три-четыре уровня. Я лишь предлагаю гипотезу, объясняющую появление уровней футурального шока в обществе.
* Оригинал статьи: Future Shock Levels.
1 Искусственный интеллект в сильном смысле — это «настоящий» разум, а не просто комплекс алгоритмов, направленных на решение сложной, но узкой задачи. Шахматная программа — это «слабый» ИИ; позитронные робота Азимова — «сильный». См. в Википедии. — Здесь и далее примечания переводчика.
2 Сингулярность — зд. технологическая сингулярность, гипотетическая точка на пути развития человечества, в которой ускорение процесса развития технологий станет таким большим, что делать какие-либо предсказания относительно неё заведомо бессмысленно. Термин сингулярность в таком значении впервые использован Джоном фон Нейманом и затем популяризован Вернором Винджи и Рэймондом Курцвейлом. См. в Википедии.
3 «Дорога в будущее» (The Road Ahead) — книга Билла Гейтса о развитии вычислительной техники и влиянии компьютеров на общество.
4 To Renew America — книга американского политика Ньюта Гингрича.
5 «Футурошок» (Future Shock) — книга американского социолога и футуриста Элвина Тоффлера, в которой автор и ввёл термин футуральный шок.
6 Wired — ежемесячный американский журнал, освещающий влияние новых технологий на экономику, политику и общество. Сайт журнала: wired.com.
7 Выгрузка (uploading) — перемещение сознания человека в искусственную (небиологическую) вычислительную среду.
8 Экстропианцы — последователи философии экстропианизма. Экстропианцы полагают, что развитие науки и технологии в конце концов позволит людям достичь личного бессмертия.
9 Планетарный мозг (Jupiter brain) — компьютер размером с планету, представляющий собой искусственный интеллект.
10 Силы (Powers), в книгах Вернора Винджи — расы, совершившие переход (transcend) через сингулярность, в связи с чем представляются практически богами.
11 Вычисления в точке альфа (alpha-point computing) — гипотетическая возможность использования энергии Большого взрыва для вычислений.
12 Апофеоз (Apotheosis) — утопия, гипотетическое точка в развитии человечества, в которой развитие науки и технологии вызвало переход через сингулярность и, в конечном итоге, решение всех современных нам проблем. Иллюстрацией общества, достигшего Апофеоза, может служить Культура Иэна Бэнкса.
13 Staring into the Singularity — статья Элиэзера Юдковского.
14 Теорема о неподвижной точке — математическая теорема, утверждающая, что при выполнении определёенных условий относительно функции f эта функция будет иметь по крайней мере одну точку x такую, что f(x) = x. См., например, теорему Банаха о неподвижной точке.
Редакция от 27 апреля 2010 г.
Тэги: singularity, лучшее, переводы
Написать комментарий | Комментарии (3)
На «Реддите» поистине замечательный тред с нердовскими анекдотами. Некоторых я прежде не слышал.
Гейзенберга останавливают за превышение скорости. Полицейский спрашивает у него:
— Сэр, вы хоть знаете, с какой скоростью вы ехали?
— Нет, зато я точно знаю, где я нахожусь.
Бесконечное количество математиков заходит в бар. Первый заказывает кружку пива. Второй — полкружки. Третий — четверть кружки. «Как вы меня достали», — говорит бармен и наливает две кружки пива.
Архимед, Паскаль и Ньютон играют в прятки. Архимед встаёт к дереву и начинает считать до ста. Паскаль оглядывается по сторонам и убегает подальше. Ньютон берёт палку, рисует на земле квадрат со стороной метр и встаёт посредине. Архимед досчитывает до ста, оборачивается и говорит:
— Ньютон, я тебя вижу!
— Ну нет, — отвечает тот, — Ньютон на квадратный метр — это Паскаль!
Я собирался посетить конференцию ясновидцев, но её отменили ввиду непредвиденных обстоятельств.
К логикам, сидящим за столиком в ресторане, подходит официант и спрашивает, не хотят ли они чего-нибудь.
— Я не знаю, — говорит первый.
— Я не знаю, — говорит второй.
Так доходит до последнего. Он смотрит на официанта и говорит:
— Нет.
Химик, физик и биолог гуляют у берега моря. Внезапно физик останавливается.
— Я должен узнать больше о природе волн, — говорит он, заходит в море и исчезает.
— А я должен узнать больше о морской фауне, — говорит биолог и тоже исчезает в волнах.
Химик достаёт блокнот и записывает: «Физики и биологи растворяются в воде».
Редакция от 21 октября 2009 г.
Тэги: fun, links, лучшее, переводы
Написать комментарий | Комментариев нет
В предыдущей записи я упоминал о неприятной проблеме, свойственной планшетке hp 2710p — люфте защелки экрана. Мой друг Евгений, который недавно тоже обзавёлся таким компьютером, нашёл средство побороть если не люфт, то хотя бы раздражающий стук. Я последовал его совету.
По обеим сторонам дисплея расположены пазы. В них при закрытии крышки входят шипы, находящиеся слева и справа от клавиатуры, фиксируя тем самым крышку. Если посильнее нажать на экран в планшетном режиме, то шипы плотнее войдут в пазы и стукнутся о дно.
Для устранения проблемы потребуется упаковочный материал из коробки от ноутбука.
Нужно ножом отрезать от него два небольших кусочка и поместить в пазы на внешней стороне крышки.

Слева: пустой паз. Справа: паз с помещённым в него импровизированным демпфером.
Возможно, решение и не очень элегантно, однако оно полностью устраняет неприятный стук, который меня очень раздражал.
Не знаю, устранили ли проблему со стуком в обновлённой модели, 2730p, но «крутилку» и тачпад вернули. Эксперимент с отрезанием лишнего, похоже, провалился.
Редакция от 28 апреля 2009 г.
Тэги: tablet, tips, лучшее, сделано, фото
Написать комментарий | Комментарии (4)
Редакция от 17 апреля 2009 г.
Тэги: fun, лучшее
Написать комментарий | Комментариев нет
Поживился полезной информацией о том, как искать маршруты общественного транспорта в Москве. Раньше я пользовался сайтами metromap.ru и msk.rusavtobus.ru. Теперь узнал кое-что новое.
Наверное, скоро нужно будет сносить «Яндекс-карты» со смартфона и ставить туда «Google Maps».
Редакция от 16 мая 2010 г.
Тэги: google, links, лучшее
Написать комментарий | Комментариев нет
В ознаменование момента 1234567890. Основано на.
JavaScript — прекрасное изобретение человечества. Когда-то давно, например, на «башорге» кнопки «+» и «−» работали как переход на страницу цитаты с одновременным её плюсованием / минусованием. Да, тогда «баш» ещё был сайтом для гиков, которые умеют нажимать на ссылки третьей кнопкой мыши.
Но, полагаю, даже гики обрадовались, когда голосовалка на «баше» стала асинхронной — нажатие на «+» или «−» отправляет запрос без перезагрузки страницы. Логичное и полезное нововведение, не правда ли?
А теперь важный момент. Если отключить JavaScript, то голосовалка будет работать так, как она работала раньше. То есть синхронно. Если вы параноик, или если вы заходите на «баш» при помощи lynx — вы почти ничего не теряете. По крайней мере, вы не теряете доступа к этой функциональности.
Другой пример разумного применения клиентских сценариев — Gmail. Оторвать от него клиентские сценарии просто невозможно, поэтому разработчики и сделали его сразу в двух ипостасях — синхронной и асинхронной. Несмотря на всю свою крутизну (а вернее, благодаря ей) сотрудники «Гугля» понимали, что люди с браузерами без JS просто не смогут пользоваться «джи-мэйлом» вообще, если не сделать для них отдельную версию.
Это два полюса мира асинхронных сайтов. К сожалению, между ними лежит множество промежуточных вариантов — сайтов, которые запросто ломаются, если JavaScript выключить.
Я не могу понять, чем руководствуются люди, которые лепят скрипты без разбора. Наверное, просто не думают об этом вообще. Или считают, что нынче JS есть везде.
Но вопрос нужно ставить иначе: а что такого хорошего мы обеспечиваем пользователю, требуя от него включить JavaScript? Визуальный XHTML-редактор? Отлично! Отправку голосов без перезагрузки страницы? Ничего, оправданно.
Главное — задать себе этот вопрос, а то получится «фэйсбук», на который нельзя зайти с КПК.
Редакция от 19 марта 2009 г.
Тэги: webdev, лучшее
Написать комментарий | Комментарии (5)
Я заметил забавную вещь: в «Танцах на снегу» есть переломный момент, когда Тиккирей отправляется на Новый Кувейт в качестве «привлечённого лица». Всё, что с ним происходит до этого — по настоящему страшно. Смерть родителей, контракт расчётным модулем, одиночество на Новом Кувейте, внезапный сон обитателей планеты, даже падение в прорубь и эпизод с кражей бича на Авалоне — всё это реальные опасности. А дальше начинаются «военные игры». Пребывание Тикки и Лиона на зомбированновом Новом Кувейте — вроде и опасность покруче предыдущий, и в то же время — появляется ощущение нереальности. Фаги всё спланировали, фаги всех спасут. И так оно и происходит.
Помнится, когда я читал «Кольцо Тьмы» Перумова, у меня было восхитительно чувство возвращения в Средиземье, но только в самом начале первой книги. Хоббит, желающий странного, гномы, которые это странное ему преподносят на блюдечке, первые невзгоды путешествия — так просто и так реалистично. А потом наступает переломный момент, когда герой неожиданно для себя и читателя становится опытным воином, на раз-два «выносящим» всех неприятелей — и всё, читать уже скучно. Нет больше возвращения в толкиновский мир, есть просто хэк-энд-слэш, штампованная фэнтези. И даже ввод в действие множества роялей в кустах, мобилизация тяжелой артиллерии в лице кучи персонажей, от Кирдана Корабела до выдуманного Перумовым дракона, не спасают. Автор «перегорел». Сюжет кончился, сюжета больше не будет. В смысле — не будет изменений в мотивации героя, а будут только приключения тела.
Эта проблема (от которой, справедливости ради замечу, «Танцы на снегу» страдают гораздо меньше, чем «Кольцо Тьмы») встречается очень и очень часто, как правило — когда автор не продумал произведение (или цикл) целиком и играет сам с собой в игру «загнать персонажа в безвыходное положение, а потом придумать, как оттуда выбраться». Каждый такой манёвр неизбежно повышает уровень крутизны персонажа (или не повышает, но тогда получается совсем уж скучно, на манер бесконечной сериальной жвачки), пока наконец не наступает девальвация могущества и герой не становится «магом вне категорий». Я намеренно употребляю здесь термин, знакомый многий по «Дозорам» Лукьяненко: именно «Дозоры», несмотря на привлекательный мир, очень пострадали от этого недуга. Сложно даже просто вспомнить фабулу каждой из книг, ведь, по сути, единого плана у серии нет.
Так что, наверное, есть свой смысл в изображении мелких житейских передряг; по крайней мере, их сложно девальвировать. А вот бросая героя в гущу эпических сражений, очень легко потерять чувство меры, увы.
Редакция от 17 апреля 2009 г.
Тэги: книги, лучшее
Написать комментарий | Комментарии (1)
Что на «И-бэе», что на «Молотке» оценка участников отображается как процент положительных отзывов. Идея рейтинга исходит из того, что если у продавца имеется определённая статистика плохих и хороших сделок, то вероятность нарваться на неприятности при покупке можно оценить, исходя из этой статистики. Например, если у продавца рейтинг 95 %, то шансы на удачную покупку составляют 19 к 1.
Проблема в том, что «хороший диапазон» процентного рейтинга очень узок, например, 95..100 %. Кен Рокуэлл советует перестраховаться и покупать только у людей с рейтингом не менее 99,6 % положительных.
Шансы оценивать удобнее, чем рейтинг. На взгляд разница между рейтингами в 99,5 % и 99,7 % ничтожна, но за этими числами стоят шансы на удачную покупку в 200 к 1 и 330 к 1, соответственно.
Я свёл опорные точки из классификации Рокуэлла в одну таблицу, хорошо иллюстрирующую нелинейность процентного рейтинга.
| Рейтинг | Шансы на успех | |
|---|---|---|
| 50 % | 1 к 1 | |
| 90 % | 9 к 1 | |
| 99 % | 99 к 1 | |
| 99,5 % | 200 к 1 | с таким рейтингом лучше уже не покупать |
| 99,6 % | 250 к 1 | минимальный рекомендуемый рейтинг |
| 99,8 % | 500 к 1 | минимальный «хороший» рейтинг |
Оформить представление рейтинга в виде шанса на удачную покупку можно было бы, например, следующим образом:
Единственная причина, по которой такой подход может быть не нужен — это если никто не покупает у продавцов с двумя и более минусами. Тогда, если у участника не стопроцентный рейтинг, а отрицательных отзывов больше одного, то не нужно ни смотреть на дробную часть рейтинга, ни считать шансы.
Редакция от 17 апреля 2009 г.
Тэги: design, лучшее
Написать комментарий | Комментариев нет
В какой-то из старых версий операционной системы для смартфонов имелась следующая возможность: последнее событие (пришедшее SMS, пропущенный звонок) «оседало» на правую софт-клавишу в режиме начального экрана. Нажатие на эту клавишу открывало соответствующий объект, после чего клавиша снова работала как вызов приложения «Контакты».
Эту возможность можно включить и в Windows Mobile 6 Standard (рассматривается смартфон HTC S710 «Vox»). Для этого следует создать в реестре следующий ключ типа DWORD:
HKEY_CURRENT_USER\Software\Microsoft\Home\DisableMRE
и установить его значение в 1, после чего перезагрузить смартфон.
Редакция от 6 февраля 2009 г.
Тэги: tips, лучшее, смартфон
Написать комментарий | Комментариев нет
Люди жалуются, что крышка китового объектива у Nikon D40 ничем не привязана к корпусу, и её легко потерять. Я решил проблему так: проделал в крае крышки небольшое отверстие, продел туда поводок от пера планшетки, а свободный конец прикрепил к ремню. Поводком я всё равно не пользуюсь: перо достаешь тогда, когда хочешь порисовать, и на нём внимание и сосредоточено. А вот крышку, наоборот, снимаешь, когда хочешь пофотографировать, и запросто можно её куда-нибудь засунуть.
Вот так выглядит вся конструкция целиком:
Поскольку других объективов, кроме китового, нет и пока не предвидится, то и крепление крышки к самому фотоаппарату проблем не создаёт.
А вот «узлы» крепления поводка к крышке объектива и ремню камеры:
Понятно, что в отсутствие поводка для пера его можно заменить и чем-нибудь подручным.
Редакция от 17 апреля 2009 г.
Тэги: hardware, tips, лучшее, сделано, фото
Написать комментарий | Комментарии (5)