Сборник статей Под редакцией А. В. Турчина Препринт Проект Российского Трансгуманистического Движения Москва 2011




страница45/45
Дата23.08.2016
Размер8.92 Mb.
1   ...   37   38   39   40   41   42   43   44   45


1 «Почему мы не нужны будущему» – см выше в этой книге. «Why the future doesn't need us." Wired Magazine, Issue 8.04, April 2000.

2 Хотя моё описание Конца Истории слегка упрощает его, хотелось бы, чтобы предсказания в общественных науках так же тщательно отслеживались бы на предмет достоверности, как в физике. В 1986 году, на вершине конфронтации эры Рейгана, я предсказал приближающееся падение Берлинской стены, за которым последует несколько десятилетий интенсивной конфронтации «с той или иной ветвью мачо-культуры, возможно, исламом».

1 Подробнее об этом затруднении см.

http://www.davidbrin.com/sciencearticles.html




1 И больше квази-религиозных социально-политических мифологий последовало, начинания от заклинаний Ayn Rand и до Мао Цзедуна. Все они вырабатывают «логические цепи причин и следствий, которые предсказывают дальнейшую человеческую трансформацию политическими (в противоположность духовным и техническим) средствам».

1 За детальным ответом на анти-инновационные рассуждения Хьюбнера см. обзор «Возможная тенденция спада в темпе открытий в мире» Джонатана Хьюбнера опубликованный Джоном Смартом в сентябрьском 2005г выпуске «Технологического прогнозирования и социальных перемен».

http://accelerating.org/articles/huebnerinnovation.html



1 Exorarium Project предлагает достичь всего этого и гораздо большего посредством приглашения посетителей музеев и онлайн участников включиться в уникальное образовательное пространство. Объединяя симуляцию на уровне искусства и системы визуализации плюс самые лучшие идеи из астрономии, физики, химии и экологии Exorarium наделит пользователей силой создать убедительно живых инопланетян и затем протестировать их в реалистических сценариях первого контакта.

http://www.exorarium.com/



1 Для более интенсивного рассмотрения вопроса о том, как «истина» определяется в науке, демократии, судах и рынках, см. вводную статью в American Bar Association's Journal on Dispute Resolution (Ohio State University), v.15, N.3, pp 597-618, Aug. 2000, "Disputation Arenas: Harnessing Conflict and Competition for Society's Benefit" or at: http://www.davidbrin.com/disputationarticle1.html


1 В других местах я обсуждал различные предлагавшиеся пути решения проблемы Лояльности в некоторую будущую эпоху, когда машинный интеллект сможет далеко превзойти способности обычных органических мозгов. Ранние предложения (например, «законы робототехники» Азимова) почти наверняка не будут работать. Остаётся совершенным неизвестным, смогут ли люди «продолжить скачку», используя кибернетические усовершенствования или «соединения» с внешними процессорами. После долгого размышления я пришёл к выводу, что мы можем обращаться с этим так же, как все предыдущие поколения, создававшие новых (и часто превосходивших их) существ без стыда или страха. Путём обучения их думать о себе, как о человеческих существах, с нашими ценностями и целями. Другими словами, как о наших детях. (See: http://www.davidbrin.com/lungfish1.html)

2 Конечно, здесь есть другие возможности, в действительности, много других возможностей, иначе бы я не зарабатывал себе на хлеб как писатель-фантаст и футуролог. Среди более умудрено-развлекательных возможностей есть та, что утверждает, что мы все живём в симуляции, в некотором уже «пост-сингулярном» контексте, вроде гигантского компьютера. Возможности безграничны. Но все четыре категории, по-видимому, формулируют абсолютность нашего выбора: или стать мудрее, или увидеть крушение всего в течение одного поколения.

1 Это свершение основывалось на более ранних историях успеха в Азии, в Японии и Сингапуре, и обучалось на их ошибках. Наиболее значительна была его явная устремлённость к изучению прагматических уроков, к включению в себя ограниченных уроков критицизма и демократии, принятии их ценности как механизма коррекции ошибок – ограничивая при этом их эффективность как угрозы иерархическому правлению. Можно предположить, что это опасное положение рухнет, когда всеобщее образование достигнет определённой точки. Но это только гипотеза. Определённо, неоконфуцианцы способны стремится овладеть потоком истории, чтобы подтвердить свою ставку.

1 См. моё эссе «Осаждённые профессионалы против Обессиленных граждан» о маячащей впереди власти 21 века, зажатой между обычными людьми и искренними, образованными профессионалами, которым платят, чтобы они нас защищали.

http://www.amazon.com/gp/product/B000BY2PRQ/002-1071896-8741633 В этом контексте «футурологическое эссе» указывает на довольно малозаметный аспект трагедии 11 сентября – то, что граждане сами по себе были наиболее эффективной защитой цивилизации. Единственные действия, которые действительно спасали жизни и мешали терроризму в этот ужасный день были предприняты на основе быстрых, соответствовавших ситуации решений, сделанных частными лицами. Эти лица проявили одновременно качества живучести и инициативности – наши наилучшие черты – и были вооружены теми же самыми новыми технологиями, которые поработят нас, по словам мрачных мудрецов. Может ли это быть указанием на тенденцию 21 века, противоположную тенденции 20-го: всё большей зависимости от профессионалов в том, чтобы они защищали нас, вели нас и следили за нами.

http://www.futurist.com/portal/future_trends/david_brin_empowerment.htm


2 Возьмите существенную разницу между умеренными членами двух главных американских политических партий. Разница эта в том, какую элиту вы обвиняете в стремлении захватить слишком много власти. Умеренные Республиканцы боятся важничающих академиков, идеологов и безликих бюрократов, стремящихся стать патерналистскими Большими Братьями. Умеренные Демократы обеспокоено следят за заговорщическими покушениями на власть со стороны попустительствующих аристократов, безликих корпораций и религиозных фанатиков (Умеренный либертарианец возьмёт два пункта из первого списка, и два из второго!) У меня есть своё мнение о том, какая из этих двух культур наиболее опасна в настоящий момент. (Намёк: это та же культура, которая доминировала над остальными городскими культурами в течение 4 тысяч лет.)

Но поразительно ироничным и почти никогда не обсуждаемым, является то, сколько общего в этих страхах. И тот факт, что любого из них следует бояться. В действительности, только универсальная подозрительность к властям имеет некий смысл. Вместо идеологически зашоренного взгляда только на одну сторону горизонта, почему бы нам не согласиться смотреть во всех направлениях, где тирания или рационализованная глупость может возникнуть? И снова взаимная подотчётность оказывается единственным возможным решением.




1 Я говорю это как превосходный практикующий искусство предвидения, как в фантастике, так и за её пределами. Каждый футуролог и романист имеет дело с созданием убедительных иллюзий предвидения…хотя когда-нибудь эти иллюзии окажутся полезными.


1 Ничего не стоит то, что современный корпус офицеров США (US military Officer Corps) усиленно старается избежать этой ловушки, стремясь установить процесс ре-эволюции, в котором превосходящая и победившая сила в действительности думает как та, которая была побеждена. Другими словами, с вечно открытыми для инноваций глазами. И всё же, несмотря на новый и интеллектуальный дух открытости, военное мышление кишит произвольными предположениями. Почти в том же количестве, как те, что роятся среди политиков.


1 Конечно, есть Сингуляританцы, которые твёрдо верят в маячащую Сингулярность – которые ожидают, что она примчится столь быстро, что даже ребята моего возраста (около пятидесяти) смогут оседлать волну бессмертия. Да, хорошо. И они называют меня мечтателем.

1 Этот закон известен в несколько смягченной, не увязанной с проблематикой космической экспансии и конкурентоспособности цивилизации, формулировке как закон техно-гуманитарного баланса [Назаретян А. П., 2004, с. 112]: «чем выше мощь производственных и боевых технологий, тем более совершенные средства культурной регуляции необходимы для сохранения общества».


1 Future of Humanity Institute, Faculty of Philosophy, Oxford University, OX14JJ, Oxford, UK

2 Department of Physics, Massachusetts Institute of Technology, Cambridge, MA 02139, USA


1 Сноска 1: Доказательство: пусть f0(t0) означает распределение вероятности в момент времени t0 после формирования планеты, когда наблюдатель измеряет t(p). В нашем случае, t0=4.6 гигалет. Мы определённо знаем очень мало о функции f0, но, к счастью, она выпадает из наших вычислений. Распределение условной вероятности для tp, изолированной (marginalized over) от t0:
f*p(tp) := integral (from 0 to ‘8’) (f0(t0) x fp(tp) x exp(-(t0+tp)/T) dt0 := fp(tp) x exp(-tp/T) (1)
независимо от неизвестного распределения fo(to), поскольку exp (- (to+tp)/T) = exp (- (to/T) x exp (- (tp/T)), и поэтому весь интеграл разделяется на два множителя, один из которых зависит от t0, а другой от tp.

2 Как было указано в частной беседе Jordi Miralda-Escude, ограничение на вакуумный распад имеет даже более сильный характер, чем наше консервативное предположение. Вероятность того, что данная точка не является местом вакуумного распада в момент времени t, – есть вероятность того, что в пределах обращённого назад светового конуса нет центров пузырей кристаллизации (bubble nucleations), чей 4-х мерный объём пространства-времени пропорционален 4-ой степени времени, как в отношении приращения материи, так и излучения. (for both matter-dominated and radiation-dominated expansion). Таким образом, постоянная частота образования ядер кристаллизации в единице объёма означает вероятность выживания exp ((- (t)/T)*4) (обратно пропорционально экспоненте 4-ой степени времени) для некого характерно времени разрушения T. Повторение нашего анализа с заменой exp ((- (t)/T)) на exp ((- (t)/T)*4) приводит к уточнению нашего ограничения. Высказанное нами ограничение соответствует консервативному предположению, где T значительно превосходит время существования вселенной в эпоху доминирования тёмной материи, что делает уходящий в прошлое световой конус линейно пропорциональным t.


1 1 See e.g. K. E. Drexler, Engines of Creation: The Coming Era of Nanotechnology, London, Forth Estate, 1985; N. Bostrom, “How Long Before Superintelligence?” International Journal of Futures Studies, vol. 2, (1998); R. Kurzweil, The Age of Spiritual Machines: When computers exceed human intelligence, New York, Viking Press, 1999; H. Moravec, Robot: Mere Machine to Transcendent Mind, Oxford University Press, 1999

2 Такими как граница Бремерманна-Бекенштейна (предел количества информации, могущий содержаться в определённом объёме пространства с определённой энергией – прим. пер.) и границы чёрной дыры (H. J. Bremermann, “Minimum energy requirements of information transfer and computing.” International Journal of Theoretical Physics 21: 203-217 (1982); J. D. Bekenstein, “Entropy content and information flow in systems with limited energy.” Physical Review D 30: 1669-1679 (1984); A. Sandberg, “The Physics of Information Processing Superobjects: The Daily Life among the Jupiter Brains.” Journal of Evolution and Technology, vol. 5 (1999)).

3 K. E. Drexler, Nanosystems: Molecular Machinery, Manufacturing, and Computation, New York, John Wiley & Sons, Inc., 1992.

4 4 R. J. Bradbury, “Matrioshka Brains.” Working manuscript (2002), http://www.aeiveos.com/~bradbury/MatrioshkaBrains/MatrioshkaBrains.html.

1 S. Lloyd, “Ultimate physical limits to computation.” Nature 406 (31 August): 1047-1054 (2000).

2 H. Moravec, Mind Children, Harvard University Press (1989)

3 Bostrom (1998), op. cit.

4 См. ссылки в предыдущих примечаниях.

1 Однако, по мере того, как мы создаём всё более быстрые и мощные компьютеры, цена симулирования этих компьютеров может превысить цену симулирования мозгов.

2 100 млрд. людей * 50 лет/на человека* 30 млн сек/год* ×[1014, 1017] операций в мозге каждого человека = 1033-1036 операций.


1 Например, в N. Bostrom, “The Doomsday argument, Adam & Eve, UN++, and Quantum Joe.” Synthese 127(3): 359-387 (2001); и более подробно в моей книге Anthropic Bias: Observation Selection Effects in Science and Philosophy, Routledge, New York, 2002

2 См., например, J. Leslie, “Is the End of the World Nigh? ” Philosophical Quarterly 40, 158: 65-72 (1990).


1 См. мою статью “Existential Risks: Analyzing Human Extinction Scenarios and Related Hazards.” Journal of Evolution and Technology, vol. 9 (2001), в которой приведён обзор и анализ нынешних и ожидаемых в будущем угроз человеческому выживанию. Русский перевод: Ник Бостром. Угрозы существованию. Анализ сценариев человеческого вымирания и подобных опасностей.
http://www.proza.ru/texts/2007/04/04-210.html

2 См., например, Drexler (1985) op cit., и R. A. Freitas Jr., “Some Limits to Global Ecophagy by Biovorous Nanoreplicators, with Public Policy Recommendations.” Zyvex preprint April (2000), http://www.foresight.org/NanoRev/Ecophagy.html. Р.Фрейтас. Проблема Серой Слизи.

http://www.proza.ru/texts/2007/11/07/59.html


1Похожие рассуждения на эту же тему другого автора на тему последствий (3), которые были вызваны циркулировавшей ранее версией этой статьи см. R. Hanson, “How to Live in a Simulation.” Journal of Evolution and Technology, vol. 7 (2001).


1 Ник Бостром (Nick Bostrom) — специалист в области философии науки, этики технологии и науки, трансгуманизма. С 2000 по 2002 преподаватель факультета философии Йельского университета (США), с 2003 исследователь в Оксфордском университете (Великобритания). Автор 16 научных статей, посвященных антропному принципу, технологическому прогрессу, искусственному интеллекту и аргументу о симуляции. Автор книги Anthropic Bias: Observation Selection Effects. 2002. Routledge, New York.

Личный сайт: www.nickbostrom.com



1 21-го мая 2003 года в России выходит на экраны вторая часть фильма: «Матрица: перезагрузка».

1 Главный герой игр серии GTA (Grand Theft Auto) значительную часть времени разъезжает по городу не соблюдая никаких правил, калеча пешеходов или расстреливая полицейских (http://www.grandtheftauto.com).

1 Это приблизительная интерпретация математических формул, полученных в данном разделе оригинальной статьи. Логические и математические ошибки, допущенные при выводе этих формул, делают невозможной полностью корректную интерпретацию. Свою интерпретацию формул Бостром приводит в соответствующем разделе (Interpretation) исходной статьи.

1 В аргументе, содержащем ошибку «логический круг», заключение используется для доказательства одной из предпосылок.

1 Для обзора литературы об антропных принципах и антропном мышлении, см. Barrow and Tipler; Balashov; and Bostrom [56-58].

1 Некоторые предыдущие находки, относящиеся к этой части, показаны у Чирковича [59].

1 Это допущение может считаться рабочей гипотезой, но интерпретируя наши результаты (из пятой части статьи) при рассчёте настоящих угроз, мы должны найти им физическое подтверждение. Можно возразить, что небольшой значение N является чуть ли не неотъемлимой частью разговоров о глобальных угрозах. Дальнейшая работа требуется для определения факторов, влияющих на степень достоверности дискуссий о временых «слотах» катастрофичных инцидентов.

1 Некоторые авторы, возможно наполовину в шутку, предположили, что некоторые виды динозавров, перед их вымиранием 65 Myr назад [60, 61], могли обладать интеллектом. Не рассматривая степень достоверности этих умозрительных построений, мы можем утверждать, что в подобной воображаемой ситуации, падение астероида в Чиксулуб (если это действительно было причиной массового вымирания в конце мелового периода) не только уничтожело всех наблюдателей той эпохи, но ещё сделало планету невозможной для эволюции наблюдателей на (допустим) 63 Myr. Очевидно, что это не остановило эволюцию, начиная от (допустим) 1 Myr назад. Вопрос восстановления после массового вымирания был признан как наименее понятый в палеонтологии и эволюционной биологии; предварительные результаты показывают, что временная шкала восстановления велика и оценивается в десятках Myr [62, 63].

1 Конечно, это предельно упрощённый пример. В действительности, прямой поиск околоземных объектов является гораздо более важным для предсказания настойщих и будущих угроз столновений, чем подсчёт и определение времени кратеров и прочих геофизических следов [64-66]. Тем не менее существует незначительная возможность оставшихся незамеченными больших тёмных астероидов, которые могут быть обнаружены только через их прошлые следы, а количественные данные о земных кратерах смогут помочь в выборе конкурирующей гипотезы [67, 18, 19].

1 Она не отсутствует полностью, как часто упоминается в популярной литературе: микрометиариты и космческое излучение приводят к некоторой потере информации.

2 Это в большей степени относится к записям о кратерах других тел Солнечной системы, например, Марса.

3 В дополнение к кратерам от столкновений, существует так же ряд других следов, которые способствуют построению функции эмпирического распределения для столкновений – в основном, химические аномалии или импактиты [68].

1 Эксперты дают оценку вероятности в 1 к миллиарду (Near-Earth Object

Science Definition Team 2003)



1 Научные аргументы также иногда являются ошибочными по причинам сознательного мошенничества, однако мы не будем рассматривать это конкретный риск в данной статье.

2 Доказательство может принимать в расчет возможность, что некое суб-доказательство является ложным. Например, оно может предложить два альтернативных суб-доказательства, чтобы доказать одну и ту же точку зрения. Мы одобрительно относимся к такой практике и подробнее рассматриваем ее в разделе 4. Однако ни одно доказательство не может принимать в расчёт вероятность того, что оно является ложным – это потребует ещё одного более высокоуровневого доказательства.


1 Между 1982 и 2002 62% все отзывов статей было связано с непреднамеренными ошибками, а не с нарушениями научной этики. (Nath, Marcus et al. 2006).

2 Очень обширная база данных статей по биомедицинским исследованиям по более чем 5 000 журналов.

1 Вопрос о ширине модели тесно связан с тем, что (Hansson 1996) называет неопределённость демаркации. Но демаркация проблемы включает в себя не только очевидную демаркацию пространства и времени, но также вопросы о том, какую систему следует рассматривать, какой масштаб рассматривать и т. д.

1 Дополнительные теории и модели могут быть намеренно использованы чтобы понизить вероятность ошибки в доказательстве, и в главе 4 мы увидим, как это было сделано для оценок безопасности БАК.


1 (Kent 2004) указывает на некоторые ошибки в оценке вероятностей в различных версиях этой статьи, равно как и в Брукхавенском отчёте. Даже если это просто типографские ошибки, это указывает на то, что вероятность ошибочных оценок рисков не является нулевой.

1 В апреле 2000 года, пытаясь понять загадочные высказывания Комптона, я связался с Гансом Бете, ключевой фигурой как в Лос-Аламоском проекте, так и в теоретических исследованиях, которые привели к выводу о том, что вероятность поджигания атмосферы взрывом атомной бомбы является пренебрежимо малой. Его взгляды, переданные посредником (Kurt Gottfried) состояли в том, что анализ Konopinski et al был окончательным и не давал возможности сделать никаких осмысленных утверждений о вероятностях, поскольку необходимые условия не могли быть достигнуты никаким возможным способом. Бете предположил, что цифра в 3 × 10−6 была взята Комптоном «из головы» и является «слишком, слишком большой» [5].

2 Эти результаты рассмотрены работе по ссылке [8]. Вопрос о том, действительно ли они дают адекватные гарантии, что никакие представимые в будущем эксперименты на коллайдерах не будут неприемлемо рискованными, требует пересмотра в свете аргументов, приведённых ниже.

1 Группа DDH также рассмотрела эксперименты ALICE (создание кварк-глюонной плазмы на Большом адроном коллайдере (LHC) в ЦЕРН, запланированные на 2008 год – прим. пер.) Их границы риска катастрофы, создаваемые ALICE, не будут рассмотрены здесь, так как они ничего не стоят, поскольку даже группа DDH признала их неадекватными и предложила провести дальнейшие исследования.


2 Некоторые другие возможные «дыры» в их аргументации рассмотрены в [14].

3 И действительно, веб-страница Брукхавена в апреле 2003 года продолжала направлять читателей на исходную неизменённую версию препринта BJSW http://www.bnl.gov/rhic/disaster.htm (судя по всему, так дело обстоит и в настоящий момент – апр. 2008 года – сравни с http://arxiv.org/abs/hep-ph/9910333v2 – прим. пер.) Следует отметить, что BJSW подчёркивает [8] в пересмотренной версии своей работы, что они считают одни только теоретические аргументы достаточно убедительными. Это может быть оправданная позиция, но это вовсе не то же самое, что было заявлено в начале и донесено до широкой публики.


1 То, что эти утверждения неверно представляют их результаты, было указано автором этой статьи группе DDH в январе 2000 г.


1 В отличие от этого, утверждение Комптона о риске уничтожения жизни на Земле в результате ядерного взрыва дано в форме оценки риска – хотя, как было указано выше, оно ничем не подтверждено.


1 Аргументы в таком духе предлагались в ходе неформальных дискуссий, но, насколько мне известно, ни один из них не вышел в печати. Такие аргументы надо предлагать очень аккуратно, поскольку теоретические аргументы и эмпирические границы не являются независимыми. Как уже отмечалось, эмпирические границы в любом случае опираются на некие теоретические предположения, и если теоретические предположения оказываются неверны, построения относительно эмпирических границ также окажутся под вопросом.

2 Могут выжить несколько космических аппаратов, включая Пионеры и Вояджеры, которые несут человеческие послания, равно как и уходящие вдаль и ослабевающие радиосигналы, когда-то сгенерированные на Земле.


1 Некоторые версии «астероидного теста» обсуждались как возможные оправдания приемлемости границ риска BJSW и DDH несколькими людьми, участвующими в формировании политики CERN и Брукхавена, например, в W. Pratt et al., Brookhaven National Laboratory Memo to T. Ludlam and J. Marburger, 17.2.00. Астероидный тест также рассматривается в ссылке [18].

1 : Я благодарю Michael Roy Ames, Eric Baum, Nick Bostrom, Milan Cirkovic, John K Clark, Emil Gilliam, Ben Goertzel, Robin Hanson, Keith Henson, Bill Hibbard, Olie Lamb, Peter McCluskey и Michael Wilson за их комментарии, предложения и критику. Нет необходимости говорить, что все оставшиеся ошибки в этой статье – мои.


1 Эта история, хотя и известная, и часто цитируемая, может быть апокрифической. Я не нашёл сообщения из первых рук. Для отчёта без ссылок см. Crochat и Franklin (2000) или http://neil.fraser.name/writing/tank/. Ошибки такого рода являются предметом больших реалистических рассмотрений при создании и тестировании нейронных сетей.

2 Bill Hibbard, после просмотра черновика этой статьи, написал ответ, доказывающий, что аналогии с проблемой «классификатора танков» не применима к подкрепляющему обучению в целом. Его критика может быть найдена здесь: http://www.ssec.wisc.edu/~billh/g/AIRisk_Reply.html. Мой ответ: http://yudkowsky.net/AIRisk_Hibbard.html. Hibbard также отмечает, что предложение Hibbard (2001) заменено предложением Hibbard (2004). Последнее предлагает двухуровневую систему, в которой выражения согласия со стороны людей подкрепляют распознавание счастья, и распознанное счастье подкрепляет стратегии поведения.



1   ...   37   38   39   40   41   42   43   44   45


База данных защищена авторским правом ©infoeto.ru 2016
обратиться к администрации
Как написать курсовую работу | Как написать хороший реферат
    Главная страница