Проблемы предотвращения глобальных рисков, угрожающих существованию человеческой цивилизации

Вид материалаСборник статей

Содержание


Билл Джой. Почему мы не нужны будущему.
Наши наиболее могущественные технологии 21-го века - робототехника, генная инженерия и нанотехнология
Вызов нового луддита
Короткий бег (ранние 2000-е)
Вернор Виндж. Технологическая Сингулярность
Что такое Сингулярность?
Как избежать Сингулярности?
Путь к Сингулярности
После Сингулярности
Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей.
1. Типология рисков
2. Риски существованию
3. Уникальность проблемы угроз существованию
4. Классификация рисков существованию
Сужения (Crunches)
Всхлипы (Whimpers)
5. Взрывы (Bangs)
5.2. Ядерный холокост
5.3. Мы живем в симуляции, и она выключается
5.4. Плохо запрограммированный суперинтеллект
...
Полное содержание
Подобный материал:
  1   2   3   4   5   6   7   8   9   ...   41



ПРОБЛЕМЫ ПРЕДОТВРАЩЕНИЯ ГЛОБАЛЬНЫХ РИСКОВ, УГРОЖАЮЩИХ СУЩЕСТВОВАНИЮ ЧЕЛОВЕЧЕСКОЙ ЦИВИЛИЗАЦИИ


Сборник статей


Под редакцией Валерии Прайд, И.В. Следзевского, А.В. Турчина.


ЧЕРНОВИК


Проект

Российского Трансгуманистического Движения.


Москва 2010


СЕРИЯ «ДИАЛОГИ О БУДУЩЕМ», т.3


Contents


Contents 2

Билл Джой. Почему мы не нужны будущему. 5

Вернор Виндж. Технологическая Сингулярность 32

Ник Бостром. Угрозы существованию: Анализ сценариев человеческого вымирания и других подобных опасностей. 42

Введение 42

1. Типология рисков 43

2. Риски существованию 43

3. Уникальность проблемы угроз существованию 44

4. Классификация рисков существованию 46

5. Взрывы (Bangs) 46

6. Сужения (Crunches) 51

7. Скрипы (Shrieks) 52

8. Всхлипы 54

9. Определение величины вероятности рисков существованию 55

10. Рекомендации, касающиеся стратегии и этики 60

Выражения признательности 65

Приложение: очерк эволюционного «всхлипа» 65

Библиография 67

Елиезер Юдковски. Когнитивные искажения, потенциально влияющие на оценку глобальных рисков. 74

Введение 74

1. Доступность информации 75

2. Интеллектуальная ошибка, связанная со знанием «задним числом». (Hindsight bias) 76

3. Черные лебеди. (Black Swans) 77

4. Ошибки в ситуациях с логическим «И» 78

5. Ошибочность рассуждений, вызванная эффектом подтверждения (Confirmation bias) 81

6. Якорение, настройка и наложение (Anchoring, adjustment, and contamination). 84

7. Рассуждения, обусловленные аффектом. 86

8. Пренебрежение масштабом 87

9. Калибровка и сверхуверенность 88

10. Апатия прохожего 91

Последнее предупреждение 92

Заключение 93

Рекомендуемое чтение 95

Библиография 96

Eлиезер Юдковски. Искусственный интеллект как позитивный и негативный фактор глобального риска. 103

Ник Бостром, Макс Тегмарк. Насколько невероятна катастрофа судного дня? 151

Ник Бостром. Рассуждение о Конце Света для начинающих. 158

Ник Бостром. Doomsday Argument жив и брыкается. 162

Ник Бостром. А не живем ли мы в «Матрице»? Доказательство методом моделирования 173

Дэвид Брин. Сингулярность и кошмары. 180

Роберт Фрейтас. Проблема Серой Слизи. 203

Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми. 231

Милан Чирокович. Эволюционные катастрофы и проблема точной настройки параметров пригодной для жизни планеты. (Проблема Голдилокс) 246

Алексей Турчин. Природные катастрофы и антропный принцип 260

Contents 260

Введение 263

1. Антропный принцип. Эффект наблюдательной селекции. Результаты Бострома и Тегмарка. 264

2. Природные катастрофы 272

3. Применение антропного принципа для анализа частоты природных катастроф. 276

4. Нарушение устойчивости природных систем, находящихся на грани равновесия, в связи с человеческой деятельностью 286

5. Заключение 288

Литература: 290

Владислав Пустынский. Последствия падения на Землю крупных астероидов 292

Уильям Нейпьер. Опасность комет и астероидов 302

1. Нечто вроде огромной горы 302

2.Как часто по нам бьют? 303

3. Эффекты столкновения. 308

4. Роль пыли. 311

5. Наземная проверка? 313

6. Неопределённости 314

Майкл Рампино. Супервулканизм и другие катастрофические геофизические процессы. 318

3. Вулканическая зима. 321

5. Сверх-извержения и человеческая популяция. 326

6. Частота сверхизвержений. 327

7. Влияние сверхизвержения на цивилизацию. 328

Арнон Дар. Влияние сверхновых, гамма-всплесков, солнечных вспышек и космических лучей на земную окружающую среду. 340

Ричард Керригэн. Следует ли обеззараживать сигналы SETI? 362

А.В. Турчин. Глобальные риски, связанные с программой SETI. 376

Эдриан Кент. Критический обзор оценок рисков глобальных катастроф. 396

А. А. Кононов. Идеологические начала общей теории неуничтожимости человечества 422

Угрозы уничтожения человечества 422

Неуничтожимость как главная сверхзадача цивилизации 423

Качества неуничтожимой цивилизации 426

О необходимости разработки теоретических основ решения задач неуничтожимости человечества 427


«Проблемы предотвращения глобальных рисков, угрожающих существованию человеческой цивилизации».


Предисловие. А.В. Турчин. представление авторов.

  1. Бостром. Анализ сценариев вымирания.
  2. Юдковски. Когнитивные искажения
  3. Юдковски. Искусственный интеллект как фактор глобального риска
  4. Макс Тегмарк и Ник Бостром. Насколько невероятна катастрофа судного дня?
  5. Бостром. Doomsday argument жив и брыкается.
  6. Бостром. «Рассуждение о Конце света для начинающих»
  7. Дэвид Брин. Сингулярность и кошмары.
  8. Р.Фрейтас. Проблема Серой Слизи.
  9. CRN. Опасности молекулярного производства.
  10. Милан Чиркович, Ричард Каткарт. Гео-инженерия, пошедшая насмарку: новое частное решение парадокса Ферми.
  11. Чиркович. Про антропный принцип статья.-
  12. Р. керригэн. Следует ли обеззараживать сигналы SETI?
  13. А. Турчин. О возможных рисках программы SETI.
  14. Эдриан Кент. Критический обзор оценок рисков глобальных катастроф.
  15. А. Кононов. Задача неуничтожимости человечества.
  16. Пустынский. Падение астероидов.
  17. Турчин. Природные катастрофы и антропный принцип



Плюс надо добавить:


Билл Джой

Бостром – матрица

Арнон дар

Нейпер

  1. Д. Медведев. Роль трансгуманизма как иделологичекой основы для предотвращения глобальных рисков
  2. Даша Халтурина –демография и Мальтус??
  3. Г. Малинецкий -???
  4. Неклесса. ???
  5. И.В. Следзевский - неопределённость???
  6. В. Прайд – Социальные методы управления рисками
  7. Турчин Проблема создания убежищ.
  8. А.Л. Зайцев. Обоснования безопасности программы METI. ???
  9. О.В. Иващенко. Изменение климата и изменение циклов обращения парниковых газов в системе атмосфера-литосфера-гидросфера - обратные связи могут значительно усилить парниковый эффект.
  10. А.В.Карнаухов. К вопросу об устойчивости химического баланса атмосферы и теплового баланса Земли.

Турчин. От экономического кризиса к глобальной катастрофе: три возможных маршрута будущего.


Перевести Robin Hansen article “Catastrophe, a social collapse and human extinction”