Методы, которые так хорошо работали при анализе Солнечной системы - которые требовали всестороннего знания основной системы, стационарности этой системы и уверенности в том, что система не пострадает от действий НАСА или его агентов - полностью провалились в условиях радикальной неопределенности, неизбежной на границах ракетных технологий. Как позже обнаружил Обама в другом контексте во время встречи в Овальном кабинете, выражение вероятностей в НАСА скорее маскировало неопределенность, чем устраняло ее. Фейнмановское осуждение бюрократии НАСА представляет собой непревзойденный рассказ о злоупотреблении псевдонаукой для рационализации административных решений, принимаемых в условиях радикальной неопределенности. Такое злоупотребление моделями было характерно для анализа космических аппаратов в Хьюстоне, рыбных запасов в Ньюфаундленде, трамваев в Эдинбурге и миграции в Европе. К сожалению, это злоупотребление широко распространено и продолжается.
Томас Девенпорт и Брук Мэнвилл создали серию тематических исследований о том, как принимались правильные решения в крупных организациях. Они начинают с анализа того, как в 2009 году NASA, наказанное катастрофой Challenger, сначала отложило запуск космического шаттла STS-119, а затем успешно осуществило его. Они подчеркивают особенности пересмотренных процедур агентства:
приверженность отслеживанию мелких неудач, способность распознавать и понимать сложные проблемы, реальное внимание к работникам на передовой, способность учиться на ошибках и восстанавливаться после них, а также способность импровизировать эффективные ответы на кризисы ... всеобъемлющей культурой был открытый обмен мнениями, уважение к различным мнениям и принятие права на инакомыслие. Сегодня мы восхищаемся НАСА не только за его успехи, но и за его способность преодолевать последствия ужасных трагедий Challenger и Columbia.
НАСА научилось задавать вопрос "Что здесь происходит?" как в своей организации, так и в Солнечной системе, и отказываться от притворства знания в пользу решений, которые были бы надежными и устойчивыми к непредвиденным событиям. Так же должны поступать и все мы.
Считается, что первый случай заражения человека ВИЧ произошел в 1920-х годах. Но только в 1981 году, когда было зарегистрировано необычное скопление PCP (редкая легочная инфекция) у пяти мужчин-геев в Сан-Франциско, было выявлено явление, которое мы знаем сегодня. Всемирная организация здравоохранения, которой было поручено создать модель, позволяющую директивным органам определить пути распространения заболевания и необходимый уровень вмешательства, разработала сложную модель на основе последних демографических данных по каждой стране. Гораздо более простая модель была разработана математиками Робертом Мэем и Роем Андерсоном, которые предложили более пессимистичные прогнозы распространения ВИЧ. К сожалению, их прогнозы оказались гораздо ближе к реальным результатам. Заражение СПИДом ускорилось по всему миру, причинив особый вред южной Африке: в 1990 году там насчитывалось 120 000 человек, живущих со СПИДом, а к 2000 году их число выросло до 3,4 миллиона. Число новых случаев ВИЧ-инфекции выросло в девять раз. Мир, похоже, был гораздо менее стабильным местом, чем предполагала модель ВОЗ.
Почему (очевидно) более сложная модель ВОЗ потерпела неудачу по сравнению с простой моделью Мэя и Андерсона? Ключевые факторы, определяющие распространение болезни, включают вероятность того, что инфицированный человек передаст инфекцию другому человеку. Мэй и Андерсон поняли, что вероятность заражения другого человека состоит из двух компонентов: вероятность передачи инфекции при любом половом акте и количество половых партнеров у инфицированных людей. Очень важно проводить различие между этими двумя составляющими. ВИЧ-положительный работник секс-бизнеса, который спит с десятью разными людьми, с большей вероятностью распространит болезнь, чем тот, кто спит с одним и тем же человеком десять раз. Но модель ВОЗ не делала этого различия, и именно поэтому ее прогнозы распространения СПИДа были, к сожалению, неточными. Мэй и Андерсон задались вопросом "Что здесь происходит?"; модель ВОЗ сосредоточилась на подробных демографических данных, которые моделисты понимали, вместо того чтобы рассмотреть то, что действительно имело значение - различные сексуальные привычки затронутых групп.