В науке о заблуждениях есть поговорка, что люди обдумывают не сами события, а описания событий — то, что называется «непродолженным» мышлением. Продолжение мысли о гибели человечества включает в себя вашу смерть, ваших друзей, вашей семьи, ваших любимых, вашего города, вашей страны, ваших политических единомышленников. И даже люди, которые яростно протестовали бы против предложений вроде стереть Британию с лица земли, убить всех членов Демократической партии в США, превратить Париж в песок, которые бы очень боялись услышать, что доктор скажет им, что у их ребенка рак, эти люди будут обсуждать истребление человечества с абсолютным спокойствием. «Истребление человечества», как слова на бумаге, появляющиеся в фантастических романах или философских книгах, — относятся к другому контексту, чем грипп «испанка». Мы мыслим описаниями событий, а не их последствиями. Клише «конец света» вызывает в памяти пласт, связанный с мифами и снами, пророчествами и апокалипсисом, романами и кино. Вызов глобальных рисков для здравого смысла состоит в том, что это катастрофы столь большого масштаба, что люди переключаются в другой режим мышления. Человеческие смерти внезапно уже не плохи, и детальные предсказания вдруг перестают требовать необходимой компетентности, и счастливый или грустный конец истории — это только вопрос личного вкуса по отношению к историям.
Но это только мое частное наблюдение. Я бы предпочел, чтобы эта статья фокусировалась на ошибках, подробно описанных в литературе — в общей литературе по когнитивной психологии, поскольку пока что нет экспериментальной литературы, посвященной психологии глобальных рисков. А она должна быть.
В математическом представлении теории решений на основании теоремы Байеса имеется концепция ценности информации — ожидаемой полезности некого знания. Ценность информации происходит из ценности того, о чем эта информация. Если вы удваиваете ставки, вы удваиваете и ценность информации об этих ставках. Ценность рационального мышления определяется подобным образом — ценность вычислений, охватывающих некие данные, определяется на основе самих данных. (Good 1952); (Horvitz et al. 1989).
Я способен по-настоящему оценить ценность ясного мышления о глобальных рисках не более, чем Альберт Сент-Дьёрди (Albert Szent-Györgyi) способен умножить страдания одного человека на сто миллионов. Пренебрежение масштабом — естественная опасность для биологического человека, работающего на аналоговом уме; мозг не способен умножать на шесть миллиардов. Но ставки глобальных рисков простираются далеко за пределы жизней шести миллиардов людей, живущих сейчас — они простираются ко всем звездам и ко всем галактикам, которые люди и их потомки смогут однажды достичь. И весь этот огромный потенциал вращается вокруг нашего выживания здесь, сейчас, в те дни, когда царство человечества — это одна планета, вращающаяся вокруг одной звезды. Я не могу почувствовать наше будущее. Все, что я могу — это защищать его.
1. «Суждение в условиях неопределенности: эвристика и систематические ошибки». Judgment under uncertainty: Heuristics and biases. (1982.) Редактировано Даниелем Канеманом, Полом Словицем и Амосом Тверским (edited by Daniel Kahneman, Paul Slovic, and Amos Tversky). Этот сборник помогает разобраться в основных понятиях данной области знаний, и рассчитан на внешнего к данной теме академического читателя. Следующее издание дает обобщенное, подробно разработанное и детальное объяснение феноменов, рассмотренных в первом издании, но основные результаты остаются неизменными.
2. «Решения, ценности и рамки». Choices, Values, and Frames. (2000.) Редактировано Даниелем Канеманом и Амосом Тверским (еdited by Daniel Kahneman and Amos Tversky). «Эвристика и систематические модели мышления». Heuristics and Biases. (2003.) Редактировано Томасом Джиловичем, Дейлом Гриффином и Даниелем Канеманом (Edited by Thomas Gilovich, Dale Griffin, and Daniel Kahneman). Эти два сборника статей дают обзор современного состояния науки об эвристике и систематических ошибках. Они в меньшей мере доступны для неподготовленного читателя.
3. «Рациональный выбор в неопределенном мире: психология интуитивного суждения». Rational Choice in an Uncertain World: The Psychology of Intuitive Judgment, Робин Доуз (by Robyn Dawes). Первая редакция 1988: Доуз и Кэган (by Dawes and Kagan), вторая редакция 2001: Доуз и Хэсти (by Dawes and Hastie). Эта книга предназначена, чтобы ввести в тему систематических ошибок мышления широкую аудиторию образованных читателей. (Например, теорема Байеса объясняется, хотя и не доказывается, но объяснение занимает только несколько страниц.) Хорошая книга, чтобы быстро охватить поле исследований.
Alpert M. and Raiffa H. 1982. A Progress Report on the Training of Probability Assessors. Judgment under uncertainty: Heuristics and biases. New York: Cambridge University Press: 294—305.
Ambrose S.H. 1998. Late Pleistocene Human Population Bottlenecks, Volcanic Winter, and Differentiation of Modern Humans. Journal of Human Evolution 34: 623–651.
Baron J. and Greene J. 1996. Determinants of Insensitivity to Quantity in Valuation of Public Goods: Contribution, Warm Glow, Budget Constraints, Availability, and Prominence. Journal of Experimental Psychology: Applied 2: 107–125. http://www.csbmb.princeton.edu/~jdgreene/NewGreene-WebPage_files/Baron-Greene-JEP-96.pdf
Bostrom N. 2001. Existential Risks: Analyzing Human Extinction Scenarios. Journal of Evolution and Technology 9. http://www.nickbostrom.com/existential/risks.html
Brenner L. A., Koehler D. J. and Rottenstreich Y. 2002. Remarks on Support Theory: Recent Advances and Future Directions. Heuristics and Biases: The Psychology of Intuitive Judgment: 489–509.
Buehler R., Griffin D. and Ross M. 1994. Exploring the “planning fallacy”: Why people underestimate their task completion times. Journal of Personality and Social Psychology, 67: 366—381. http://info.wlu.ca/%7Ewwwpsych/rbuehler/Exploring%20the%20planning%20fallacy.pdf
Buehler R., Griffin D. and Ross M. 1995. It's about time: Optimistic predictions in work and love. European Review of Social Psychology 6. Chichester: John Wiley & Sons: 1—32.
Buehler R., Griffin D. and Ross M. 2003. Inside the Planning Fallacy: The Causes and Consequences of Optimistic Time Predictions. Heuristics and Biases: The Psychology of Intuitive Judgment. Cambridge, U.K.: Cambridge University Press : 250–270.
Burton I., Kates R. and White G. 1978. Environment as Hazard. New York: Oxford University Press.
Carson R. T. and Mitchell R. C. 1995. Sequencing and Nesting in Contingent Valuation Surveys. Journal of Environmental Economics and Management, 28(2): 155—173. http://ideas.repec.org/a/eee/jeeman/v28y1995i2p155-173.html
Chapman G.B. and Johnson E.J. 2002. Incorporating the irrelevant: Anchors in judgments of belief and value. Heuristics and Biases: The Psychology of Intuitive Judgment. Cambridge, U.K.: Cambridge University Press. http://cebiz.org/ejj/PDF%20Papers/Incorporating%20the%20Irrelevant.PDF
Christensen-Szalanski J.J.J. and Bushyhead J.B. 1981. Physicians' Use of Probabilistic Information in a Real Clinical Setting. Journal of Experimental Psychology: Human Perception and Performance, 7: 928—935.
Cialdini R. B. 2001. Influence: Science and Practice. Boston, MA: Allyn and Bacon.
Combs B. and Slovic P. 1979. Causes of death: Biased newspaper coverage and biased judgments. Journalism Quarterly, 56: 837—843.
Dawes R.M. 1988. Rational Choice in an Uncertain World. San Diego, CA: Harcourt, Brace, Jovanovich.
Desvousges W.H., Johnson F.R., Dunford R.W., Boyle K.J., Hudson S.P. and Wilson N. 1993. Measuring natural resource damages with contingent valuation: tests of validity and reliability. Contingent valuation: A critical assessment. Amsterdam: North Holland: 91—159.
Fetherstonhaugh D., Slovic P., Johnson S. and Friedrich J. 1997. Insensitivity to the value of human life: A study of psychophysical numbing. Journal of Risk and Uncertainty, 14: 238—300. http://instruct1.cit.cornell.edu/courses/comm486-686/value%20of%20life.pdf
Finucane M.L., Alhakami A., Slovic P. and Johnson S.M. 2000. The affect heuristic in judgments of risks and benefits. Journal of Behavioral Decision Making, 13(1): 1—17. http://www-abc.mpib-berlin.mpg.de/users/r20/finucane00_the_affect_heuristic.pdf
Fischhoff B. 1982. For those condemned to study the past: Heuristics and biases in hindsight. Judgment under uncertainty: Heuristics and biases. New York: Cambridge University Press: 332–351.
Fischhoff B. and Beyth R. 1975. I knew it would happen: Remembered probabilities of once-future things. Organizational Behavior and Human Performance, 13: 1—16.
Fischhoff B., Slovic P. and Lichtenstein S. 1977. Knowing with certainty: The appropriateness of exterme confidence. Journal of Experimental Psychology: Human Perception and Performance, 3: 522—564.
Ganzach Y. 2001. Judging risk and return of financial assets. Organizational Behavior and Human Decision Processes, 83: 353—370. http://recanati.tau.ac.il/faculty/pdf/yoav/riskr3.doc
Garreau J. 2005. Radical Evolution: The Promise and Peril of Enhancing Our Minds, Our Bodies -- and What It Means to Be Human. New York: Doubleday.
Gilbert D. T. and Osborne R. E. 1989. Thinking backward: Some curable and incurable consequences of cognitive busyness. Journal of Personality and Social Psychology, 57: 940—949. http://www.wjh.harvard.edu/%7Edtg/Gilbert%20&%20Osborne%20(Thinking%20Backward).pdf
Gilbert D. T., Pelham B. W. and Krull D. S. 1988. On cognitive busyness: When person perceivers meet persons perceived. Journal of Personality and Social Psychology, 54: 733—740. http://www.wjh.harvard.edu/%7Edtg/Gilbert%20all%20(COGNITIVE%20BUSYNESS).pdf
Gilovich T. 2000. Motivated skepticism and motivated credulity: Differential standards of evidence in the evaluation of desired and undesired propositions. Presented at the 12th Annual Convention of the American Psychological Society, Miami Beach, Florida.
Gilovich T., Griffin D. and Kahneman D. eds. 2003. Heuristics and Biases: The Psychology of Intuitive Judgment. Cambridge, U.K.: Cambridge University Press.
Good I. J. 1952. Rational decisions. Journal of the Royal Statistical Society, Series B.
Griffin D. and Tversky A. 1992. The weighing of evidence and the determinants of confidence. Cognitive Psychology, 24: 411—435.
Harrison G. W. 1992. Valuing public goods with the contingent valuation method: A critique of Kahneman and Knestch. Journal of Environmental Economics and Management, 23: 248–57.
Horvitz E.J., Cooper G.F. and Heckerman D.E. 1989. Reflection and Action Under Scarce Resources: Theoretical Principles and Empirical Study. Proceedings of the Eleventh International Joint Conference on Artificial Intelligence. Detroit, MI: 1121-27 http://www.cs.washington.edu/education/courses/590hk/01sp/Readings/horvitz-ijcai89.ps
Hynes M. E. and Vanmarke E. K. 1976. Reliability of Embankment Performance Predictions. Proceedings of the ASCE Engineering Mechanics Division Specialty Conference. Waterloo, Ontario: Univ. of Waterloo Press.
Johnson E., Hershey J., Meszaros J. and Kunreuther H. 1993. Framing, Probability Distortions and Insurance Decisions. Journal of Risk and Uncertainty, 7: 35—51.
Kachelmeier S.J. and Shehata M. 1992. Examining risk preferences under high monetary incentives: Experimental evidence from the People's Republic of China. American Economic Review, 82: 1120—1141.
Kahneman D. 1986. Comments on the contingent valuation method. Valuing environmental goods: A state of the arts assessment of the contingent valuation method. Totowa, NJ: Roweman and Allanheld: 185—194.
Kahneman D. and Knetsch J.L. 1992. Valuing public goods: The purchase of moral satisfaction. Journal of Environmental Economics and Management, 22: 57—70.
Kahneman D., Ritov I. and Schkade D. A. 1999. Economic Preferences or Attitude Expressions?: An Analysis of Dollar Responses to Public Issues, Journal of Risk and Uncertainty, 19: 203—235. http://post.economics.harvard.edu/staff/team/newpels/papers/PELS_DHK.pdf
Kahneman D., Slovic P. and Tversky A., eds. 1982. Judgment under uncertainty: Heuristics and biases. New York: Cambridge University Press.
Kahneman D. and Tversky A. 2000. eds. Choices, Values, and Frames. Cambridge, U.K.: Cambridge University Press.
Kamin K. and Rachlinski J. 1995. Ex Post ≠ Ex Ante: Determining Liability in Hindsight. Law and Human Behavior, 19(1): 89—104. http://www.jstor.org/view/01477307/ap050075/05a00120/0
Kates R. 1962. Hazard and choice perception in flood plain management. Research Paper No. 78. Chicago: University of Chicago, Department of Geography.
Knaup A. 2005. Survival and longevity in the business employment dynamics data. Monthly Labor Review, May 2005. http://www.bls.gov/opub/mlr/2005/05/ressum.pdf
Kunda Z. 1990. The case for motivated reasoning. Psychological Bulletin, 108(3): 480—498. http://content.apa.org/journals/bul/108/3/480.pdf
Kunreuther H., Hogarth R. and Meszaros J. 1993. Insurer ambiguity and market failure. Journal of Risk and Uncertainty, 7: 71—87.
Latane B. and Darley J. 1969. Bystander “Apathy”, American Scientist, 57: 244—268.