Ак объяснить технологические аварии? “Человеческий фактор”, социальный конструктивизм и онтологический поворот в изучении неопределенностей беспилотных автомобилей
DOI:
https://doi.org/10.22394/2074-0492-2021-4-119-146Ключевые слова:
человеческий фактор, беспилотные автомобили, Брайан Уинн, Роберт Мертон, социальный конструктивизм, онтологический поворот, Аннемари Мол, Джон ЛоАннотация
В публичном дискурсе о технологических авариях доминирует популярное объяснение через «человеческий фактор». Оно делает сущностное утверждение, что человек по определению склонен ошибаться, а машина - нет. В сфере беспилотного транспорта оно появилось в результате демодализации американскими СМИ, а затем стейкхолдерами БА результатов исследования Национальной администрации дорожной безопасности США 2008 года, которое утверждало, что водители - критическая причина 94% всех ДТП. В данной статье мы хотим показать, какие теоретические и социально-политические проблемы существуют с объяснением через «человеческий фактор». Для этого мы рассматриваем альтернативу в виде концепции технологической системы как конфликтующего набора правил, которые следуют за контекстуализирующими практиками, которую предложил британский социолог Брайан Уинн. Мы сравниваем такое толкование с объяснением девиантного поведения, которое Роберт Мертон дал в работах 1930-х гг. Критикуя утилитаристов, Мертон показывает, что девиации вызываются противоречиями в социокультурной структуре общества. В обоих концепциях сбои предстают как результат реляционных эффектов напряжения и противоречия между элементами систем. В качестве иной, и более реалистичной альтернативы работе с авариями мы предлагаем идеи Аннемари Мол и Джона Ло. Последние, анализируя аварии, выделили четыре режима определения блага внутри споров после аварий: мобильная утопия, абсолютизм, менеджеризм и практические манипуляции. Мы показываем, что и объяснение через человеческий фактор, и теория Мертона, и отчасти STS склоняются к утопическим режимам (первым трем), в то время как последний режим, опирающийся на онтологический поворот, предлагает радикальный проект изменения режимов объяснения и обвинений в авариях: он позволяет артикулировать иные отношения между онтологиями аварий, сделать неутопистские версии технологий более реальными и публичными.Скачивания
Библиографические ссылки
Голыжбина О. (2019) Дмитрий Полищук, "Яндекс": "Абсолютно гарантировано, что беспилотное такси будет дешевле обычного". Реальное время. https:// realnoevremya.ru/articles/148125-pochemu-bespilotniki-yandeksa-do-sih-por-ne-vyshli-na-dorogi. -
Golyzhbina O. (2019) Dmitry Polishchuk, Yandex: "It is absolutely guaranteed that an autonomous taxi will be cheaper than a regular one". Realnoe vremya. https://realnoevremya.ru/articles/148125-pochemu-bespilotniki-yandeksa-do-sih-por-ne-vyshli-na-dorogi. - in Russ
Киселева М. (2022) Аффицирования, артикуляции, обучение: к техноантропо-логической симметризации тел водителей и беспилотных автомобилей. Этнографическое обозрение, 1 (в печати).
Kiseleva M. (2022) Affections, articulations, training: towards the techno-anthropological symmetrization of the bodies of drivers and autonomous vehicles. Etnograficheskoe obozrenie, 1 (in press). - in Russ.
Кузнецов А. (2020) Туманности нейросетей: "черные ящики" технологий и наглядные уроки непрозрачности алгоритмов. Социология власти, 32 (2): 157-182.
Kuznetsov A. (2020) Nebulae of neural networks: "black boxes" of technologies and demonstrative lessons of the opacity of algorithms. Sociology of Power, 32 (2): 157-182. - in Russ.
Кузнецов А. (2022) Симметричная антропология технологий: от культур к коллективам мобильностей в описании беспилотных автомобилей. Этнографическое обозрение, 1 (в печати).
Kuznetsov A. (2022) Symmetrical anthropology of technologies: from cultures to collectives of mobility in the description of autonomous vehicles. Etnograficheskoe obozrenie, 1 (in press). - in Russ
Латур Б. (2012) Политика объяснения: альтернатива. Социология власти, 8: 113-143.
Latour B. (2012) The Politics of Explanation: An Alternative. Sociology of Power, 8: 113-143. - in Russ.
Латур Б., Вулгар С. (2012) Лабораторная жизнь. Конструирование научных фактов. Глава 2. Антрополог посещает лабораторию. Социология власти, 1 (6-7): 178-234.
Latour B., Woolgar S. (2012) Laboratory Life. The Construction of Scientific Facts. Chapter 2. An Anthropologist Visits the Laboratory. Sociology of Power, 1 (6-7): 178-234.- in Russ.
Руденко Н. (2018) Четыре смерти Элен Херцберг. Археология русской смерти, 6: 97-99.
Rudenko N. (2018) The four deaths of Elaine Herzberg. Archeology of Russian Death, 6: 97-99.
Руденко Н. (2022) Симметричная антропология тестирования беспилотных автомобилей. Этнографическое обозрение, 1 (в печати).
Rudenko N. (2018) The four deaths of Elaine Herzberg. Archeology of Russian Death, 6: 97-99.
Софрыгин А. (2019) Первое ДТП Беспилотника Яндекса на общих дорогах. Виноват водитель или беспилот? Bespilot.com. https://bespilot.com/news/508-yandex-crash
Sofrygin A. (2019) The first accident of a Yandex autonomous vehicle on public roads. The driver or the vehicle to blame? Bespilot.com. https://bespilot.com/news/508-yandex-crash. - in Russ.
Barry K. (2021) Elon Musk, Self-Driving, and the Dangers of Wishful Thinking: How Tesla's Marketing Hype Got Ahead of Its Technology. Consumer Reports. https://www.consumerreports.org/automotive-industry/elon-musk-tesla-self-driving-and-dangers-of-wishful-thinking-a8114459525
Elish M. (2019) Moral Crumple Zones: Cautionary Tales in Human-Robot Interaction.
Engaging Science, Technology, and Society, 5: 46-60.
Engels F., Wentland A., Pfotenhauer S. M. (2019) Testing future societies? Developing a framework for test beds and living labs as instruments of innovation governance. Research Policy, 48 (9): 1-11.
Fujimura J. H. (1988) The molecular biological bandwagon in cancer research: Where social worlds meet. Social Problems, 35 (3): 261-283.
General Motors (2021) Safety. https://www.gm.com/stories/self-driving-cars.
Halsey III A. (2019) More Americans have died in car crashes since 2000 than in both World Wars. The Washington Post. https://www.washingtonpost.com/local/trafficandcommuting/more-people-died-in-car-crashes-this-century-than-in-bothworld-wars/2019/07/21/0ecc0006-3f54-11e9-9361-301ffb5bd5e6_story.html
Hind S. (2019) Digital navigation and the driving-machine: supervision, calculation,optimization, and recognition. Mobilities, 14 (4): 401-417.
Latour B. (1992a) One More Turn after the Social Turn: Easing Science Studies into the Non-Modern World. McMullin E. (ed.) The Social Dimensions of Science. Notre Dame,Ind.: University of Notre Dame Press: 272-292.
Latour B. (1992b) Where are the missing masses? The sociology of a few mundane artifacts. W. Bijker, J. Law (eds) Shaping technology/building society: Studies in sociotechnical change. Cambridge, Massachusetts; London, England: the MIT Press:225-258.
Latour B. (2004) Why Has Critique Run out of Steam? From Matters of Fact to Matters of Concern. Critical Inquiry, 30 (2): 225-248.
Latour B., Fabbri P. (2000) The Rhetoric of Science: Authority and Duty in an Article from Exact Science. Technostyle, 16 (1): 115-134.
Laurent B., Tironi M. (2015) A field test and its displacements. Accounting for an experimental mode of industrial innovation. CoDesign, 11 (3-4): 208-221.
Law J., Mol A. (2002) Local Entanglements or Utopian Moves: An Inquiry into Train Accidents. The Sociological Review, 50 (1_suppl): 82-105.
Lazy Replays (2021) Tesla runs into several traffic lights while over 120km/h. YouTube. https://www.youtube.com/watch?v=cO_tOq4W68w
Leonardi P. M. (2012) Car Crashes Without Cars: Lessons about Simulation Technology and Organizational Change from Automotive Design. Cambridge, Mass.: MIT Press.
MacInnes P. (2021) Toyota pauses Paralympics self-driving buses after one hits a visually impaired athlete. The Guardian. https://www.theguardian.com/technology/2021/aug/28/toyota-pauses-paralympics-self-driving-buses-after-one-hits-visually-impaired-athlete
Madrigal A. (2017) Inside Waymo's Secret World for Training Self-Driving Cars. The Atlantic. https://www.theatlantic.com/technology/archive/2017/08/inside-waymos-secret-testing-and-simulation-facilities/537648
Marres N. (2020) What If Nothing Happens? Street Trials of Intelligent Cars as Experiments in Participation. S. Maasen, S. Dickel, C. Schneider (eds.)
Techno Science Society: Technological Reconfigurations of Science and Society. Nijmegen: Springer/Kluwer: 111-130.
Merton R. K. (1938) Social Structure and Anomie. American Sociological Review, 3 (5): 672-682.
National Highway Transport Safety Agency (2021) The Evolution of Automated Safety Technologies. https://www.nhtsa.gov/technology-innovation/automated-vehicles-safety
National Motor Vehicle Crash Causation Survey (2008). Report to Congress. U. S. Department of Transportation. National Highway Traffic Safety Administration. https://crashstats.nhtsa.dot.gov/Api/Public/ViewPublication/811059.
Perchonok K. (1972) Accident cause analysis. Final Report. Cornell Aeronautical Laboratory, Inc. Prepared for U. S. Department of Transportation, National Highway Traffic Safety Administration.
Rapier G. (2020) Tesla's Autopilot confused a Burger King sign for a stop sign. The fastfood chain turned it into an ad. Business Insider. https://www.businessinsider.com/tesla-autopilot-mistakes-burger-king-stop-sign-new-ad-2020-6
Recode (2021) Waymo Co-CEO Tekedra Mawakana. YouTube. https://www.youtube.com/watch?v=xaYCT7woLMo.
Reddit (2021) Waymo DMV Collision Report on June 16th Collision with a Scooter (Waymo was in manual mode for 4 seconds before the crash). Reddit. https://www.reddit.com/r/SelfDrivingCars/comments/ofs9hc/waymo_dmv_collision_report_on_june_16th_collision.
Rheinberger H. J. (1997) Toward a History of Epistemic Things: Synthesizing Proteins in the Test Tube. Stanford, California: Stanford University Press.
Singh S. (2008) Critical Reasons for Crashes Investigated in the National Motor Vehicle Crash Causation Survey. Traffic Safety Facts. Crash Stats. Department of Transportation. National Highway Traffic Safety Administration. https://crashstats.nhtsa.dot.gov/Api/Public/ViewPublication/812115.
Stilgoe J. (2018) Machine learning, social learning and the governance of self-driving cars. Social Studies of Science, 48 (1): 25-56.
Stilgoe J., Owen R., Macnaghten P. (2013) Developing a framework for responsible innovation. Research Policy, 42 (9): 1568-1580
State of California. Department of Motor Vehicles (2021) Report of traffic collision involving an autonomous vehicle. https://www.dmv.ca.gov/portal/file/waymo_061621-pdf.
Vinsel L. (2015) Designing to the test: performance standards and technological change in the US automobile after 1966. Technology and culture, 56 (4): 868-894.
Wrong D. H. (1961) The Oversocialized Conception of Man in Modern Sociology. American Sociological Review, 26 (2): 183-193.
Wynne B. (1988) Unruly Technology: Practical Rules, Impractical Discourses and Public Understanding. Social Studies of Science, 18 (1): 147-167.
Zipper D. (2021) The Deadly Myth That Human Error Causes Most Car Crashes. The Atlantic. https://www.theatlantic.com/ideas/archive/2021/11/deadly-myth-human-error-causes-most-car-crashes/620808.
Опубликован
Выпуск
Раздел
Как цитировать
Коды статьи
- EDN EZNBWP
- Тип статьи (РИНЦ) Научная статья (Научная статья)
