Туманности нейросетей: "черные ящики" технологий и наглядные уроки непрозрачности алгоритмов
DOI:
https://doi.org/10.22394/2074-0492-2020-2-157-182Ключевые слова:
акторно-сетевая теория, ценностная нейтральность технологий, "черные ящики", нейросети, беспилотные автомобили, исследования науки и технологий, машинное обучениеАннотация
В статье утверждается, что: 1) современные технологии, моделирующие искусственный интеллект на основе знания нейронаук, служат наглядным эмпирическим подтверждением теоретических аргументов, высказанных в исследованиях наук и технологий в конце 1980-х - начале 1990-х годов; 2) актуальная дискуссия о непрозрачности алгоритмов позволяет сместить перспективу на классический, но амбивалентный для STS троп раскрытия «черных ящиков». Для демонстрации этого, во-первых, дается экспозиция проблемы нейтральности и прозрачности технологий. Анализируются три типичных ответа на проблему нейтральности технологий внутри и за пределами конструктивистских STS. Утверждается, что несмотря на поверхностные различия между ними, все три ответа одинаково концептуализируют технологию как нейтральный проводник. Во-вторых, показывается связь проблемы нейтральности и прозрачности технологий с ключевым для исследований наук и технологий (STS) тропом раскрытия «черных ящиков» технологий. Обсуждаются социально-политическое и методологическое измерения метафоры «черного ящика». В-третьих, альтернатива концептуализации технологии как нейтральной ищется в акторно-сетевой теории Бруно Латура. Здесь технологии понимаются как событийная ассоциация разнородных сущностей, нередуцируемая к условиям ее возможности. Конструирование технологий понимается как процесс медиации, где создания удивляют своих создателей и наоборот. В акторно-сетевой теории Латура технологии рассматриваются как непрозрачные и не-нейтральные сущности. Наконец, приводятся примеры из области технологий на основе нейросетей и алгоритмов глубокого машинного обучения, которые являются наглядным и эмпирическим подтверждением латуровской концепции технической медиации. Отдельное внимание уделяется непрозрачности и (не)под-отчетности алгоритмов машинного обучения.Скачивания
Библиографические ссылки
Каллон М. (2015) Некоторые элементы социологии перевода: одомашнивание морских гребешков и рыбаков залива Сен-Бриё. Социология власти, 27 (1): 196-231.
Кузнецов А.Г. (2015) Латур и его "технолог": вещи, объекты и технологии в акторно-сетевой теории. Социология власти, 27 (1): 55-89.
Латур Б., Вулгар С. (2012) Лабораторная жизнь. Конструирование научных фактов. Глава 2. Антрополог посещает лабораторию. Социология власти, 6-7: 178-234.
Латур Б. (2006) Об интеробъективности. В.С. Вахштайн (ред.) Социология вещей, М.: Изд. дом "Территория будущего": 169-199.
Латур Б. (2013) Наука в действии: следуя за учеными и инженерами внутри общества, СПб.: Изд-во Европейского ун-та в С.-Петербурге.
Латур Б. (2014) Пересборка социального: введение в акторно-сетевую теорию, М.: ИД ВШЭ.
Скотт Дж. (2005) Благими намерениями государства, М.: Университетская книга.
Ananny M., Crawford K. (2016) Seeing Without Knowing: Limitations of the Transparency Ideal and Its Application to Algorithmic Accountability. New Media & Society, 20 (3): 980-981.
Bijker W., Law J. (eds) (1992) Shaping Technology /Building Society: Studies in Sociotechnical Change, Cambridge, Mass.; London: MIT Press.
Bloor D. (1991 [1976]) Knowledge and Social Imagery, 2nd ed., Chicago; London: The University of Chicago Press.
Burrell J. (2016) How the Machine 'Thinks': Understanding Opacity in Machine Learning Algorithms. Big Data & Society, 3 (1): 1-12.
Diakopoulos N. (2013,) Algorithmic Accountability Reporting: On the Investigation of Black Boxes. Report, Tow Center for Digital Journalism, Columbia University. (https:// academiccommons.columbia.edu/doi/10.7916/D8ZK5TW2)
Dougherty C. (2015) Google photos mistakenly labels black people "gorillas". The New York Times, 1 July. (http://bits.blogs.nytimes.com/2015/07/01/google-photos-mistak-enly-labels-black-people-gorillas)
Edge D. (1979) Quantitative Measures of Communication in Science: A Critical Review. History of Science, 17 (2): 102-114.
Fuller S. (1997) Constructing the High Church-Low Church Distinction in STS Textbooks. Bulletin of Science, Technology & Society, 17 (4): 181-183.
Jasanoff S. (ed.) (2004) States of Knowledge: The Co-Production of Science and the Social Order, London; New York: Routledge.
Johnson J. (1988) Mixing Humans and Nonhumans Together: The Sociology of a Door-Closer. Social Problems, 35 (3): 298-310.
Latour B., Mauguin Ph., Teil G. (1992) A Note on Socio-Technical Graphs. Social Studies of Science, 22 (1): 33-57.
Latour B., Woolgar S. (1986) Laboratory Life: The Construction of Scientific Facts, Princeton, New Jersey: Princeton University Press.
Latour B. (1990) Technology Is Society Made Durable. The Sociological Review, 38 (1_ suppl): 103-131.
Latour B. (1992) Where Are the Missing Masses? The Sociology of a Few Mundane Artifacts. W. Bijker, J. Law (eds) Shaping Technology/Building Society: Studies in Sociotechnical Change, Cambridge, Mass.; London: MIT Press: 225-259.
Latour B. (1994) On Technical Mediation: Philosophy, Sociology, Genealogy. Common Knowledge, 3 (2): 29-64.
Latour B. (1996) Aramis, or The Love of Technology, Cambridge, Mass.; London: Harvard University Press.
Latour B. (1999) Pandora's Hope: Essays on the Reality of Science Studies, Cambridge, Mass.: Harvard University Press.
Latour B. (2004) Why Has Critique Run out of Steam? From Matters of Fact to Matters of Concern. Critical Inquiry, 30 (2): 225-248.
Lipson H., Kurman M. (2016) Driverless: Intelligent Cars and the Road Ahead, Cambridge, Mass.: MIT Press.
Madrigal A. (2014) How Netflix Reverse-Engineered Hollywood? The Atlantic, January 2. (https://www.theatlantic.com/technology/archive/2014/01/how-netflix-reverse-engineered-hollywood/282679/)
Miller B. (2020) Is Technology Value-Neutral? Science, Technology, & Human Values, First Published Online January 22. (https://journals.sagepub.com/ doi/10.1177/0162243919900965)
Neyland D. (2015) Bearing Account-Able Witness to the Ethical Algorithmic System. Science, Technology, & Human Values, 41 (1): 50-76.
Ogburn W.F. (1964) On Culture and Social Change: Selected Papers, Chicago: University of Chicago Press.
Pasquale F. (2015) The Black Box Society, Cambridge, Mass.; London: Harvard University Press.
Pinch T., Bijker W. (1984) The Social Construction of Facts and Artefacts: Or How the Sociology of Science and the Sociology of Technology Might Benefit Each Other. Social Studies of Science, 14 (3): 399-441.
Pitt J.C. (2014) Guns Don't Kill, People Kill"; Values in and/or around Technologies. P. Kroes, P.-P. Verbeek (eds) The Moral Status of Technical Artifacts, Dordrecht, the Netherlands: Springer: 89-101.
Spolsky J. (2000) Things You Should Never Do, Part I. (https://www.joelonsoftware. com/2000/04/06/things-you-should-never-do-part-i/)
Stilgoe J. (2017) Machine Learning, Social Learning and the Governance of Self-Driving Cars. Social Studies of Science, 48 (1): 25-56.
Vanderbilt T. (2012) Let the robot drive: The autonomous car of the future is here. Wired, January 20. (https://www.wired.com/2012/01/ff_autonomouscars/2/)
Wade L. (2010) HP software doesn't see black people. Sociological Images, 5 January. (https:// thesocietypages.org/socimages/2010/01/05/hp-software-doesnt-see-black-people/)
Winner L. (1988) The Whale and the Reactor: A Search for Limits in an Age of High Technology, Chicago: University of Chicago Press.
Woolgar S., Cooper G. (1999) Do Artefacts Have Ambivalence? Moses' Bridges, Winner's Bridges and Other Urban Legends in S&TS. Social Studies of Science, 29 (3): 433-449.
Weber A. (2012 [1920]) Fundamentals of Cultural Sociology: Social Process, Civilizational Process and Cultural Movement. C. Loader (ed.). Alfred Weber and the Crisis of Culture, 1890-1933, New York: Palgrave Macmillan, US: 165-205.
Wynne B. (1988) Unruly Technology: Practical Rules, Impractical Discourses and Public Understanding. Social Studies of Science, 18 (1): 147-167.
Загрузки
Опубликован
Выпуск
Раздел
Как цитировать
Коды статьи
- EDN OJYPQZ
- Тип статьи (РИНЦ) Научная статья (Научная статья)
