تأملات اخلاقی

تأملات اخلاقی

شکاف مسئولیت در سامانه‎‌های هوش مصنوعی خودمختار: بازصورت‌بندی مناقشه اسپارو و اسووبودا با رویکرد فربیک

نوع مقاله : مقاله پژوهشی

نویسندگان
1 دانشجوی دکتری فلسفه عصر جدید، دانشکده ادبیات و علوم انسانی، دانشگاه آزاد اسلامی، واحد علوم و تحقیقات، تهران، ایران.
2 دانشیار گروه فلسفه علم، دانشگاه صنعتی شریف، تهران، ایران
10.30470/er.2026.2092018.1545
چکیده
ظهور سامانه‌های خودمختار مبتنی بر هوش مصنوعی، مسئله انتساب مسئولیت اخلاقی را با چالش‌های نوینی مواجه کرده است؛ زیرا در این سامانه‌ها، پیامدهای اخلاقی حاصل تصمیم یک عامل انسانی واحد نیست، بلکه برآمده از تعامل میان انسان، الگوریتم، داده و محیط فناورانه‌اند. مفهوم «شکاف مسئولیت» یکی از مهم‌ترین صورت‌بندی‌های این چالش است که به دشواری تعیین عامل مسئول در شرایط کاهش کنترل و پیش‌بینی‌پذیری سامانه‌های خودمختار اشاره دارد. در این زمینه، مناقشه میان رابرت اسپارو و توربن اسووبودا نشان‌دهنده دو رویکرد متفاوت است: اسپارو با تأکید بر فقدان شرایط کافی برای انتساب مسئولیت، از امکان شکل‌گیری خلأ مسئولیت دفاع می‌کند. در مقابل، اسووبودا با بازتعریف معیارهای کنترل و پیش‌بینی‌پذیری، امکان حفظ مسئولیت انسانی را مطرح می‌سازد. پژوهش حاضر با روش تحلیل مفهومی و بررسی تطبیقی، مبانی مفهومی مناقشه اسپارو و اسووبودا را براساس دیدگاههای پیتر فربیک بازخوانی می‌کند. یافته‌های پژوهش نشان می‌دهد که اختلاف اسپارو و اسووبودا، به‌رغم تفاوت در نتایج، بر مفروضات مشترکی درباره جدایی انسان و فناوری، نقش ابزاری فناوری و الگوی خطی رابطه کنش و پیامد استوار است. از منظر فربیک، این مفروضات نقش فناوری را در شکل‌گیری ادراک، تصمیم و امکان‌های کنش نادیده می‌گیرند. بنابراین، شکاف مسئولیت را نمی‌توان تنها مسئله‌ای درباره یافتن یا نیافتن یک عامل انسانی مشخص دانست، بلکه باید آن را در چارچوب روابط انسان-فناوری و مفهوم «مسئولیت میانجی‌شده» بازاندیشی کرد. این بازصورت‌بندی، بدون نسبتدادن مسئولیت اخلاقی به فناوری، بر ضرورت فهم مسئولیت در شبکه‌ای از روابط انسانی و فناورانه تأکید می‌کند.
کلیدواژه‌ها
موضوعات

به‌خوی، محسن. (1401). شرح و نقد نظریۀ اخلاقی‌سازی تکنولوژی فربیک. پایان‌نامه کارشناسی‌ارشد. دانشگاه صنعتی شریف، گروه فلسفه علم.
جلیلیان، محمدسبحان. (1396). مصنوعات تکنیکی و انسان: تاملی بر اندیشه‌های فربیک. پایان‌نامه کارشناسی‌ارشد. دانشگاه صنعتی شریف، گروه فلسفه علم.
خلیلی، مهدی.(1397). «آیا مصنوعات فناورانه می‌توانند خوب یا بد باشند؟». سیاست علم و فناوری. پائیز. سال دهم، شماره سوم، صص 1728.
میرزامحمدی، عبدالرئوف، و تقوی، مصطفی. (1404). «اخلاق فناوری: ارزیابی انتقادی مناقشه میان دیوید مورو و ژوزف پیت درباره ارزش‌باری فناوری و مسئولیت اخلاقی». تأملات اخلاقی. تابستان. سال ششم، شماره دوم، صص 93114.
Burrell, Jenna. (2016). “How the Machine Thinks: Understanding Opacity in Machine Learning Algorithms”. Big Data & Society. 3(1): 1–12. DOI: 10.1177/2053951715622512.
Fischer, John Martin, & Ravizza, Mark. (2000). Responsibility and Control: A Theory of Moral Responsibility. Cambridge: Cambridge University Press, Second edition.
Floridi, Luciano. (2016). “Faultless Responsibility: On the Nature and Allocation of Moral Responsibility for Distributed Moral Actions”. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. 374 (2083), Article 20160112. DOI: 10.1098/rsta.2016.0112.
Goetze, Theodore Simon. (2022). “Mind the Gap: Autonomous Systems, the Responsibility Gap, and Moral Entanglement”. In Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’22). New York: Association for Computing Machinery (ACM).
Kiener, Maximilian. (2024). “AI and Responsibility: No Gap, but Abundance”. Journal of Applied Philosophy. Advance online publication. DOI: 10.1111/japp.12765.
Matthias, Andreas. (2004).“The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata”. Ethics and Information Technology. 6(3): 175–183. DOI: 10.1007/s10676-004-3422-1.
Santoni de Sio, Filippo, & Mecacci, Giulio. (2021). “Four Responsibility Gaps with Artificial Intelligence: Why They Matter and How to Address Them”. Philosophy & Technology. 34(4): 1057–1084. DOI: 10.1007/s13347-021-00450-x.
Schur, Eva, Brouns, Anna, & Lee, Peter. (2025). “Ethical Analysis of the Responsibility Gap in Artificial Intelligence”. Ethics & Society. 6(4): 1–10.
Sparrow, Robert. (2007). “Killer Robots”. Journal of Applied Philosophy. 24(1): 62–77. DOI: 10.1111/j.1468-5930.2007.00346.x.
Sparrow, Robert. (2021). “Why Machines Cannot Be Moral”. AI & Society. 36(3), 685–693. DOI: 10.1007/s00146-020-01132-6.
Sparrow, Robert, & Flenady, Gene. (2025). “The Testimony Gap: Machines and Reasons”. Minds & Machines. 35(1): Article 12. DOI: 10.1007/s11023-025-09712-5.
Sparrow, Robert, & Flenady, Gene. (2026). “On Not Being a Robot: AI as a Threat to Rational Agency”. Inquiry: An Interdisciplinary Journal of Philosophy. 1–20. DOI: 10.1080/0020174X.2026.2673086.
Swoboda, Torben. (2018). “Autonomous Weapon Systems - An Alleged Responsibility Gap”. In Philosophy and Theory of Artificial Intelligence 2017, edited by Vincent C. Müller. Berlin: Springer Verlag. pp. 302–313. DOI: 10.1007/978-3-319-96448-5_32.
Swoboda, Torben & Lauwaert, Lode. (2025). “Can Artificial Intelligence Embody Moral Values?”. AI and Ethics. 5(4), 3669–3680. DOI: 10.1007/s43681-025-00662-3.
Verbeek, Peter-Paul. (2005). What Things Do: Philosophical Reflections on Technology, Agency and Design. University Park, PA: Pennsylvania State University Press, First edition.
Verbeek, Peter-Paul. (2009). “Ambient Intelligence and Persuasive Technology: The Blurring Boundaries Between Human and Technology”. NanoEthics. 3(3): 231–242. DOI: 10.1007/s11569-009-0077-8.
Verbeek, Peter-Paul. (2011). Moralizing Technology: Understanding and Designing the Morality of Things. Chicago: University of Chicago Press, First edition.
Verbeek, Peter-Paul. (2014). “Some Misunderstandings about the Moral Significance of Technology”. In The Moral Status of Technical Artefacts, edited by Peter Kroes and Peter-Paul Verbeek. Dordrecht: Springer. pp. 75–88. DOI: 10.1007/978-94-007-7914-3.

  • تاریخ دریافت 28 خرداد 1405
  • تاریخ بازنگری 14 مرداد 1405
  • تاریخ پذیرش 16 مرداد 1405