Ethical Reflections

Ethical Reflections

Responsibility Gap in Autonomous Artificial Intelligence Systems: Reframing the Sparrow–Swoboda Debate through Verbeek’s Approach

Document Type : Original Article

Authors
Soghra Salehi 1
Mostafa Taqavi 2
1 PhD Candidate in Modern Philosophy, Faculty of Literature and Humanities, Science and Research Branch, Islamic Azad University, Tehran, Iran.
2 Associate Professor in Philosophy of Science, Sharif University of Technology, Department of Philosophy of Science, Tehran, Iran.
10.30470/er.2026.2092018.1545
Abstract
The emergence of autonomous artificial intelligence-based systems has introduced new challenges to the attribution of ethical responsibility, as in these systems ethical consequences do not result from the decision of a single human agent but rather emerge from the interaction among humans, algorithms, data, and technological environments. The concept of the “responsibility gap” represents one of the most significant formulations of this challenge, referring to the difficulty of identifying the responsible agent under conditions of reduced control and predictability in autonomous systems. In this context, the debate between Robert Sparrow and Torben Swoboda reflects two different approaches: Sparrow, emphasizing the lack of sufficient conditions for responsibility attribution, argues for the possibility of a responsibility gap. In contrast, Swoboda, by redefining the criteria of control and predictability, argues for the possibility of preserving human responsibility. Employing conceptual analysis and comparative examination, this study reconsiders the conceptual foundations of the Sparrow–Swoboda debate based on the perspectives of Peter Verbeek. The findings indicate that, despite their different conclusions, Sparrow and Swoboda’s disagreement is grounded in shared assumptions concerning the separation of humans and technology, the instrumental view of technology, and a linear model of the relationship between action and outcome. From Verbeek’s perspective, these assumptions overlook the role of technology in shaping perception, decision-making, and possibilities for action. Therefore, the responsibility gap cannot be regarded merely as a problem of finding or failing to find a specific human agent; rather, it should be reconsidered within the framework of human–technology relations and the concept of “mediated responsibility.” This reframing does not attribute ethical responsibility to technology itself; instead, it emphasizes the necessity of understanding responsibility within a network of human and technological relations.
Keywords
Responsibility Gap
Artificial Intelligence
Autonomous Systems
Technological Mediation
Mediated Responsibility
Subjects

Article Title Persian

شکاف مسئولیت در سامانه‎‌های هوش مصنوعی خودمختار: بازصورت‌بندی مناقشه اسپارو و اسووبودا با رویکرد فربیک

Authors Persian

صغری صالحی 1
مصطفی تقوی 2
1 دانشجوی دکتری فلسفه عصر جدید، دانشکده ادبیات و علوم انسانی، دانشگاه آزاد اسلامی، واحد علوم و تحقیقات، تهران، ایران.
2 دانشیار گروه فلسفه علم، دانشگاه صنعتی شریف، تهران، ایران
Abstract Persian

ظهور سامانه‌های خودمختار مبتنی بر هوش مصنوعی، مسئله انتساب مسئولیت اخلاقی را با چالش‌های نوینی مواجه کرده است؛ زیرا در این سامانه‌ها، پیامدهای اخلاقی حاصل تصمیم یک عامل انسانی واحد نیست، بلکه برآمده از تعامل میان انسان، الگوریتم، داده و محیط فناورانه‌اند. مفهوم «شکاف مسئولیت» یکی از مهم‌ترین صورت‌بندی‌های این چالش است که به دشواری تعیین عامل مسئول در شرایط کاهش کنترل و پیش‌بینی‌پذیری سامانه‌های خودمختار اشاره دارد. در این زمینه، مناقشه میان رابرت اسپارو و توربن اسووبودا نشان‌دهنده دو رویکرد متفاوت است: اسپارو با تأکید بر فقدان شرایط کافی برای انتساب مسئولیت، از امکان شکل‌گیری خلأ مسئولیت دفاع می‌کند. در مقابل، اسووبودا با بازتعریف معیارهای کنترل و پیش‌بینی‌پذیری، امکان حفظ مسئولیت انسانی را مطرح می‌سازد. پژوهش حاضر با روش تحلیل مفهومی و بررسی تطبیقی، مبانی مفهومی مناقشه اسپارو و اسووبودا را براساس دیدگاه‎های پیتر فربیک بازخوانی می‌کند. یافته‌های پژوهش نشان می‌دهد که اختلاف اسپارو و اسووبودا، به‌رغم تفاوت در نتایج، بر مفروضات مشترکی درباره جدایی انسان و فناوری، نقش ابزاری فناوری و الگوی خطی رابطه کنش و پیامد استوار است. از منظر فربیک، این مفروضات نقش فناوری را در شکل‌گیری ادراک، تصمیم و امکان‌های کنش نادیده می‌گیرند. بنابراین، شکاف مسئولیت را نمی‌توان تنها مسئله‌ای درباره یافتن یا نیافتن یک عامل انسانی مشخص دانست، بلکه باید آن را در چارچوب روابط انسان-فناوری و مفهوم «مسئولیت میانجی‌شده» بازاندیشی کرد. این بازصورت‌بندی، بدون نسبت‎دادن مسئولیت اخلاقی به فناوری، بر ضرورت فهم مسئولیت در شبکه‌ای از روابط انسانی و فناورانه تأکید می‌کند.

Keywords Persian

شکاف مسئولیت
هوش مصنوعی
سامانه‌های خودمختار
میانجی‌گری فناورانه و مسئولیت میانجی‌شده
به‌خوی، محسن. (1401). شرح و نقد نظریۀ اخلاقی‌سازی تکنولوژی فربیک. پایان‌نامه کارشناسی‌ارشد. دانشگاه صنعتی شریف، گروه فلسفه علم.
جلیلیان، محمدسبحان. (1396). مصنوعات تکنیکی و انسان: تاملی بر اندیشه‌های فربیک. پایان‌نامه کارشناسی‌ارشد. دانشگاه صنعتی شریف، گروه فلسفه علم.
خلیلی، مهدی.(1397). «آیا مصنوعات فناورانه می‌توانند خوب یا بد باشند؟». سیاست علم و فناوری. پائیز. سال دهم، شماره سوم، صص 17–28.
میرزامحمدی، عبدالرئوف، و تقوی، مصطفی. (1404). «اخلاق فناوری: ارزیابی انتقادی مناقشه میان دیوید مورو و ژوزف پیت درباره ارزش‌باری فناوری و مسئولیت اخلاقی». تأملات اخلاقی. تابستان. سال ششم، شماره دوم، صص 93–114.
Burrell, Jenna. (2016). “How the Machine Thinks: Understanding Opacity in Machine Learning Algorithms”. Big Data & Society. 3(1): 1–12. DOI: 10.1177/2053951715622512.
Fischer, John Martin, & Ravizza, Mark. (2000). Responsibility and Control: A Theory of Moral Responsibility. Cambridge: Cambridge University Press, Second edition.
Floridi, Luciano. (2016). “Faultless Responsibility: On the Nature and Allocation of Moral Responsibility for Distributed Moral Actions”. Philosophical Transactions of the Royal Society A: Mathematical, Physical and Engineering Sciences. 374 (2083), Article 20160112. DOI: 10.1098/rsta.2016.0112.
Goetze, Theodore Simon. (2022). “Mind the Gap: Autonomous Systems, the Responsibility Gap, and Moral Entanglement”. In Proceedings of the 2022 ACM Conference on Fairness, Accountability, and Transparency (FAccT ’22). New York: Association for Computing Machinery (ACM).
Kiener, Maximilian. (2024). “AI and Responsibility: No Gap, but Abundance”. Journal of Applied Philosophy. Advance online publication. DOI: 10.1111/japp.12765.
Matthias, Andreas. (2004).“The Responsibility Gap: Ascribing Responsibility for the Actions of Learning Automata”. Ethics and Information Technology. 6(3): 175–183. DOI: 10.1007/s10676-004-3422-1.
Santoni de Sio, Filippo, & Mecacci, Giulio. (2021). “Four Responsibility Gaps with Artificial Intelligence: Why They Matter and How to Address Them”. Philosophy & Technology. 34(4): 1057–1084. DOI: 10.1007/s13347-021-00450-x.
Schur, Eva, Brouns, Anna, & Lee, Peter. (2025). “Ethical Analysis of the Responsibility Gap in Artificial Intelligence”. Ethics & Society. 6(4): 1–10.
Sparrow, Robert. (2007). “Killer Robots”. Journal of Applied Philosophy. 24(1): 62–77. DOI: 10.1111/j.1468-5930.2007.00346.x.
Sparrow, Robert. (2021). “Why Machines Cannot Be Moral”. AI & Society. 36(3), 685–693. DOI: 10.1007/s00146-020-01132-6.
Sparrow, Robert, & Flenady, Gene. (2025). “The Testimony Gap: Machines and Reasons”. Minds & Machines. 35(1): Article 12. DOI: 10.1007/s11023-025-09712-5.
Sparrow, Robert, & Flenady, Gene. (2026). “On Not Being a Robot: AI as a Threat to Rational Agency”. Inquiry: An Interdisciplinary Journal of Philosophy. 1–20. DOI: 10.1080/0020174X.2026.2673086.
Swoboda, Torben. (2018). “Autonomous Weapon Systems - An Alleged Responsibility Gap”. In Philosophy and Theory of Artificial Intelligence 2017, edited by Vincent C. Müller. Berlin: Springer Verlag. pp. 302–313. DOI: 10.1007/978-3-319-96448-5_32.
Swoboda, Torben & Lauwaert, Lode. (2025). “Can Artificial Intelligence Embody Moral Values?”. AI and Ethics. 5(4), 3669–3680. DOI: 10.1007/s43681-025-00662-3.
Verbeek, Peter-Paul. (2005). What Things Do: Philosophical Reflections on Technology, Agency and Design. University Park, PA: Pennsylvania State University Press, First edition.
Verbeek, Peter-Paul. (2009). “Ambient Intelligence and Persuasive Technology: The Blurring Boundaries Between Human and Technology”. NanoEthics. 3(3): 231–242. DOI: 10.1007/s11569-009-0077-8.
Verbeek, Peter-Paul. (2011). Moralizing Technology: Understanding and Designing the Morality of Things. Chicago: University of Chicago Press, First edition.
Verbeek, Peter-Paul. (2014). “Some Misunderstandings about the Moral Significance of Technology”. In The Moral Status of Technical Artefacts, edited by Peter Kroes and Peter-Paul Verbeek. Dordrecht: Springer. pp. 75–88. DOI: 10.1007/978-94-007-7914-3.

  • Receive Date 18 June 2026
  • Revise Date 05 August 2026
  • Accept Date 07 August 2026