Ethical Reflections

Ethical Reflections

Ethical Challenges of Artificial Intelligence and Social Choice Solutions for Responsible Design

Document Type : Review Article

Authors
Mir Hamid Almasi 1
Mohammad Bagher Kazemi 2
Mohammad Reza Ghaemi 3
Fatemeh Raei 4
1 Ph.D. student, Department of Mathematics, University of Zanjan, Zanjan, Iran
2 Associate professor, Department of Mathematics and Computer Science, University of Zanjan, Zanjan, Iran
3 Assistant professor, Department of Mathematics, University of Zanjan, Zanjan, Iran,
4 Assistant professor, Department of Mathematics Education, Farhangian University, Tehran, Iran
10.30470/er.2026.2065955.1450
Abstract
The rapid advancement of emerging technologies, particularly artificial intelligence (AI), has significantly challenged patterns of social interaction, human decision-making, and the ethical structures of societies. While AI demonstrates remarkable capabilities in solving complex problems, the absence of clear ethical guidelines may lead to social conflicts, ethical dilemmas, and new forms of inequality. This study adopts a descriptive–analytical approach and draws on William Ogburn’s theory of cultural lag to examine the gap between technological development and the slower evolution of cultural and ethical responses. It emphasizes the necessity of addressing ethical considerations during the design and implementation of AI systems in order to ensure their responsible and socially aligned use. In this context, the paper examines two primary approaches to integrating ethics into AI. The first is the rule-based or top-down approach, which relies on predefined ethical principles and formal rules to guide AI decision-making. The second is the data-driven or bottom-up approach, which seeks to derive ethical norms and values through the analysis of human data, behaviors, and preferences. While both approaches provide valuable insights, each has limitations, particularly regarding adaptability, inclusiveness, and the risk of reflecting narrow or biased perspectives. Focusing on the concept of social choice ethics, this paper explores how collective ethical perspectives can be incorporated into the design of AI systems. It argues that participatory mechanisms, such as social choice frameworks, can help reduce the imposition of limited designer viewpoints and improve ethical representation. The study highlights three key components of this approach: the inclusion of stakeholders’ positions, the measurement of ethical preferences, and the aggregation of diverse viewpoints into collective ethical outcomes. Ultimately, the paper suggests that integrating social choice mechanisms into AI design can enhance fairness, transparency, and ethical legitimacy, contributing to the development of more responsible and socially aligned artificial intelligence systems.
Keywords
Artificial Intelligence
Ethical Principles
Cultural Lag
Social Choice Ethics
Subjects

Article Title Persian

میرحمید الماسی ، محمدباقر کاظمی ، محمدرضا قائمی ، فاطمه راعی

Authors Persian

میرحمید الماسی 1
محمدباقر کاظمی 2
محمدرضا قائمی 3
فاطمه راعی 4
1 گروه ریاضی وعلوم کامپیوتر، دانشکده علوم، دانشگاه زنجان، زنجان، ایران.
2 گروه ریاضی وعلوم کامپیوتر، دانشکده علوم، دانشگاه زنجان، زنجان، ایران
3 گروه ریاضی وعلوم کامپیوتر، دانشکده علوم، دانشگاه زنجان، زنجان، ایران.
4 استادیار گروه آموزش ریاضی، دانشگاه فرهنگیان، تهران، ایران
Abstract Persian

پیشرفت سریع فناوری‌های نوین، به‌ویژه هوش مصنوعی، الگوهای تعامل اجتماعی، تصمیم‌گیری‌های انسانی و ساختارهای اخلاقی جوامع را به چالش کشیده است. در حالی که قابلیت‌های هوش مصنوعی در حل مسائل پیچیده، چشمگیر است، نبود دستورالعمل‌های اخلاقی روشن می‌تواند منجر به بروز تعارض‌های اجتماعی و نابرابری‌های جدید شود. مقاله‌ی حاضربا روش تحلیلی-توصیفی، با بهره‌گیری از "تز تأخر فرهنگی" ویلیام اوگبرن، به بررسی شکاف بین توسعه فناوری‌های نو و واکنش‌های فرهنگی-اخلاقی می‌پردازد و بر لزوم پرداختن به ابعاد اخلاقی در طراحی و استفاده از هوش مصنوعی تأکید می‌کند.
در این راستا، دو رویکرد اصلی در پیاده‌سازی اخلاق در هوش مصنوعی بررسی می‌شود: رویکردهای قاعده‌محور که بر اصول و قواعد اخلاقی از پیش‌تعریف‌شده تکیه دارند، و رویکردهای داده‌محور که بر استخراج و یادگیری تدریجی ارزش‌ها و هنجارهای اخلاقی از داده‌ها و ترجیحات انسانی استوارند. مقاله با تمرکز بر مفهوم « اخلاق انتخاب اجتماعی»، به بررسی چگونگی درگیرکردن دیدگاه‌های اخلاقی جامعه در طراحی هوش مصنوعی می‌پردازد. در نهایت، این مقاله پیشنهاد می‌کند که برای کاهش تحمیل دیدگاه‌های محدود طراحان، از مکانیزم‌های مشارکتی همچون انتخاب اجتماعی استفاده شده و سه مؤلفه کلیدی آن یعنی جایگاه، اندازه‌گیری و تجمیع دیدگاه‌ها در فرآیند طراحی، لحاظ گردد.

Keywords Persian

هوش مصنوعی
اصول اخلاقی
تاخر فرهنگی
انتخاب اجتماعی
احمدی، سیده معصومه؛ خلخالی، علی؛ کاظم پور، اسماعیل. (1402). «حاکمیت اخلاقی بر هوش مصنوعی آموزشی: مرور نظام‌مند چالش‌ها و طراحی چارچوب مدیریتی». اخلاق در علوم و فناوری.  ۲۱ (۱) :۲۵-۳۴.
ایزانلو، هادی؛ مسعودی، جهانگیر؛  پیک حرفه، شیرزاد . (1402).«میزان مطالبه اخلاق با تاکید بر مؤلفه اولویت در اندیشه اسلامی». تأملات اخلاقی. 4(4): 109-134.
بوالهری، علیرضا؛  رادفر، رضا؛  البرزی، محمود؛  پورابراهیمی، علیرضا؛ دهقانی، محمود . (1401).«تبیین تصمیم‌گیری‌ اخلاقی در بستر مدیریت فناوری اطلاعات». تأملات اخلاقی. 3(2): 29-46.
جعفری، رضا؛ رحمتی، حسینعلی. (1404). «کاربرد هوش مصنوعی در مشاورۀ اخلاقی  ؛ از ظرفیت‌های تحول‌آفرین تا چالش‌های اخلاقی». فصلنامه اخلاق‌پژوهی. 8(2): 49-72.
میری بالاجورشری، سیده مهشید؛   محمودی، امیررضا . (1403). «واکاوی مسائل اخلاقی در زمینه هوش مصنوعی با نگاهی به اخلاق اسلامی». فصلنامه علمی - پژوهشی مطالعات اخلاق کاربردی. 20(1): 97-123.
میرزامحمدی، عبدالرئوف؛ تقوی، مصطفی . (1404). «اخلاق فناوری: ارزیابی انتقادی مناقشه‌ میان دیوید مورو و ژوزف. سی. پیت درباره‌ی ارزش‌باری فناوری و مسئولیت اخلاقی». تأملات اخلاقی. 6(2): 93-114.
Allen, C., Smit, I., & Wallach, W. (2005). “Artificial morality: Top-down, Bottom-up, And Hybrid Approaches”. Ethics and Information Technology, 7(3): 149–155.
Baum, D. (2020). “Social Choice Ethics in Artificial Intelligence”. AI & Society, 35(1): 165–176. https://doi.org/10.1007/s00146-017-0760-1.
Batavia, H., Parag, H., Dean, A., Pomerleau, E., Charles, E., & Thorpe, E. (1996). “Applying Advanced Learning Algorithms To ALVINN”. Carnegie Mellon University, The Robotics Institute.
Bonnefon, J.-F., Shariff, A., & Rahwan, I. (2016). “The Social Dilemma Of Autonomous Vehicles”. Science, 352(6): 1573–1576.
Bostrom, N. (2014). “Superintelligence: Paths, Dangers, Strategies”. Oxford, UK: Oxford University Press.
Catch, C., Wachter, S., Mittelstadt, B., Taddeo, M., & Floridi, L. (2018). “Artificial Intelligence and the ‘Good Society’: The US, EU, And UK Approach”. Science And Engineering Ethics, 24(2): 505–528.
Collins, F. S., & Varmus, H. (2015). “A New Initiative on Precision Medicine”. New England Journal of Medicine, 372(9): 793–795.
Cordeiro, W. P. (1997). “Suggested Management Responses to Ethical Issues Raised by Technological Change”. Journal Of Business Ethics, 16(12–13): 1393–1400.
Dignum, V. (2018). “Ethics In Artificial Intelligence: Introduction to The Special Issue”. Ethics And Information Technology, 20(1): 1–3. https://doi.org/10.1007/s10676-018-9450-z.
Floridi, L. (2018). “Artificial Intelligence, Deepfakes and A Future of Ectypes”. Philosophy & Technology, 31(3): 317–321.
Gewirth, A. (1978). “Reason And Morality”. Chicago, IL: University Of Chicago Press.
Ginges, J., Atran, S., Medin, D., & Shikaki, K. (2007). “Sacred Bounds on Rational Resolution Of Violent Political Conflict”. Proceedings Of the National Academy of Sciences, 104(18): 7357–7360.
Grace, K., Salvatier, J., Dafoe, A., Zhang, B., & Evans, O. (2018). “When Will AI Exceed Human Performance? Evidence From AI Experts”. Journal Of Artificial Intelligence Research, 62: 729–754.
Harper, R. (2006). “Inside The Smart Home”. Springer Science & Business Media.
Hossain, M. S., Muhammad, G., & Guizani, N. (2020). “Explainable AI And Mass Surveillance System-Based Healthcare Framework to Combat COVID-19 Like Pandemics”. IEEE Network, 34(4): 126–132.
Hoedemaekers, R. (2001). “Commercialization, Patents and Moral Assessment of Biotechnology Products”. Medicine, Health Care and Philosophy, 2(3): 273–284.
Hubbard, F. P. (2011). “Do Androids Dream? Personhood and Intelligent Artifacts”. Temple Law Review, 83: 405–441.
Lin, P. (2016). “Why Ethics Matters For Autonomous Cars”. In M. Maurer, J. C. Gerdes, B. Lenz, & H. Winner (Eds.), Autonomous Driving: Technical, Legal And Social Aspects (pp. 69–85). Berlin: Springer.
Martin, D. (2017). “Who Should Decide How Machines Make Morally Laden Decisions?”. Science And Engineering Ethics, 23(4): 951–967.
Marshall, P. (1999). “Has Technology Introduced New Ethical Problems?”. Journal Of Business Ethics, 19: 81–90.
Muehlhauser, L., & Helm, L. (2012). “Intelligence Explosion and Machine Ethics”. In A. Eden, J. Søraker, J. H. Moor, & E. Steinhart (Eds.), Singularity Hypotheses: A Scientific And Philosophical Assessment (pp. 101–126). Springer.
Müller, V. C. (2020). “Ethics Of Artificial Intelligence and Robotics”. Stanford University.
Ogburn, W. F. (1966). “Social Change with Respect to Cultural and Original Nature”. New York.
Robinson, J. P. (1981). “Will The New Electronic Media Revolutionize Our Daily Lives?” In R. W. Haigh, G. Gerbner, & R. B. Byrne (Eds.), Communications in The Twenty-First Century. New York, NY: John Wiley & Sons.
Verbeek, P.-P. (2006). “Materializing Morality: Design Ethics and Technological Mediation”. Philosophy & Technology, 19(3): 361–380.
Walter, R., Finger, R., Huber, S., & Buchmann, N. (2017). “Smart Farming Is Key To Developing Sustainable Agriculture”. Proceedings Of The National Academy of Sciences, 114(24): 6148–6150.
Wallach, W., & Allen, C. (2008). “Moral Machines: Teaching Robots Right from Wrong”. Oxford University Press.
Wallach, W., Allen, C., & Smit, I. (2008). “Machine Morality: Bottom-Up and Top-Down Approaches for Modelling Human Moral Faculties”. AI & Society, 22(4): 565–582.
Yampolskiy, R. V. (2013). “Artificial Intelligence Safety Engineering: Why Machine Ethics Is a Wrong Approach”. In V. C. Müller (Ed.), Philosophy and Theory of Artificial Intelligence (pp. 389–396). Springer.
Yudkowsky, E. (2004). “Coherent Extrapolated Volition”. The Singularity Institute, San Francisco.

  • Receive Date 15 July 2025
  • Revise Date 22 April 2026
  • Accept Date 17 May 2026