University of Zanjan, Iran Ethical Reflections 2676-4180 7 2 2026 07 23 Ethical Challenges of Artificial Intelligence and Social Choice Solutions for Responsible Design چالش‌های اخلاقی هوش مصنوعی و راهکارهای انتخاب اجتماعی برای طراحی مسئولانه 27 47 738357 10.30470/er.2026.2065955.1450 EN Mir Hamid Almasi Ph.D. student, Department of Mathematics, University of Zanjan, Zanjan, Iran Mohammad Bagher Kazemi Associate professor, Department of Mathematics and Computer Science, University of Zanjan, Zanjan, Iran 0000-0002-6915-6754 Mohammad Reza Ghaemi Assistant professor, Department of Mathematics, University of Zanjan, Zanjan, Iran, 0009-0003-1490-0317 Fatemeh Raei Assistant professor, Department of Mathematics Education, Farhangian University, Tehran, Iran 0009-0008-4504-4804 Journal Article 2025 07 15 The rapid advancement of emerging technologies, particularly artificial intelligence (AI), has significantly challenged patterns of social interaction, human decision-making, and the ethical structures of societies. While AI demonstrates remarkable capabilities in solving complex problems, the absence of clear ethical guidelines may lead to social conflicts, ethical dilemmas, and new forms of inequality. This study adopts a descriptive–analytical approach and draws on William Ogburn’s theory of cultural lag to examine the gap between technological development and the slower evolution of cultural and ethical responses. It emphasizes the necessity of addressing ethical considerations during the design and implementation of AI systems in order to ensure their responsible and socially aligned use. In this context, the paper examines two primary approaches to integrating ethics into AI. The first is the rule-based or top-down approach, which relies on predefined ethical principles and formal rules to guide AI decision-making. The second is the data-driven or bottom-up approach, which seeks to derive ethical norms and values through the analysis of human data, behaviors, and preferences. While both approaches provide valuable insights, each has limitations, particularly regarding adaptability, inclusiveness, and the risk of reflecting narrow or biased perspectives. Focusing on the concept of social choice ethics, this paper explores how collective ethical perspectives can be incorporated into the design of AI systems. It argues that participatory mechanisms, such as social choice frameworks, can help reduce the imposition of limited designer viewpoints and improve ethical representation. The study highlights three key components of this approach: the inclusion of stakeholders’ positions, the measurement of ethical preferences, and the aggregation of diverse viewpoints into collective ethical outcomes. Ultimately, the paper suggests that integrating social choice mechanisms into AI design can enhance fairness, transparency, and ethical legitimacy, contributing to the development of more responsible and socially aligned artificial intelligence systems. پیشرفت سریع فناوری‌های نوین، به‌ویژه هوش مصنوعی، الگوهای تعامل اجتماعی، تصمیم‌گیری‌های انسانی و ساختارهای اخلاقی جوامع را به چالش کشیده است. در حالی که قابلیت‌های هوش مصنوعی در حل مسائل پیچیده، چشمگیر است، نبود دستورالعمل‌های اخلاقی روشن می‌تواند منجر به بروز تعارض‌های اجتماعی و نابرابری‌های جدید شود. مقاله‌ی حاضربا روش تحلیلی-توصیفی، با بهره‌گیری از "تز تأخر فرهنگی" ویلیام اوگبرن، به بررسی شکاف بین توسعه فناوری‌های نو و واکنش‌های فرهنگی-اخلاقی می‌پردازد و بر لزوم پرداختن به ابعاد اخلاقی در طراحی و استفاده از هوش مصنوعی تأکید می‌کند.<br>در این راستا، دو رویکرد اصلی در پیاده‌سازی اخلاق در هوش مصنوعی بررسی می‌شود: رویکردهای قاعده‌محور که بر اصول و قواعد اخلاقی از پیش‌تعریف‌شده تکیه دارند، و رویکردهای داده‌محور که بر استخراج و یادگیری تدریجی ارزش‌ها و هنجارهای اخلاقی از داده‌ها و ترجیحات انسانی استوارند. مقاله با تمرکز بر مفهوم « اخلاق انتخاب اجتماعی»، به بررسی چگونگی درگیرکردن دیدگاه‌های اخلاقی جامعه در طراحی هوش مصنوعی می‌پردازد. در نهایت، این مقاله پیشنهاد می‌کند که برای کاهش تحمیل دیدگاه‌های محدود طراحان، از مکانیزم‌های مشارکتی همچون انتخاب اجتماعی استفاده شده و سه مؤلفه کلیدی آن یعنی جایگاه، اندازه‌گیری و تجمیع دیدگاه‌ها در فرآیند طراحی، لحاظ گردد. https://jer.znu.ac.ir/article_738357_61449bcdc5627f3267ea0d71d96fc500.pdf