امکان مسئولیت اخلاقی در هوش مصنوعی: تبیین فلسفی شکاف مسئولیت

نوع مقاله : مقاله علمی- پژوهشی

نویسندگان

1 دکتری فلسفه، دانشگاه تبریز‌، تبریز‌، ایران

2 استاد فلسفه‌ پژوهشکده فلسفه غرب، پژوهشگاه علوم انسانی و مطالعات فرهنگی‌، تهران‌، ایران.

چکیده

در سال‌های اخیر‌،‌ ظهور و گسترش سامانه‌های هوش مصنوعی پرسشی بنیادی را پیش‌روی فلسفه اخلاق و فلسفه فناوری نهاده است: چگونه می‌توان از مسئولیت اخلاقی در بستری سخن گفت که در آن‌،‌ تصمیم‌گیری و کنش از سوی موجوداتی غیرانسانی انجام می‌شود؟ در سنت فلسفی کلاسیک‌،‌ مسئولیت اخلاقی همواره با فاعلیت انسانی‌،‌ قصد‌،‌ آگاهی و آزادی اراده پیوند داشته‌،‌ اما ورود فناوری‌های هوشمند این پیوند سنتی را به چالش کشیده است. مقاله حاضر با هدف بازتعریف مسئولیت اخلاقی در نسبت با هوش مصنوعی‌،‌ می‌کوشد در جهت تبیین فلسفی چالش‌های پیرامون آن یا به‌اصطلاح «شکاف مسئولیتی» قدم بردارد. روش پژوهش در این مقاله‌،‌ تحلیلی-تفسیری و مبتنی بر فلسفه فناوری و اخلاق هوش مصنوعی است. یافته‌های مقاله نشان می‌دهد که در شبکه‌های تعاملی انسان ـ ماشین‌،‌ مدل‌های کلاسیک مسئولیت‌،‌ دیگر کفایت نداشته و در عوض‌،‌ می‌بایست آن را در بستر رابطه میان‌ذاتی و توزیع‌شده میان فاعلان انسانی و غیرانسانی فهمید. در مرحله بعد‌،‌ با تحلیل دو نمونه کاربردی‌،‌ مصادیق واقعی شکاف مسئولیتی بررسی شده و در نهایت‌،‌ مدل سه‌سطحی مسئولیت اخلاقی طراحی‌،‌ سازمانی و نهادی پیشنهاد می‌گردد. این پژوهش در پی آن است نشان دهد که در مواجهه با فناوری‌های نوین‌،‌ پرسش از فاعل منفرد جای خود را به پرسش از شبکه‌ای از روابط‌،‌ اثرگذاری‌ها و پاسخ‌گویی‌های متقابل می‌دهد.‌ در خاتمه‌،‌ مقاله چنین استنتاج می‌کند که امکان مسئولیت اخلاقی در هوش مصنوعی تنها در صورتی قابل دفاع است که از رویکرد فردمحور کلاسیک فاصله گرفته و مسئولیت به‌عنوان سازوکاری نهادی‌،‌ مشارکتی و در بستر تمامی عوامل انسانی و غیرانسانی بازتعریف گردد.

کلیدواژه‌ها


عنوان مقاله [English]

The Possibility of Moral Responsibility in Artificial Intelligence: a philosophical explanation of the responsibility gap

نویسندگان [English]

  • Sajedeh Firoozbakht 1
  • Seyed Mostafa Shahraeini 2
1 PhD in Philosophy, University of Tabriz, Tabriz, Iran
2 Professor of Western Philosophy Department, Research Institute for Humanities and Cultural Studies, Tehran, Iran
چکیده [English]

In recent years, the emergence and rapid use of Artificial Intelligence (AI) systems have posed a fundamental question for moral philosophy and the technology: how can moral responsibility be meaningfully articulated in a context where decision-making and action are carried out by non-human entities? In the classical philosophical tradition, moral responsibility has been intrinsically linked to human agency, intention, consciousness, and free will; however, the advent of intelligent technologies has profoundly challenged this traditional linkage. Aiming to re-conceptualize moral responsibility in relation to artificial intelligence, this article seeks to advance a philosophical account of the challenges surrounding it—commonly referred to as the “responsibility gap”.‌ The research methodology adopted in this article is analytical–interpretive and grounded in the philosophy of technology and AI ethics. The findings indicate that within human–machine interactive networks, classical models of responsibility are no longer sufficient. Instead, responsibility must be understood within a relational, intersubjective, and distributed framework encompassing both human and non-human agents. In the subsequent stage, through the analysis of two applied case studies, concrete instances of the responsibility gap are examined. Based on this analysis, the article proposes a three-level model of moral responsibility—design-level, organizational-level, and institutional-level responsibility. The study aims to demonstrate that, in the face of emerging technologies, the question of a single moral agent gives way to an inquiry into a network of relations, influences, and reciprocal forms of accountability.‌ In conclusion, the article argues that the possibility of moral responsibility in artificial intelligence can only be defended if one moves beyond the classical individual-centered approach and reconceptualizes responsibility as an institutional and participatory mechanism embedded within the full constellation of human and non-human factors.

کلیدواژه‌ها [English]

  • Algorithmic Accountability
  • Participatory Agency
  • Moral Responsibility
  • Moral Mediation
  • Artificial Intelligence
امیریان فارسانی‌،‌ امین. (۱۴۰۳). هوش مصنوعی و سیاست‌گذاری عدالت کیفری در ایران معاصر: فرصت‌ها و چالش‌های نوین برای کارگزاران قضایی. فصلنامه تحولات سیاسی و اجتماعی معاصر ایران‌،‌ ۴(۵)‌،‌ ۸۰-۹۵.https://www.noormags.ir/view/fa/articlepage/2310711
ثمربخش‌زاده‌،‌ سیما. (۱۴۰۳). آموزش هوشمند و نقش فناوری در کلاس درس. ششمین کنفرانس بین‌المللی مدیریت‌، آموزش و پژوهش‌های آموزشی در آموزش‌،‌ ۴۹۱۷-۴۹۳۳.https://www.noormags.ir/view/fa/articlepage/2320378
سپهری قوجه‌،‌ فرهاد. (۱۴۰۳). معماری و هوش مصنوعی: تأثیر یادگیری ماشین بر طراحی و ساخت. فصلنامه معماری سبز‌،‌ ۱۰(۷)‌،‌ ۱۳-۲۰. https://www.noormags.ir/view/fa/articlepage/2266583
 شرفی‌،‌ وحید و محمدیاری‌،‌ زهره. (۱۴۰۳). کاربردهای هوش مصنوعی در مدیریت سلامت سالمندان: رویکرد فراترکیب. مجله سالمندی ایران‌،‌ (۷۹)‌،‌ ۴۰۳-۴۲۱.https://www.noormags.ir/view/fa/articlepage/2305569
 عسگری‌،‌ محمد و بهرامی‌،‌ مهدی. (۱۴۰۳). مدیریت آموزشی در مدارس با استفاده از هوش مصنوعی. فصلنامه پژوهش‌های راهبردی در آموزش و پرورش‌، ۵۹(۳)‌،‌ ۱۳۱-۱۴۸.https://www.noormags.ir/view/fa/articlepage/2328339
عیدلی‌،‌ سعید. (۱۴۰۳). بررسی راهکارهای استفاده از هوش مصنوعی در بهبود فرآیند اداره مدارس ایران. ششمین کنفرانس بین‌المللی مدیریت‌، آموزش و پژوهش‌های آموزشی در آموزش‌، ۴۹۱۷-۴۹۳۳.https://www.noormags.ir/view/fa/articlepage/2320109
عمرانی‌،‌ شکیب و امیرشاه کرمی‌،‌ سید نجم‌الدین. (۱۴۰۳). فناوری هوش مصنوعی در ایده‌پردازی و تولید محتوای مفهومی در پویانمایی «کلاغ» و «مرا بغل نکن‌،‌ می‌ترسم» و گنوسیس. فصلنامه علمی-پژوهشی دانشگاه ایران‌،‌ (۴۶)‌،‌ ۷۹-۹۶. https://www.noormags.ir/view/fa/articlepage/2307963
نصر اصفهانی‌،‌ محمد؛ قائمی اصل‌،‌ مهدی؛ منتظر‌،‌ راحله و اسماعیلی‌،‌ ملیکا. (۱۴۰۳). نقش قابلیت‌های توانمندساز هوش مصنوعی در عملکرد نظارتی نظام بانکی ایران. فصلنامه مطالعات کشوری‌،‌ ۳(۴)‌،‌ ۷۱۳-۷۵۳. https://www.noormags.ir/view/fa/articlepage/2313268
AI Now Institute. (2023). AI Now 2023 Report: Governing AI in the Public Interest. AI Now Institute, New York University.
Amirian Farsani, A. (2025). Artificial intelligence and criminal justice policymaking in contemporary Iran: New opportunities and challenges for judicial officers. Quarterly Journal of Contemporary Political and Social Developments of Iran, 4(5), 80–95. (in Persian). https://www.noormags.ir/view/fa/articlepage/2310711/
Angwin, J., Larson, J., Mattu, S., & Kirchner, L. (2016). Machine bias: There’s software used across the country to predict future criminals. And it’s biased against blacks. ProPublica.
Aristotle. (1895). The Nicomachean Ethics of Aristotle (R. W. Browne, Trans.). George Bell and Sons.
Asgari, M., & Bahrami, M. (2025). Educational management in schools using artificial intelligence. Quarterly Journal of Strategic Research in Education and Training, 59(3), 131–148. (In Persian). https://www.noormags.ir/view/fa/articlepage/2328339
Binns, R. (2018). Fairness in machine learning: Lessons from political philosophy. In Proceedings of the 2018 Conference on Fairness, Accountability, and Transparency (pp. 543–552).
Brey, P. (2012). Anticipating ethical issues in emerging IT. Ethics and Information Technology, 14(4), 305–317.
Eidli, S. (2025). Examining strategies for the use of artificial intelligence in improving the process of Iran’s department of school. In 6th International Conference on Management, Education and Training Research in Education (pp. 4917–4933). (in Persian). https://www.noormags.ir/view/fa/articlepage/2320109
Floridi, L. (2013). The Ethics of Information. Oxford University Press.
Floridi, L., & Sanders, J. W. (2004). On the morality of artificial agents. Minds and Machines, 14(3), 349–379.
Gebru, T., Morgenstern, J., Vecchione, B., Vaughan, J., Wallach, H., Daumé III, H., & Crawford, K. (2018). Datasheets for datasets. arXiv preprint, arXiv:1803.09010.
Ihde, D. (1990). Technology and the Lifeworld: From Garden to Earth. Indiana University Press.
Jonas, H. (1984). The Imperative of Responsibility. University of Chicago Press.
Kant, I. (1785). Groundwork of the Metaphysics of Morals. Cambridge University Press.
Latour, B. (2005). Reassembling the Social: An Introduction to Actor‑Network‑Theory. Oxford University Press.
Lohr, S. (2022). IBM is selling Watson Health assets. The New York Times.
Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society, 3(2), 7–10.
Moor, J. H. (2006). The nature, importance, and difficulty of machine ethics. IEEE Intelligent Systems, 21(4), 18–21.
Nasre Esfahani, M., Qaemi Asl, M., Montazer, R., & Esmaeeli, M. (2025). The role of artificial intelligence’s enabling capabilities in the supervisory performance of Iran’s banking system. Journal of Country Studies, 3(4), 713–753. (in Persian). https://www.noormags.ir/view/fa/articlepage/2313268
Omrani, S., & Amirshah Karami, S. N. (2024). Artificial intelligence technology in idea generation and conceptual content production in animation “Kalagh” and “Don’t Hug Me, I’m Afraid”, and Gnosis. Scientific Research Quarterly of Iran University, (46), 79–96. (in Persian). https://www.noormags.ir/view/fa/articlepage/2307963/
Ross, C. (2018a). IBM Watson recommended ‘unsafe and incorrect’ cancer treatments. STAT News.
Ross, C., & Swetlitz, I. (2018b). IBM’s Watson recommended ‘unsafe and incorrect’ cancer treatments. STAT News.
Samarbafzade, S. (2025). Smart education and the role of technology in the classroom. In 6th International Conference on Management, Education and Training Research in Education (pp. 4917–4933). (in Persian). https://www.noormags.ir/view/fa/articlepage/2320378
Santoni de Sio, F., & Mecacci, G. (2021). The responsibility gap in AI. Philosophy & Technology, 34(1), 105–128.
Santoni de Sio, F., & Van den Hoven, J. (2018). Meaningful human control over autonomous systems: A theoretical framework. Frontiers in Robotics and AI, 5, 15.
Selbst, A. D., Boyd, D., Friedler, S. A., Venkatasubramanian, S., & Vertesi, J. (2019). Algorithmic accountability: Moving beyond audits. Communications of the ACM, 62(7), 58–66.
Sepehri Ghooje, F. (2024). Architecture and artificial intelligence: The impact of machine learning on design and construction. Green Architecture Quarterly, 10(7), 13–20. (in Persian). https://www.noormags.ir/view/fa/articlepage/2266583
Sharafi, V., & Mohammad Yari, Z. (2025). Applications of artificial intelligence in elderly healthcare management: A meta‑synthetic approach. Iranian Journal of Aging, (79), 403–421. (in Persian). https://www.noormags.ir/view/fa/articlepage/2305569
Verbeek, P.-P. (2005). What Things Do: Philosophical Reflections on Technology, Agency, and Design. Penn State Press.
Verbeek, P.-P. (2011). Moralizing Technology: Understanding and Designing the Morality of Things. University of Chicago Press.
CAPTCHA Image