مرور نظام مند مطالعات حکمرانی راهبردی هوش‌مصنوعی

حسن بشیر

استاد گروه فرهنگ و ارتباطات، دانشگاه امام صادق علیه السلام، تهران، ایران

bashir@isu.ac.ir

ID: 0000-0003-0793-6832

محمدجواد راوی

دانشجوی دکتری فرهنگ و ارتباطات دانشگاه امام صادق علیه السلام (نویسنده مسئول)، تهران، ایران

mj.ravi@isu.ac.irID: 0009-0002-1394-8397

چکیده

هوش‌مصنوعی به‌عنوان یکی از فناوری‌های چالش برانگیز معاصر، ساختار جوامع و صنایع را دگرگون کرده است. با این حال، گسترش پرشتاب این فناوری، پرسش‌هایی درباره مدیریت و نظارت بر آن مطرح ساخته است. پیشرفت سریع هوش‌مصنوعی، چارچوب‌های سنتی تنظیم‌گری را که برای فناوری‌های ارتباطی و اطلاعاتی طراحی شده بودند، به چالش کشیده است. سرعت توسعه الگوریتم‌ها از توانایی قانون‌گذاران برای وضع مقررات به‌روز پیشی گرفته و چالش‌هایی چون سوگیری الگوریتمی، نقض حریم خصوصی، و سوءاستفاده‌های احتمالی به همراه داشته است. از جمله نظریه‌های بنیادین و اثرگذار در این قلمرو، می‌توان به طبقه‌بندی راسل و نورویگ و نظریه زیست‌بوم هوش مصنوعی اشاره کرد. نبود اجماع جهانی در تعاریف و رویکردها، همراه با پراکندگی سیاست‌ها، تدوین چارچوب‌های مؤثر را دشوار ساخته است. داده‌ها شامل تحلیل‌های کیفی و با جستجوی «حکمرانی هوش‌مصنوعی» در پایگاه‌های علمی گردآوری شد. تحلیل مضمون نتایج پژوهش‌ها، ۲۹۷ کد اولیه، ۱۶ کد سازمان‌دهنده و ۴ مضمون فراگیر را استخراج کرد. یافته‌ها  در چهار محور کلیدی اخلاق هوش‌مصنوعی با تأکید بر شفافیت و کاهش سوگیری در الگوریتم‌ها؛ سیاست‌ها و چشم‌اندازهای جهانی؛ چالش‌های هماهنگی بین المللی و وحدت در تعریف، توسعه و کاربست هوش‌مصنوعی و زمینه‌های حکمرانی هوش‌مصنوعی دسته‌بندی شدند. الگوی پیشنهادی این پژوهش، معماری چندلایه ریسک‌محور است که ارزش‌ها را به قیود اجرایی سنجش‌پذیر نگاشت می‌کند، لایه‌هایِ فنی، اخلاقی، حقوقی را در سطوح ملی،بخشی،سازمانی و چرخهٔ عمر پوشش داده، و در نهایت تلاش دارد شکاف مبنا تا عمل را کاهش دهد.

واژگان کلیدی

حکمرانی هوش‌مصنوعی، مرور نظام‌مند، اخلاق هوش‌مصنوعی، توسعه مسئولانه.

Systematic Review of Studies on Strategic Governance of Artificial Intelligence

Hassan Bashir

Professor, Department of Culture and Communication, Imam Sadiq University, Tehran, Iran. Email: bashir@isu.ac.ir

ID: 0000-0003-0793-6832

Mohammad Javad Ravi

PhD Student, Department of Culture and Communication, Imam Sadeq University (Correspondence Author), Tehran, Iran. Email: mj.ravi@isu.ac.ir

ID: 0009-0002-1394-8397

Extended Abstract

Introducion: Artificial intelligence, as one of the contemporary disruptive technologies, has transformed the structures of societies and industries. However, the rapid proliferation of this technology has raised questions about its management and oversight. AI governance, beyond technical aspects, requires attention to ethical, social, and legal dimensions in order to prevent negative consequences such as bias, privacy breaches, or discrimination. The swift advancement of artificial intelligence has challenged traditional regulatory frameworks that were designed for information and communication technologies. The speed of algorithm development has outpaced legislators’ ability to enact up-to-date regulations, bringing challenges such as algorithmic bias, privacy violations, and potential misuse. Among the foundational and influential theories in this domain are Algorithmic Governance/Regulation and the artificial intelligence ecosystem theory. The lack of global consensus on definitions and approaches, coupled with policy fragmentation, has made the formulation of effective frameworks difficult.

Methods: Data, including qualitative analyses, were collected by searching for “AI governance” in academic databases. The thematic analysis of the study results yielded 297 initial codes, 16 organizing codes, and 4 overarching themes.

Results: The findings were categorized into four key areas: (1) AI ethics with an emphasis on transparency and bias mitigation in algorithms; (2) global policies and outlooks; (3) challenges of international coordination and unity in the definition, development, and deployment of AI; and (4) the domains of AI governance.

Discussion: This study proposes the model of “multi-layered governance based on risk and trust”, which is grounded in four core pillars: ethics, policy, governance layers, and application. The study’s proposed model is a risk-based, multi-layered architecture that maps values to measurable, enforceable operational constraints; covers the technical, ethical, and legal layers across national, sectoral, and organizational levels and the system lifecycle; and ultimately seeks to narrow the principle-to-practice gap.

Keywords

AI governance, Systematic Review, AI ethics, Responsible development.

راوی-بشیر-انتشار مقاله مرور نظام مند حکمرانی هوش مصنوعی-1404