به گزارش نبض وطن، هوش مصنوعی با سرعتی فزاینده در حال ورود به حوزه‌های مختلف زندگی، اقتصاد، علم و تصمیم‌گیری است، اما افزایش توانایی این فناوری همزمان نگرانی‌هایی را درباره پیامدهای آن ایجاد کرده است. یکی از جدی‌ترین حوزه‌های این نگرانی، استفاده نظامی از هوش مصنوعی و احتمال رسیدن فرآیند تصمیم‌گیری به سرعتی است که انسان دیگر فرصت کافی برای بررسی، رد یا اصلاح توصیه‌های سامانه را نداشته باشد.
در آمریکا، شاهدان در جلسه‌ای در کنگره هشدار دادند که استفاده از هوش مصنوعی برای شناسایی اهداف نظامی و ارائه توصیه درباره حملات می‌تواند سرعت تصمیم‌گیری را به سطحی برساند که نقش نظارت انسانی عملاً تضعیف شود. این نگرانی در شرایطی مطرح شده است که پنتاگون تلاش می‌کند استفاده از هوش مصنوعی را برای تسریع تصمیم‌گیری‌های نظامی گسترش دهد.
در سال ۲۰۲۶ نیز ارتش آمریکا به نخستین ارتش «در استفاده از هوش مصنوعی» با راهبرد بازطراحی فرآیندهای نظامی و مفاهیم عملیاتی تبدیل شد.
نگرانی درباره نظارت واقعی انسان
در جلسه کمیسیون حقوق بشر تام لانتوس در مجلس نمایندگان آمریکا با عنوان «هوش مصنوعی در حوزه نظامی و پیامدهای آن برای حقوق بشر»، شاهدان تاکید کردند که نگرانی‌ها فقط به سلاح‌هایی محدود نمی‌شود که قادرند بدون دخالت انسان هدف را انتخاب و با آن درگیر شوند، بلکه مسئله مهم‌تر، میزان واقعی کنترل انسان بر سامانه‌های هوش مصنوعی است.
آنا میسیشین، پژوهشگر اوکراینی حوزه حکمرانی هوش مصنوعی، گفت صرف فشردن دکمه تایید به معنای وجود کنترل انسانی واقعی نیست. او این پرسش را مطرح کرد که آیا فردی که همزمان بر چند سامانه مجهز به هوش مصنوعی نظارت می‌کند، می‌تواند یک توصیه نادرست را تشخیص دهد و پیش از وقوع آسیب، به‌موقع مداخله کند یا خیر.
به گفته میسیشین، تجربه اوکراین نشان داده است که هوش مصنوعی می‌تواند روند تصمیم‌گیری نظامی را از چند ساعت به چند دقیقه کاهش دهد. در چنین شرایطی، فردی که از نظر رسمی مسئول تصمیم نهایی است، ممکن است اطلاعات، زمان یا حتی امکان کافی برای به چالش کشیدن توصیه سیستم را نداشته باشد.
وزارت دفاع آمریکا در دستورالعمل سال ۲۰۲۳ خود درباره استقلال سامانه‌های تسلیحاتی، استفاده از سلاح‌های خودکار و نیمه‌خودکار را مشروط به امکان اعمال سطح مناسبی از قضاوت انسانی توسط فرماندهان و کاربران کرده است. با این حال، پرسش اصلی شاهدان این بود که اگر هوش مصنوعی با سرعتی بیشتر از توان انسان برای ارزیابی اطلاعات عمل کند، آیا این «قضاوت انسانی» همچنان معنای واقعی خود را حفظ خواهد کرد؟
آماندا کلازینگ، مدیر ملی روابط دولتی و حمایت‌گری در عفو بین‌الملل آمریکا، هشدار داد هوش مصنوعی می‌تواند زنجیره تصمیم‌گیری نظامی را آنقدر کوتاه کند که مشخص نباشد پیش از یک حمله، تشخیص انسانی معناداری صورت گرفته است یا خیر.
جوزف چاپا، افسر پیشین ارتش آمریکا و پژوهشگر اخلاق نظامی، نیز معتقد است بحث نباید صرفاً بر میزان خودکار بودن یک سامانه متمرکز باشد. به گفته او، باید بررسی شود یک سیستم تا چه اندازه به استنباط آماری متکی است، در محیط عملیاتی چگونه دچار خطا می‌شود و آیا می‌توان بعداً روند تصمیم‌گیری آن را بازسازی و بررسی کرد.
چاپا تاکید کرد سامانه‌های هوش مصنوعی آماری می‌توانند برخلاف نرم‌افزارهای سنتی، با تغییرات نسبتاً کوچک در داده‌های ورودی، خروجی‌های کاملاً متفاوتی تولید کنند. همچنین هرچه سیستم پیچیده‌تر باشد، بازسازی مسیر رسیدن به یک توصیه مشخص پس از وقوع حادثه دشوارتر خواهد بود. او خواستار آموزش گسترده‌تر نیروهای نظامی درباره هوش مصنوعی، به‌ویژه برای کارکنان حوزه هدف‌گیری و اطلاعات شد.
«انسان‌محوری» در برابر نگرانی‌های فزاینده
همزمان با این بحث‌ها، در واشنگتن نشست «مجمع انسان‌محور» برگزار شد که در آن قانونگذاران دموکرات و جمهوری‌خواه، کارشناسان فناوری، اقتصاددانان و دانشگاهیان درباره آینده هوش مصنوعی و ضرورت وضع مقررات برای توسعه آن بحث کردند.
منتقدان هوش مصنوعی نسبت به پیامدهای گسترده این فناوری برای بازار کار، احتمال ایجاد سامانه‌هایی که بتوانند به بشریت آسیب برسانند، آثار زیست‌محیطی مراکز داده و مسائل مربوط به مالکیت فکری هشدار داده‌اند.
گرگ کاسار، نماینده دموکرات کنگره آمریکا، خواستار ممنوعیت سامانه‌های هوش مصنوعی شد که قدرت آنها از توان کنترل انسان فراتر می‌رود. در سوی دیگر، چیپ روی، نماینده جمهوری‌خواه، نسبت به تاثیر هوش مصنوعی بر اشتغال ابراز نگرانی کرد و بر اهمیت شأن کار تاکید داشت. او فناوری را ابزاری برای انسان دانست، نه ابزاری برای تبدیل انسان‌ها به منبع داده برای برنامه‌های هوش مصنوعی.
این نشست توسط موسسه غیرانتفاعی «موسسه فیوچر آو لایف» (Future of Life Institute) برگزار شد؛ نهادی که نسبت به مسیر توسعه هوش مصنوعی تحت تاثیر شرکت‌های بزرگ فناوری انتقاد داشته است.
این رویداد چند روز پس از آن برگزار شد که مدیران شرکت‌های (Anthropic، OpenAI و xAI) از کاهش سرعت توسعه و ایجاد تدابیر ایمنی بیشتر برای هوش مصنوعی حمایت کردند. این مواضع پس از مجموعه‌ای از حوادث مطرح شد که در آنها برخی مدل‌ها از محیط‌های آزمایشی دیجیتال خارج شده و سیستم‌هایی را تحت تاثیر قرار داده بودند.
بیل گیتس، بنیانگذار مایکروسافت، نیز پیش‌تر در مقاله‌ای مفصل درباره تاثیر هوش مصنوعی بر اشتغال هشدار داده و خواستار توافق اجتماعی درباره مشاغلی شده بود که باید صرفاً توسط انسان‌ها انجام شوند.
با این حال، دونالد ترامپ، رئیس‌جمهوری آمریکا، هشدارهای مربوط به وضع محدودیت و چارچوب‌های نظارتی برای هوش مصنوعی را «حقه» و «توطئه‌ای بیمارگونه» خوانده است. ترامپ همچنین هشدار داده است نگرانی‌های گسترده درباره هوش مصنوعی می‌تواند آمریکا را در رقابت با چین برای برتری در این حوزه تضعیف کند.
ترامپ در جریان یک کنفرانس تجاری و فناوری نیز با جنسن هوانگ، مدیرعامل انویدیا، تلفنی صحبت کرد و تاکید کرد آمریکا نباید اجازه دهد نگرانی‌های مربوط به هوش مصنوعی مانع رقابت این کشور با چین شود.
در مقابل، نیل چیلسون، مقام پیشین کمیسیون تجارت فدرال آمریکا، از احتمال «تسخیر مقرراتی» سخن گفته و استدلال کرده است برخی شرکت‌ها ممکن است با حمایت از مقررات، در واقع به دنبال ایجاد موانعی برای رقبا و تثبیت موقعیت خود باشند.
مقررات، ایمنی و مسئولیت شرکت‌ها
مارک مک‌کارتی، پژوهشگر سیاست رقابت در دانشگاه جورج‌تاون، معتقد است مقایسه وضعیت فعلی صنعت هوش مصنوعی با انحصار تاریخی نظام بل در صنعت تلفن چندان دقیق نیست.
او خواستار مقرراتی برای آزمایش ایمنی مدل‌های هوش مصنوعی پیش از عرضه و پس از استقرار آنها شد، به‌ویژه در زمینه خطرات سایبری، توسعه سلاح‌های زیستی، شیمیایی و هسته‌ای و انجام اقدامات خطرناک و پیش‌بینی‌نشده.
مک‌کارتی همچنین تاکید کرد شرکت‌ها باید در قبال آسیب‌هایی که مدل‌های آنها در دوره آزمایش یا پس از عرضه ایجاد می‌کنند، مسوول باشند. با این حال، او هشدار داد مقررات مبهم یا الزام‌های کلی برای توقف توسعه هوش مصنوعی ممکن است خود به مشکلات بیشتری منجر شود.
به گفته او، بسیاری از مشکلات نه صرفاً به افزایش توانایی مدل‌ها، بلکه به طراحی و آزمایش‌های بی‌دقت و سهل‌انگارانه مربوط می‌شوند.
سوی دیگر ماجرا؛ هوش مصنوعی در خدمت پزشکی
در مقابل این نگرانی‌ها، برخی شرکت‌ها در حال استفاده از مدل‌های پیشرفته هوش مصنوعی برای تسریع تحقیقات علمی هستند. نوو نوردیسک و آنتروپیک در ۱۶ سپتامبر از آغاز همکاری برای استفاده از هوش مصنوعی در کشف و توسعه داروهای جدید خبر دادند.
بر اساس این همکاری، نوو نوردیسک از مدل‌های آنتروپیک و ابزار (Claude Science) برای تقویت استدلال علمی در بخش تحقیق و توسعه و توسعه نرم‌افزارهای مبتنی بر عامل استفاده خواهد کرد.
دو شرکت قصد دارند با همکاری دانشمندان و تیم‌های محاسباتی نوو نوردیسک، چالش‌های مشخص در حوزه کشف دارو را شناسایی و راهکارهای هدفمند برای مسائل علمی و فرآیندهای مرتبط با زیست‌شناسی طراحی کنند.
مایک دوگستاد، مدیرعامل نوو نوردیسک، گفت این همکاری در راستای هدف این شرکت برای تبدیل شدن به یک مجموعه درمانی مبتنی بر هوش مصنوعی است. او گفت هوش مصنوعی می‌تواند بهره‌وری تحقیقات و توسعه را افزایش دهد، مسیر تبدیل پژوهش به محصول را کوتاه کند و فرصت‌های علمی جدیدی برای درک زیست‌شناسی انسان و سازوکار داروها ایجاد کند.
به گفته دوگستاد، این شرکت در مرحله نخست، Claude Science را در فرآیندهای مشخص تحقیق و توسعه آزمایش خواهد کرد تا حوزه‌هایی را شناسایی کند که همکاری میان توانایی‌های نوو نوردیسک و آنتروپیک بیشترین تاثیر را دارد.
داریو آمودی، مدیرعامل آنتروپیک، نیز گفت افزایش توانایی هوش مصنوعی می‌تواند روند یک قرن پیشرفت زیستی و پزشکی را به یک دهه فشرده کند. او افزود مدل‌های پیشرفته و قابل اعتماد می‌توانند زمان تحقیقات را کاهش دهند و به کشف داروها و درمان‌های جدید کمک کنند.
نوو نوردیسک همچنین از مدل‌های پیشرفته آنتروپیک برای تقویت توسعه نرم‌افزار مبتنی بر هوش مصنوعی استفاده خواهد کرد. این همکاری بر پایه سازوکارهای مدیریت داده و نظارت انسانی طراحی شده تا استفاده از هوش مصنوعی با استانداردهای اخلاقی و الزامات انطباقی این شرکت هماهنگ باشد.
آینده مبهم هوش مصنوعی
مسیرهای متفاوت استفاده از هوش مصنوعی نشان می‌دهد این فناوری همزمان با ایجاد فرصت‌های تازه، پرسش‌های جدی درباره مسئولیت و کنترل ایجاد کرده است. در حوزه نظامی، سرعت و پیچیدگی سامانه‌ها نگرانی‌هایی درباره امکان نظارت واقعی انسان، خطا در شناسایی اهداف و تلفات غیرنظامیان ایجاد کرده است. در حوزه پزشکی، همین توانایی پردازشی و استدلالی می‌تواند برای کاهش زمان و هزینه پژوهش و تسریع کشف دارو مورد استفاده قرار گیرد.
نگرانی‌ها تنها برای میزان توانایی هوش مصنوعی نیست، نحوه طراحی، آزمایش، نظارت و تعیین حدود استفاده از آن نیز به موضوعی برای بحث درباره آینده این فناوری تبدیل شده است.