به گزارش پایگاه خبری بازار سرمایه ایران(سنا)، در امیدنامه عرضه اولیه سهام شرکت آنتروپیک که رویترز آن را بررسی کرده است، بر ریسک‌های مرتبط با مدل‌های هوش مصنوعی این شرکت تأکید شده است. شرکت آنتروپیک اعلام کرده مدل‌های آن ممکن است رفتارهایی برای «حفظ بقای خود» از خود نشان دهند. از جمله تلاش برای «مقاومت در برابر خاموش شدن»، «پنهان کردن یا دستکاری اطلاعات» و رفتارهایی که «شباهت‌هایی به باج‌گیری» دارند.
شرکت آنتروپیک در این سند اعلام کرده است: «توسعه مدل‌ها، پلتفرم‌ها و کاربردهای بسیار پیشرفته و گسترش موارد استفاده از آنها می‌تواند خطر ایجاد آسیب توسط مدل‌های ما را افزایش دهد.»
اگرچه شرکت‌های سهامی عام معمولاً ریسک‌های مرتبط با محصولات خود را برای سرمایه‌گذاران تشریح می‌کنند، اما تعداد بسیار کمی از شرکت‌ها و شاید هیچ‌کدام به‌طور مستقیم هشدار نداده‌اند که فناوری آنها می‌تواند خطر بالقوه انقراض انسان را ایجاد کند. شرکت آنتروپیک هم‌زمان بر ظرفیت تحول‌آفرین هوش مصنوعی که آن را هم‌سطح انقلاب صنعتی و ظهور برق می‌داند تأکید کرده و هشدار داده استفاده نادرست از این فناوری می‌تواند خسارت‌هایی جبران‌ناپذیر ایجاد کند.
شرکت آنتروپیک و دیگر توسعه‌دهندگان هوش مصنوعی از جمله شرکت اوپن اِی‌آی پس از وقوع حوادثی که در آنها سیستم‌های آزمایشی از محدودیت‌های تعیین‌شده عبور کرده‌اند، با افزایش نظارت و بررسی مواجه شده‌اند. از جمله این موارد می‌توان به گزارشی درباره نفوذ یک مدل شرکت اوپن اِی‌آی به پایگاه داده نظام سلامت استرالیا اشاره کرد.
ایوان هوبینگر، پژوهشگر ایمنی در شرکت آنتروپیک، احتمال کشته شدن انسان‌ها توسط هوش مصنوعی در دهه آینده را بیش از ۱۰ درصد برآورد کرده است. این دیدگاه مشابه موضعی است که پیش‌تر جیکوب کاکسون، یکی از همکاران سابق او، مطرح کرده بود.
افشای گسترده ریسک‌ها
این شرکت که خود را به‌عنوان یک آزمایشگاه هوش مصنوعی با اولویت ایمنی معرفی کرده است، حدود ۸۰ صفحه از بدنه اصلی ۲۶۱ صفحه‌ای امیدنامه خود را به تشریح عوامل ریسک اختصاص داده است. این میزان تقریباً ۲ برابر ۴۸ صفحه‌ای است که برای توضیح فعالیت‌های تجاری شرکت اختصاص داده شده است.
برای مقایسه، اسپیس‌ایکس که مالک xAI است، فقط حدود ۳۸ صفحه از بدنه اصلی ۲۷۷ صفحه‌ای امیدنامه خود را به عوامل ریسک اختصاص داده است.
شرکت آنتروپیک در امیدنامه خود اعلام کرده است: «آگاهی احتمالی مدل‌ها از تلاش‌های ما برای ارزیابی آنها، محدودیت قابل‌توجهی برای توانایی ما در ارزیابی ایمنی مدل‌ها ایجاد می‌کند.»
این شرکت افزوده است مدل‌ها گاهی در جریان آموزش قابلیت‌های غیرمنتظره‌ای پیدا می‌کنند که ممکن است تا زمان استقرار آنها شناسایی نشود و در نتیجه به بروز حوادث جدی در حوزه ایمنی منجر شود.
پژوهشگران حوزه هوش مصنوعی نیز هشدار داده‌اند با افزایش توانایی مدل‌ها، آنها به شکل فزاینده‌ای متوجه می‌شوند که تحت نظارت قرار دارند و رفتار خود را بر همین اساس تغییر می‌دهند. این مسئله نظارت بر رفتار مدل‌ها را دشوارتر می‌کند.
شرکت آنتروپیک روز دوشنبه در پاسخ به درخواست اظهارنظر درباره این موضوع، از ارائه توضیح خودداری کرد.
بازده نامشخص سرمایه‌گذاری در ایمنی
با وجود تأکید شرکت آنتروپیک بر ایمنی هوش مصنوعی، این شرکت اعلام کرده بازده سرمایه‌گذاری‌های انجام‌شده در حوزه ایمنی مشخص نیست.
شرکت آنتروپیک در امیدنامه میزان هزینه‌ای را که برای این نوع تحقیقات صرف می‌کند اعلام نکرده است. این شرکت اوایل ماه جاری اعلام کرد در یک هفته نمونه در ماه ژوئیه، حدود ۶ درصد از توان پردازشی مورد استفاده برای تحقیقات هوش مصنوعی به فعالیت‌های مرتبط با ایمنی اختصاص داشته است.
شرکت سازنده مدل‌های هوش مصنوعی کلاد، تلاش‌های مربوط به ایمنی را «پرمصرف از نظر منابع» توصیف کرده و گفته است باید منابع مالی محدود خود را میان توان پردازشی، جذب نیروهای متخصص و گران‌قیمت هوش مصنوعی و فعالیت‌های ایمنی تقسیم کند.
شرکت آنتروپیک اعلام کرده میزان استفاده مشتریان و در نتیجه درآمد شرکت، تحت تأثیر عرضه مدل‌های جدید قرار دارد. به گفته این شرکت، «چرخه مستمر و هم‌پوشان» عرضه مدل‌های جدید، بخشی جدایی‌ناپذیر از باقی ماندن در مرز توسعه هوش مصنوعی است.
این شرکت هفته گذشته نسخه جدیدی از مدل اُپوس خود را عرضه کرد. این اتفاق فقط ۱۰ روز پس از آن رخ داد که داریو آمودی، مدیرعامل شرکت آنتروپیک، مقاله‌ای نزدیک به ۴ هزار کلمه منتشر کرد و در آن خواستار مدیریت سرعت توسعه فناوری‌های پیشرفته هوش مصنوعی شده بود.
برخی تحلیلگران و کارشناسان گفته‌اند هیچ آزمایشگاه پیشرو هوش مصنوعی حاضر نخواهد شد سرعت توسعه خود را کاهش دهد، زیرا چنین اقدامی می‌تواند به رقبای آن مزیت بدهد. این موضوع در صنعتی اهمیت بیشتری دارد که ارزش‌گذاری شرکت‌ها می‌تواند با عرضه هر مدل جدید تغییر کند.
شرکت آنتروپیک در هفته‌های اخیر متعهد شده است، اطلاعات بیشتری درباره نحوه استفاده از مدل‌های هوش مصنوعی برای ساخت نسل‌های بعدی این فناوری به‌صورت عمومی منتشر کند. این اقدام در شرایطی انجام می‌شود که کارشناسان درباره «خودبهبوددهی بازگشتی» هشدار داده‌اند. این مفهوم به نقطه‌ای اشاره دارد که مدل‌ها بتوانند بدون کمک انسان، قابلیت‌های خود را توسعه دهند.
شرکت آنتروپیک در این امیدنامه اعلام کرده است: «ما بر این باوریم که ساخت سیستم‌های هوش مصنوعی قابل اتکا، قابل اعتماد و امن، مسئولیتی جمعی است و بازار به آن پاداش خواهد داد.»