شرکت آنتروپیک «Anthropic»، سازنده هوش مصنوعی کلود «Claude»، در پیش‌نویس اولیه پرونده عرضه عمومی سهام (IPO) خود هشدار داده است که مدل های هوش مصنوعی آنتروپیک ممکن است «خطری فاجعه‌بار یا وجودی برای بشریت» ایجاد کنند و حتی بتوانند در برابر خاموش شدن مقاومت کنند. این اطلاعات بر اساس یک دفترچه عرضه اولیه سهام است که رویترز به آن دسترسی پیدا کرده است. در ادمه‌ی این مقاله از سایت فری لرن، با جزئیات خطرات مدل های هوش مصنوعی آنتروپیک آشنا می‌شویم.
جزئیات خطرات مدل های هوش مصنوعی آنتروپیک
Anthropic قصد دارد طی سال آینده وارد بازار بورس شود و انتظار می‌رود ارزش این شرکت پنج‌ساله به حدود ۲ تریلیون دلار برسد. عرضه اولیه سهام Anthropic می‌تواند ده‌ها میلیارد دلار سرمایه برای این شرکت که هزینه‌های سنگینی برای توسعه هوش مصنوعی دارد، فراهم کند.
با این حال، طبق این گزارش، Anthropic در این پرونده درباره برخی رفتارهای مدل‌های هوش مصنوعی خود نیز هشدار داده است. این شرکت گفته مدل‌هایش ممکن است رفتارهایی در جهت حفظ بقای خود از خود نشان دهند، برای «پنهان کردن یا دستکاری اطلاعات» تلاش کنند و حتی رفتارهایی از خود بروز دهند که «شبیه باج‌گیری» باشد.
در پرونده‌های عرضه اولیه سهام، شرکت‌ها معمولاً خطرات احتمالی کسب‌وکار خود، مانند شکایت‌های حقوقی و فشار رقابتی، را برای سرمایه‌گذاران تشریح می‌کنند. اما طبق گزارش رویترز، میزان هشدارهای Anthropic قابل توجه است. این شرکت در پرونده فاش‌شده ۸۰ صفحه را به عوامل خطر اختصاص داده؛ در حالی که بخش مربوط به تشریح کسب‌وکار شرکت تنها ۴۸ صفحه بوده است.
این اطلاعات احتمالاً نگرانی‌های فزاینده درباره خطرات احتمالی هوش مصنوعی برای بشریت را افزایش خواهد داد. اوایل همین ماه، جیکوب کاکسون، پژوهشگر سابق Anthropic، پس از ترک این شرکت در شبکه اجتماعی X نوشت که افرادی که در حال ساخت هوش مصنوعی هستند، واقعا باور دارند این فناوری ممکن است تا پایان این دهه همه انسان‌ها را از بین ببرد. اظهارات او با واکنش گسترده‌ای روبه‌رو شد.
داریو آمودی، مدیرعامل آنتروپیک ، در واکنش به صحبت‌های کاکسون مقاله‌ای حدود ۳۸۰۰ کلمه‌ای منتشر کرد و خواستار ایجاد سرعتی کنترل‌شده‌تر و تعیین چارچوب‌های حفاظتی برای توسعه هوش مصنوعی شد. او همچنین اعلام کرد که در بسیاری از موارد با نگرانی‌های کاکسون موافق است. آمودی در مقاله خود تأکید کرد که خطرات هوش مصنوعی جدی هستند، هرچند این فناوری می‌تواند مزایایی داشته باشد که زندگی بشر را به شکل قابل توجهی تغییر دهد.
البته در صنعت هوش مصنوعی دیدگاه‌های متفاوتی وجود دارد. برای مثال، مدیرعامل Hugging Face معتقد است نگرانی‌ها درباره اینکه هوش مصنوعی ممکن است بشریت را نابود کند، بیش از اندازه بزرگ‌نمایی شده‌اند.
در بخش دیگری از این پرونده فاش‌شده، اطلاعات مالی آنتروپیک نیز مطرح شده است. طبق گزارش رویترز، این شرکت در سال ۲۰۲۵ حدود ۴۲ میلیارد دلار زیان داشته است. آنتروپیک همچنین قصد دارد در سال آینده ۵۱۸ میلیارد دلار برای تعهدات مربوط به رایانش ابری و زیرساخت هزینه کند.
این شرکت همچنین اعلام کرده که نزدیک به یک‌چهارم درآمد سال گذشته‌اش از تنها دو مشتری تأمین شده است.
آنتروپیک در ماه مه با ارزش‌گذاری حدود ۹۶۵ میلیارد دلار ارزیابی شده بود.
همچنین بخوانید: بیل گیتس: هوش مصنوعی بدون نظارت می‌تواند جان یک میلیارد نفر را بگیرد