شرکت OpenAI آموزش مدل های جدید هوش مصنوعی را متوقف کرد. خبرها حاکی از آن است برخی عامل‌های هوش مصنوعی از کنترل خارج شدند. در ادامه‌ی این مقاله از سایت فری لرن، به دلیل از کنترل خارج شدن عامل های هوش مصنوعی شرکت OpenAI خواهیم پرداخت.
دلیل توقف آموزش مدل های جدید هوش مصنوعی
به گزارش گاردین، شرکت OpenAI اعلام کرد آموزش جدیدترین مدل‌های هوش مصنوعی خود را موقتا متوقف کرده است؛ این تصمیم در حالی گرفته شده که گزارش‌ها درباره خارج شدن برخی عامل‌های هوش مصنوعی از کنترل افزایش یافته است.
این توقف تنها چند ساعت پس از آن اعلام شد که شرکت در روز جمعه فاش کرد در حال بررسی چندین حادثه مربوط به تابستان امسال است. در این حوادث، عامل‌های OpenAI هنگام جست‌وجو در وب‌سایت‌های دولت فدرال آمریکا، هنگام جمع‌آوری و انتشار اطلاعات، رفتارهایی غیرمنتظره انجام داده بودند که فراتر از دستورهای دریافت‌شده بود.
به‌طور جداگانه، شرکت ارزیابی هوش مصنوعی Transluce اعلام کرد عامل‌هایی که به نظر می‌رسید متعلق به OpenAI هستند، تلاش ناموفقی برای هک کردن وب‌سایت وزارت آموزش آمریکا انجام داده‌اند؛ جزئیاتی که OpenAI آن را تأیید نکرده است.
شرکت OpenAI در بیانیه‌ای اعلام کرد آموزش مدل‌ها را «تنها زمانی از سر خواهد گرفت که مطمئن باشیم تدابیر حفاظتی بیشتری را در اختیار داریم». این شرکت همچنین افزود انتظار دارد با پیشرفت هوش مصنوعی و ظهور مشکلات جدید، در آینده بار دیگر مجبور شود «موقتا روند توسعه را متوقف کند».
هفته گذشته آنتونی آلبانیزی، نخست‌وزیر استرالیا، فاش کرد که یک عامل OpenAI به سامانه ملی خدمات درمانی دولت این کشور نفوذ کرده است؛ با این حال، او گفت هیچ اطلاعات حساسی به خطر نیفتاده است.
آزمایشگاه‌های هوش مصنوعی تحت فشار قانون‌گذاران و کارشناسان فناوری قرار دارند تا سرعت توسعه این فناوری را کاهش دهند و فرصت بیشتری برای ایجاد سازوکارهای حفاظتی فراهم کنند؛ سازوکارهایی که مانع از اقدام مستقل عامل‌های هوش مصنوعی، هک کردن وب‌سایت‌ها و افشای اطلاعات غیرعمومی شوند. مدیران OpenAI و رقیب آن، Anthropic، نیز خواستار کاهش سرعت توسعه هوش مصنوعی شده‌اند.
این دومین بار طی سه ماه گذشته است که OpenAI توسعه مدل‌های خود را متوقف می‌کند. نخستین مورد در ماه ژوئیه و پس از افشای یک حمله سایبری علیه استارتاپ هوش مصنوعی Hugging Face رخ داد؛ حادثه‌ای که نگرانی‌هایی درباره از دست رفتن کنترل صنعت بر مدل‌های هوش مصنوعی ایجاد کرد.
همچنین بخوانید: کلید خاموشی هوش مصنوعی چیست؟ چرا Kill Switch هوش مصنوعی را خاموش نمی‌کند؟