ساتیا نادلا، مدیرعامل مایکروسافت با اعلام اینکه باید فرض کنیم تمام مدل های هوش مصنوعی «به خطر افتاده‌اند» خواستار تعبیه یک ترمز اضطراری برای هوش مصنوعی شد.
لزوم ایجاد ترمز اضطراری برای هوش مصنوعی
ساتیا نادلا، مدیرعامل مایکروسافت، در مطلبی مفصل در شبکه اجتماعی ایکس، دیدگاه‌های خود را درباره خطرات ناشی از مدل‌های بسیار پیشرفته هوش مصنوعی و راه‌های مقابله با این خطرات تشریح کرد.
نادلا معتقد است دیگر نمی‌توانیم جهانی را بپذیریم که در آن، هوش مصنوعی به‌عنوان «مجموعه‌ای از جعبه‌های سیاه تو‌در‌تو» در نظر گرفته می‌شود؛ جعبه‌هایی که توصیه‌ها و اقداماتشان را صرفاً می‌پذیریم یا رد می‌کنیم، بدون آنکه بدانیم درون آن‌ها چه می‌گذرد.
او خواستار ایجاد سیستمی شفاف‌تر است که در آن بتوان مدل‌های هوش مصنوعی را مهار و نظارت کرد و از عملکرد آن‌ها «شواهدی غیرقابل‌دست‌کاری و قابل‌خواندن برای انسان» به‌جا گذاشت.
بسیاری از پیشنهادهای نادلا با دیدگاه‌هایی هم‌راستا هستند که پیش‌تر از دیگر فعالان این صنعت شنیده‌ایم؛ از جمله افشای به‌موقع حوادث، انجام ممیزی‌های مستقل، استفاده از داده‌های قابل‌راستی‌آزمایی و مهار مدل‌های هوش مصنوعی.
بااین‌حال، او در موضوع آخر، یعنی مهار مدل‌ها، ظاهرا کمی فراتر از برخی دیگر از فعالان این حوزه می‌رود و می‌گوید: باید از همان ابتدا فرض کنیم که یک مدل به خطر افتاده است و آن را تحت مهار قرار دهیم. این کار را مانند یک ترمز اضطراری در نظر بگیرید. یک فرد مجاز باید همیشه بتواند در میانه انجام یک وظیفه، مدل را متوقف کند یا به‌طور کامل از کار بیندازد. مدل‌های پیشرفته‌تر به فناوری‌های مهار پیشرفته‌تری نیاز خواهند داشت؛ فناوری‌هایی که باید درباره آن‌ها به استانداردهای مشترک برسیم.
گفتنی است مدیرعامل مایکروسافت در این پیام خود در شبکه اجتماعی ایکس، به جای عبارت هوش مصنوعی، از واژه جدید ابرهوش استفاده کرده است که نشان می‌دهد بازیگران اصلی این حوزه روی استفاده از نام ابرهوش تاکید دارند.
همچنین بخوانید:
ابرهوش چیست و چه تفاوتی با هوش مصنوعی دارد؟
حمایت ایلان ماسک از نام ابرهوش به جای هوش مصنوعی؛ تغییر نام SpaceXAI به SpaceXSI
