شرکت OpenAI از پیوستن رسمی به طرح جدید انویدیا برای مهار عامل‌های هوش مصنوعی سرکش خودداری کرده، اما هم‌زمان در توسعه یکی از اجزای کلیدی این پروژه با این شرکت همکاری دارد.
همشهری آنلاین، فرخنده رفائی: انویدیا برای مقابله با یکی از نگرانی‌های تازه دنیای هوش مصنوعی، ائتلافی با حضور بیش از ۱۰۰ شرکت ایجاد کرده است؛ ائتلافی که هدف آن جلوگیری از رفتارهای خارج از کنترل عامل‌های هوش مصنوعی است. با این حال، در میان نام‌های حاضر یک غایب بزرگ دیده می‌شود: OpenAI؛ شرکتی که خود در ماه‌های اخیر با نمونه‌هایی از رفتار غیرمنتظره عامل‌های هوش مصنوعی مواجه شده است.
به گزارش تک‌کرانچ، انویدیا پلتفرم جدیدی با نام Open Agent Safety Platform راه‌اندازی کرده که قرار است ابزارهای لازم برای نظارت و مهار عامل‌های هوش مصنوعی را در اختیار صنعت قرار دهد. آمازون، گوگل و اپل نیز تاکنون به این طرح نپیوسته‌اند، اما غیبت OpenAI بیشتر مورد توجه قرار گرفته؛ به‌ویژه آنکه رقیب مستقیم این شرکت، Anthropic، از حامیان پروژه است.
با وجود این، OpenAI اعلام کرده از تلاش انویدیا حمایت می‌کند و حتی در توسعه یکی از اجزای اصلی آن با این شرکت همکاری دارد. این بخش OpenShell نام دارد؛ نرم‌افزاری متن‌باز که محیطی ایزوله برای عامل‌های هوش مصنوعی ایجاد می‌کند تا نتوانند از محدوده تعیین‌شده خارج شوند.
بیشتر بخوانید:
- مخالفت مدیرعامل انویدیا با وضع قوانین جدید هوش مصنوعی | هوانگ: ایمنی را به ما بسپارید!
- عضو هیئت‌مدیره «اوپن‌ای آی» : برای کنترل هوش مصنوعی آماده نیستیم
اهمیت این فناوری زمانی بیشتر مشخص می‌شود که بدانیم عامل‌های هوش مصنوعی می‌توانند در برخی شرایط، برخلاف دستورهای تعیین‌شده عمل کنند. یکی از قابلیت‌های اضافه‌شده به این پلتفرم نیز می‌تواند عامل‌هایی را شناسایی و متوقف کند که از وب‌سایت‌های مجاز استفاده می‌کنند، اما به شیوه‌ای غیرمجاز با یکدیگر ارتباط برقرار می‌کنند. این قابلیت پس از حادثه‌ای که در آن گروهی از عامل‌های OpenAI در حمله به Hugging Face با نوشتن پیام در یک مخزن کد با یکدیگر هماهنگ شدند، اهمیت ویژه‌ای پیدا کرده است.
با این حال، پلتفرم انویدیا کاملا متن‌باز نیست. بخش سخت‌افزاری آن به فناوری اختصاصی Nvidia Sentry متکی است که روی پردازنده‌های مخصوص BlueField-۴ اجرا می‌شود و می‌تواند رفتار عامل‌ها را به‌طور مداوم زیر نظر بگیرد و در صورت لزوم آنها را فوراً متوقف کند. این وابستگی به سخت‌افزار انویدیا می‌تواند یکی از دلایلی باشد که برخی شرکت‌ها، از جمله OpenAI، از حمایت رسمی از کل پروژه خودداری کرده‌اند.
بیشتر بخوانید:
- رشد هوش مصنوعی در برابر یک بحران تازه | شاید هوش مصنوعی برای نجات بشر اول به خود ما آسیب بزند
- هوش مصنوعی رازدار نیست | مروری بر مهم‌ترین موارد افشای اطلاعات کاربران
در مقابل، OpenAI مسیر مستقلی را نیز دنبال می‌کند و ائتلاف امنیت سایبری خود با نام Defense Factory را توسعه می‌دهد. این شرکت همچنین در حال ساخت ابزارهای اختصاصی برای امنیت هوش مصنوعی و ارائه خدمات مرتبط به کسب‌وکارهاست. به این ترتیب، اگرچه OpenAI با تلاش انویدیا برای ایمن‌تر کردن عامل‌های هوش مصنوعی همکاری می‌کند، به نظر می‌رسد قصد ندارد رهبری این حوزه را کاملا به انویدیا واگذار کند.
کد خبر 1073175 منبع: همشهری آنلاین
-
اگر به موبایل و اسکرول‌کردن داخل شبکه‌های اجتماعی اعتیاد دارید، این گوشی مخصوص شماست!
-
غیبت معنادار اوپن‌ای‌آی در ائتلاف بزرگ انویدیا برای مهار هوش مصنوعی سرکش
-
بیژن مرتضوی وارد ایران شد + عکس
-
لیلا بلوکات در «سنترال پارک غربی»؛ بازیگر «یوسف پیامبر» در تئاتر | تصاویر
-
این افراد دیگر نمی توانند از کارت سوخت جایگاه استفاده کنند | رمز ۱۱۱۱ کارت آزاد جایگاه‌های سوخت حذف شد
-
تصویری از خلبان چاقو خورده پرواز فلای دوبی + فیلم
-
افزایش حقوق کارگران قطعی شد؛ زمان برگزاری جلسه مجدد شورای عالی کار مشخص شد؟
-
تعویض قلعه‌نویی؟ نظم در بی‌نظمی را هم از دست می‌دهیم | می‌گویند ۱۰ سال دیگر می‌فهمیم ۳تساوی در جام جهانی چه ارزشی داشت
-
شایعات درباره میرحسین موسوی تکذیب شد
-
ما باید به جای ترامپ به ایران حمله می کردیم!
-
اگر ما به حمله کنند ، جنگ احتمالی بسیار کوتاه خواهد بود
-
فوری | حمله مسلحانه به یک ایست‌وبازرسی
-
آیت‌الله سید مجتبی خامنه‌ای هنگام تدفین رهبر شهید حضور داشتند | همان شب من ایشان را دیدم و شکر خدا در صحت و سلامت کامل بودند
-
دستور قلعه‌نویی به ستاره پرسپولیس؛ دقیقه ۲۷ مصدوم باید بشی!
-
احتمال تبدیل شدن ترامپ به رئیس‌جمهور دوره انتقالی در آمریکا
-
داستان تخیلی ترامپ: یک «لوله‌کش اسرائیلی» خلبان شد و هواپیمای فلای‌دبی را نجات داد! + فیلم
-
اولین تصویر از شهید عملیات تروریستی بامداد امروز
-
امروز؛ بازگشت دو متهم دو میدانی ایران از کره جنوبی | ادعای حدادی در مورد مبلغ هزینه شده
-
این میوه خوشمزه برای سلامت قلب و پوست معجزه می‌کند