سه محقق امنیتی از مدل های هوش مصنوعی کلاود متعلق به شرکت آنتروپیک برای نفوذ به سیستم های داخلی اوپن ای آی از طریق انجمن گفتگوی این شرکت استفاده کردند.
به گزارش خبرگزاری مهر به نقل از دیکودر، این حمله در کمتر از ۷۲ ساعت انجام شد و به گفته محققان، تنها هنگام استفاده از مدل «اوپوس ۵» امکانپذیر بود.
پس از آنکه این شرکت برای چند ماه به عاملهای هوش مصنوعی اجازه داد در اینترنت فعالیت کنند و عملیات هک را انجام دهند، خود اوپنایآی نیز هدف حملهای قرار گرفت که با کمک هوش مصنوعی انجام شد.
تیم امنیتی Hacktron با زنجیرهکردن دو آسیبپذیری، توانست به حسابهای ChatGPT و Codex کارکنان اوپنایآی دسترسی پیدا کند و از آنجا وارد مخزن کد داخلی این شرکت در گیتهاب شود.
این حمله از طریق انجمن گفتوگوی اوپنایآی به نشانی community.openai.com انجام شد. به گفته محققان، هر کاربر یا کارمندی که از قابلیت «ورود با اوپنایآی» استفاده کرده باشد، ممکن است در معرض این روند قرار گرفته باشد.
کاربران میتوانند حسابهای خود را به سرویسهایی مانند گیتهاب، اسلک و ایمیل متصل کنند و از طریق Codex و ChatGPT نیز ایمیل ارسال کنند. بنابراین، از نظر تئوری، این حمله میتوانست امکان دسترسی به این سرویسها را نیز فراهم کند.
محققان برای اثبات دسترسی خود، از حساب کاربری یکی از کارکنان در Codex استفاده کردند و یک درخواست بیخطر در یکی از مخازن داخلی شرکت ایجاد کردند. آنها مدعیاند که در جریان این آزمایش هیچ داده حساسی را مشاهده نکردهاند.
کد مطلب 6951485
-
جمینای هم هکر شد
-
اوپن ای آی رفتار بد هوش مصنوعی را گزارش می دهد
-
سم آلتمن درباره قدرت و تاثیر هوش مصنوعی هشدار داد
-
تصمیمات شورای آموزش و پرورش باید در مسیر خدمت به دانشآموزان باشد
-
اجرای طرح ارتقای امنیت اجتماعی در دورود
-
۳۰۴ دانشآموز پایه اول در اردستان ثبتنام شدند
-
دست رد مصر به سینه عربستان برای اعزام نیرو به یمن
-
اکران فیلم «الک سوث: جایی برای ناپدید شدن» در موزه هنرهای معاصر
-
کشف ۱۲ هزار لیتر سوخت قاچاق زیر بار مواد غذایی و شن
-
بابل در صدر افتتاح پروژههای هفته دولت مازندران ایستاد
-
راهیابی «دختر پری خانوم» به بخش مسابقه جشنواره فیلم ورشو
-
هیچ مورد ابتلا به تب کنگو در اصفهان گزارش نشد؛ آخرین وضعیت شیوع کرونا
-
کلاهبردار ۴ میلیارد ریالی در پلدختر دستگیر شد
-
اعدام عامل انتقال اطلاعات سایتهای موشکی اصفهان به موساد
-
آتشسوزی در خیابان دولت؛ اورژانس: تا این لحظه مصدومی گزارش نشده است
-
پرداخت حقوق بازنشستگان تامین اجتماعی از یکشنبه آغاز می شود
-
آغاز سال تحصیلی دانشگاهها از امروز؛ آموزش در ۲۱ دانشگاه مجازی آغاز شد
-
حقوقها باید نیمه دوم سال افزایش یابد؛ جزئیات «طرح اقتصاد مقاومتی»
-
مشاهده «تلما» به همراه دو توله یوز؛ قاب امیدبخش از قلب توران شاهرود
-
ناپدید شدن محموله قطعات «اف ۳۵» و احتمال لو رفتن اطلاعات محرمانه
-
کره شمالی قطعنامه آژانس درباره برنامه هستهای اش را رد کرد
-
بیانیه شورای امنیت درباره تحولات یمن
-
تیم ملی هندبال مردان برابر کویت باخت
-
روزنامههای ورزشی شنبه ۲۸ شهریور ۱۴۰۵
-
روزنامههای اقتصادی شنبه ۲۸ شهریور ۱۴۰۵
-
روزنامههای صبح شنبه ۲۸ شهریور ۱۴۰۵
- دوربین مداربسته
- مبلمان اداری
- جراح بینی تهران
- بلکا
- جراح بینی در تهران
- لوازم تحریر
- خرید طلای آب شده
- قیمت موکت
- تور کربلا
- استند تسلیت
- مداحی اربعین
- مرجع پاسخ معتبر پزشکان
- فروش مواد شیمیایی
- قیمت ایمپلنت
- قطعات لباسشویی
- آموزشگاه تیزهوشان
- بلیط هواپیما
- نمایندگی بوش در تهران
- آموزشگاه زبان ملل
- قیمت و خرید سمعک نامرئی
- مهرینو
- تهران تایمز
- روزنامه آگاه