امنیت در برابر حملات هوش مصنوعی؛ OpenAI حالت Lockdown را معرفی کرد
اوپنایآی انتشار قابلیت جدیدی به نام Lockdown Mode را آغاز کرد؛ تنظیمی امنیتی که برای محافظت بیشتر کاربران در برابر حملات «تزریق دستور» (Prompt Injection) طراحی شده است. در این نوع حملات، مهاجمان با قراردادن دستورهای مخفی در صفحات وب یا منابع مختلف، تلاش میکنند مدلهای هوش مصنوعی را فریب دهند و به اطلاعات حساس دسترسی پیدا کنند.
اوپنایآی لاکداون را لایهای امنیتی برای کاربران و سازمانهایی میداند که با دادههای حساس سروکار دارند. به گفتهی شرکت، این قابلیت برای همهی کاربران ضروری نیست و بیشتر افرادی را هدف قرار میدهد که نگران خطر استخراج اطلاعات از طریق حملات مبتنیبر هوش مصنوعی هستند.
فعالکردن این حالت، دسترسی به برخی قابلیتهای ChatGPT را محدود میکند. کاربران همچنان میتوانند تصویر تولید کنند یا عکسهای خود را بارگذاری کنند؛ اما ChatGPT در این حالت تصاویر را از اینترنت دریافت نمیکند و در پاسخها نمایش نمیدهد. همچنین امکان دانلود فایلها برای تحلیل غیرفعال میشود. بارگذاری دستی اسناد همچنان امکانپذیر خواهد بود.
برخی قابلیتها بهطور کامل از دسترس خارج میشوند. برای مثال، ویژگیهای Deep Research و Agent Mode هنگام فعالبودن حالت لاکداون کار نمیکنند. اوپنایآی تأکید کرده این قابلیت روی حافظهی ChatGPT، اشتراکگذاری چتها یا نحوهی استفاده از دادهها برای آموزش مدلها تأثیری ندارد و بسیاری از این تنظیمات بهصورت جداگانه توسط مدیران سازمانی قابل مدیریت هستند.
اوپنایآی توضیح میدهد که حالت لاکداون مانع نمایش محتوای حاوی حملات تزریق دستور نمیشود؛ بلکه هدف آن جلوگیری از سوءاستفادهی مهاجمان از درخواستهای شبکه و کاهش احتمال دسترسی به اطلاعات حساس کاربران است.
لاکداون برای همهی حسابهای شخصی، از جمله کاربران نسخهی رایگان ChatGPT، در دسترس قرار گرفته است. برای فعالسازیاش باید به بخش Settings > Safety and Security مراجعه و گزینهی Lockdown Mode را روشن کنید. کاربران در صورت نیاز میتوانند این لایهی امنیتی اضافی را بهصورت موقت فقط برای یک چت غیرفعال کنند.
همزمان با انتشار این قابلیت، اوپنایآی ابزار جدیدی برای مدیریت دستگاههای فعال روی یک حساب کاربری را معرفی کرد. این ابزار فهرست دستگاهها و مرورگرهایی را که به حساب کاربر دسترسی داشتهاند نمایش میدهد و امکان خروج از یک حساب یا همهی حسابهای فعال را فراهم میکند.