حالت قفل امنیتی به چت‌جی‌پی‌تی اضافه می‌شود | تمرکز اپن‌ای‌آی بر مهار حملات پیشرفته

اپن‌ای‌آی از فعال‌سازی یک حالت امنیتی جدید در چت‌جی‌پی‌تی خبر داد که با هدف کاهش خطر حملات تزریق پرامپت طراحی شده است.

کد خبر: ۳۹۳۲۴۵

تاریخ : ۲۸ بهمن ۱۴۰۴ - ۱۰:۰۷

نوشته

به گزارش شهرآرانیوز، شرکت OpenAI از افزودن یک قابلیت امنیتی تازه به چت‌جی‌پی‌تی با عنوان «Lockdown Mode» خبر داد؛ حالتی که با وجود غیرضروری بودن برای کاربران عادی، برای سناریوهای حساس و سازمانی توسعه یافته است.

بر اساس اعلام این شرکت، Lockdown Mode با محدودسازی شدید تعامل مدل با سیستم‌ها و منابع خارجی، احتمال سوءاستفاده از طریق حملات موسوم به «تزریق پرامپت» را کاهش می‌دهد. در این نوع حملات، مهاجم تلاش می‌کند با دستکاری ورودی‌ها، مدل را وادار به افشای اطلاعات حساس از محیط‌های متصل کند.

اپن‌ای‌آی توضیح داده است که این حالت امنیتی، ارتباطات خارجی را به حداقل رسانده و مسیرهای بالقوه خروج غیرمجاز داده را مسدود می‌کند. با این حال، فعال‌سازی آن ممکن است برخی قابلیت‌های تعاملی پیشرفته یا یکپارچگی با ابزارهای بیرونی را محدود سازد؛ موضوعی که باعث شده این ویژگی بیشتر برای محیط‌های پرریسک یا سازمان‌هایی با الزامات امنیتی بالا توصیه شود.

افزوده شدن Lockdown Mode را می‌توان نشانه‌ای از افزایش تمرکز شرکت‌های فعال در حوزه هوش مصنوعی مولد بر مقوله امنیت و مدیریت ریسک دانست؛ حوزه‌ای که با گسترش کاربرد این فناوری‌ها، به یکی از دغدغه‌های اصلی توسعه‌دهندگان و سازمان‌ها تبدیل شده است.

منبع: فارس

{$sepehr_key_189882}