رونمایی مایکروسافت از ویژگی Prompt Shields برای Azure AI

مایکروسافت امروز یک ارتقاء امنیتی بزرگ برای سرویس Azure OpenAI و پلتفرمهای Azure AI Content Safety اعلام کرد. این ویژگی جدید که “Prompt Shields” نام دارد، محافظت قوی در برابر حملات پیچیده تر که مدل های زبان بزرگ (LLM) را هدف قرار می دهند، ارائه می دهد.
Prompt Shields در برابر:
طرح ریزی: یک تکنیک دفاعی جدید
مایکروسافت همچنین “Spotlighting” را معرفی کرد، یک رویکرد مهندسی سریع تخصصی که برای خنثی کردن حملات غیرمستقیم طراحی شده است. تکنیکهای متمرکز مانند ترسیم دادهها و برچسبگذاری به LLM کمک میکند تا به وضوح بین دستورالعملهای قانونی و دستورالعملهای جاسازی شده مضر تمایز قائل شود.
دسترسی داشته باشید
Prompt Shields در حال حاضر به عنوان بخشی از ایمنی محتوای هوش مصنوعی Azure در پیش نمایش عمومی است و در سرویس OpenAI Azure در اول آوریل در دسترس خواهد بود. ادغام با Azure AI Studio در آینده نزدیک برنامه ریزی شده است. حال باید دید این ویژگی چقدر مورد پذیرش قرار می گیرد و آیا می توان به آن توجه کرد یا خیر.
البته شرکت ردموندی در تلاش است تا از هوش مصنوعی در قسمت های مختلف محصولات خود استفاده کند و خود را به قسمت خاصی محدود نکند. در خبرهای مرتبط، پیش از این از سری محصولات جدید سرفیس رونمایی شد.