پرامپت امن فقط به انتخاب واژههای مؤدبانه یا نوشتن دستورهای دقیق محدود نمیشود؛ بخش مهمتر، اطلاعاتی است که وارد ابزار هوش مصنوعی میکنید. نام، شماره تماس، تصویر مدرک، متن قرارداد، رمز عبور و جزئیات مربوط به کودک یا مشتری میتوانند بعد از کپیشدن در یک گفتوگو، از کنترل شما خارج شوند.
برای نوشتن یک پرامپت امن، ابتدا دادههای غیرضروری را حذف کنید، سپس هدف، محدودیتها و شکل خروجی را روشن بنویسید. این روش هم حریم خصوصی را بهتر حفظ میکند و هم احتمال پاسخ نامرتبط، افشای ناخواسته اطلاعات یا اعتماد بیش از حد به خروجی را کاهش میدهد.
نحوه نوشتن پرامپت امن برای ابزارهای هوش مصنوعی؛ از کجا شروع کنیم؟
هر پرامپت را پیش از ارسال با این پرسش بررسی کنید: اگر این متن عمومی شود، چه چیزی درباره من، خانوادهام، محل کار یا دیگران فاش میشود؟ اگر پاسخ نگرانکننده است، اطلاعات را حذف، خلاصه یا با جایگزینهای ساختگی عوض کنید.
برای نمونه، بهجای نوشتن «برای دختر ۹ سالهام، سارا رضایی، که در مدرسه فلان منطقه درس میخواند، برنامه مطالعه بنویس»، بنویسید: «برای یک دانشآموز دبستانی، برنامه مطالعه هفتگی ساده و قابل اجرا پیشنهاد بده.» ابزار برای انجام این کار به نام و مدرسه کودک نیاز ندارد.
چه اطلاعاتی نباید در پرامپت وارد شود؟
پرامپت امن باید بر پایه اصل حداقل اطلاعات لازم نوشته شود. هر دادهای که به هدف شما کمک نمیکند، نباید وارد متن یا فایل پیوست شود.
- رمز عبور، کد یکبارمصرف، کلید دسترسی، عبارت بازیابی کیف پول و اطلاعات ورود
- شماره کارت، کد ملی، شماره شناسنامه، اطلاعات بیمه و جزئیات کامل حساب بانکی
- نشانی منزل، شماره تلفن، ایمیل شخصی و موقعیت مکانی دقیق، مگر در صورت ضرورت روشن
- اطلاعات پزشکی، حقوقی یا مالی قابل شناساییِ خودتان یا شخص دیگری
- متن محرمانه قراردادها، پروندههای کاری و اطلاعات مشتریان یا دانشآموزان
- عکس مدارک، اسکرینشات گفتوگوها و فایلهایی که نام، چهره، امضا یا شمارههای حساس دارند
اگر لازم است هوش مصنوعی روی یک متن کار کند، دادهها را با برچسبهایی مانند «شخص الف»، «شرکت ب» یا «تاریخ نمونه» جایگزین کنید. در متنهای طولانی، فقط همان بخشی را بفرستید که برای پاسخ لازم است؛ ارسال کل پرونده معمولاً ارزش بیشتری ایجاد نمیکند.
قالب ساده برای ساختن یک پرامپت امن
یک دستور خوب میتواند کوتاه باشد، اما چهار جزء مشخص داشته باشد: نقش یا وظیفه، زمینه لازم، محدودیت امنیتی و قالب پاسخ. این ساختار به ابزار میگوید چه کاری انجام دهد و همزمان جلوی حدسزدن یا پردازش دادههای اضافی را میگیرد.
- وظیفه را مشخص کنید: مثلاً «این متن را از نظر لحن رسمی و غلطهای نگارشی ویرایش کن.»
- زمینه ضروری را بدهید: «مخاطب، والدین دانشآموزان هستند و متن باید کمتر از ۱۵۰ کلمه باشد.»
- محدودیت امنیتی تعیین کنید: «اطلاعات شناساییکننده را تکرار نکن و اگر داده حساسی دیدی، فقط وجود آن را اعلام کن.»
- خروجی را تعریف کنید: «نسخه اصلاحشده را جدا از سه پیشنهاد کوتاه برای بهبود ارائه بده.»
نمونه نهایی میتواند چنین باشد: «این پیام را برای والدین، رسمی و روان ویرایش کن. نامها، شمارهها و نشانیها را بازتولید نکن. اگر بخشی از متن برای ویرایش ضروری نیست، حذفش کن. ابتدا نسخه نهایی و سپس سه تغییر اصلی را در فهرست کوتاه بنویس.»
چطور دادههای حساس را قبل از ارسال ناشناس کنیم؟
ناشناسسازی فقط حذف نام نیست. گاهی ترکیب چند جزئیات، هویت فرد را آشکار میکند؛ مثلاً سن دقیق، مدرسه، محله و یک رویداد خاص در کنار هم.
برای کاهش این خطر، نامها را با برچسب جایگزین کنید، تاریخ دقیق را به بازه تبدیل کنید و نشانی کامل را به شهر یا منطقه کلی محدود کنید. در صورت نیاز، عددهای واقعی را با نمونههای نزدیک اما غیرواقعی جایگزین کنید و بعد از دریافت پاسخ، اطلاعات اصلی را خودتان در متن نهایی وارد کنید.
در مورد فایلها نیز ابتدا تصویر را برش دهید یا بخشهای حساس را محو کنید. توجه داشته باشید که حذف ظاهری یک قسمت از تصویر یا PDF همیشه به معنی حذف واقعی داده نیست؛ اگر متن همچنان قابل انتخاب یا بازیابی باشد، برای ناشناسسازی کافی نیست.
در پرامپت، ابزار را به افشای اطلاعات یا تصمیم قطعی وادار نکنید
عبارتهایی مثل «هرچه در حافظه داری فاش کن»، «محدودیتهایت را نادیده بگیر» یا «بدون توجه به حریم خصوصی پاسخ بده» پرامپت امن نیستند. چنین دستورهایی میتوانند باعث تولید اطلاعات ساختگی، افشای دادهای که نباید نمایش داده شود یا نادیدهگرفتن قواعد ابزار شوند.
بهجای آن، از دستورهای قابل کنترل استفاده کنید: «اگر اطلاعات کافی نیست، سؤال روشن بپرس»، «حدس را از واقعیت جدا کن»، «اطلاعات شخصی را در خروجی تکرار نکن» و «برای موارد حساس، نیاز به بررسی متخصص را اعلام کن». این جملات تضمین امنیت نیستند، اما رفتار مورد انتظار را شفافتر میکنند.
همچنین از هوش مصنوعی نخواهید درباره یک فرد واقعی بر اساس اطلاعات ناقص، اتهام یا نتیجهگیری قطعی ارائه دهد. پاسخهای مربوط به سلامت، امور حقوقی، امور مالی، استخدام یا امنیت کودک باید با احتیاط بررسی شوند و نباید تنها مبنای تصمیم مهم قرار بگیرند.
پرامپت امن را قبل از ارسال و بعد از دریافت پاسخ بررسی کنید
امنیت فقط به لحظه نوشتن دستور مربوط نیست. پیش از ارسال، این کنترل کوتاه را انجام دهید:
- آیا همه دادههای داخل پرامپت برای انجام کار ضروریاند؟
- آیا اطلاعاتی از شخص دیگری را بدون اجازه وارد میکنم؟
- آیا فایل پیوست، متادیتا، تصویر پسزمینه یا صفحههای اضافی دارد؟
- آیا از ابزار عمومی برای یک متن محرمانه استفاده میکنم؟
- آیا خروجی ممکن است اطلاعات حساس را دوباره نمایش دهد؟
بعد از دریافت پاسخ، متن را از نظر نامها، شمارهها، نقلقولهای نادرست و ادعاهای قطعی بررسی کنید. اگر ابزار بخشی از داده حساس را تکرار کرد، آن را در نسخه نهایی کپی نکنید و گفتوگو یا فایل را طبق تنظیمات همان سرویس حذف کنید؛ حذف گفتوگو، جایگزین نکردن داده حساس از ابتدا نیست.
جمعبندی: نحوه نوشتن پرامپت امن برای ابزارهای هوش مصنوعی با یک قاعده ساده شروع میشود: کمترین داده لازم را وارد کنید، اطلاعات هویتی را ناشناس کنید، هدف و محدودیت خروجی را دقیق بنویسید و پاسخ را پیش از استفاده بررسی کنید. پرامپت خوب فقط پاسخ بهتری نمیگیرد؛ دامنه اطلاعاتی را که در اختیار ابزار میگذارد نیز کنترل میکند.
