خطرات امنیتی چتباتهای هوش مصنوعی فقط به پاسخ اشتباه محدود نمیشود. وقتی کاربر متن یک قرارداد، عکس مدرک، اطلاعات کاری یا حتی بخشی از گفتوگوی خانوادگی را وارد میکند، ممکن است دادهای را در اختیار سرویسی بگذارد که از شیوهٔ نگهداری و استفاده از آن اطلاع دقیقی ندارد.
خطر دیگر، اعتماد بیش از حد به پاسخهایی است که ظاهری مطمئن دارند. چتبات میتواند اطلاعات نادرست تولید کند، به یک لینک یا فایل مشکوک اعتبار بدهد و در حملات فیشینگ، جعل هویت و فریب روانی به مهاجم کمک کند. استفادهٔ امن یعنی هم دادهٔ ورودی را مدیریت کنیم و هم خروجی را پیش از اقدام بررسی کنیم.
خطرات امنیتی چتباتهای هوش مصنوعی از کجا شروع میشود؟
هر بار که پیامی برای یک چتبات میفرستید، بخشی از اطلاعات به زیرساخت آن سرویس منتقل میشود. این موضوع الزاماً به معنی سوءاستفاده یا افشای داده نیست، اما میزان دسترسی، مدت نگهداری، استفاده برای بهبود مدل و امکان بررسی انسانی در سرویسهای مختلف یکسان نیست.
حتی اگر یک پلتفرم اعلام کند از دادهها محافظت میکند، ارسال اطلاعات غیرضروری همچنان تصمیم پرریسکی است. حذف نام و شمارهٔ ملی هم همیشه کافی نیست؛ ترکیب چند جزئیات مانند محل کار، تاریخ، بیماری یا شمارهٔ پرونده ممکن است هویت فرد را قابل تشخیص کند.
چه اطلاعاتی نباید وارد چتبات شود؟
- رمز عبور، کد تأیید پیامکی، عبارت بازیابی کیف پول و کلیدهای دسترسی
- شمارهٔ کامل کارت بانکی، تصویر کارت ملی، گذرنامه و اسناد محرمانه
- اطلاعات پزشکی، حقوقی یا مالی افراد همراه با نام و مشخصات قابل شناسایی
- فایلهای کاری، قراردادها، فهرست مشتریان و کدهای نرمافزاری خصوصی
- عکس یا اطلاعاتی از کودکان و اعضای خانواده که انتشار آنها ضروری نیست
نشت اطلاعات و حریم خصوصی؛ خطری که با یک سؤال ساده ایجاد میشود
کاربر ممکن است برای خلاصهکردن یک متن، فایل کامل را بارگذاری کند؛ در حالی که برای انجام کار فقط چند پاراگراف لازم است. همین عادت، احتمال افشای دادههای شخصی یا سازمانی را بیشتر میکند. در محیط خانواده نیز فرستادن عکس قبض، نسخهٔ پزشکی یا نامهٔ اداری برای دریافت توضیح، میتواند اطلاعاتی فراتر از نیاز چتبات آشکار کند.
برای کاهش ریسک، نامها و شناسهها را با عبارتهای عمومی جایگزین کنید، بخشهای غیرضروری سند را حذف کنید و اگر اطلاعات حساس باقی مانده است، از بارگذاری فایل منصرف شوید. تنظیمات مربوط به ذخیرهٔ تاریخچه و استفاده از مکالمات برای آموزش را نیز بررسی کنید؛ این گزینهها در همهٔ سرویسها نام یا جایگاه یکسانی ندارند.
چتبات چگونه به فیشینگ و جعل هویت کمک میکند؟
مهاجم میتواند از چتبات برای نوشتن پیامهایی روان، شخصیسازیشده و بدون غلط استفاده کند؛ پیامهایی که ظاهراً از طرف بانک، مدرسه، شرکت پستی یا یکی از بستگان فرستاده شدهاند. تولید سریع متن در زبانهای مختلف، ساخت پاسخهای پیدرپی و تنظیم لحن رسمی یا دوستانه، تشخیص کلاهبرداری را دشوارتر میکند.
در چنین حملهای، مشکل اصلی خود چتبات نیست؛ مشکل این است که متن تولیدشده برای فریب انسان به کار میرود. درخواست فوری برای پرداخت، ارسال کد، ورود به حساب، نصب برنامه یا کلیک روی لینک باید مستقل از لحن پیام بررسی شود.
- آدرس فرستنده و دامنهٔ لینک را جداگانه بررسی کنید.
- برای تأیید درخواست مالی یا حساس، با فرد یا سازمان از مسیر رسمی تماس بگیرید.
- کد تأیید و رمز را در پاسخ به هیچ پیام یا چتی ارسال نکنید.
- فایل ناشناس را فقط به دلیل توضیح قانعکننده یا ظاهر حرفهای باز نکنید.
پاسخ چتبات همیشه قابل اعتماد یا بیخطر نیست
چتبات ممکن است پاسخ ساختگی، ناقص یا قدیمی ارائه کند. گاهی متن از نظر نگارشی بسیار مطمئن به نظر میرسد، اما منبع واقعی ندارد. اگر کاربر بر اساس چنین پاسخی تنظیمات امنیتی را تغییر دهد، نرمافزار ناشناس نصب کند یا اطلاعاتی را برای شخصی بفرستد، خطای محتوایی به یک حادثهٔ امنیتی تبدیل میشود.
در چتباتهای متصل به ابزارهای دیگر، ریسک میتواند بیشتر شود. دسترسی به ایمیل، فضای ابری، تقویم یا سامانهٔ کاری یعنی خروجی مدل ممکن است در محدودهای عملیاتی استفاده شود؛ به همین دلیل مجوزها باید محدود، قابل لغو و متناسب با نیاز باشند. اتصال هر افزونه یا ابزار ناشناس به حساب اصلی، بدون بررسی اعتبار و سطح دسترسی، تصمیم امنی نیست.
تزریق دستور و حمله به چتباتهای متصل به ابزار
در حملهای که به «تزریق دستور» شناخته میشود، متن مخرب داخل یک صفحه، فایل یا پیام به مدل میگوید دستورهای قبلی را نادیده بگیرد و کاری دیگر انجام دهد؛ برای مثال اطلاعاتی را استخراج یا اقدامی را اجرا کند. این حمله بیشتر زمانی اهمیت دارد که چتبات فقط پاسخگو نباشد و به فایلها، ایمیلها یا سرویسهای دیگر دسترسی داشته باشد.
کاربر عادی لازم نیست جزئیات فنی حمله را بداند، اما باید بداند خواندن یک متن توسط چتبات به معنی قابل اعتماد بودن دستورهای داخل آن نیست. ابزارهای متصل را فقط در صورت نیاز فعال کنید، دسترسی خواندن و نوشتن را از هم جدا نگه دارید و برای اقدامات حساس، تأیید انسانی را اجباری کنید.
چطور استفادهٔ روزمره از چتباتها را امنتر کنیم؟
- کمینهسازی داده: فقط اطلاعاتی را وارد کنید که برای گرفتن پاسخ لازم است و مشخصات هویتی را حذف یا عمومیسازی کنید.
- تفکیک حسابها: برای آزمایش ابزارهای ناشناخته از حساب اصلی ایمیل، فضای ابری یا شبکهٔ اجتماعی استفاده نکنید.
- بررسی خروجی: لینکها، فایلها، ادعاهای مالی و توصیههای حساس را از منبع رسمی یا مستقل کنترل کنید.
- کنترل دسترسی: افزونهها و اتصالهای غیرضروری را غیرفعال کنید و مجوزهای قدیمی را دورهای بازبینی کنید.
- آموزش اعضای خانواده: به کودکان و سالمندان یادآوری کنید که چتبات، پشتیبان بانک یا فرد قابل اعتماد خانواده نیست و نباید کد یا تصویر مدرک از آن دریافت یا برای آن ارسال شود.
اگر اطلاعات حساسی را اشتباهی وارد کردهاید، ابتدا تاریخچه یا فایل ارسالشده را در صورت امکان حذف کنید، رمزهای در معرض خطر را از مسیر رسمی تغییر دهید و نشستهای فعال حساب را بررسی کنید. در مورد کد بانکی، پرداخت یا سرقت حساب، با بانک یا ارائهدهندهٔ همان خدمت تماس بگیرید؛ صرفاً پاککردن چت همیشه برای جبران افشا کافی نیست.
جمعبندی: هوش مصنوعی را دستیار بدانید، نه گاوصندوق
خطرات امنیتی چتباتهای هوش مصنوعی بیشتر از جایی شکل میگیرد که دادهٔ حساس بدون ضرورت ارسال شود یا پاسخ مدل بدون بررسی، مبنای اقدام قرار بگیرد. اطلاعات محرمانه را وارد نکنید، درخواستهای فوری را از مسیر دیگری تأیید کنید، مجوز ابزارهای متصل را محدود نگه دارید و برای تصمیمهای مالی، حقوقی یا امنیتی به یک پاسخ خودکار اکتفا نکنید.
