خطرات امنیتی استفاده از چتباتها و ابزارهای هوش مصنوعی فقط به پاسخ اشتباه محدود نمی‌شود. وقتی اطلاعات شخصی، فایل، تصویر، کد یا جزئیات کاری را در یک سرویس هوش مصنوعی وارد می‌کنید، ممکن است دادهها در سامانه‌ای خارج از کنترل مستقیم شما پردازش یا ذخیره شوند.
خطر دیگر، اعتماد بیش از حد به خروجی این ابزارهاست. چتبات میتواند متنی قانع‌کننده اما نادرست تولید کند، لینک مشکوک پیشنهاد دهد یا کاربر را به افشای اطلاعاتی سوق دهد که یک مهاجم برای سرقت حساب، جعل هویت یا کلاهبرداری به آن نیاز دارد.
خطرات امنیتی استفاده از چتباتها و ابزارهای هوش مصنوعی از کجا شروع می‌شود؟
بخش مهمی از ریسک به داده‌ای برمی‌گردد که کاربر وارد می‌کند. چتبات برای پاسخ‌دادن به متن شما نیاز دارد آن را دریافت و پردازش کند؛ بنابراین کپی‌کردن اطلاعات حساس در پنجره گفت‌وگو، حتی اگر با نیت ساده‌ای مثل خلاصه‌سازی انجام شود، میتواند سطح افشای اطلاعات را بالا ببرد.
همه سرویس‌ها شرایط یکسانی ندارند. نوع حساب، تنظیمات نگهداری داده، قابلیت بررسی انسانی، افزونه‌های متصل و محل ارائه‌دهنده سرویس میتواند بر میزان کنترل شما اثر بگذارد. در نتیجه، عبارت‌هایی مثل «این فقط یک گفت‌وگوی خصوصی است» نباید جای بررسی تنظیمات و سیاست سرویس را بگیرد.
افشای اطلاعات شخصی و کاری در گفت‌وگوها
کاربران گاهی برای گرفتن پاسخ دقیق‌تر، اطلاعاتی را وارد می‌کنند که در حالت عادی نباید در اختیار یک ابزار عمومی قرار گیرد. این اطلاعات ممکن است بعداً برای شناسایی فرد، حدس‌زدن رمزها یا طراحی پیام‌های فریبنده استفاده شوند؛ حتی اگر هیچ‌کس عمداً قصد سوءاستفاده از آن‌ها را نداشته باشد.
این موارد را در چت‌بات‌های عمومی وارد نکنید:
- رمز عبور، کد یک‌بارمصرف، عبارت بازیابی و پاسخ پرسش‌های امنیتی
- شماره کارت، اطلاعات حساب بانکی، کد ملی و تصویر مدارک هویتی
- نشانی خانه، برنامه سفر، اطلاعات مدرسه یا جزئیات قابل شناسایی کودکان
- پرونده‌های کاری محرمانه، قراردادها، اطلاعات مشتریان و کدهای دسترسی
- تصاویر خصوصی یا عکس‌هایی که چهره و محیط زندگی افراد را آشکار می‌کنند
اگر لازم است متنی را خلاصه یا ویرایش کنید، نام‌ها، شماره‌ها، نشانی‌ها و جزئیات قابل شناسایی را حذف یا با داده‌های ساختگی جایگزین کنید. برای فایل‌های کاری حساس نیز باید از ابزارهایی استفاده شود که سازمان یا مسئول فناوری اطلاعات آن‌ها را تأیید کرده است.
چتباتها چگونه به کلاهبرداری و جعل هویت کمک می‌کنند؟
هوش مصنوعی تولید متن و صدا، ساخت پیام‌های شخصی‌سازی‌شده را برای کلاهبرداران آسان‌تر کرده است. پیام جعلی ممکن است با لحن طبیعی، غلط‌های کمتر و جزئیاتی درباره اعضای خانواده یا همکاران نوشته شود و گیرنده را به انتقال پول، اعلام کد ورود یا بازکردن لینک ترغیب کند.
تصویر و صدای تولیدشده با هوش مصنوعی نیز میتواند برای تقلید از یک فرد به کار برود. دیدن تصویر یا شنیدن صدای آشنا دیگر بهتنهایی برای تأیید هویت کافی نیست؛ مخصوصاً وقتی درخواست با عجله، تهدید یا محرمانه‌بودن همراه است.
برای بررسی درخواست‌های حساس، یک راه ارتباطی مستقل انتخاب کنید. با شماره‌ای که از قبل در دفترچه تلفن دارید تماس بگیرید، یک پرسش خانوادگی از پیش تعیین‌شده داشته باشید و هیچ‌گاه کد ورود یا اطلاعات بانکی را صرفاً به دلیل شباهت صدا و متن ارسال نکنید.
لینک، فایل و کد تولیدشده همیشه قابل اعتماد نیست
پاسخ روان و مطمئن، تضمین نمی‌کند که لینک، فایل یا کدی که ابزار پیشنهاد داده امن باشد. چتبات ممکن است منبع را اشتباه معرفی کند، نشانی مشابه یک سایت واقعی بسازد یا قطعه‌کدی ارائه دهد که آسیب‌پذیری دارد و اطلاعات دستگاه یا حساب را در معرض خطر قرار می‌دهد.
پیش از کلیک یا اجرا، این بررسی‌های ساده را انجام دهید:
- نام دامنه را حرف‌به‌حرف بررسی کنید و به کوتاه‌کننده‌های لینک اعتماد نکنید.
- فایل ناشناس یا برنامه‌ای را که از چت دریافت کردهاید، بدون بررسی اجرا نکنید.
- کدی را که به فایل‌ها، شبکه یا حسابهای کاربری دسترسی دارد، روی دستگاه اصلی امتحان نکنید.
- ادعاهای امنیتی و دستورهای فنی را با مستندات رسمی همان سرویس مقایسه کنید.
اگر ابزار هوش مصنوعی برای انجام کاری به افزونه، اتصال به ایمیل، فضای ابری یا حسابهای دیگر نیاز دارد، مجوزها را دقیق بخوانید. دسترسی گسترده، حتی اگر استفاده از ابزار را راحت‌تر کند، پیامد یک خطا یا نفوذ احتمالی را هم بزرگ‌تر می‌کند.
حمله به خود چتبات یا حساب کاربری چه معنایی دارد؟
برخی حمله‌ها متوجه خود کاربر نیستند، بلکه از طریق ورودی‌های مخرب انجام می‌شوند. در حمله‌ای مانند تزریق دستور، متن موجود در یک صفحه، فایل یا پیام میتواند تلاش کند دستورهای اصلی ابزار را تغییر دهد و آن را به افشای اطلاعات، نادیده‌گرفتن محدودیت‌ها یا انجام عملی ناخواسته وادار کند.
این خطر در ابزارهایی که به فایل‌ها و سرویس‌های دیگر متصل‌اند جدی‌تر می‌شود. هرچه یک دستیار هوش مصنوعی اختیار بیشتری برای خواندن، ارسال، حذف یا تغییر اطلاعات داشته باشد، کنترل مجوزها و ثبت فعالیت‌ها اهمیت بیشتری پیدا می‌کند.
حساب کاربری نیز باید مانند حساب ایمیل محافظت شود: رمز عبور یکتا داشته باشید، احراز هویت دومرحله‌ای را فعال کنید، نشست‌های فعال را گاه‌به‌گاه بررسی کنید و از ورود به حساب در دستگاه‌های عمومی یا لینکهای ناشناس خودداری کنید.
خانواده‌ها چطور استفاده امن‌تری از ابزارهای هوش مصنوعی داشته باشند؟
ایمنی فقط به تنظیمات فنی محدود نیست؛ یک قاعده خانوادگی روشن میتواند جلوی بسیاری از خطاها را بگیرد. کودکان و نوجوانان باید بدانند که چتبات جای دوست، معلم یا مرجع تأیید هویت نیست و هر درخواست عجیب، ترسناک یا محرمانه باید با یک بزرگ‌تر در میان گذاشته شود.
برای استفاده روزمره، این چهار قاعده عملی را در خانه و محل کار به کار ببرید:
- کمینه‌سازی داده: فقط اطلاعاتی را وارد کنید که برای گرفتن پاسخ ضروری است.
- تأیید مستقل: پاسخ، لینک، خبر یا درخواست مالی را از منبعی جداگانه بررسی کنید.
- تفکیک حسابها: برای آزمودن ابزارهای ناشناخته از حساب اصلی و فایل‌های حساس استفاده نکنید.
- واکنش سریع: در صورت افشای رمز یا اطلاعات بانکی، رمز را تغییر دهید، نشست‌ها را ببندید و با سرویس مربوط تماس بگیرید.
اگر اطلاعات حساسی را وارد کرده‌ایم، چه اقدامی لازم است؟
اول مشخص کنید چه چیزی افشا شده است. اگر رمز عبور، کد بازیابی یا اطلاعات بانکی بوده، منتظر نتیجه نمانید: رمز را از مسیر رسمی تغییر دهید، احراز هویت دومرحله‌ای را فعال کنید، کارت یا حساب را طبق راهنمای بانک ایمن کنید و پیام‌های هشدار را بررسی کنید.
اگر تصویر مدرک هویتی، اطلاعات کودک یا فایل کاری ارسال شده است، از سرویس درباره حذف داده و تنظیمات نگهداری آن سؤال کنید و موضوع را به فرد یا سازمان مسئول اطلاع دهید. از ارسال اطلاعات بیشتر برای «تأیید هویت» به حسابها یا پشتیبانی‌های ناشناس خودداری کنید.
جمع‌بندی: خطرات امنیتی استفاده از چتباتها و ابزارهای هوش مصنوعی زمانی بیشتر می‌شود که کاربر داده حساس وارد کند، خروجی را بدون بررسی بپذیرد یا دسترسی گسترده‌ای به ابزار بدهد. با حذف اطلاعات قابل شناسایی، بررسی مستقل لینک‌ها و پاسخ‌ها، فعال‌کردن حفاظت دومرحله‌ای و آموزش این قواعد به اعضای خانواده، می‌توان بخش قابل توجهی از ریسک را کاهش داد.
