برای تشخیص حسابهای جعلی با هوش مصنوعی نباید فقط به ظاهر حرفهای یک پروفایل یا نتیجه یک ابزار تکیه کرد. هوش مصنوعی میتواند عکس، متن معرفی، الگوی انتشار محتوا و رفتار پیامدادن را کنار هم بگذارد و نشانههای مشکوک را برجسته کند؛ اما تصمیم نهایی همچنان به بررسی انسانی نیاز دارد.
کاربرد واقعی این فناوری، کمکردن خطای بررسی است: بهجای اینکه فقط به تعداد دنبالکنندهها نگاه کنید، از هوش مصنوعی بخواهید چند علامت را همزمان تحلیل کند و دلیل مشکوکبودن حساب را توضیح دهد. هیچ تصویر یا گفتوگوی خصوصی، کد ورود، شماره کارت و اطلاعات هویتی را برای یک ابزار ناشناس ارسال نکنید.
تشخیص حسابهای جعلی با هوش مصنوعی چگونه انجام میشود؟
ابزارهای هوش مصنوعی معمولاً حساب را از چند زاویه بررسی میکنند، نه اینکه به یک «مهر قطعی جعلی» برسند. آنها میتوانند تناقض میان نام، تصویر، متن معرفی و سابقه فعالیت را پیدا کنند و الگوهایی را ببینند که در بررسی سریع از چشم کاربر دور میماند.
- تحلیل تصویر: بررسی میشود که عکس پروفایل احتمالاً از صفحهای دیگر برداشته شده، با تصاویر مشابه منتشر شده یا نشانههایی از تولید و دستکاری مصنوعی دارد.
- تحلیل متن: متن معرفی و پیامها از نظر وعدههای غیرواقعی، غلطهای تکرارشونده، لحن ماشینی، درخواست فوری و تلاش برای ایجاد ترس یا هیجان بررسی میشوند.
- تحلیل رفتار: تعداد و زمان انتشار پستها، تکرار کامنتها، جهش ناگهانی دنبالکنندهها و نسبت نامتعارف دنبالکننده به دنبالشونده میتواند سرنخ ایجاد کند.
- مقایسه هویت: نام کاربری، لوگو، شماره تماس یا نشانی صفحه با اطلاعات رسمی یک فرد، فروشگاه یا سازمان مقایسه میشود.
این فرایند بیشتر شبیه ارزیابی ریسک است. حسابی که چند علامت هشدار دارد باید برای بررسی بیشتر در نظر گرفته شود، نه اینکه صرفاً بر اساس امتیاز یک ابزار محکوم یا تأیید شود.
چه نشانههایی را به ابزار هوش مصنوعی بدهیم؟
هرچه داده ورودی دقیقتر و عمومیتر باشد، تحلیل هم کاربردیتر خواهد بود. بهجای فرستادن کل صفحه یا تمام مکالمه، اطلاعات لازم را جدا کنید و دادههای حساس را بپوشانید.
- نام کاربری، نام نمایشی و متن معرفی حساب را ثبت کنید.
- تاریخ تقریبی شروع فعالیت، تعداد پستها و تغییرات ناگهانی در تعداد دنبالکنندهها را یادداشت کنید.
- چند نمونه از پستها و کامنتها را از نظر تکراریبودن یا کپیشدن بررسی کنید.
- در صورت عمومیبودن، تصویر پروفایل و لینک صفحه را جداگانه بررسی کنید.
- متن پیام خصوصی را بدون نام، شماره، کد، نشانی و اطلاعات شخصی تحلیل کنید.
میتوانید از ابزار هوش مصنوعی بخواهید بهجای پاسخ کوتاه، نتیجه را در سه بخش ارائه کند: «نشانههای عادی»، «نشانههای مشکوک» و «اقدام پیشنهادی برای راستیآزمایی». این نوع درخواست، احتمال پاسخهای مبهم و هیجانی را کمتر میکند.
چطور نتیجه هوش مصنوعی را با بررسی دستی کامل کنیم؟
نتیجه ابزار باید نقطه شروع باشد. برای نمونه، حسابی که تصویر واقعی دارد ممکن است هک شده باشد و حسابی که از تصویر تولیدشده استفاده میکند لزوماً کلاهبردار نباشد. چند بررسی ساده میتواند نتیجه را دقیقتر کند:
- اگر حساب ادعا میکند متعلق به یک فرد یا کسبوکار است، از صفحه رسمی، وبسایت معتبر یا شمارهای که مستقل از پیام پیدا کردهاید، هویت را تأیید کنید.
- برای تصویر پروفایل، جستوجوی معکوس تصویر انجام دهید و ببینید همان عکس با نامها یا هویتهای مختلف منتشر شده است یا نه.
- به تاریخچه حساب نگاه کنید؛ تغییر ناگهانی موضوع، نام یا زبان محتوا میتواند نشانه تغییر مالکیت یا سوءاستفاده از یک حساب قدیمی باشد.
- اگر پیام درباره جایزه، سرمایهگذاری، استخدام یا فروش فوری است، ادعا را خارج از همان پیام و از مسیر رسمی بررسی کنید.
- هیچوقت کد یکبارمصرف، رمز عبور یا لینک بازیابی را برای «تأیید هویت» ارسال نکنید.
نسبت دنبالکنندهها بهتنهایی معیار مناسبی نیست. یک کسبوکار کوچک ممکن است تعامل کمی داشته باشد و یک حساب جعلی هم میتواند با تبلیغ یا خرید دنبالکننده، ظاهری معتبر بسازد.
هوش مصنوعی در تشخیص تصویر و متن جعلی چه محدودیتهایی دارد؟
تشخیص تصویرهای ساختهشده با هوش مصنوعی هنوز همیشه دقیق نیست؛ فشردهشدن عکس در شبکههای اجتماعی، فیلترها و ویرایشهای معمولی میتوانند نتیجه را تغییر دهند. همچنین ابزارها ممکن است متنی را که فقط بهدلیل ترجمه، غلط تایپی یا سبک شخصی نوشته شده، مشکوک ارزیابی کنند.
از طرف دیگر، کلاهبرداران میتوانند با استفاده از ابزارهای مولد، متن طبیعیتر، عکسهای باورپذیرتر و محتوای منظم تولید کنند. بنابراین «ظاهر حرفهای»، تیک تأیید، تعداد زیاد دنبالکننده یا پاسخ مثبت هوش مصنوعی هیچکدام بهتنهایی مدرک اصالت نیستند.
اگر حساب مشکوک بود، چه اقدامی امنتر است؟
اول پاسخدادن را متوقف کنید و روی لینکهای ارسالی نزنید. اگر احتمال جعل هویت یک آشنا وجود دارد، با شمارهای که از قبل در گوشی دارید تماس بگیرید؛ از همان حساب مشکوک برای تأیید هویت کمک نگیرید.
در شبکه اجتماعی، حساب را گزارش و مسدود کنید و اگر اطلاعات بانکی، رمز یا کد ورود را ارسال کردهاید، فوراً رمزهای مرتبط را از یک دستگاه امن تغییر دهید. فعالکردن ورود دومرحلهای، خروج از نشستهای ناشناس و تماس سریع با بانک در صورت تراکنش مشکوک نیز اهمیت دارد.
برای خانوادهها، یک قاعده ساده قابل آموزش است: درخواست فوری، لینک ناشناس و راز نگهداشتن از دیگران، سه علامت هشدار جدی هستند. حتی اگر پیام از عکس و نام یکی از نزدیکان استفاده کند، پیش از انتقال پول یا ارسال کد باید از یک مسیر جداگانه تماس گرفت.
جمعبندی؛ تشخیص حسابهای جعلی با هوش مصنوعی بدون اعتماد کورکورانه
تشخیص حسابهای جعلی با هوش مصنوعی زمانی مفید است که چند نشانه را همزمان بررسی کند و دلیل هشدار را توضیح دهد. از آن برای اولویتبندی بررسیها کمک بگیرید، اما هویت را از مسیر رسمی تأیید کنید، اطلاعات حساس را به ابزارهای ناشناس ندهید و در برابر پیامهای فوری یا مالی، قبل از هر اقدامی مکث کنید.
