برای بررسی منابع و واقعیت‌ها با هوش مصنوعی نباید فقط بنویسید «آیا این مطلب درست است؟». پاسخ دقیق‌تر زمانی به دست می‌آید که از مدل بخواهید هر ادعا را جدا کند، منبع مستقیم آن را نشان دهد، تاریخ اطلاعات را بررسی کند و مواردی را که نمی‌تواند تأیید کند صریحاً مشخص کند.
نکتهٔ مهم این است که هوش مصنوعی همیشه به اینترنت زنده، متن کامل منابع یا اطلاعات بهروز دسترسی ندارد. بنابراین باید بین «پیدا کردن منبع»، «خلاصه کردن منبع» و «تأیید واقعی بودن یک ادعا» تفاوت بگذارید.
چطور از هوش مصنوعی بخواهیم منابع و واقعیت‌ها را بررسی کند؟
درخواست خود را به چند کار مشخص تقسیم کنید. به‌جای یک سؤال کلی، موضوع، محدودهٔ زمانی، نوع منبع و شکل خروجی را تعیین کنید. این الگو برای شروع مناسب است:
«ادعاهای اصلی متن زیر را جدا کن. برای هر ادعا مشخص کن: واقعیت قابل‌بررسی است یا نظر، چه مدرکی برای آن لازم است، منبع اولیهٔ مناسب چیست، و آیا با اطلاعات موجود میتوان آن را تأیید کرد یا نه. اگر مطمئن نیستی، حدس نزن و بنویس اطلاعات کافی وجود ندارد.»
اگر ابزار مورد استفاده امکان جست‌وجوی وب دارد، یک شرط دیگر اضافه کنید: «فقط از منابع معتبر و قابل مشاهده استفاده کن و عنوان، نویسنده، تاریخ انتشار و لینک دقیق هر منبع را بنویس.» اگر چنین امکانی ندارد، از مدل انتظار منبع تازه یا بررسی زندهٔ خبر نداشته باشید.
قبل از راستی‌آزمایی، ادعاها را از متن جدا کنید
یک خبر یا پست شبکهٔ اجتماعی معمولاً ترکیبی از عدد، برداشت نویسنده، نقل‌قول و نتیجه‌گیری است. اگر همهٔ این موارد را یک‌جا برای هوش مصنوعی بفرستید، ممکن است نظر یا لحن متن را با واقعیت قطعی اشتباه بگیرد.
ابتدا از آن بخواهید متن را به ادعاهای مستقل تبدیل کند. برای نمونه، جملهٔ «این روش در سه ماه باعث کاهش چشمگیر هزینه‌ها شده است» دست‌کم سه بخش دارد: نام روش، بازهٔ زمانی و میزان کاهش هزینه. هر بخش باید جداگانه قابل بررسی باشد.
- ادعای عددی: مقدار، درصد، تعداد یا رتبه دقیقاً چیست؟
- ادعای زمانی: این اتفاق چه تاریخی رخ داده و منبع چه زمانی منتشر شده است؟
- ادعای انتسابی: این جمله را چه فرد یا نهادی گفته است؟
- ادعای علّی: آیا فقط هم‌زمانی دیده شده یا واقعاً علت و معلول ثابت شده است؟
این مرحله جلوی یکی از خطاهای رایج را می‌گیرد: مدل به‌جای بررسی یک ادعای روشن، دربارهٔ کل متن پاسخی کلی می‌دهد.
از هوش مصنوعی منبع اولیه بخواهید، نه فقط فهرست لینک
منبع اولیه همان جایی است که اطلاعات برای نخستین‌بار منتشر شده یا مستقیماً به رویداد دسترسی دارد؛ مانند متن قانون، گزارش رسمی، مقالهٔ پژوهشی، اطلاعیهٔ سازمان یا گفت‌وگوی کامل. خبرگزاری‌ها و وب‌سایت‌های تحلیلی برای فهم زمینه مفیدند، اما همیشه جای سند اصلی را نمی‌گیرند.
در درخواست خود بنویسید: «برای هر ادعا، منبع اولیه را از منابع ثانویه جدا کن و توضیح بده این منبع دقیقاً کدام بخش ادعا را پشتیبانی می‌کند.» اگر تنها یک مقالهٔ بازنشرشده پیدا شد، مدل نباید آن را به‌عنوان تأیید مستقل معرفی کند.
همچنین از هوش مصنوعی بخواهید بررسی کند آیا منبع واقعاً همان چیزی را گفته است یا فقط نام آن در متن آمده. گاهی یک گزارش، ادعایی را نقل می‌کند اما آن را تأیید نمی‌کند؛ تفاوت این دو در راستی‌آزمایی بسیار مهم است.
دستور بررسی منبع را دقیق‌تر بنویسید
برای بررسی یک لینک، متن یا ادعا می‌توانید از این قالب استفاده کنید:
- «ادعای اصلی این متن را در یک جمله بنویس.»
- «منبعی را که برای این ادعا معرفی شده، از نظر اعتبار، تاریخ و ارتباط مستقیم بررسی کن.»
- «مشخص کن منبع، ادعا را تأیید می‌کند، فقط بخشی از آن را پوشش می‌دهد یا اصلاً مرتبط نیست.»
- «واقعیت‌های قطعی، تفسیرها و بخش‌های تأییدنشده را جدا کن.»
- «اگر شواهد مخالف یا محدودیت مهمی وجود دارد، آن را هم بنویس.»
در صورت امکان، متن بخش مرتبط منبع را نیز در اختیار مدل بگذارید. بررسی یک نقل‌قول یا عدد بر اساس متن کامل معمولاً از بررسی عنوان یا خلاصهٔ یک صفحه دقیق‌تر است.
چطور بفهمیم پاسخ هوش مصنوعی خودش قابل اعتماد نیست؟
پاسخ مرتب و مطمئن، لزوماً پاسخ درست نیست. اگر مدل برای هر ادعا منبع مشخص نمی‌دهد، تاریخ‌ها را با هم قاطی می‌کند، لینک‌هایی با عنوان نامتناسب ارائه می‌دهد یا از عبارت‌های قطعی بدون شاهد استفاده می‌کند، باید پاسخ را مشکوک بدانید.
از آن بخواهید یک مرحلهٔ کنترل خطا انجام دهد: «پاسخ قبلی خودت را دوباره بررسی کن و فقط مواردی را نگه دار که برایشان شواهد مشخص داری. هر بخش احتمالی یا حدسی را با برچسب تأییدنشده مشخص کن.» این دستور خطا را تضمین نمی‌کند، اما مدل را وادار می‌کند میان دانسته، استنباط و حدس تمایز بگذارد.
برای اطلاعات مهم، دست‌کم این موارد را خودتان نیز بررسی کنید:
- آیا منبع واقعی است و صفحهٔ موردنظر در آن وجود دارد؟
- آیا تاریخ انتشار با زمان رویداد هماهنگ است؟
- آیا متن منبع دقیقاً ادعا را تأیید می‌کند یا فقط موضوعی مشابه را مطرح کرده است؟
- آیا دو منبع مستقل وجود دارد یا همهٔ سایت‌ها یک گزارش را بازنشر کرده‌اند؟
برای خبرها، عددها و مطالب حساس چه تفاوتی ایجاد می‌شود؟
در خبرهای فوری، اطلاعات ممکن است در چند ساعت تغییر کند. از مدل بخواهید زمان بررسی را مشخص کند و میان «گزارش اولیه»، «تأیید رسمی» و «اطلاعات تکمیلی» تفاوت بگذارد. عبارت‌هایی مانند «تا این لحظه» فقط وقتی مناسب‌اند که تاریخ و زمان بررسی روشن باشد.
در موضوعات پزشکی، مالی، حقوقی و ایمنی، یک پاسخ هوش مصنوعی نباید مبنای تصمیم قطعی باشد. می‌توانید از آن بخواهید اصطلاحات را توضیح دهد، پرسش‌های لازم برای مراجعه به متخصص را مرتب کند و سطح اطمینان هر ادعا را نشان دهد؛ اما تشخیص، تجویز یا تصمیم نهایی به بررسی تخصصی نیاز دارد.
جمع‌بندی: دستور خوب برای بررسی منابع چه ویژگی‌ای دارد؟
برای بررسی منابع و واقعیت‌ها با هوش مصنوعی، ادعاها را جدا کنید، منبع اولیه بخواهید، تاریخ و ارتباط منبع را بسنجید و از مدل بخواهید موارد نامطمئن را صریحاً اعلام کند. هرچه درخواست شما مشخص‌تر باشد، احتمال دریافت پاسخ قابل استفاده بیشتر می‌شود؛ بااین‌حال، منبع معرفی‌شده را برای خبرها و تصمیم‌های مهم باید خودتان هم ببینید، نه اینکه صرفاً به لحن مطمئن پاسخ اعتماد کنید.
