هوش مصنوعی امروز می‌تواند منابع علمی را جست‌وجو کند، فرضیه بسازد، داده‌ها را تحلیل کند و حتی متنی شبیه یک مقاله دانشگاهی بنویسد. اما یک مشکل مهم همچنان باقی است: آیا منابع و نتایج ارائه‌شده واقعاً معتبر هستند؟
گوگل ریسرچ برای پاسخ به این مسئله، چارچوب آزمایشی Science One را معرفی کرده است؛ پژوهشگر هوش مصنوعی جدیدی که تلاش می‌کند هر ادعای علمی را به مدرکی مشخص و قابل‌بررسی متصل کند.
مشکل رفرنس‌های خیالی
مدل‌های هوش مصنوعی گاهی مقاله‌ها، نام نویسندگان یا مشخصات انتشاراتی را تولید می‌کنند که در واقعیت وجود ندارند. ممکن است متن خروجی کاملاً علمی و حرفه‌ای به نظر برسد، اما بعضی منابع آن ساختگی باشند یا نتایج نوشته‌شده با داده‌های واقعی هماهنگی نداشته باشند.
Science One برای کاهش این خطاها، منابع را مستقیماً از پایگاه‌های علمی بازیابی می‌کند و به حافظه مدل زبانی متکی نیست.
زنجیره شواهد چگونه کار می‌کند؟
هسته اصلی این سیستم مفهومی به نام زنجیره شواهد یا Chain of Evidence است. براساس این روش، هر ادعا، عدد و نتیجه باید به مقاله، داده، کد یا گزارش آزمایشی مرتبط با خود متصل باشد.
در نتیجه، خواننده یا پژوهشگر می‌تواند مسیر شکل‌گیری هر ادعا را بررسی کند و ببیند آیا شواهد موجود واقعاً از آن پشتیبانی می‌کنند یا خیر.
یک مقاله علمی فقط زمانی قابل‌اعتماد است که بتوان مسیر هر ادعا را تا منبع و شواهد اصلی دنبال کرد.
عملکرد Science One در آزمایش‌ها
پژوهشگران گوگل این سیستم را در کنار چند پژوهشگر هوش مصنوعی دیگر ارزیابی کردند. در برخی سیستم‌های مقایسه‌شده، میزان منابع غیرواقعی به ۲۱ درصد رسید.
در مقابل، Science One در مجموعه آزمایش‌شده، هیچ منبع خیالی در میان ۳۳۷ ارجاع تولید نکرد. نتایج گزارش‌شده آن نیز در تمام ۱۲ آزمایش بررسی‌شده، با اجرای دوباره کد تأیید شدند.
البته این نتایج به مسائل و آزمایش‌های مشخصی مربوط هستند و نمی‌توان آن‌ها را به تمام رشته‌های علمی تعمیم داد.
آیا پژوهشگر انسانی حذف می‌شود؟
Science One هنوز یک نمونه آزمایشی است و برای استفاده عمومی عرضه نشده است. همچنین بررسی منابع فقط بخشی از یک پژوهش معتبر محسوب می‌شود.
انتخاب مسئله مناسب، تشخیص کیفیت داده‌ها، رعایت اصول اخلاقی و تفسیر نتایج همچنان به دانش و قضاوت پژوهشگر انسانی نیاز دارد. بنابراین آینده پژوهش احتمالاً نه در حذف انسان، بلکه در همکاری دقیق‌تر انسان و هوش مصنوعی شکل خواهد گرفت.
این پروژه یک پیام مهم برای پژوهشگران دارد: خروجی هوش مصنوعی نباید بدون بررسی پذیرفته شود. منابع، شناسه DOI، داده‌ها و نتایج باید همیشه با نسخه اصلی تطبیق داده شوند.
منابع:معرفی Science One در Google Research و نسخه علمی پژوهش
