جنجال پاپ و هوش مصنوعی؛ آیا بیانیه جدید با AI نوشته شده است؟
احتمال دارد بخشی از تازهترین فرماننامهی پاپ لئو دربارهی تأثیر هوش مصنوعی بر بشریت، با کمک خودِ هوش مصنوعی نوشته شده باشد.
لینچ ژانگ در تحلیلی که در انجمن LessWrong منتشر کرده، میگوید برخی پاراگرافهای سند Magnifica Humanitas طبق ارزیابی ابزار تشخیص هوش مصنوعی پانگرام بین ۴۰ تا ۱۰۰ درصد با AI تولید شده است.
به گفتهی ژانگ، این متن ویژگیهایی دارد که معمولاً در نوشتههای تولیدشده با هوش مصنوعی دیده میشوند؛ ازجمله استفادهی پرتکرار از واژهی genuinely که در خروجیهای مدل Claude متعلق به انتروپیک زیاد دیده میشود.
فرد دیگری هم متن فرماننامه را بخشبهبخش با پانگرام بررسی کرد و نتیجه نشان داد ۶۲ درصد فصل نخست، بهعنوان محتوای تولیدشده با AI شناسایی شده است.
بخشهایی از متن همچنان کاملاً انسانی بهنظر میرسند. ژانگ میگوید ابزار تشخیص هوش مصنوعی برخی قسمتها را «تقریباً صفر درصد با AI» ارزیابی کرد. ۲۰ پاراگراف ابتدایی چهار فرماننامهی اخیر واتیکان نیز هنگام بررسی با اطمینان ۱۰۰ درصدی بهعنوان متن دستنویس انسان شناسایی شدند. نسخهی متنی سخنرانی پاپ لئو هم نتیجهای مشابه داشت و کاملاً انسانی تشخیص داده شد.
ابزارهای تشخیص محتوای تولیدشده با هوش مصنوعی بینقص نیستند. موتورهای مختلف ممکن است نتایج متفاوتی ارائه دهند و حتی در صورت توافق، باز هم تضمینی برای درستبودن نتیجه وجود ندارد.
پانگرام میان پژوهشگران حوزهی AI اعتبار بالایی دارد. این شرکت مدتی پیش اعلام کرده بود نرخ خطای مثبت کاذب آن —یعنی تشخیص اشتباه متن انسانی بهعنوان محتوای AI— حدود «یک مورد در هر ۱۰ هزار نمونه» برآورد میشود.
فرماننامههای پاپ، نامههای مفصلی هستند که از سوی رهبر کاتولیکهای جهان منتشر میشوند و به مسائل مهم اخلاقی و اجتماعی میپردازند. این فرماننامه نخستین متن رسمی پاپ لئو بهشمار میرود. نمونهی قبلی را پاپ فرانسیس در پاییز ۲۰۲۴ منتشر کرده بود.