هوش مصنوعی چگونه تصمیمات خرید ما را کنترل می‌کند؟

گروهی از پژوهشگران دانشگاه کالیفرنیا سن دیگو در مطالعه‌ای جالب به بررسی این موضوع پرداختند که آیا خلاصه‌های هوش مصنوعی می‌توانند بر تصمیمات خرید مصرف‌کنندگان تأثیر بگذارند یا خیر. نتایج اولیه نشان داد تمایل افراد برای خرید محصول مورد نظر پس از خواندن خلاصه‌های تهیه‌شده توسط هوش مصنوعی، ۳۲ درصد بیشتر بود؛ درحالی که این خلاصه‌ها در بسیاری موارد دقیق نبودند.

یافته‌های پژوهش نشان می‌دهد که افراد پس از خواندن خلاصه‌های هوش مصنوعی از نظرات کاربران درباره‌ی محصولات اینترنتی، بیشتر احتمال دارد که تصمیم به خرید بگیرند. این در حالی است که این خلاصه‌ها اغلب حاوی اطلاعات نادرست هستند و نرخ توهم آن‌ها به ۶۰ درصد می‌رسد.

اما چرا هوش مصنوعی اینقدر تاثیرگذار است؟ محققان دو دلیل اصلی برای این پدیده مطرح کرده‌اند:

• تمرکز بر ابتدای متن (گم شدن در میانه): مدل‌های زبانی بزرگ معمولاً بیشتر به اطلاعاتی که در ابتدای متن وجود دارد توجه می‌کنند و ممکن است جزئیات مهمی را که در ادامه آمده باشند، نادیده بگیرند. این پدیده با عنوان گم شدن در میانه (Lost in the Middle) شناخته می‌شود.
• مشکل در پردازش اطلاعات جدید: مدل‌های زبانی بزرگ زمانی عملکرد بهتری دارند که با اطلاعاتی مواجه شوند که قبلاً در داده‌های آموزشی آن‌ها وجود داشته باشد. وقتی مدل‌های مذکور با اطلاعات جدید و ناآشنا روبرو می‌شوند، دقتشان کاهش می‌یابد و احتمال تولید اطلاعات نادرست بیشتر می‌شود.

گروه پژوهشی ابتدا از هوش مصنوعی خواست تا نظرات محصولات و مصاحبه‌ها را خلاصه کند. آن‌ها سپس، AI را موظف کردند که صحت این خلاصه‌ها را بررسی کند. در مرحله بعد، به شرکت‌کنندگان نظرات اصلی یا خلاصه‌های تولیدشده توسط هوش مصنوعی ارائه و میزان تمایل آن‌ها به خرید محصول مورد نظر سنجیده شد.

در پژوهش مورد بحث، ۷۰ نفر از افراد عادی شرکت کردند. نتایج نشان داد افرادی که خلاصه‌های هوش مصنوعی را خواندند، در ۸۴ درصد موارد تصمیم به خرید محصول گرفتند، در حالی که این میزان برای کسانی که نظرات اصلی را خواندند، تنها ۵۲ درصد بود. همچنین مشخص شد که چت‌بات‌ها در ۲۶٫۵ درصد مواقع احساسات موجود در نظرات اصلی را تغییر داده و ۶۰ درصد مواقع اطلاعات غلط ارائه کرده‌اند.

نتایج نشان می‌دهد سوگیری‌های شناختی (Cognitive Biases) ناشی از هوش مصنوعی می‌توانند تأثیر قابل توجهی بر رفتار مصرف‌کنندگان داشته باشند. سوگیری‌های شناختی الگوهایی فکری هستند که باعث می‌شوند افراد اطلاعات را به صورت غیرمنطقی تفسیر کنند و تصمیمات اشتباه بگیرند.

تیم تحقیقاتی امیدوار است که مطالعه اخیر گامی مهم در جهت تحلیل دقیق‌تر و کاهش سوگیری‌های ناشی از هوش مصنوعی باشد. آن‌ها معتقدند که با شناسایی و رفع این سوگیری‌ها می‌توان از خطرات احتمالی جلوگیری و از مزایای هوش مصنوعی به طور ایمن‌تری استفاده کرد.