مدیرعامل نتبلاکس: خاموشی اینترنت ایران الگوریتمهای جهانی را هم بههم ریخت
بنیانگذار نتبلاکس هشدار داد که قطع اینترنت اخیر در ایران، الگوریتمهای شبکههای اجتماعی را خراب کرده است؛ به طوری که این سیستمها برای پر کردن «جای خالی دادهها»، به جای اخبار واقعی، شروع به پخش اطلاعات غلط و شایعات کردهاند
به گزارش زومیت، چندی پیش وقتی که اینترنت در ایران قطع شد، فقط خود کشور در تاریکی دیجیتال فرو نرفت، براساس اطلاعاتی که بنیانگذار نتبلاکس ارائه کرده، قطعی اینترنت کشور اثراتی فراتر از مرزهای داخل کشور داشته است.
در میانه قطعی سراسری اینترنت که در دی و بهمن ۱۴۰۴ با شدتی بیسابقه اعمال شد، «الگوریتمها»، همان ماشینهایی که هر روز تصمیم میگیرند کاربران سراسر جهان در فید شبکههای اجتماعی خود چه ببیند، را تحت تاثیر قرار داد. این الگوریتمها ناگهان با یک حفره داده روبهرو شدند؛ حفرهای به بزرگی یک کشور با جمعیت چند ۱۰ میلیون کاربر پلتفرمهای آنلاین.
آلپ توکر، بنیانگذار نهاد پایش اینترنت NetBlocks، در گفتوگویی اختصاصی با رسانه The Independent اعلام کرد:
الگوریتمهای شبکههای اجتماعی و پلتفرمهای خبری برای کارکرد طبیعی به «جریان آزاد اطلاعات» نیاز دارند؛ وقتی از یک منطقه «خلأ» ایجاد میشود، الگوریتم همچنان باید خروجی تولید کند و محدودیتهای خودش را (مثل نگه داشتن کاربر، تنوع محتوا، تازگی، نرخ تعامل) برآورده کند. نتیجه این است که محتوای نمایشدادهشده دیگر لزوماً همان چیزی نیست که کاربر انتظارش را داشته؛ ممکن است کمربطتر شود و حتی فضای بیشتری برای روایتسازی، اطلاعات غلط یا منابع حاشیهای باز کند.- آلپ توکر، بنیانگذار نتبلاکس
باید گفت «سیستمهای توصیهگر» (Recommendation Systems) معمولا از دادههای زنده (live) تغذیه میکنند: حجم پستها، هشتگها، بازنشرها، ویدئوها، نرخ تعامل و حتی الگوهای جستوجو در جایجای دنیا.
وقتی یک کشور بزرگ با جمعیت انبوه کاربران آنلاین ناگهان از چرخه تولید داده حذف میشود، منطق توزیع دادهها عوض میشود؛ در زبان یادگیری ماشین این همان چیزی است که به گفته آلپ توکر به آن distribution shift میگویند.
یعنی مدل هنوز باید پیشبینی کند، اما زمین زیر پایش تغییر کرده. طبیعی است در چنین شرایطی، فیدهای جهانی میتوانند «لغزش» پیدا کنند: از گزارش میدانی واقعی به سمت تحلیلهای دورادور، از خبرهای تاییدشده و صحیح به سمت گمانهزنیها، از محتوای محلی به سمت محتوای خارج از کشور و کسانی که از بیرون تلاش میکنند جای خالی را پر کنند.
به گفته تصمیمگیران در خصوص اینترنت کشور، قطعی طولانیمدت اینترنت بینالمللی با هدف امنیت و از سر ناچاری انجام شد، مسدودسازی کاملی که به محدودسازی جریان اطلاعات در کشور ختم شد اما اظهارات بنیانگذار نتبلاکس معلوم میکند که این موضوع خودش به یک ناامنی مضاعف هم تبدیل شده است.
گفته آلپ توکر را به زبان ساده میتوان اینطور توصیف کرد: تصور کنید در یک اتاق شلوغ پر از جمعیت ناگهان چراغها را خاموش کنید تا جلوی یک کشمکش را بگیرید. نتیجه چه میشود؟ ترس، برخورد آدمها با بکدیگر و داد و فریادهای بلندتر. این دقیقا همان بلایی است که قطع اینترنت بر سر جامعه میآورد.
وقتی مجاری رسمی و واقعیِ خبر بسته میشود، بازار «شایعه» داغ میشود و هیچ شخص و هیچ ناظر بیرونی هم نمیتواند اطلاعات و اخبار منتشرشده را صحتسنجی کند.
اثر جهانی این خاموشی، ریشه در ذات «تشنه به کلیک» الگوریتمها دارد. همانطور که گفته شد سیستمهای توصیهگر برای کشف حقیقت طراحی نشدهاند؛ آنها برای «حداکثر کردن تعامل» (Engagement) کدنویسی شدهاند. پژوهشهای فنی نشان میدهد که وقتی «دادههای معتبر» (مثل ویدیوهای شهروندان یا گزارشهای زنده) از شبکه حذف میشوند، سیستم دچار خلأ میشود.
در این وضعیت، الگوریتم به سمت تنها چیزی میرود که باقی مانده: شایعات و اخبار جعلی. چرا؟ چون اخبار جعلی معمولا هیجانانگیزترند و نرخ تعامل بالاتری دارند. به زبان ساده، وقتی صدای یک جمعیت کلان آنلاین قطع میشود، الگوریتمها ناخواسته بلندگو را به دستِ پرسروصداترین منابع میسپارند؛ اما علامت خطر همینجا ظاهر میشود که شاید جذابتر باشند اما الزاما صحیح نیستند. مسالهای که میتواند به گمراهی اطلاعاتی و نشر اخبار جعلی و اطلاعات غلط در سطح جهان منتهی شود.