روز جمعه ۱۸ سپتامبر، نیویورک تایمز در گزارشی اعلام کرد ایران و چین، در کنار گروههایی در اسرائیل، طی ماههای اخیر از هوش مصنوعی در کارزارهای جدید تأثیرگذاری در شبکههای اجتماعی استفاده کردهاند.
بر اساس این گزارش، این کارزارها با استفاده از مدلهای هوش مصنوعی چینی که بهصورت رایگان در دسترس هستند، عاملهایی مستقل ایجاد کردند که قادر به انجام وظایف آنلاین بودند. صدها مورد از این عاملها برای ایجاد شبکههایی از حسابهای جعلی در پلتفرمهای شبکههای اجتماعی از جمله اینستاگرام، فیسبوک، ایکس و تیکتاک به کار گرفته شدند.
این عاملهای هوش مصنوعی سپس حسابهای مذکور را با انتشار پستهایی درباره سیاست و رویدادهای روز فعال کردند و همزمان پیامها و تعاملات آنلاین را نیز هماهنگ کردند.
این موضوع نگرانی مقامهای آمریکایی و پژوهشگران حوزه امنیت سایبری را درباره توانایی فزاینده این فناوری برای انجام فعالیتها با دخالت محدود انسان افزایش داده است.
مقامهای آمریکایی و پژوهشگران، این فعالیتها را از جمله اولین موارد شناختهشدهای توصیف کردند که در آنها عاملهای هوش مصنوعی مبتنی بر مدلهای چینی در تقریباً تمام مراحل یک کارزار تأثیرگذاری مورد استفاده قرار گرفتهاند.
در این گزارش، این کارزارها نسبتاً ابتدایی توصیف شدهاند، اما اهمیت آنها در این است که نشان میدهند سامانههای هوش مصنوعی در دسترس عموم میتوانند عملیاتهایی را که پیشتر به مشارکت گسترده انسان نیاز داشتند، بهصورت خودکار انجام دهند.
بر اساس این گزارش، سازمانهای اطلاعاتی آمریکا، شرکتهای فناوری و پژوهشگران حوزه امنیت، فعالیتهای مذکور را بررسی کرده و عملیات چین و ایران را به عوامل مورد حمایت دولتها نسبت دادهاند.
کارزار ایران مخاطبان آمریکایی را هدف قرار داده بود و در آن حسابهایی ایجاد شده بود که با استفاده از هوش مصنوعی تولید شده و خود را بهعنوان شهروندان عادی آمریکا در شهرهای بزرگ معرفی میکردند. بر اساس گزارشها، این حسابها میمهای پرطرفدار منتشر میکردند، خبرنگاران و سیاستمداران را تگ میکردند و دیدگاههای انتقادی نسبت به دولت آمریکا را ترویج میدادند.
بر اساس این گزارش، نزدیک به ۸۰ هزار نفر حسابهای ایجادشده با هوش مصنوعی را دنبال میکردند و این حسابها در نیمه اول سال فعال بودند.
این گزارش همچنین جزئیات دو کارزار اسرائیلی را ارائه کرده که به شرکتهای خصوصی نسبت داده شدهاند. یکی از این کارزارها که به شرکت اینتلآی مستقر در تلآویو مرتبط بود، شامل استفاده از عاملهای هوش مصنوعی برای کنترل هزاران حساب در شبکههای اجتماعی و مشارکت در بحثهای پیرامون انتخابات پیشروی اسرائیل بود.
این شرکت اعلام کرد این فعالیت، یک آزمایش پژوهشی دفاعی بوده که با هدف بررسی چگونگی سوءاستفاده احتمالی از مدلهای هوش مصنوعی انجام شده است.
