یکی از معتبرترین شرکتهای حسابداری جهان در دام ابزاری افتاد که قرار بود دربارهاش بنویسد. KPMG، عضو گروه «چهار بزرگ» حسابداری در کنار Deloitte، PricewaterhouseCoopers و Ernst & Young، در مهر ۱۴۰۳ گزارشی با عنوان «تجربه کلی: بازتعریف تعالی در عصر هوش مصنوعی عاملی» منتشر کرد که به بررسی کاربردهای هوش مصنوعی در خدماترسانی به مشتریان میپرداخت. اما بررسیهای بعدی نشان داد این گزارش سرشار از اطلاعات نادرست و ساختگی بود.
کشف هوشمندانه یک ابزار تشخیص محتوای هوش مصنوعی
محققان GPTZero، سازنده ابزار تشخیص محتوای تولیدشده توسط هوش مصنوعی، ناگوییهای گستردهای در این گزارش یافتند که روزنامه فایننشال تایمز نیز صحت آنها را تأیید کرد. از مجموع ۴۵ منبع ارجاعدادهشده در گزارش، تنها پنج مورد به منابع واقعی اشاره داشتند. ۲۸ منبع دیگر یا عناوین تحریفشده داشتند یا اجزای ساختگی به آنها افزوده شده بود، و ۱۲ مورد نیز چنان مبهم بودند که امکان تأیید یا رد وجودشان وجود نداشت. GPTZero این پدیده ساخت منابع جعلی توسط هوش مصنوعی را «استناد احساسی» نامید.
ادعاهای کذب درباره شرکتهای واقعی
علاوه بر منابع جعلی، تقریباً نیمی از ادعاهای مطرحشده در گزارش نیز یا ساختگی بودند یا بهاشتباه به شرکتها نسبت داده شده بودند. در یک نمونه، KPMG مدعی شده بود که شرکت هواپیمایی امارات یک چتبات موبایلی به نام «سارا» راهاندازی کرده که توانایی گفتوگو با مسافران و تغییر پرواز آنها را دارد. در واقعیت، سارا یک دستیار موبایلی بود که در سال ۲۰۲۳ (۱۴۰۲) معرفی شده و نه مبتنی بر هوش مصنوعی مکالماتی بود و نه قادر به تغییر رزروها.
در نمونهای دیگر، این گزارش ادعا کرده بود که بانک سرمایهگذاری UBS سوئیس هوش مصنوعی عاملی را در حوزههای مشاوره سرمایهگذاری، مدیریت ریسک و نظارت بر انطباق بهکار گرفته است. این بانک در واکنش به فایننشال تایمز این اطلاعات را «کاملاً نادرست» خواند. شرکت راهآهن فدرال سوئیس (SBB) نیز ادعای مشابهی را که KPMG درباره استفاده آن از عوامل هوش مصنوعی برای برنامهریزی سفر مسافران مطرح کرده بود، «نادرست» اعلام کرد.
خطر «آلودگی اطلاعاتی» در زنجیره پژوهش
ادوارد تیان، مدیرعامل GPTZero، هشدار داد که گزارشهای پر از خطای شرکتهایی مانند KPMG میتواند «چشمه اطلاعات» را آلوده کند؛ چرا که این گزارشها معمولاً بهعنوان منابع معتبر در پژوهشها و مقالات دیگر مورد استناد قرار میگیرند و این به معنای گسترش زنجیرهای توهمات هوش مصنوعی در ادبیات علمی و تجاری است.
سخنگوی KPMG اعلام کرد این شرکت «دقت و صداقت در محتوای منتشرشده را جدی میگیرد.» این گزارش در پی انتشار این اخبار از دسترس خارج شده و KPMG در حال بررسی چگونگی انتشار آن است.