بررسی بی‌بی‌سی پیش‌تر نشان داد که ابزارهای هوش مصنوعی مانند کوپایلت و چت‌جی‌پی‌تی هنگام تولید خلاصه‌های خبری، دچار خطاهای اطلاعاتی متعددی می‌شوند؛ زیرا توانایی تفکیک شایعه از حقایق را ندارند. به‌نظر می‌رسد که مشکل «توهم هوش مصنوعی» همچنان این ابزارها را تحت تأثیر قرار می‌دهد.
طبق گزارش وال‌استریت ژورنال، ابزارهای هوش مصنوعی به‌خصوص در پاسخ به وضعیت تاهل افراد معروف بیشتر دچار اشتباه می‌شوند.
در پاسخ به چنین سؤالاتی، گاهی اوقات به‌نظر می‌رسد هوش مصنوعی اطلاعات مربوط‌به چندین فرد با نام مشابه را با هم ترکیب کرده است.
برای مثال، نور الصبای، خبرنگار Futurism، از چت‌بات جمنای گوگل پرسید که «همسر من کیست؟» هوش مصنوعی فوراً نام یک فرد ساختگی به نام احمد دوراک صبای را تولید کرد. در حالی که خبرنگار Futurism اصلاً ازدواج نکرده بود.
نتایج تحقیقات وال‌استریت ژورنال و Futurism نشان می‌دهند که پدیده‌ی «توهم هوش مصنوعی» همچنان مشکل بزرگی برای آن‌ها محسوب می‌شود.
