تصاویر ساخته‌شده با هوش مصنوعی که اهرام مصر را فروریخته و در گودالی عظیم نشان می‌داد، برج ایفل پاریس را ویران تصویر می‌کرد باعث شد گوگل یکی از قدرتمندترین ابزارهای تازه هوش مصنوعی خود را تنها مدت کوتاهی پس از معرفی، از دسترس خارج کند.

این شرکت کمتر از ۴۸ ساعت پس از اعلام ادغام مولد تصویر هوش مصنوعی خود، «نانو بنانا»، در نقشه زمین گوگل ، اعلام کرد که این قابلیت را «تا زمان اجرای محدودیت‌ها و محافظت‌های قوی‌تر» متوقف می‌کند.

قابلیت حذف‌شده به کاربران اجازه می‌داد با دستورهای متنی، سناریوهای ساختگی را روی لایه‌ای از تصاویر واقعی ماهواره‌ای، هوایی یا سه‌بعدی ایجاد کنند.

گوگل در توضیح تصمیم خود تاکید کرد که مردم به نقشه گوگل به‌عنوان نمایی قابل اعتماد از جهان نگاه می‌کنند و تصاویر جعلی ممکن است برای بسیاری از کاربران واقعی به نظر برسند.

بی‌بی‌سی هنگام آزمایش این ابزار توانست تصاویری مانند برج ایفل فروریخته، گودالی که هرم بزرگ جیزه را بلعیده و تانک‌های روسی در پایتخت اوکراین بسازد. پیش از توقف قابلیت، هنک فان اس، کارشناس هوش مصنوعی و اطلاعات نادرست، نیز با آن تصاویری جعلی از نیروگاه هسته‌ای ساختگی در ایران، اردوگاه پناهجویان در مرز آمریکا و مکزیک و بیمارستانی جعلی در غزه با گودال بمب در کنار آن تولید کرده بود.