Dampak Kontroversial Fitur Ikhtisar AI Google: Misinformasi, Tanggapan, dan Reaksi Publik

Misinformasi dari Ikhtisar AI

Fitur Ikhtisar AI Google telah menghasilkan beberapa contoh misinformasi yang mengkhawatirkan, termasuk:

Klaim Palsu

• Menyatakan bahwa Barack Obama adalah presiden Muslim
• Menyarankan menambahkan lem non-toksik ke saus pizza, berdasarkan lelucon Reddit yang berusia 11 tahun
• Menyarankan bahwa aman untuk meninggalkan anjing di dalam mobil yang panas
• Merekomendasikan menatap matahari selama 5-30 menit untuk manfaat kesehatan, dengan mengutip WebMD secara keliru
• Mengusulkan makan batu setiap hari, mengutip artikel satir dari The Onion seolah-olah faktual

Contoh-contoh ini menyoroti risiko sistem AI yang secara percaya diri menyajikan informasi palsu sebagai kebenaran, terutama dengan mengutip sumber-sumber otoritatif. Penyebaran misinformasi yang dihasilkan AI, baik disengaja maupun karena “halusinasi” AI, merupakan ancaman yang semakin besar seiring alat-alat ini menjadi lebih umum.

Tanggapan Google

Google telah mengakui masalah-masalah dengan fitur Ikhtisar AI mereka dan sedang mengambil langkah-langkah untuk mengatasi informasi yang tidak akurat dan menyesatkan yang telah dihasilkan. Juru bicara Google menggambarkan beberapa misinformasi sebagai hasil dari “kueri yang sangat jarang” yang “tidak mewakili pengalaman sebagian besar orang,” menekankan bahwa “sebagian besar besar Ikhtisar AI menyediakan informasi berkualitas tinggi.” Perusahaan itu mempertahankan peluncuran fitur tersebut, dengan mengutip “pengujian ekstensif” yang dilakukan sebelum dimasukkan ke dalam pengalaman pencarian. Namun, Google juga mengakui umpan balik pengguna tentang kesalahan dan menyatakan bahwa mereka melakukan penyesuaian pada produk, termasuk “mengambil tindakan cepat di mana sesuai berdasarkan kebijakan konten kami, dan menggunakan contoh-contoh ini untuk mengembangkan perbaikan yang lebih luas pada sistem kami.” Menanggapi kasus misinformasi yang berbahaya secara khusus, seperti Ikhtisar AI yang memberikan informasi tentang “jembatan bunuh diri” yang populer, Google menyatakan bahwa fitur tersebut tidak dimaksudkan untuk muncul pada “kueri yang menunjukkan niat untuk melukai diri sendiri.” Perusahaan mengakui bahwa kueri tertentu ini tidak tertangkap oleh sistemnya dan telah mengambil tindakan untuk memblokir prediksi tersebut. Meskipun begitu, kekhawatiran tetap ada tentang masalah mendasar dengan sistem AI Google dan kemampuan mereka untuk secara andal membedakan antara informasi faktual dan misinformasi dari sumber-sumber seperti artikel satir dan lelucon media sosial. Saat Google terus mengintegrasikan AI ke dalam mesin pencarinya, mereka harus menunjukkan perbaikan yang signifikan dalam kemampuan mereka untuk menangani tantangan-tantangan ini agar dapat mempertahankan kepercayaan pengguna.

Reaksi Publik

Reaksi publik terhadap kesalahan Ikhtisar AI Google adalah campuran antara hiburan, kekhawatiran, dan ketidakpercayaan yang semakin besar. Platform media sosial dibanjiri dengan tangkapan layar jawaban AI yang absurd dan tidak akurat, mengubah kesalahan Google menjadi format meme baru. Meskipun beberapa jawaban yang dibagikan secara online tampaknya dibuat-buat, penyebaran viral posting-posting ini menyoroti pergeseran dari kesalahan yang sebenarnya menjadi tren berbagi informasi palsu, yang semakin merusak kepercayaan pada sistem AI Google. Banyak pengguna telah mengekspresikan kekecewaan dengan pengalaman pencarian Google dan perasaan kehilangan kendali atas informasi yang mereka terima. Beberapa bahkan telah menggunakan cara kerja, seperti menggunakan situs web yang mengalihkan pencarian Google melalui fungsi ‘Web’ historisnya, menghindari Ikhtisar AI secara keseluruhan. Popularitas cepat dari alternatif semacam itu menekankan kekecewaan publik yang semakin besar dengan fitur-fitur Google yang berbasis AI. Saat mesin pencari terkemuka menghadapi kritik dan ejekan yang semakin banyak, kekhawatiran tumbuh tentang dampak jangka panjang terhadap kepercayaan pengguna dan kemungkinan orang mulai mencari di tempat lain. Pergeseran ini secara perlahan dapat berdampak, merugikan kinerja pengiklan dan mengurangi lalu lintas organik ke situs web. Dengan kepercayaan pada Google Search yang semakin merosot, perusahaan menghadapi tantangan signifikan dalam memulihkan kepercayaan publik, meskipun mereka terus menghasilkan miliaran dolar dalam pendapatan setiap kuartal.