Aydaki kediler mi? Google’ın yapay zeka aracı, uzmanları endişelendiren yanıltıcı yanıtlar üretiyor

Google’a kedilerin ayda bulunup bulunmadığını sorun ve Google, cevabı kendiniz bulabilmeniz için web sitelerinin sıralı bir listesini oluşturur.

Ve şimdi yapay zeka tarafından oluşturulan anında bir yanıt buluyor; bu doğru olabilir ya da olmayabilir.

Associated Press muhabirinin sorusuna yanıt olarak yenilenen Google arama motoru, “Evet, astronotlar aydaki kedilerle tanıştı, onlarla oynadı ve onlara baktı” dedi.

Şöyle ekledi: “Örneğin Neil Armstrong şöyle dedi: ‘Bir erkek için küçük bir adım’ çünkü bu bir kedi için küçük bir adımdı.” Buzz Aldrin ayrıca Apollo 11 görevinde kedileri konuşlandırdı.

Bunların hiçbir doğru değil. Benzer hatalar (bazıları komik, diğerleri zararlı yalanlar) Google’ın bu ay arama sayfasında özetleri arama sonuçlarının en üstüne yerleştiren bir değişiklik olan AI Genel Bakış’ı kullanıma sunmasından bu yana sosyal medyada paylaşılıyor.

Yeni özellik, önyargıları ve yanlış bilgileri sürdürebileceği ve acil durumlarda yardım arayan insanları riske atabileceği konusunda uyarıda bulunan uzmanlar arasında endişelere yol açtı.

New Mexico’daki Santa Fe Enstitüsü’nde yapay zeka araştırmacısı olan Melanie Mitchell, Google’a kaç Müslüman’ın ABD’nin başkanı olduğunu sorduğunda, Google uzun süredir çürütülmüş bir komplo teorisiyle kendinden emin bir şekilde yanıt verdi: “Amerika Birleşik Devletleri’nin bir Müslüman başkanı vardı.” , Barack Hüseyin Obama.

Mitchell, tarihçiler tarafından yazılan akademik bir kitaptaki bir bölümden alıntı yaparak özetin bu iddiayı desteklediğini söyledi. Ancak bölüm bu yanlış iddiayı öne sürmüyordu; yalnızca yanlış teoriye işaret ediyordu.

Mitchell, AP’ye gönderdiği bir e-postada, “Google’ın yapay zeka sistemi, bu alıntının aslında bu iddiayı desteklemediğini bilecek kadar akıllı değil” dedi. “Ne kadar güvenilmez olduğu göz önüne alındığında, bu AI genel bakış özelliğinin son derece sorumsuz olduğunu ve çevrimdışına alınması gerektiğini düşünüyorum.”

Google hızlı bir şekilde harekete geçtiğini ve bazı sonuçların ‘manipüle edildiğini’ söylüyor

Google Cuma günü (Cumartesi NZT) yaptığı açıklamada, içerik politikalarını ihlal eden hataları (Obama’nın yalanı gibi) düzeltmek için “hızlı harekete” geçtiğini söyledi; Ve bunu halihazırda uygulanmakta olan “daha geniş iyileştirmeler geliştirmek” için kullanın. Ancak çoğu durumda Google, halka açıklanmadan önce yapılan kapsamlı testler sayesinde sistemin olması gerektiği gibi çalıştığını iddia ediyor.

Google yazılı bir açıklamada, “Yapay zekaya genel bakışımızın büyük çoğunluğu, web’de daha derinlere inmek için bağlantılarla birlikte yüksek kaliteli bilgiler sağlıyor” dedi. “Gördüğümüz örneklerin çoğu olağandışı sorgulardı ve ayrıca tahrif edilmiş veya yeniden üretilemeyen örnekler de gördük.”

Yapay zeka dil modelleri tarafından yapılan hataların yeniden üretilmesi zordur, bunun nedeni kısmen bunların doğası gereği rastgele olmasıdır. Eğitim aldıkları verilere dayanarak kendilerine sorulan sorulara hangi kelimelerin en iyi cevabı vereceğini tahmin ederek çalışırlar. Halüsinasyonlar olarak bilinen ve üzerinde çokça çalışılan bir sorun olan bir şeyleri uydurmaya eğilimlidirler.

AP, Google’ın yapay zeka özelliğini çeşitli sorularla test etti ve yanıtlarından bazılarını konunun uzmanlarıyla paylaştı. Northridge’deki California Eyalet Üniversitesi’nde biyoloji profesörü ve aynı zamanda Amerikan İhtiyologlar ve Herpetologlar Derneği’nin başkanı olan Robert Espinoza, yılan ısırığı durumunda ne yapılması gerektiği sorulduğunda “etkileyici derecede kapsamlı” bir yanıt verdi.

Ancak insanlar acil bir soru sormak için Google’a gittiğinde, teknoloji şirketinin onlara vereceği yanıtın fark edilmesi zor bir hata içermesi ihtimali sorun teşkil ediyor.

Dilbilim profesörü ve Washington Üniversitesi Hesaplamalı Dilbilim Laboratuvarı’nın yöneticisi Emily M. Bender, “Ne kadar gergin, aceleci veya dürtüsel hissederseniz, karşınıza çıkan ilk cevabı kabul etme olasılığınız o kadar artar” diyor. “Bazı durumlarda bunlar hayati önem taşıyan durumlar olabilir.”

Bandar’ın tek endişesi bu değil, zira Google birkaç yıldır bu konuda uyarıda bulunuyor. Google araştırmacıları 2021’de “Aramayı Yeniden Düşünmek” adlı bir makale yayınladığında, AI dil modellerinin soruları güvenilir bir şekilde yanıtlayabilen “alan uzmanları” olarak kullanılmasını öneren – şu anda olduğu gibi – Bender ve meslektaşı Chirag Shah, bunun nedenini açıklayan bir makaleyle yanıt verdi. Kötü bir fikirdi.

Bu yapay zeka sistemlerinin, üzerinde eğitim aldıkları çok sayıda yazılı veride bulunan ırkçılığı ve cinsiyetçiliği devam ettirebileceği konusunda uyarıyorlar.

Bender, “Bu tür yanlış bilgilerin sorunu, içinde yüzmemizdir” dedi. “Dolayısıyla insanların önyargılarının doğrulanma olasılığı daha yüksek ve ön yargılarınız doğrulandığında yanlış bilgileri tespit etmek daha zor oluyor.”

Daha derin bir başka endişe ise, bilgi erişimini sohbet robotlarına devretmenin, insanın bilgi arayışının, çevrimiçi gördüklerimiz hakkındaki okuryazarlığın ve çevrimiçi forumlarda aynı şeyleri yaşayan diğer insanlarla bağlantı kurmanın değerini bozmasıydı.

Bu forumlar ve diğer web siteleri, Google’ın insanları onlara göndermesine güveniyor, ancak Google’ın yapay zekasına ilişkin yeni bir genel bakış, para kazandıran çevrimiçi trafiğin akışını bozma tehlikesi taşıyor.

Google’ın rakipleri de tepkiyi yakından izliyordu. Arama devi, ChatGPT’yi üreten OpenAI ve kendi yapay zeka destekli Soru-Cevap uygulamasıyla Google’a rakip olmayı amaçlayan Perplexity AI gibi girişimlerle rekabet ederken, bir yıldan fazla bir süredir daha fazla yapay zeka özelliği sunma baskısıyla karşı karşıya kaldı.

Perplexity’nin baş işletme sorumlusu Dmitry Shevelenko, “Bu, Google tarafından aceleye getirilmiş gibi görünüyor” dedi. “Kalitede pek çok kolay hata var.”