Yapay zekanın en büyük destekçilerinden biri olan Google, çalışanlarını chatbotlar, ETHRWorldSEA hakkında uyarıyor

Aralarında Bard ve ChatGPT’nin de bulunduğu sohbet botları, kullanıcılarla sohbet etmek ve sayısız istemi yanıtlamak için sözde üretken yapay zekayı kullanan insan benzeri programlardır.

Jeffrey Dustin ve Anna Tong tarafından yazıldı.

SAN FRANCISCO — Konuyu bilen dört kişinin Reuters’e verdiği demeçte, Alphabet Inc çalışanları Bard da dahil olmak üzere sohbet robotlarını nasıl kullandıkları konusunda uyarıyor ve aynı zamanda yazılımı dünya çapında pazarlıyor.

Google ana şirketi, çalışanlarına gizli materyallerini akıllı sohbet robotlarına girmemelerini tavsiye etti, insanlar söyledi ve şirket, uzun süredir devam eden bir bilgi koruma politikasına atıfta bulunarak bunu doğruladı.

Aralarında Bard ve ChatGPT’nin de bulunduğu sohbet botları, kullanıcılarla sohbet etmek ve sayısız istemi yanıtlamak için sözde üretken yapay zekayı kullanan insan benzeri programlardır. Sohbetler gözden geçirenler tarafından okunabilir ve araştırmacılar, benzer bir yapay zekanın eğitim sırasında emdiği verileri yeniden üreterek bir sızıntı riski oluşturabileceğini bulmuşlardır.

Bazı insanlar, Alphabet’in mühendislerini sohbet robotlarının oluşturabileceği bilgisayar kodunun doğrudan kullanımından kaçınmaları konusunda da uyardığını söyledi.

Yorum istendiğinde şirket, Bard’ın istenmeyen kod önerilerinde bulunabileceğini, ancak yine de programcılara yardımcı olduğunu söyledi. Google ayrıca teknolojisinin sınırlamaları konusunda şeffaf olmayı hedeflediğini söyledi.

Endişeler, Google’ın ChatGPT ile rekabet halinde başlattığı programlardan kaynaklanan ticari zararlardan nasıl kaçınmak istediğini gösteriyor. Google’ın ChatGPT OpenAI destekçilerine ve Microsoft Corp’a karşı yarışında söz konusu olan, milyarlarca dolarlık yatırım ve yeni AI yazılımından elde edilen henüz anlatılmamış reklam ve bulut geliridir.

Google’ın uyarısı, şirketler için bir güvenlik standardı haline gelen ve bireyleri halka açık sohbet robotlarını kullanmaya karşı uyaran şeyi de yansıtıyor.

Aralarında Samsung, Amazon.com ve Deutsche Bank’ın da bulunduğu şirketler, dünya genelinde giderek artan sayıda şirketin yapay zeka sohbet botlarına korumalı alanlar koyduğunu söyledi. Yorum taleplerine yanıt vermeyen Apple’ın da yanıt verdiği bildirildi.

Ağ sitesi Fishbowl tarafından yürütülen ve ABD merkezli büyük şirketler de dahil olmak üzere yaklaşık 12.000 katılımcıyla yapılan bir ankete göre, Ocak ayı itibarıyla profesyonellerin yaklaşık %43’ü ChatGPT veya diğer AI araçlarını patronlarına söylemeden kullanıyordu.

Insider’ın bildirdiğine göre Google, Şubat ayına kadar Bard’ı piyasaya sürülmeden önce test eden çalışanlardan ona içeriden bilgi vermemelerini istedi. Google artık Bard’ı 180’den fazla ülkede ve 40 dilde yaratıcılığa sıçrama tahtası olarak sunuyor ve uyarıları kod önerilerine kadar uzanıyor.

Politico’nun Salı günü şirketin Chatbot’un mahremiyet üzerindeki etkisi hakkında daha fazla bilgi gelene kadar Bard’ı bu hafta AB’de piyasaya sürmeyi ertelediğine dair raporunun ardından Google, Reuters’e düzenleyicilerin sorularını yanıtlarken İrlanda Veri Koruma Komisyonu ile ayrıntılı görüşmeler yaptığını söyledi.

Hassas bilgilerle ilgili endişeler

Bu tür bir teknoloji, görevleri katlanarak hızlandırma sözü veren e-postaları, belgeleri ve hatta programları oluşturabilir. Ancak bu içerik, yanlış bilgiler, hassas veriler ve hatta “Harry Potter” romanından telif hakkıyla korunan pasajlar içerebilir.

Google’ın 1 Haziran’da güncellenen gizlilik bildiriminde ayrıca şu ifade yer alıyor: “Gizli veya hassas bilgileri Bard görüşmelerinize dahil etmeyin.”

Bazı şirketler bu tür endişeleri gidermek için yazılımlar geliştirmiştir. Örneğin, web sitelerini siber saldırılara karşı koruyan ve başka bulut hizmetleri sunan Cloudflare, şirketlere çıkıştan gelen belirli verileri işaretleme ve kısıtlama yeteneği pazarlıyor.

Google ve Microsoft ayrıca, daha yüksek bir fiyat talep edecek ancak genel AI modellerine veri almaktan kaçınacak olan ticari müşterilere konuşma araçları da sunar. Bard ve ChatGPT’deki varsayılan ayar, kullanıcıların silmeyi seçebilecekleri sohbet geçmişini kaydetmektir.

Microsoft’un baş tüketici pazarlama sorumlusu Yousef Mahdi, şirketlerin çalışanlarının işyerinde halka açık sohbet robotlarını kullanmasını istememesinin “mantıklı” olduğunu söyledi.

Mehdi, Microsoft’un ücretsiz Bing sohbet robotunun kendi kurumsal yazılımıyla nasıl karşılaştırıldığını açıklayarak, “Şirketler gerektiği gibi muhafazakar bir görüş benimsiyor,” dedi. “Orada politikalarımız çok daha katı.”

Microsoft, çalışanların kendi programı da dahil olmak üzere kamuya açık yapay zeka programlarına gizli bilgileri girmesine ilişkin genel bir yasağın olup olmadığı konusunda yorum yapmaktan kaçındı, ancak oradaki başka bir yönetici Reuters’e kullanımını kişisel olarak kısıtladığını söyledi.

Cloudflare CEO’su Matthew Prince, gizli konuları sohbet botlarına yazmak, “özel kayıtlarınızın her yerine bir grup doktora öğrencisi bırakmak” gibiydi.

(San Francisco’dan Jeffrey Dustin ve Anna Tong tarafından bildirildi; Kenneth Lee ve Nick Zieminski tarafından düzenlendi)