Yapay zeka endüstrisi dünyayı etkiliyor. Mozilla Danışmanı Ababa Birhane temel değerlerine meydan okuyor

“Genişleme” sloganıdır Yapay zeka endüstrisi Teknoloji şirketleri, daha büyük İnternet veri kümelerini kullanarak yapay zeka sistemlerini geliştirmek için acele ediyor.

Bu aynı zamanda Mozilla’da yapay zeka uzmanı olan ve yıllardır kendi alanındaki değer ve uygulamalara ve bunların dünya üzerindeki etkilerine meydan okuyan Abiba Berhane için de bir tehlike işareti.

Son araştırması Bir araştırmaya göre, popüler akıllı görüntü oluşturma araçlarını eğitmek için çevrimiçi verilerin artan kullanımı, orantısız bir şekilde, özellikle siyah erkeklere karşı ırkçı çıktılara yol açıyor.

Birhan, Firefox web tarayıcısını çalıştıran özgür yazılım şirketinin kar amacı gütmeyen ana kuruluşu olan Mozilla Vakfı’nda yapay zeka sorumluluğu konusunda kıdemli danışmandır. Etiyopya’da büyüyen ve İrlanda’da yaşayan kendisi aynı zamanda Trinity College Dublin’de Yardımcı Doçent olarak görev yapmaktadır.

Associated Press ile yaptığı röportaj, kısa ve net olması amacıyla düzenlendi.

Soru: Yapay zeka alanına nasıl başladınız?

C: Eğitim alarak bilişsel bilimde uzmanlaşıyorum. Okuduğunuz her yerde bilgisayar bilimleri bölümü yoktur. Yani okuduğum yerde bilgisayar bilimi okuyordum. Makine öğrenimiyle dolu bir laboratuvara yerleştirildim. Pek çok harika şey yapıyorlardı ve hiç kimse verilere dikkat etmiyordu. Bunu çok eğlenceli ve aynı zamanda ilginç buldum çünkü verilerin modelinizin başarısının en önemli bileşenlerinden biri olduğunu düşündüm. Ancak insanların “Veri setimde ne var?” sorusunu yeterince umursamamasını veya sormaya zaman ayırmamasını garip buluyorum. Bu alana ilgim bu sayede oluştu. Daha sonra büyük ölçekli veri kümelerinin denetimlerini yapmaya başladım.

S: Yapay zekanın etik temelleri üzerine çalışmalarınızdan bahseder misiniz?

C: Makine öğreniminin ne olduğu konusunda herkesin kendi görüşü vardır. Yani makine öğrenicileri (yapay zeka topluluğundan insanlar) size makine öğreniminin değersiz olduğunu söylüyor. Bu sadece matematik, nesnel, tarafsız vb. Sosyal bilimlerdeki akademisyenler, diğer teknolojiler gibi makine öğreniminin de onu besleyenlerin değerlerini kodladığını söylüyor. Yani yaptığımız şey, alanın neyle ilgilendiğini bulmak ve bunu çok titiz bir şekilde yapmak için en etkili yüzlerce makine öğrenimi makalesini sistematik olarak incelemekti.

C: Peki bu değerlerden biri genişleme mi?

S: Hacim, başarının kutsal kâsesi olarak görülüyor. DeepMind, Google ve Meta gibi büyük şirketlerden, boyutun gürültüyü gölgede bıraktığını ve bu boyutun gürültüyü ortadan kaldırdığını iddia eden araştırmacılar var. Buradaki fikir, boyut arttıkça veri kümenizdeki her şeyin eşit olması ve kendi kendini dengelemesidir. Normal dağılım gibi bir şeyle veya temel gerçeğe daha yakın bir şeyle sonuçlanmalısınız. Fikir bu.

S: Ancak araştırmanız genişlemenin nasıl zarar verebileceğini ele alıyor. Bu zararlardan bazıları nelerdir?

C: En azından konu nefret dolu içerik, zehirlilik vb. olduğunda bu veri setlerinin kapsamını genişletmek aynı zamanda içerdikleri sorunların boyutunu da artırıyor. Daha spesifik olarak, çalışmamız bağlamında veri kümelerinin kapsamının genişletilmesi, veri kümesindeki nefret dolu içerik miktarını da artırıyor. İki veri setinde nefret dolu içerik miktarını ölçtük. Veri kümesi 400 milyondan 2 milyara çıkarken nefret dolu içerik, hedefli içerik ve saldırgan içerik arttı. Bu, ölçeklendirme yasalarının eğitim verileri söz konusu olduğunda gerçekten geçerli olmadığını gösteren çok kesin bir bulguydu. (Başka bir makalede) koyu tenli kadınların ve özellikle erkeklerin, şüpheli veya suçlu kişi etiketlerini çok daha yüksek oranda atama eğiliminde olduklarını bulduk.

S: Yapay zeka sektörünün önerdiğiniz değişiklikleri yapacağı konusunda ne kadar umutlu veya kendinize güveniyorsunuz?

C: Bunlar sadece matematiksel ve teknik sonuçlar değil. Bunlar aynı zamanda toplumu şekillendiren ve etkileyen araçlardır. Öneriler adalet, eşitlik, mahremiyet vb. değerleri teşvik etmemiz ve bunlara dikkat etmemiz yönündedir. Dürüst cevabım, sektörün tavsiyelerimizi dikkate alacağına kesinlikle güvenmediğimdir. Sektör, kendisini bu toplumsal sorunları ciddiye almaya teşvik eden bu tür tavsiyeleri hiçbir zaman dikkate almadı. Ve muhtemelen asla yapmayacaksın. Büyük şirketler yasal olarak gerekli olduğunda harekete geçme eğilimindedir. Çok güçlü ve uygulanabilir düzenlemelere ihtiyacımız var. Şirketler aynı zamanda halkın öfkesine ve kamuoyunun farkındalığına da tepki gösteriyor. İtibarlarının zedelendiği bir durum söz konusu olduğunda değişiklik yapma eğiliminde olurlar.