Yapay zeka ‘akıllara durgunluk veren’ hasara neden olabilir

Birincisi, Papa’nın imajıydı.

Katolik Kilisesi’nin başı, Vatikan’da 5.000 dolarlık bir Balenciaga şişme ceketiyle dolaşıyor.

Bunu kısa bir süre sonra eski ABD Başkanı Donald Trump’ın altı polis memuru tarafından tutuklanmaya fiziksel olarak direnirken çekilmiş bir fotoğrafı izledi.

Hiç yaşanmamış olayların dünyayı dolaşan iki fotoğraf örneği.

Sanjana Hatutua, Yeni Zelanda’nın çevrimiçi dezenformasyon konusunda önde gelen uzmanlarından biridir ve Dezenformasyon Projesi araştırma grubunun bir parçasıdır.

O ve meslektaşları, dünyanın dört bir yanındaki milyonlarca insana yalnızca birkaç satırlık metinden hiper-gerçekçi görüntüler oluşturabilen araçlara ücretsiz ve açık erişim sağlayan bu sürekli gelişen teknolojinin etrafındaki denetim ve denge eksikliğinden giderek daha fazla endişe duyuyor.

“Bu yapay zeka ailesi, bilgi işlemde daha önce hiç kaydedilmemiş bir hızda gelişiyor.”

“Bu ürünler, platformlar ve araçlar, onları geliştiren şirketlerde herhangi bir etik bariyer olmadan neden bu hızda geliştiriliyor?

“Microsoft da dahil olmak üzere önde gelen şirketlerden bazıları, hızlı bir şekilde geliştirdikleri araçların etik sonuçlarına bakarak şirketlerindeki ekipleri soyuyor.”

Sonuç olarak, halkın risk altında olduğunu söyledi.

“GAI ailesi içinde gerçekten akıllara durgunluk veren hasara neden olma potansiyeline sahip bir dizi araç için, küresel ve yerel olarak kobay, adeta kobay olduk.”

Bir tıp öğrencisine ilk gününde bir neşter vermek ve mesleğini öğrenmesi için onu açık kalp ameliyatına götürmek gibi bir şey olduğunu söyledi.

İçerik oluşturucular, yapımcılar ve CEO’lar suistimal ve suiistimale karşı bir çareleri olmadığını söylerken bu araçların neden tanıtıldığına dair herhangi bir açıklamaya meydan okuyor. [of their tools] ve hatta araçlarının dahili olarak nasıl çalıştığını bile.”

Donald Trump’a dön.

Fotoğrafların kendileri hızla çürütülebilirken, bazı insanların onları “görünmemesi” için kaçınılmaz olarak çok geç olacaktı.

Eski başkanın suçlamalarla karşı karşıya kalmasıyla birlikte, bu fotoğraflar insanların görmeyi bekleyebilecekleri bir boşluğu doldurdu ve bazı insanları fotoğrafın konusunun doğru olduğuna inandırdı.

GAI’deki son gelişmelerle birleşen dezenformasyonun gücü de burada güçlü bir kombinasyon oluşturuyor.

“Bugün herkes bir video, çizgi film, meme oluşturabilir, bir görüntüyü manipüle edebilir, sentetik medya yaratabilir, bir kişinin yüzünü klonlayabilir veya sesini veya sesini çoğaltabilir, insanları bir şeyler yapmaya, bir şeye inanmaya motive edecek kadar inandırıcı içerik yaratabilir. bir şeye kaydolmak ve ardından bu inançlara göre hareket etmek. Bu muazzam bir güç,” dedi Hatutua.

Ancak dezenformasyonun amacı, yanlış bilginin doğru olduğunu iddia etmek değil, ne olduğunu sorgulamaktır.

“Hiçbir şey kesinlikle kesin veya doğru olmadığında, hiçbir şey orijinal ve doğru olarak sunulamaz. Ve bu, yanlış bilginin net bir faydasıdır. Çünkü, esasen komploya yardımcı olan, gerçeğin çözülmesi dediğimiz değişkenlik veya bilgi bozuklukları yaratır. , dezenformasyonda ve özellikle dezenformasyonda, genel olarak demokrasiyi hedef almak için.”

Bu teknolojinin kontrolsüz ve düzensiz ilerlemesiyle ilişkili gerçek dünya risklerinin çeşitli ve son derece rahatsız edici olduğunu söyledi.

Yapay fotoğraf ve videoların adalet sistemimizi baltalama ve hatta ulusal güvenlik endişelerine yol açma olasılığı vardır.

“Bu su başlı bir canavar. Etkilenecek olan sadece yargı değil, aynı zamanda polis, gözaltı zinciri, mahkemelerde delillerin kabul edilebilirliği, bizim sahip olduğumuz ve doğru olduğunu düşündüğümüz şey bu.”

Borsa yankılarına, market süpermarketlerine yol açabilir ve bir politikacının söylemediği bir şeyi söylediği inancını yaratabilir.

“Bunlar, dezenformasyon anlatılarındaki embriyonik yapılarda zaten gördüğümüz gerçek dünya sonuçları; kullansanız da kullanmasanız da herkesi etkileyecek.”

Birleşik Krallık şu anda var olan uluslararası sahnede Yapay zeka hakkında yayınlanmış yönergeler.

İçinde, teknolojinin çeşitli sektörlerdeki engin potansiyelini savunurken aynı zamanda fiziksel ve zihinsel sağlık risklerini, mahremiyet ihlallerini ve olası insan hakları ihlallerini kabul ediyor.

Hatutua, Yeni Zelandalı politika yapıcıları, teknoloji yeniden bir adım daha atmadan önce düzenleyici kontrol ve dengeleri devreye sokmak için erken ve hızlı hareket etmeye çağıranlar arasında yer alıyor.

Ulusal güvenlik tehditlerini ve risklerini de kapsayan Hatutua, “(Dezenformasyon Projesi), GAI’nin bu ülke için ne anlama gelebileceğine dair on maddelik bir analiz yazdı” dedi. Bu tehlikeli. Bu, hızlı bir tempoda değil, büyüyen bir sorundur. Uzaklara gidiyoruz ve bunun hakkında konuşmaya başlamalıyız.”