Araştırmacılar yapay zekayı enerji açısından daha verimli hale getirecek gelişmiş bir cihaz geliştiriyor

Araştırma şu tarihte yayınlandı: npj alışılmadık bilgi işlemNature tarafından yayınlanan hakemli bilimsel bir dergidir. Araştırmacılar, cihazda kullanılan teknoloji için birden fazla patent aldı.

Yapay zeka uygulamalarına olan talebin artmasıyla birlikte araştırmacılar, yüksek performansı ve düşük maliyetleri korurken enerji açısından daha verimli bir süreç oluşturmanın yollarını arıyor. Tipik olarak, makine veya yapay zeka işlemleri, verileri mantık (bilginin sistem içinde işlendiği yer) ile bellek (verinin depolandığı yer) arasında aktararak büyük miktarda enerji tüketir.

Minnesota Üniversitesi Bilim ve Mühendislik Koleji’ndeki bir araştırmacı ekibi, hesaplamalı rastgele erişim belleği (CRAM) adı verilen, verilerin bellekten asla ayrılmadığı yeni bir model gösterdi.

Bölümünde doktora sonrası araştırmacı olan Yang Luv, “Bu çalışma, verilerin depolandığı ağdan ayrılmak zorunda kalmadan tamamen bellek dizisi içinde işlenebildiği sıkıştırılmış rastgele erişim belleğinin (CRAM) ilk deneysel gösterimidir” dedi. Minnesota Üniversitesi’nden Elektrik ve Bilgisayar Mühendisliği ve çalışmanın ilk yazarı.

Uluslararası Enerji Ajansı (IEA), Mart 2024’te küresel enerji kullanımı tahminlerini yayınladı ve yapay zeka için enerji tüketiminin 2022’de 460 terawatt-saatten (TWh) 2026’da 1.000 TWh’ye muhtemelen ikiye katlanacağını tahmin etti. Bu, kabaca elektrik tüketimine eşdeğerdir. Japonya’nın tüm ülkesinde.

Yeni çalışmanın yazarlarına göre CRAM makine öğrenimi tabanlı çıkarım hızlandırıcının yaklaşık 1000 kat iyileşme sağlaması bekleniyor. Bir başka örnekte ise geleneksel yöntemlere göre 2.500 ve 1.700 kat enerji tasarrufu sağlandı.

Bu araştırma yirmi yıldan fazla sürdü,

Araştırmanın baş yazarı Jianping Wang ve McKnight Seçkin Profesörü ve Robert F. Minnesota Üniversitesi Elektrik ve Bilgisayar Mühendisliği Bölümü’nden Hartman, “20 yıl önce, bellek hücrelerini doğrudan bilgisayarlarda kullanma konusundaki ilk konseptimiz çılgınca kabul edildi” diyor.

“2003’ten bu yana son teknolojiye sahip bir öğrenci grubu ve Minnesota Üniversitesi’nde fizik, malzeme bilimi ve mühendisliği, bilgisayar bilimi ve mühendisliğinden modelleme, kalibrasyon ve cihaz oluşturmaya kadar oluşturulan disiplinler arası bir fakülte ekibi sayesinde, şunları başardık: Olumlu sonuçlar elde ettik ve artık bu tür bir teknolojinin uygulanabilir ve teknolojiye entegre edilmeye hazır olduğunu kanıtladık.”

Bu araştırma, Wang ve meslektaşları tarafından manyetik tünel bağlantıları (MTJ’ler), sabit sürücüleri, sensörleri ve diğer mikroelektronik sistemleri geliştirmek için kullanılan nanoyapılı cihazlar alanında yürütülen öncü patentli araştırmalara dayanan tutarlı, uzun vadeli bir çabanın parçasıdır. … Buna, mikro denetleyiciler ve akıllı saatler gibi gömülü sistemlerde kullanılan manyetik rastgele erişim belleği (MRAM) de dahildir.

CRAM’in tasarımı, gerçek aritmetik işlemlerin bellek içinde ve bellekle gerçekleştirilmesine olanak tanır ve aritmetik işlemler ile bellek arasındaki duvarı, geleneksel von Neumann mimarisinde bir darboğaz olarak ortadan kaldırır; neredeyse tüm modern bilgisayarlar.

“Yüksek enerji verimliliğine sahip bir dijital bilgi işlem alt katmanı olarak tahsis edilebilir RAM, hesaplamanın bellek dizisinin herhangi bir yerinde gerçekleştirilebilmesi açısından son derece esnektir. Buna göre, tahsis edilebilir RAM’i çeşitli Yapay Zeka algoritmalarının performans ihtiyaçlarına daha iyi uyacak şekilde yeniden yapılandırabiliriz.” bilgisayar mühendisliği uzmanı, makalenin ortak yazarı ve Minnesota Üniversitesi Elektrik ve Bilgisayar Mühendisliği Bölümünde doçent olan Olija Karbozko şöyle konuştu: “Günümüzün yapay zeka sistemlerinin geleneksel yapı taşlarından enerji açısından daha verimli.”

Karbozko, CRAM teknolojisinin hesaplamaları doğrudan bellek hücreleri içerisinde gerçekleştirdiğini, matris yapısından verimli bir şekilde yararlanarak çok fazla enerji gerektiren yavaş veri aktarım ihtiyacını ortadan kaldırdığını açıkladı.

En verimli SRAM cihazları, bir veya sıfırı kodlamak için dört veya beş transistör kullanır, ancak tek bir jiroelektronik cihaz aynı işlevi çok daha düşük bir güçle ve daha yüksek bir hızda gerçekleştirebilir ve zorlu ortamlara dayanıklıdır. Spintronik cihazlar, verileri depolamak için elektrik yükü yerine elektronların dönüşünü kullanarak geleneksel transistör tabanlı çiplere daha verimli bir alternatif sunuyor.

Ekip şu anda büyük ölçekli gösteriler sağlamak ve yapay zeka işlevselliğini geliştirmek için gereken donanımı üretmek amacıyla Minnesota’dakiler de dahil olmak üzere yarı iletken endüstrisi liderleriyle birlikte çalışmayı planlıyor.

Ekipte Lv, Wang ve Karpuzcu’nun yanı sıra Minnesota Üniversitesi Elektrik ve Bilgisayar Mühendisliği Bölümü’nden araştırmacılar Robert Bloom ve Hüsrev Cilasun; McKnight Değerli Profesör ve Robert ve Marjorie Henle Bölüm Başkanı Sachin Sapatnekar; eski doktora sonrası araştırmacılar Brandon Zink, Zamshed Chowdhury ve Salonik Resch; Arizona Üniversitesi’nden araştırmacılarla birlikte: Pravin Khanal, Ali Habiboğlu ve Profesör Weigang Wang.

Bu çalışma ABD Savunma İleri Araştırma Projeleri Ajansı (DARPA), Ulusal Standartlar ve Teknoloji Enstitüsü (NIST), Ulusal Bilim Vakfı (NSF) ve Cisco Inc.’in bağışlarıyla desteklenmiştir. Nanocihaz modellerini içeren araştırma, Minnesota Nanocenter ile işbirliği içinde yürütüldü ve simülasyon/hesaplamalı çalışma, Minnesota Üniversitesi’ndeki Minnesota Süper Bilgisayar Enstitüsü ile yürütüldü. “Manyetik Tünel Tabanlı Rastgele Hesaplamalı Belleğin Deneysel Gösterimi” başlıklı makalenin tamamını okumak için şu adresi ziyaret edin: npj alışılmadık bilgi işlem İnternet sitesi.