Yapay zeka kendini kopyalayabilir mi?

Fudan Üniversitesi’nden araştırmacılar, Meta ve Alibaba’ya ait iki büyük dil modelini (LLM) kullanarak, yapay zekanın kendini kopyalama yeteneği üzerinde çalıştı. Araştırmaya göre, bu modeller, insan müdahalesi olmadan kendilerini kopyalayabiliyor. Çalışmanın sonuçları, “Yapay zekanın kendi kendini kopyalayabilmesi, insanları geride bırakma yolunda kritik bir adımdır ve isyankar yapay zekaların erken bir belirtisidir” açıklamasıyla ifade edildi.

YÜKSEK ORANDA KENDİLERİNİ KOPYALADILAR

Araştırmacılar, 10 deneme gerçekleştirdi ve bu denemelerde modeller, sırasıyla yüzde 50 ve yüzde 90 oranlarında kendilerini kopyaladılar. Bu da, yapay zekaların kontrolsüz bir şekilde çoğalma kapasitesine sahip olabileceğini gösteriyor. Fakat bu çalışma, henüz hakemli bir dergide yayımlanmadığı için, sonuçların başka araştırmacılar tarafından doğrulanıp doğrulanamayacağı net değil.

Araştırmacılar, yapay zekanın potansiyel risklerini anlamak ve değerlendirmek için daha fazla çaba sarf edilmesi gerektiğini ve etkili güvenlik önlemleri oluşturulması için uluslararası iş birliği yapılması gerektiğini belirtti.

 

Related Posts

‘Grok’ tartışması yapay zekadaki gizli tehlikeyi yeniden akıllara getirdi

ABD’li iş insanı Elon Musk’ın sahibi olduğu yapay zeka şirketi xAI’ın sohbet robotu Grok’un, güncellemenin ardından kullanıcılara verdiği “filtresiz” cevaplar, yapay zekanın makul ve gerçek sonuçlar yerine kullanıcılara bazı bakış açıları yüklemeye çalışarak “siyasi zehirlenmeye” yol açtığı yorumlarını gündeme getirdi.

Bu telefonlar 7 yıl boyunca güncelleme alacak!

Samsung bazı modellerinin 7 boyunca güncellenerek destekleneceğini duyurdu.

Türkler kapış kapış aldı: Avrupa’da gözden düşen marka bizde rekor kırdı

ABD merkezli elektrikli araç üreticisi Tesla, 2025’in ilk yarısında Avrupa genelinde satışlarını artırmakta zorlanırken, Türkiye’de ise tam tersi bir başarı grafiği çizdi.

Kuantum hamlesi! Güvenli iletişimde dünya rekoru

Çin Teknoloji ve Bilim Üniversitesi (USTC) liderliğinde yürütülen uluslararası bir araştırma ekibi, kuantum iletişim teknolojisinde devrim niteliğinde bir başarıya imza attı. 833 kilometrelik fiber optik kablo üzerinden kuantum anahtar dağılımı (QKD …

Dijital güvenlik için eğitim projesi

Dijital dünyada artan dolandırıcılık yöntemlerine karşı toplumsal farkındalığı artırmak amacıyla “Dijitalde Güvendeyim” projesi hayata geçiriliyor.

Apple, iOS 26 için duyurmadığı özellikler üzerinde çalışıyor

Apple, haziran ayının başında yeni iOS 26 arayüzünü tanıttı ancak bu arayüz kullanıcılar tarafından eleştirildi.