Meta, tehlikeli yapay zekâ sistemlerini sınırlayabileceğini açıkladı

Meta’nın CEO’su Mark Zuckerberg, yapay zekâ teknolojisinin geniş çapta erişilebilir olması gerektiğini savundu. Ancak şirketin yeni politika belgesine göre, bazı yapay zekâ sistemleri çok tehlikeli bulunursa kamuya açık şekilde paylaşılmayabilir. Meta, özellikle siber güvenlik saldırıları, kimyasal ve biyolojik tehditler gibi riskler taşıyan sistemleri sınırlayacağını belirtti.

WhatsApp, Facebook ve Instagram’ın sahibi Meta’nın İleri Düzey Yapay Zekâ Çerçevesi (Frontier AI Framework) adlı yeni belgesine göre, şirket bazı senaryolarda yüksek yetenekli yapay zekâ sistemlerini oluşturduğu riskler nedeniyle paylaşmayabilir. Bu ay Fransa’daki Yapay Zekâ Eylem Zirvesi öncesinde yayımlanan bu çerçevede Meta, “yüksek riskli” ve “kritik riskli” olmak üzere iki ayrı yapay zekâ grubunun tanımını yapıyor.

Yüksek riskli sistemler belirli önlemlerle güvenli hâle getirilebiliyorken, kritik riskli sistemler “felaketle sonuçlanabilecek tehlikeler barındırdığı için” Meta, bu tür sistemlerin gelişimini durduracağını ve güvenlik önlemlerini artıracağını açıkladı.

Meta’nın belirttiğine göre, özellikle ileri düzey siber saldırıları gerçekleştirebilecek veya yüksek etkili biyolojik silahların yayılmasına neden olabilecek yapay zekâ sistemleri kritik risk taşıyor. Şirket, sistemlerin tehlike düzeyini belirlemek için iç ve dış uzmanların görüşlerini dikkate aldığını belirtirken, yapay zekâ güvenliğinin kesin bir ölçüm standardına sahip olmadığını da kabul ediyor.

Öte yandan Meta’nın CEO’su Mark Zuckerberg Facebook üzerinden 2025 yılında yapay zekânın gelişimine yönelik beklentilerini aktardığı değerlendirmede yapay zekâ sistemlerinin açık kaynaklı olması gerektiğini savundu. Meta da, yapay zekâ teknolojisini geniş çapta erişime açma stratejisini benimsediğini vurgulasa da, uzmanlara göre bu tamamen açık kaynaklı bir sistemle ilerleyecekleri anlamına gelmiyor. Şirketin Llama adını taşıyan yapay zekâ modellerinin en az bir ABD karşıtı aktör tarafından bir savunma sohbet botu geliştirmek için kullanıldığı da daha önce tespit edilmişti. (ANKA)