Büyük teknoloji firmaları gelişmiş yapay zekayı denetlemek için model öneriyor

SERHAT AKARSU 

(İLKHABER)- YZ teknolojisinin en etkili oyuncularından dördü olan Microsoft, Google, OpenAI ve Anthropic Çarşamba günü, en gelişmiş YZ modellerini yönetmek için en iyi uygulamaları belirlemeye adanmış bir endüstri kuruluşunun kurulduğunu duyurdu.

Frontier Model Forum olarak adlandırılan girişim, öncü YZ modellerinin güvenli ve sorumlu bir şekilde geliştirilmesini sağlamayı amaçlıyor.

Microsoft Başkanı Brad Smith, "YZ teknolojisi yaratan şirketler, bu teknolojinin güvenli ve emniyetli olmasını ve insan kontrolü altında kalmasını sağlama sorumluluğuna sahiptir. Bu girişim, teknoloji sektörünü YZ'yi sorumlu bir şekilde ilerletme ve tüm insanlığa fayda sağlayacak şekilde zorlukların üstesinden gelme konusunda bir araya getirmek için hayati bir adımdır." dedi.

Geçtiğimiz birkaç ay içinde birçok şirket, mevcut materyal havuzunu kullanarak resim, metin veya video gibi çeşitli biçimlerde orijinal içerik üretebilen güçlü YZ araçlarını tanıttı.

Bu gelişmeler, potansiyel gizlilik ihlalleri, telif hakkı ihlalleri ve YZ'nin çeşitli iş rollerinde insanların yerini alma olasılığı ile ilgili endişelere yol açtı.

Dört şirket yaptıkları ortak açıklamada, Frontier Model Forum'un tüm YZ ekosisteminin iyileştirilmesi için üye şirketlerin teknik ve operasyonel uzmanlıklarından yararlanacağını iddia etti.

Bunun, teknik değerlendirmelerin ve kıyaslamaların geliştirilmesinin yanı sıra sektörün en iyi uygulamalarını ve standartlarını teşvik etmek için halka açık bir çözüm kütüphanesi oluşturmak gibi yollarla başarılacağını söylüyorlar.

Forum aşağıdaki hedefleri belirlemiştir:

Sınır modellerin sorumlu bir şekilde geliştirilmesini teşvik etmek ve potansiyel riskleri azaltmak için YZ güvenlik araştırmalarını teşvik etmek. Özellikle öncü modeller için uyarlanmış en iyi güvenlik uygulamalarını belirlemek ve teşvik etmek. Sorumlu YZ gelişimini desteklemek için politika yapıcılar, akademisyenler, sivil toplum ve diğer paydaşlarla bilgi paylaşımını kolaylaştırmak. Toplumun en önemli zorluklarının üstesinden gelmek için yapay zekayı kullanan girişimlere destek sağlamak.

Grup üyeliği, mevcut en gelişmiş modellerin yeteneklerini aşan ve çok çeşitli görevleri yerine getirebilen "büyük ölçekli makine öğrenimi modelleri" olarak tanımlanan sınır modellerin geliştirilmesinde yer alan kuruluşlara açıktır.

Forum, strateji ve önceliklerinin şekillendirilmesinde rehberlik ve yönlendirme sağlamak üzere bir danışma kurulu oluşturacak.