Yapay zeka çalışmalarında gelinen nokta pek çok güvenlik riski doğuruyor. Resmi kurumlar bu konuda şimdilik sessiz kalsa da özel şirketler şimdiden tedbir almaya başladı. Anthropic, Google, Microsoft ve Open AI'nin güvenli ve dikkatli yapay zeka geliştirmeye odaklanan yapay zeka güvenlik grubu Frontier Model Forum'u oluşturdu.
Frontier Model Forum, bir danışma komitesi, tüzük ve finansman oluşturmayı planlıyor. Ayrıca yapay zeka güvenlik araştırmalarını ilerletmeye, en iyi uygulamaları belirlemeye, politika yapıcılar, akademisyenler, sivil toplum ve şirketlerle yakın çalışmaya ve toplumun en büyük zorluklarının üstesinden gelmeye yardımcı olabilecek yapay zeka oluşturma çabalarını teşvik etmeye odaklanıyor.
Üyelerin önümüzdeki yıl boyunca ilk üç hedef üzerinde çalışacakları bildirildi. Üyelikten bahsetmişken duyuru, öncü modeller üretmek ve bunları güvenli hale getirme konusunda açık bir kararlılık göstermek gibi katılım için gerekli nitelikleri sıralıyor.
Forumun kurulması, Beyaz Saray ile bu yeni girişimden sorumlu olanlar da dahil olmak üzere önde gelen yapay zeka şirketleri arasında yakın zamanda yapılan bir güvenlik anlaşmasının ardından gerçekleşti. Taahhüt edilen güvenlik önlemleri arasında dış uzmanlar tarafından testler yapılması ve yapay zeka tarafından oluşturulan içeriğe bir filigran konulması yer alıyor.
CHIP - Online
Yorumlar