Korku filmlerine senaryo yazan, rap müzik besteleyen, makale yazan, arkeolojik keşiflerde kullanılan yapay zekâ, şimdi de kendine has gizli bir dille gündeme geldi. Ünlü yapay zekâ firması Open AI tarafından hazırlanan Dall-E2 adlı yapay zekâ sistemi kendi dilini yarattı.
Yazılı ifadeleri son derece gerçekçi görsellere dönüştürebilen sistemin kullandığı bazı kelimelerin başka hiçbir dilde karşılığı olmadığı fark edildi.
Geçen günlerde Google, metinleri gerçekçi fotoğraf karelerine dönüştüren Imagenteknolojisini duyurmuştu. OpenAI ise aynı alanda daha önce Dall-E ile dikkat çekici çalışmalara imza atmıştı.
2015 yılında kurulan OpenAl, Dall-E’yi geliştirmeye devam ediyor. Şirket, şimdi de bu sistemin daha gelişmiş bir versiyonu olan Dall-E2 üzerinde çalışıyor.
Kendisiyle paylaşılan tanımlamaları kanyak alarak benzersiz görseller ve sanat eserleri oluşturan sistemin, gizemli bir dil oluşturduğu fark edildi. Bu durum, kimi yapay zekâ meraklılarını korkutmuş durumda.
Sistemin saklı dili ABD’deki Texas Üniversitesi’nde bilgisayar bilimi alanında doktora yapan Giannis Daras tarafından fark edildi.
Daras, Twitter’da çokça paylaşılan bir zincirde inceleme sonuçlarını kamuoyu ile paylaştı.
Yapay Zekâ, Bilinmeyen ve Kendine Has Bir Dil Konuşuyor
Zincirde aktarılana göre, Daras sistemden “sebzeler hakkında konuşan çiftçiler” görüntüsünü oluşturmasını istedi.
Ortaya çıkan görüntüde gerçekten de iki çiftçinin bir şeyler hakkında konuştuğu görülüyordu. Çiftçilerden birinin elinde yeşil yapraklı sebzeler vardı.
Bununla birlikte fotoğrafın üst kısmında yer alan “vicootess” kelimesi Daras ve bir meslektaşının dikkatini çekti. Çünkü bu kelimenin hiçbir dilde karşılığı olmadığı biliniyordu.
Daha sonra kelimeyi algoritmaya geri yükleyen Daras, bunun yapay zeka sisteminin kendi dilinde “sebze” anlamına geldiğini fark etti. Sisteme bu sözcük girildiğinde yapay zekâ da sebze görüntüleri oluşturuyordu.
Ardından ilk görselde çiftçilerin konuşma balonlarında yazan sözcükler fark edildi: “Poploe vesrreaitars”.
Daras bu kelimeleri sisteme yüklediğinde de birçok kuş görüntüsü elde ettiğini aktardı:
“Görünüşe bakılırsa çiftçiler sebzeleriyle uğraşıyor ve kuşlardan bahsediyor!”
Daras, yapay zekânın sahip olduğunu düşündüğü “gizli kelime dağarcığı” hakkında bir de makale kaleme aldı. Ancak bu yayın, henüz hakemli bir bilimsel dergide yer bulmadı.
Güvenlik Sorunu Yaratabilir
Sistemin birincil işlevinin altında yatan ya da onunla paralel olarak çalışan bir “gizli kelime dağarcığı” oluşturduğunu belirten araştırmacı endişesini ise şu sözle ifade etti:
“DALLE-2’nun gizli bir dili var. Bu keşif, güvenlik ve yorumlamayla ilgili birçok sorun yaratıyor.”
Yorumlar