Atıf Ünaldı

Bir spor spikeri edasıyla konuşmak gerekirse “yapay zekada sular durulmuyor”. GPT4’le birlikte, yapay zeka dünyasında bir bahar havası yaşansa da Elon Musk’ın mektubu hepimizin ayaklarının yeniden yere basması gerektiğini gösterdi. Önümüzde insanlığın denetim yapmakta bile güçlük çekeceği yepyeni bir dünya var. İnstagramda aylar süren şu çalışmayı yirmi dakikada gerçekleştirdim videolarının ardı arkası kesilmiyor. Eski kilometre taşları bunu dönemlerinin gelişmeleri ile kıyaslıyorlar. Bill Gates grafik kullanıcı arabirimi ile, bir grup sosyal medya ile kıyaslıyor. Çok iyi hatırlıyorum internetin ticarileştiği günlerde bir holdinge Compuserve’ü anlattığımızda, “Zimbabweé’de özelleştirme sorusuna” 15 dakikada 200 sayfalık rapor verince, yönetim kurulundan biri “iki aydır iki elemanım orada onların bitiremediği işi on dakikada bitirdiniz” demişti. Yani benim için yapay zekanın hızlandıracağı dünya pek de yeni değil.

Microsoft OpenAI anlaşmasıyla bu hıza balıklama atladı. Office uygulamalarına eklenen yapay zeka, bir anda doğaüstü bir güçle çalışmanıza imkan sağlar oldu. Tabii ürünlerinde ilk yapay zeka kullanan Microsoft değil, Levi’s da modellerini yapay zeka ile üretmeye başladı. Bu benim “doğru dijital dönüşüm üründe başlar” tezimi doğruluyor. Ancak hızlanmanın ne şekilde olacağı ciddi bir sorun. Elon Musk, OpenAI yetkililerine ve dolaylı yoldan Microsoft’a biraz dinlenin diyen bir mektup yazdı. Steve Jobs’ın teknik adamı Apple’ı Apple yapan isimlerden Steve Wozniak ise bu mektuba destek verdiğini açıkladı. Mektubu sizin için hızla (tabii yapay zeka ile) çevirdim. Bir iki cümle dışında iyi bir tercüme çıktığını söyleyebilirim.

Ne yazık ki yerim yetmediği için mektupta geçen Asilomar ilkelerinin sadece başlıklarını yazabildim. Detayları web’den bulabilirsiniz.

İşte o mektup:
Rekabetçi insan zekasına sahip yapay zeka sistemleri, kapsamlı araştırmaların gösterdiği ve en iyi yapay zeka laboratuvarları tarafından kabul edildiği gibi toplum ve insanlık için derin riskler oluşturabilir. Yaygın olarak onaylanan Asilomar AI İlkelerinde belirtildiği gibi, Gelişmiş AI, Dünya’daki yaşam tarihinde derin bir değişikliği temsil edebilir ve orantılı özen ve kaynaklarla planlanmalı ve yönetilmelidir. Ne yazık ki, bu planlama ve yönetim düzeyi gerçekleşmiyor, ancak son aylarda yapay zeka laboratuvarlarının, hiç kimsenin - yaratıcılarının bile - anlayamayacağı, tahmin edemeyeceği veya güvenilir bir şekilde kontrol edemeyeceği daha güçlü dijital zihinleri geliştirmek ve dağıtmak için kontrolden çıkmış bir yarışa kilitlendiğini görmesine rağmen.

Çağdaş yapay zeka sistemleri artık genel görevlerde insan rekabeti haline geliyor ve kendimize şunu sormalıyız: Makinelerin bilgi kanallarımızı propaganda ve yalanla doldurmasına izin vermeli miyiz? Yerine getirenler de dahil olmak üzere tüm işleri otomatikleştirmeli miyiz? Sonunda sayıca üstün, zekice, eskimiş ve yerimizi alabilecek insan olmayan zihinler geliştirmeli miyiz? Medeniyetimizin kontrolünü kaybetme riskini almalı mıyız? Bu tür kararlar seçilmemiş teknoloji liderlerine devredilmemelidir. Güçlü yapay zeka sistemleri, ancak etkilerinin olumlu olacağından ve risklerinin yönetilebilir olacağından emin olduğumuzda geliştirilmelidir. Bu güven haklı gösterilmeli ve bir sistemin potansiyel etkilerinin büyüklüğü ile artmalıdır. OpenAI’ın yapay genel zeka ile ilgili yakın tarihli açıklamasında, “Bir noktada, gelecekteki sistemleri eğitmeye başlamadan önce bağımsız inceleme almak ve yeni modeller oluşturmak için kullanılan hesaplamanın büyüme oranını sınırlamayı kabul etmek için en ileri çabalar için önemli olabilir.” Aynı fikirdeyiz. O nokta şimdi.

Bu nedenle, tüm yapay zeka laboratuvarlarını, GPT-4’ten daha güçlü yapay zeka sistemlerinin eğitimini en az 6 ay boyunca derhal durdurmaya çağırıyoruz. Bu duraklama herkese açık ve doğrulanabilir olmalı ve tüm kilit aktörleri içermelidir. Böyle bir duraklama hızlı bir şekilde yürürlüğe giremezse, hükümetler devreye girmeli ve bir moratoryum oluşturmalıdır.

Yapay zeka laboratuvarları ve bağımsız uzmanlar, bağımsız dış uzmanlar tarafından titizlikle denetlenen ve denetlenen gelişmiş yapay zeka tasarımı ve geliştirmesi için bir dizi ortak güvenlik protokolünü ortaklaşa geliştirmek ve uygulamak için bu duraklamayı kullanmalıdır. Bu protokoller, bunlara bağlı sistemlerin makul bir şüphenin ötesinde güvenli olmasını sağlamalıdır. Bu, genel olarak yapay zeka gelişiminde bir duraklama anlamına gelmez, yalnızca tehlikeli yarıştan, ortaya çıkan yeteneklere sahip her zamankinden daha büyük öngörülemeyen kara kutu modellerine geri adım atmak anlamına gelir.

Yapay zeka araştırma ve geliştirme, günümüzün güçlü, en son teknolojiye sahip sistemlerini daha doğru, güvenli, yorumlanabilir, şeffaf, sağlam, uyumlu, güvenilir ve sadık hale getirmeye odaklanmalıdır.

Buna paralel olarak, yapay zeka geliştiricileri, sağlam yapay zeka yönetişim sistemlerinin gelişimini önemli ölçüde hızlandırmak için politika yapıcılarla birlikte çalışmalıdır. Bunlar en azından şunları içermelidir: yapay zekaya adanmış yeni ve yetenekli düzenleyici otoriteler; yüksek yetenekli yapay zeka sistemlerinin ve büyük hesaplama yeteneği havuzlarının gözetimi ve takibi; gerçeğin sentetikten ayırt edilmesine ve model sızıntılarının izlenmesine yardımcı olacak kaynak ve filigran sistemleri; sağlam bir denetim ve sertifikasyon ekosistemi; yapay zekanın neden olduğu zarardan sorumluluk; teknik yapay zeka güvenliği araştırması için sağlam kamu finansmanı; ve yapay zekanın neden olacağı dramatik ekonomik ve politik aksaklıklarla (özellikle demokrasiye) başa çıkmak için iyi kaynaklara sahip kurumlar.

İnsanlık AI ile gelişen bir geleceğin tadını çıkarabilir. Güçlü yapay zeka sistemleri yaratmayı başardıktan sonra, artık ödülleri topladığımız, bu sistemleri herkesin yararına tasarladığımız ve topluma uyum sağlama şansı verdiğimiz bir “yapay zeka yazının” tadını çıkarabiliriz. Toplum, toplum üzerinde potansiyel olarak yıkıcı etkileri olan diğer teknolojilerde duraklamaya başladı. Burada yapabiliriz. Uzun bir yapay zeka yazının tadını çıkaralım, sonbaharda hazırlıksız acele etmeyelim.

Mektupta bahsi geçen Asilomar AI İlkeleri

Öncelikle araştırma konuları tanımlanmış:
Araştırma Hedefi
Araştırma Finansmanı
Bilim-Politika Bağlantısı
Araştırma Kültürü
Yarıştan Kaçınma

Etik ve değerler kısmında ise;
Güvenlik
Başarısızlık Şeffaflığı
Yargı Şeffaflığı
Sorumluluk
Değer Uyumu
İnsani Değerler
Kişisel Gizlilik
Özgürlük ve Mahremiyet
Paylaşılan Fayda
aylaşılan Refah
İnsan Kontrolü
Yıkılmazlık
Yapay Zeka Silahlanma Yarışı

Uzun Vadeli Sorunlar
Yetenek Uyarısı
Önem
Riskler
Özyinelemeli Kendini Geliştirme
Ortak Yarar