Ethereum Kurucusu Vitalik Buterin’den Yapay Zeka ile İlgili Uyarı Geldi!

Ethereum kurucu ortağı Vitalik Buterin, yapay zekâ ile yönetim fikrinin ciddi güvenlik açıkları barındırdığını söyledi.

Buterin, sosyal medya hesabından yaptığı paylaşımda, naif “AI governance” yani yapay zekâya yönetişim görevleri yüklemenin istismar edilmeye açık olduğunu belirtti. Özellikle fon dağıtımı gibi kritik süreçlerde, yapay zekâya jailbreak komutlarıyla manipülasyon yapılarak kaynakların yanlış yönlendirilebileceğini vurguladı.

Buterin’e göre bu yaklaşım yerine, “info finance” modeline dayalı bir sistemin daha güvenli olacağı düşünülüyor. Bu modelde, farklı yapay zekâ modelleri açık piyasa mantığıyla katkıda bulunuyor, bağımsız denetimler (spot check) yapılabiliyor ve gerekirse insan jüri devreye girerek süreci değerlendiriyor. Böylece hem gerçek zamanlı çeşitlilik sağlanıyor hem de olası sorunlara hızlı şekilde müdahale edilebiliyor.

İnsan jürisi kilit rol oynuyor

Buterin, “info finance” yaklaşımında insan jürisinin temel gerçeklik sinyali işlevi gördüğünü ifade etti. Jürilerin karar sürecinde yapay zekâlardan faydalanabileceğini ancak nihai kontrolün insanda kalması gerektiğini savundu. Ona göre bu model, fonlama gibi kamu yararına yapılan yatırımlar için de daha adil ve dengeli bir çözüm sunabilir.

“AI yöneticisi” fikrine eleştiri

Buterin ayrıca, yapay zekânın yönetişim aracı değil, destekleyici mekanizma olarak kullanılmasının önemini vurguladı. “AI’yi yönetişim aracı yapmak hem güvenlik açısından hem de ekonomik anlamda büyük zararlara yol açabilir” diyen Buterin, kripto dünyasında giderek popülerleşen bu fikre mesafeli yaklaştığını belirtti.