Ethereum’un kurucu ortağı Vitalik Buterin, geliştiricileri yapay zekayı blockchain teknolojisiyle birleştirirken dikkatli olmaları konusunda uyardı. 30 Ocak tarihli bir blog yazısında Buterin, yapay zeka ile ilgili en acil endişelerini kaleme alarak geliştiricilere özellikle yüksek değerli ve yüksek riskli bağlamlarda yeni uygulamalar kullanırken dikkatli davranmaya değer olduğunu açıkladı.
Buterin’den Yapay Zeka Uyarısı
Buterin, yapay zeka alanının en yüksek uygulanabilirliğe sahip olduğu alanlardan birinin, yapay zekanın insanlar için mümkün olmayan mikro ölçekte tahmin piyasaları gibi mekanizmalara katılmasına izin vermek olduğunu açıkladı ve konuya ilişkin şu ifadelere yer verdi:
“Dikkatli olmak önemlidir; eğer birisi örneğin bir tahmin piyasası ya da yapay zeka aracı kullanan bir stablecoin oluşturursa ve aracın saldırıya açık olduğu ortaya çıkarsa bu bir anda yok olabilecek büyük miktarda para demektir.”
Buterin, yapay zekanın ayrıca kullanıcılara işlemleri ve imzaları açıklayarak ya da dolandırıcılıkları tespit ederek kripto parayı anlamalarına ve güvenli bir şekilde etkileşimde bulunmalarına yardımcı olmak için kripto cüzdan arayüzlerinde de kullanılabileceğini yazdı:
“Benim kendi görüşüm, saf yapay zeka arayüzlerinin diğer hata türlerinin riskini artırdığı için şu anda muhtemelen çok riskli olduğu yönünde ancak daha geleneksel bir arayüzü tamamlayan yapay zeka çok uygulanabilir hale geliyor.”
Yapay Zeka Alanında Dikkat Çeken Detaylar
Buterin’e göre en riskli çaba açık kaynaklı yapay zeka modelleri düşmanca saldırılara karşı savunmasız olabileceğinden, kripto sistemlerinin kurallarını veya yönetişimini uygulamak için yapay zekadan yararlanmak olacaktır. Açık kaynaklı yapay zeka araçları, kötü niyetli aktörler kodunu inceleyebildiği ve ona karşı saldırıları optimize edebildiği için düşmanca saldırılara karşı daha savunmasız kalıyor. Kapalı kaynaklı yapay zeka belirsizlik yoluyla güvenlik sağlar ancak bu modeller nasıl çalıştıklarına dair şeffaflık veya tarafsız olduklarına dair güvence sağlamaz.
OpenAI’ye bağlı kripto startup’ı Worldcoin, kapalı kaynaklı yapay zeka aracına bir örnek ve Buterin, kimsenin basitçe yapay zeka modelini çağırmasına izin vermemeye dayandığını ve bunun yerine güvenilir donanım kullandığını açıkladı. Buterin en büyük zorluğun diğer uygulamaların yararlanabileceği kripto ve blockchain teknolojisini kullanan merkezi olmayan bir yapay zeka yaratmak olacağını açıkladı:
“Doğru yapılması en zor olanı, bir singleton oluşturmak için blockchain ağları ve kriptografik teknikleri kullanmaya çalışan uygulamalardır; bazı uygulamaların bir amaç için güveneceği tek bir merkezi olmayan güvenilir yapay zeka araçları.”
Bu uygulamalar, hem işlevsellik hem de yapay zeka güvenliğini bu soruna yönelik daha yaygın yaklaşımlarla ilişkili merkezileşme risklerinden kaçınacak şekilde iyileştirmek için umut vaat ediyor. Ayrıca Buterin, temel varsayımların başarısız olabileceği birçok yol olduğu sonucuna vardı.
