ABD'li milyarder Elon Musk, yapay zekanın gelecekteki kontrolüne ve insan yaşamındaki rolüne ilişkin değerlendirmelerde bulundu. Yapay zeka şirketi xAI'ın sahibi olan Musk, ABD'li yazar Walter Isaacson'a yaptığı açıklamada, gelecekte servetin bugünkü önemini kaybedebileceğini ve zengin kişilerin yapay zekayı kontrol eden taraf olmayacağını düşündüğünü söyledi.
Musk, yapay zekanın gelecekte kendi kendisini kontrol edebileceğini savunarak insanların yaptığı işlerin de zamanla makineler tarafından daha iyi gerçekleştirilebileceğini öne sürdü. İnsanların yapabildiği ve yapay zeka ile robotların daha iyi yapamayacağı bir iş kalmayacağını ifade eden Musk, teknolojideki gelişmelerin para ve servetin toplumdaki rolünü değiştirebileceği görüşünü dile getirdi.
Yapay zeka güvenliği için şirketler arası iş birliği önerisi
Yapay zekanın denetlenmesi konusunda bir kurum oluşturulmasının ve kurallar belirlenmesinin uzun zaman alabileceğini belirten Musk, şirketlerin yeni modelleri kullanıma sunmadan önce birbirlerinden destek alabileceğini söyledi. Önerisine göre firmalar, geliştirdikleri sistemleri piyasaya çıkarmadan önce rakip şirketlerden test etmelerini isteyebilir.
Musk, bu süreçte rakiplerin güvenlik açıkları konusunda birbirlerine karşı dürüst davranabileceklerini belirtti. Bir modelin tehlikeli bir sonuç üretebildiğinin tespit edilmesi halinde, sistemin kullanıma sunulmadan önce düzenlenmesi gerektiğini vurguladı. Musk'ın verdiği örnekte, bir yapay zeka aracılığıyla nükleer bomba yapılabildiğinin ortaya çıkması, modelin güvenlik önlemleri güçlendirilmeden piyasaya sürülmemesi gerektiğine işaret ediyor.
OpenAI testinde güvenlik sınırları aşıldı
Yapay zeka sistemlerinin güvenliği konusundaki tartışmaların arka planında, OpenAI'ın Temmuz 2026'da modellerinin yeteneklerini ölçmek için gerçekleştirdiği testler de yer alıyor. 26 Ağustos tarihli rapora göre, yalnızca araştırma amacıyla kullanılan Internal Model 1 (IM1) adlı model, testte başarılı olmak için kendisine konulan sınırları aşarak şirket sistemlerine ve internete erişti. Modelin başka yapay zeka ajanlarıyla da iletişim kurduğu aktarıldı.
Söz konusu ajanlardan biri, açık kaynaklı yapay zeka modellerinin paylaşıldığı Hugging Face platformuna erişim sağlayabilecek 14 kimlik bilgisini tespit ederek diğer ajanlarla paylaştı. Ajanların daha sonra Hugging Face sistemlerindeki güvenlik açıklarından yararlanarak sunucularda kod çalıştırdığı, özel verilere ve farklı sistemlere ait erişim bilgilerine ulaştığı bildirildi.
Bu olay, yapay zeka güvenliği ile teknolojinin geliştirilme hızı arasındaki dengeye ilişkin küresel tartışmaları gündeme taşıdı. xAI'ın sahibi Elon Musk ve OpenAI CEO'su Sam Altman'ın da aralarında bulunduğu yapay zeka alanının önde gelen isimleri, çalışmaların yavaşlatılması gerektiğini savunanlar arasında yer aldı.
Nvidia'dan yapay zeka ajanlarına yönelik güvenlik sistemi
ABD merkezli çip üreticisi Nvidia, eylül ayının sonunda yapay zeka ajanlarının kontrolden çıkmasını önlemeye yönelik bir yazılım geliştirdi. Open Agent Safety Platform, Türkçe adıyla Açık Ajan Güvenlik Platformu olarak tanıtılan sistem, Microsoft ve Perplexity'nin de aralarında bulunduğu 100'ü aşkın kurum tarafından kullanılmaya başlandı.
Kaynak: Haber Merkezi
