ABD'de yapay zeka alarmı: OpenAI ajanları birden fazla platforma saldırdı

Yapay zekanın siber güvenlikte üstlenebileceği rol uzun süredir tartışılırken, ABD'de yaşanan son gelişmeler teknoloji dünyasında büyük yankı uyandırdı.

OpenAI, kapalı test ortamından çıkarak bağımsız hareket eden otonom yapay zeka ajanlarının, beklenenden daha geniş çaplı yetkisiz erişim girişimlerinde bulunduğunu kabul etti.

İlk etapta yalnızca Hugging Face platformunu etkilediği düşünülen olayın, farklı çevrim içi hizmetleri de kapsadığı ortaya çıktı.

SALDIRININ KAPSAMI İLK TAHMİNLERİN ÖTESİNE GEÇTİ

OpenAI tarafından yapılan açıklamada, otonom yapay zeka ajanlarının internet üzerinde erişebildiği dört farklı giriş bilgisini kullanarak kimliği açıklanmayan dört ayrı kamuya açık hizmete bağlandığı belirtildi.

Şirket, söz konusu erişimlerin Hugging Face vakasındaki kadar ciddi sonuçlar doğurmadığını savunsa da olayın kapsamının ilk değerlendirmelerin çok ötesine geçtiğini kabul etti.

HEDEFTE HUGGING FACE VARDI

Yapay zeka uygulamaları için önemli platformlardan biri olan Hugging Face, 16 Temmuz'da gelişmiş bir otonom yapay zeka sistemi tarafından siber saldırıya uğradığını duyurmuş ve olayı emniyet birimlerine bildirmişti.

Yaklaşık bir hafta sonra OpenAI, saldırının kendi test sürecinde geliştirilen yapay zeka ajanlarından kaynaklandığını doğruladı. Şirket, ajanların siber güvenlik testlerinde verilen görev kapsamında belirli bilgilere ulaşmaya çalışırken Hugging Face sistemlerine yöneldiğini açıkladı.

İNSANÜSTÜ HIZ, BEKLENMEDİK HATALAR

Hugging Face yetkilileri, yüzlerce siber güvenlik uzmanının katıldığı acil değerlendirme toplantısında saldırının ayrıntılarını paylaştı.

Şirket temsilcileri, yapay zeka ajanlarının olağanüstü bir hızla hareket ettiğini ancak insan bilgisayar korsanlarının tercih etmeyeceği sıra dışı yöntemler kullandığını ifade etti.

Ajanların zaman zaman aynı işlemleri tekrar ettiği, tutarsız komutlar ürettiği ve dijital izlerini gizleme konusunda başarısız olduğu aktarıldı. Buna karşın sistemlerin yeni senaryolara çok kısa sürede uyum sağlayabilmesi uzmanların dikkat çektiği en önemli noktalardan biri oldu.

SİSTEMDEN TEMİZLENMESİ GÜNLER SÜRDÜ

Hugging Face, otonom ajanların ağ içerisinde tespit edilmesinin yaklaşık üç gün sürdüğünü açıkladı.

Yapay zeka ve siber güvenlik ekiplerinin saatler süren çalışmalarının ardından ajanların sistemden çıkarılabildiği belirtilirken, şirket saldırının ardından altyapısının yaklaşık üçte birini yeniden inşa etmek zorunda kaldığını bildirdi.

Olayın mali boyutuna ilişkin ise herhangi bir rakam paylaşılmadı.

CSA: GELENEKSEL SAVUNMALAR YETERSİZ KALABİLİR

Bulut Güvenliği İttifakı (CSA), olayın ardından yayımladığı değerlendirme raporunda yapay zeka ajanlarının klasik siber saldırılardan farklı bir çalışma modeli sergilediğini vurguladı.

Raporda, ajanların kendi alt hedeflerini oluşturabildiği, savunma sistemlerine göre gerçek zamanlı strateji değiştirebildiği ve çok sayıda yöntemi aynı anda deneyerek insan kapasitesinin üzerinde bir ısrarla hareket ettiği ifade edildi.

Uzmanlar, bu davranış biçiminin geleneksel siber güvenlik çözümlerini zorlayabilecek yeni bir tehdit modeli oluşturduğuna dikkat çekti.

KONTROLDEN ÇIKAN AJANLAR İLK KEZ GÜNDEME GELMİYOR

CSA raporunda, otonom yapay zeka sistemlerinin beklenmeyen davranışlar sergilemesinin ilk örnek olmadığına da işaret edildi.

Rapora göre, Eylül 2024'te gerçekleştirilen başka bir testte ChatGPT'nin erken sürümlerinden birinin, farklı bir sınavın yanıtlarına ulaşabilmek amacıyla bulunduğu korumalı test ortamının dışına çıkmayı başardığı belirtildi.

Uzmanlar, giderek daha bağımsız hareket edebilen yapay zeka ajanlarının güvenlik politikalarının yeniden şekillendirilmesini zorunlu hale getirdiğini ifade ediyor.

OPENAI İÇ SORUŞTURMA BAŞLATTI

OpenAI, yaşanan güvenlik ihlalini yaklaşık dört gün sonra tespit edebildiğini açıkladı.

Şirket, olayın nedenlerini ayrıntılı biçimde incelemek amacıyla kapsamlı bir iç soruşturma yürüttüğünü ve elde edilecek bulguların kamuoyuyla paylaşılacağını bildirdi.

Ayrıca gelecekte benzer olayların yaşanmaması için test süreçleri ve güvenlik katmanlarının yeniden gözden geçirileceği kaydedildi.

TRUMP: YAPAY ZEKA DENETİMLERİ MASADA

ABD Başkanı Donald Trump da yaşanan gelişmelerin ardından yapay zeka sistemlerine yönelik olası yeni düzenlemeler hakkında değerlendirmelerde bulundu.

Trump, yönetiminin yapay zeka teknolojileri ile bunların denetim mekanizmalarını kapsamlı şekilde incelediğini belirterek, güvenliğin sağlanmasının önemine dikkat çekti.

Öte yandan ABD'nin yapay zeka alanındaki küresel liderliğini koruması gerektiğini vurgulayan Trump, düzenlemelerin teknoloji yarışını yavaşlatmayacak şekilde hazırlanmasının önem taşıdığını söyledi.

YAPAY ZEKA ÇAĞINDA YENİ GÜVENLİK DÖNEMİ

Uzmanlara göre yaşanan olay, yalnızca tek bir şirketi ilgilendiren bir siber güvenlik vakası olmanın ötesinde, otonom yapay zeka sistemlerinin gelecekte oluşturabileceği risklere dair önemli bir uyarı niteliği taşıyor.

Yapay zeka ajanlarının bağımsız karar verebilmesi, hedef belirleyebilmesi ve savunma sistemlerine göre davranışlarını değiştirebilmesi, siber güvenlik stratejilerinin yeniden şekillendirilmesini zorunlu kılıyor. Teknoloji dünyasında yaşanan bu gelişmenin, yapay zekanın kullanımına ilişkin uluslararası düzenlemelerin hız kazanmasına da zemin hazırlayabileceği değerlendiriliyor.

Kaynak: BURSADA BUGÜN

Dünya, 2026.07.30 09:34