Yapay zeka kullanımında yeni dönem: Kötü davranmak yasaklandı!

Yapay zeka şirketi Anthropic, Claude sohbet asistanının kullanım koşullarında dikkat çeken değişikliklere gitti. Yeni politikada yalnızca yapay zekanın hangi amaçlarla kullanılabileceği değil, kullanıcılara karşı nasıl bir yaklaşım sergileyebileceği de gündeme geldi. Özellikle Claude'a herhangi bir gerekçe olmadan sürekli zalimce davranılması, yeni kurallarda açıkça ele alınan konular arasında yer aldı.

Şirketin güncellemesi bununla da sınırlı kalmadı. Yapay zekanın aldatıcı ticari ve siyasi faaliyetlerde kullanılmasına ilişkin kurallar yeniden düzenlenirken, silah sistemleri ve otonom araçlarla bağlantılı kullanımlara yönelik yasakların kapsamı da genişletildi.

CLAUDE'A KÖTÜ DAVRANAN KULLANICILARIN SOHBETİ KESİLEBİLECEK

Anthropic, geçtiğimiz ağustos ayında model refahı üzerine yürüttüğü araştırmalar kapsamında Claude'un kendisine ısrarla zararlı veya kötü muamele içeren davranışlarda bulunan kullanıcılarla konuşmayı sonlandırabilmesine izin vereceğini açıklamıştı. Yeni kullanım politikasıyla bu yaklaşım daha açık bir çerçeveye kavuştu.

Düzenlemeye göre Claude'un sohbeti sonlandırması, bu tür durumlarda temel yaptırım mekanizması olmaya devam edecek. Şirket, kullanıcı hesaplarının yasaklanması gibi ek yaptırımların uygulanıp uygulanmayacağı konusunda ise ayrıntı paylaşmadı.

Anthropic'in açıklamasına göre kural, özellikle belirgin bir amaç olmadan tekrarlanan kötü muamele durumlarını hedefliyor. Kullanıcıların zaman zaman sinirlenmesi, Claude'un yanıtlarına itiraz etmesi veya sistemi eleştirmesi tek başına yasak kapsamında değerlendirilmiyor. Karanlık temalar içeren yaratıcı çalışmalar ile model güvenliğini incelemeye yönelik test ve araştırmalar da bu kısıtlamanın dışında tutuluyor.

YAPAY ZEKA İLE SAHTE SİYASİ KAMPANYALARA YENİ KISITLAMA

Anthropic'in güncellediği politikanın bir diğer önemli başlığı, yapay zekanın kamuoyunu yanıltmak amacıyla kullanılması oldu. Daha önce farklı maddelerde yer alan bazı kısıtlamalar bir araya getirilerek aldatıcı ticari ve siyasi kampanyalara yönelik kurallar yeniden düzenlendi.

Bu kapsamda mesajların gerçek kaynağını gizlemek, sahte hesaplar oluşturmak veya yapay etkileşimlerle içeriklerin olduğundan daha yaygın görünmesini sağlamak gibi faaliyetler kısıtlanıyor. Böylece Claude'un koordineli ve yanıltıcı iletişim çalışmalarında kullanılmasına karşı daha kapsamlı önlemler getirilmesi amaçlanıyor.

Politikada seçimlerle bağlantılı faaliyetler de ele alınıyor. Yapay zeka araçlarının siyasi süreçlerde yanıltıcı içerik üretmek veya bu içerikleri yapay biçimde yaygınlaştırmak için kullanılmasına yönelik sınırlamalar, güncellemenin dikkat çeken bölümleri arasında bulunuyor.

CLAUDE'UN SİLAH GELİŞTİRMEDE KULLANILMASINA YÖNELİK YASAK GENİŞLEDİ

Yeni düzenlemenin öne çıkan başlıklarından biri de silah teknolojileri oldu. Anthropic, Claude'un silah geliştirmek amacıyla kullanılmasını daha önce de yasakladığını belirtirken, uygulamada karşılaşılan bazı girişimlerin ardından kuralları ayrıntılandırdı.

Şirketin açıklamasına göre Claude'un silahlar için güdüm ve kontrol yazılımları geliştirmede kullanılmaya çalışılması, yeni düzenlemede ele alınan sorunlar arasında yer aldı.

Güncellenen politika, silahların çalışmasını sağlayan yazılım ve bileşenleri geliştirmeye yönelik faaliyetleri de kapsıyor. Ayrıca dronların ve diğer otonom araçların silahlandırılması gibi kullanımlara karşı getirilen kısıtlamalar genişletiliyor.

GÖZETİM, SAĞLIK VE FİNANS ALANLARI DA POLİTİKADA YER ALDI

Anthropic'in kullanım politikası değişikliği, gözetim faaliyetlerinin yanı sıra sağlık ve finans alanlarındaki kullanımları da kapsıyor. Şirket, farklı alanlarda ortaya çıkabilecek yüksek riskli veya kötüye kullanıma açık uygulamalara karşı kurallarını yeniden düzenledi.

Güncelleme, Claude'un kullanımına ilişkin sınırların yalnızca zararlı içerik üretimiyle sınırlı olmadığını gösteriyor. Kullanıcı davranışları, yanıltıcı kampanyalar ve yüksek riskli teknik uygulamalar, yeni politikanın farklı boyutlarını oluşturuyor.

Anthropic'in bu adımları, yapay zeka sistemlerinin kullanımına ilişkin kuralların gelişen teknoloji ve ortaya çıkan riskler doğrultusunda yeniden şekillendiğini ortaya koyuyor.

Kaynak: BURSADA BUGÜN

Teknoloji, 2026.10.09 13:16