Çocuklar için piyasaya sürülen yapay zekalı oyuncak ayının sakıncalı yorumlar yaptığı ortaya çıkınca, şirket ürünü satıştan çekti.
Çocuk oyuncakları üreten FoloToy şirketi, yapay zeka destekli oyuncak ayısı "Kumma"yı "uygunsuz ve tehlikeli yanıtlar" verdiğinin tespit edilmesi üzerine geçici olarak satıştan çekti.
The Register'ın haberine göre, Kamu Yararı Araştırma Grubu (PIRG) tarafından yayımlanan raporda FoloToy'un çocuklar için piyasaya sürdüğü Kumma ayısının endişe verici düzeyde uygunsuz içerikler ürettiği belirlendi. OpenAI'ın GPT-4o modeliyle çalışan ayının, sohbet ilerledikçe güvenlik bariyerlerini devre dışı bırakabildiği tespit edildi.
TEHLİKELİ DAVRANIŞLAR
Denetim sırasında Kumma'nın, arkadaş canlısı bir tonla bir çocuğa kibriti nereden bulabileceğini ve nasıl yakabileceğini adım adım anlattığı görüldü. Ayrıca oyuncağın cinsel içerikli konulara girdiği de raporda yer aldı.
Rapora yanıt veren FoloToy Pazarlama Müdürü Hugo Wu, ürünün geçici olarak satıştan kaldırıldığını ve kapsamlı bir iç güvenlik denetimi başlatıldığını açıkladı. Wu ayrıca mevcut ve yeni güvenlik özelliklerini doğrulamak için bağımsız uzmanlarla birlikte çalışacaklarını belirtti.
Kaynak: BURSADA BUGÜN
Yaşam, 2025.11.17 15:10