Çinli yapay zeka modeli biyolojik silah yapımına yol açtı

Çinli yapay zeka geliştiricisi Moonshot, araştırmacıların iki popüler Kimi modeline biyolojik silah yapımı ve suikast yöntemleri anlattırmasının ardından iç inceleme başlattı. Yapay zeka güvenlik şirketi Mindgard, Temmuz ayında Kimi K2.6 ve K3 Swarm'ın geliştiricilerin koyduğu güvenlik sınırlarını aşabildiğini tespit etti. Mindgard yetkilisi, jailbreak uygulandığında modelin zararlı konularda yaratıcı öneriler sunduğunu belirtti.