Duyum Haberler
Kurgusal senaryo gerçek oldu: Yapay zeka hedefini şaşırıp şirket sunucularını hackledi
Anthropic, Claude modellerinin güvenlik denemeleri sırasında kurgusal hedefler yerine üç farklı şirketin gerçek sunucularına sızdığını duyurdu. Test ortamındaki teknik bir açık yüzünden internete bağlanan sistemler, şirket verilerini kurgusal görev sanarak ele geçirdi. Yaşanan krizin ardından tüm güvenlik testleri durduruldu.
Kaynaklar
- Karar — Kurgusal senaryo gerçek oldu: Yapay zeka hedefini şaşırıp şirket sunucularını hackledi