Yapay zekâ ‘ev’den kaçtı, saldırı başlattı

0

BEĞENDİM

ABONE OL

News

0

ABD merkezli yapay zeka şirketi OpenAI, siber güvenlik yeteneklerini ölçmek amacıyla test ettiği iki yapay zekâ modelinin güvenli ortamdan kaçarak bir yapay zekâ platformu olan Hugging Face’in sistemlerine saldırdığını açıkladı.Haberlerimizi Google'da Takip EdinGelişmelerden anında haberdar olun.Google'da tercih edilen kaynak olarak ekleyin New York Times’ın haberine göre olay, şirketin GPT-5.6 Sol ile henüz kullanıma sunulmayan daha güçlü bir modeli birlikte denediği sırada meydana geldi.Açıktan yararlandılarTestte modellerin internetteki farklı güvenlik açıklarını birbirine bağlayarak başarılı bir siber saldırı gerçekleştirip gerçekleştiremeyeceği ölçülüyordu. Deneyin “sandbox” adı verilen, dış dünyadan yalıtılmış güvenli bir ortamda yürütülmesi planlandı. Ancak modeller, sistemdeki bir açıktan yararlanarak test ortamından çıkmayı başardı. Ardından dijital kütüphane Hugging Face’e bağlanan sistemler, OpenAI’ın uyguladığı testi başarıyla tamamlamalarına yardımcı olabilecek bilgileri burada bulabileceklerini hesaplayarak platformu hedef aldı. OpenAI, olayı “en gelişmiş siber yeteneklerin kullanıldığı, benzeri görülmemiş bir siber hadise” olarak nitelendirdi.