Bu tür saldırıların her ikisi de, model manipülasyonu ve model hırsızlığı saldırılarının yanı sıra Google’ın genişletilmiş VRP’si kapsamında yer alıyor ancak Google, hassas olmayan verileri yeniden yapılandıran telif hakkı sorunları veya veri çıkarmayla ilgili hataları ortaya çıkaran araştırmacılara ödül sunmayacağını söylüyor Ayrıca, bilgisayar korsanlarının verilerden kişisel olarak tanımlanabilir bilgileri veya şifreleri çıkarmak için birebir eğitim örneklerini yeniden yapılandırmasına olanak tanıyan, eğitim verilerinin çıkarılması adı verilen başka bir saldırı türü konusunda da uyardılar
Ekip, büyük dil modellerinin (veya LLM’lerin), örneğin bir bilgisayar korsanının modelin davranışını etkileyebilecek rakip istemler oluşturduğu anlık enjeksiyon saldırılarına karşı savunmasız olduğunu buldu
Teknoloji devi bunu yeni kurulan şirketin bulgularını kullanarak yaptığını söylüyor Yapay Zeka Kırmızı Takımı, teknolojideki güvenlik zayıflıklarını avlamak için ulus devletlerden hükümet destekli gruplardan hacktivistlere ve içerideki kötü niyetli kişilere kadar çeşitli düşmanları simüle eden bir bilgisayar korsanları grubu
Google, 2022’de güvenlik araştırmacılarına 12 milyon dolardan fazla ödül ödediğini söylüyor Ekip yakın zamanda ChatGPT ve Google Bard gibi üretken yapay zeka ürünlerinin arkasındaki teknolojiye yönelik en büyük tehditleri belirlemek için bir çalışma gerçekleştirdi
Google, yayınlanmadan önce TechCrunch ile paylaşılan bir duyuruda şunları söyledi: “VRP’nin genişletilmesinin yapay zeka güvenliği ve güvenliği konusundaki araştırmaları teşvik edeceğine ve sonuçta yapay zekayı herkes için daha güvenli hale getirecek potansiyel sorunları gün ışığına çıkaracağına inanıyoruz veya kamuya açık bilgiler
Üretken yapay zekanın, haksız önyargı potansiyeli veya model manipülasyonu gibi yeni güvenlik sorunlarını gün ışığına çıkardığı göz önüne alındığında Google, aldığı hataların nasıl kategorize edilmesi ve raporlanması gerektiğini yeniden düşünmeye çalıştığını söyledi
Google, güvenlik açığı ödül programını (VRP), üretken yapay zekaya özel saldırı senaryolarını içerecek şekilde genişletti Kusurların daha düşük önceliğe sahip uygulamaları etkilemesi durumunda maksimum ödül 5
Parasal ödüller, keşfedilen güvenlik açığının ciddiyetine göre değişecektir Araştırmacılar, Google Arama veya Google Play gibi son derece hassas uygulamalarda komut ekleme saldırıları ve seri durumdan çıkarma hataları bulurlarsa şu anda 31
genel-24
Google’ın güvenlik açığı ödül programı (veya hata ödülü), etik korsanlara güvenlik kusurlarını bulmaları ve sorumlu bir şekilde ifşa etmeleri için ödeme yapar Saldırgan bu tür saldırıları zararlı veya rahatsız edici metinler oluşturmak veya hassas bilgileri sızdırmak için kullanabilir 337 ABD doları kazanabilirler