Google, yapay zekâ güvenliğini artırmak için “AI Bug Bounty” programını başlatarak güvenlik açığı bulan araştırmacılara 1,2 milyon TL’ye kadar ödül verecek.
Teknoloji devi Google, yapay zekâ güvenliğini artırmak için dikkat çeken bir adım attı. Şirket, yapay zekâ sistemlerinde güvenlik açıklarını tespit eden araştırmacı ve etik hackerlara yönelik yeni “AI Bug Bounty” programını başlattı. Bu kapsamda katılımcılara 1,2 milyon TL’ye kadar ödül verilecek.
HEDEF: “YOLDAN ÇIKAN” YAPAY ZEKÂ DAVRANIŞLARI
Google, programla birlikte özellikle “kontrolden çıkan” yapay zekâ davranışlarının tespit edilmesini hedefliyor. Buna örnek olarak, bir saldırganın Google Home’u manipüle ederek akıllı bir kapıyı açtırması gibi riskli durumlar gösteriliyor.
Ancak, yapay zekâ modellerinin “halüsinasyon” olarak bilinen yanlış bilgi üretmesi veya uygunsuz içerik oluşturması bu ödül programı kapsamına dahil edilmiyor. En yüksek ödüller, Arama, Gemini, Gmail ve Drive gibi Google’ın temel ürünlerindeki güvenlik açıkları için verilecek.
YENİ ARAÇ: CODEMENDER
Google ayrıca, açık kaynaklı yazılımlarda güvenlik açıklarını otomatik olarak tespit edip düzeltebilen yeni yapay zekâ aracı **“CodeMender”**ı da tanıttı. Şirketin açıklamasına göre, sistem bugüne kadar 70’ten fazla güvenlik hatasını başarıyla onardı. Böylece yapay zekânın, siber güvenlikte bir tehditten ziyade çözüm üretici rol üstlenebileceği de gösterilmiş oldu.
18 MİLYON TL’LİK ÖDÜL DAĞITILDI
Google, son iki yılda yapay zekâ güvenliği alanında çalışan araştırmacılara 18 milyon TL’den fazla ödül dağıttığını belirtti. Yeni programla birlikte bu katkının daha da artması bekleniyor.