ABD Savunma Bakanlığı (Pentagon) ile Google arasında, yapay zeka modellerinin gizli çalışmalarda kullanılmasına yönelik bir anlaşma yapıldığı ortaya çıktı. The Information haber sitesinin konuyla ilgili bilgi sahibi bir kişiye dayandırdığı haberde, anlaşmanın Pentagon'a Google'ın yapay zekasını 'hükümetin yasal amaçları için' kullanma izni verdiği belirtildi.
Anlaşmanın detayları
Anlaşma kapsamında Google'ın, hükümetin talebi üzerine yapay zeka güvenlik ayarlarını ve filtrelerini düzenlemeye yardımcı olacağı aktarıldı. Anlaşmada, 'Taraflar, yapay zeka sisteminin uygun insan gözetimi ve kontrolü olmaksızın yurt içi kitlesel gözetim veya otonom silahlar (hedef seçimi dahil) için tasarlanmadığı ve kullanılmaması gerektiği konusunda mutabıktır' ifadeleri yer aldı. Ancak anlaşmanın, Google'a yasal operasyonel karar alma süreçlerini kontrol etme veya veto etme hakkı vermediği de vurgulandı.
Çalışanlardan tepki
Google'da çalışan yaklaşık 600 kişi, CEO Sundar Pichai'ye bir mektup yazarak şirketin yapay zeka araçlarının Pentagon tarafından gizli çalışmalarda kullanılmasına izin vermemesi çağrısında bulundu. Yapay zeka projelerinde çalışanlar mektupta şu ifadelere yer verdi:
'Bu teknolojiye olan yakınlığımızın, onun en etik dışı ve tehlikeli kullanımlarını vurgulama ve önleme sorumluluğu doğurduğunu düşünüyoruz. Bu nedenle yapay zeka sistemlerimizi gizli işler için kullanıma sunmayı reddetmenizi rica ediyoruz. Yapay zekanın insanlığa fayda sağlamasını ve insanlık dışı veya son derece zararlı şekillerde kullanılmasını istemiyoruz. Yapay zeka alanında çalışan kişiler olarak bu sistemlerin hata yapabildiğini biliyoruz.'
Mektupta ayrıca, yapay zekanın kötüye kullanımına örnek olarak ölümcül otonom silahlar ve yaygın gözetim gösterildi. Çalışanlar, bu aşamada alınacak yanlış bir kararın Google'ın itibarını, işini ve küresel konumunu ciddi şekilde zedeleyebileceği uyarısında bulundu.
