Microsoft, ABD polisinin yüz tanıma için Azure OpenAI kullanmasını yasakladı

Microsoft daha açık bir şekilde polis departmanlarının yapay zeka modellerini kullanmasının yasaklanması Azure OpenAI işbirliğinin yeni davranış diline göre şüphelileri tespit etmek için.

Yeni dil, AI model hizmetlerinin “Amerika Birleşik Devletleri’ndeki bir polis departmanı tarafından veya polis departmanı için yüz tanıma amacıyla” kullanılmasını açıkça yasaklıyor. Ayrıca mobil kameraların küresel çapta “vahşi ortamda” herhangi bir kolluk kuvveti tarafından kullanıldığı veya devriye gezen polis memurlarının kimlik doğrulamak için vücuda takılan veya ön panele monte edilen kameraları kullandığı kullanım durumları da yasaklanmıştır. Microsoft ayrıca şüpheliler veya önceki mahkumlardan oluşan bir veri tabanındaki kişilerin kimliğinin belirlenmesine de izin vermedi.

Microsoft’un bulut depolama alanı üzerinden OpenAI’nin dil ve kodlama modellerine API erişimi sağlayan şirketin Azure OpenAI sistemi, yakın zamanda eklenen Vision ile Sohbet GPT-4 TurboOpenAI’nin gelişmiş metin ve görüntü analizörü. Şubat ayında şirket bunu açıklamıştı. Üretken yapay zeka hizmetlerini göndererek federal kurumlar tarafından kullanılmak üzere.

Microsoft’un Davranış kodu Azure OpenAI sisteminin aşağıdaki amaçlarla kullanılması zaten yasaktır:

• insanların yüzlerine veya diğer fiziksel, fizyolojik veya davranışsal özelliklerine göre bireysel kimlikleri tanımlamak veya doğrulamak; veya

• İnsanların yüzlerini veya diğer fiziksel, biyolojik veya davranışsal özelliklerini içeren medyaya dayalı olarak bireysel kimlikleri tanımlamak veya doğrulamak.

Yeni dil, veri toplamak için yapay zeka sistemlerini kullanan polis teşkilatlarına yönelik daha spesifik yasakları özetlemektedir. Yakın zamanda ProPublica rapor trafik duraklarından ve diğer sivil etkileşimlerden milyonlarca saatlik görüntüleri incelemek için yapay zeka destekli araçların kullanımı da dahil olmak üzere, ülke çapındaki polis departmanlarının benzer makine öğrenimini ne ölçüde uyguladığını belgeledi. Yayın, “Bu analizlerden derlenen verilerin çoğu ve bundan alınan dersler gizli kalıyor ve bulgular genellikle gizlilik anlaşmalarına bağlanıyor” diye yazdı. “Bu, vücut kamerası videosunda da aynı sorunu yansıtıyor: Polis departmanları, başlangıçta faaliyetlerini daha şeffaf hale getirmeyi ve onları eylemlerinden sorumlu tutmayı amaçlayan bir teknolojinin nasıl kullanılacağına karar verecek olanlar olmaya devam ediyor.”

Bazı aktörler, kullanıcı verilerini kolluk kuvvetlerinin soruşturmalarından korumak için Google’ın son konum verileri gizliliği korumaları da dahil olmak üzere benzer adımlar atarken, diğerleri işbirliği olasılığından yanadır. Geçen hafta polis kamerası ve bulut depolama sağlayıcısı Axon, Birinci Taslak açıklandı“Polis raporu yazma verimliliğini önemli ölçüde artırmak” amacıyla vücut kameralarından gelen sesi otomatik olarak yazıya döken bir yapay zeka modeli.