BSofistike küresel zirveler, OpenAI yönetim kurulu dramaları ve teknik atılım söylentileri arasında, dünya son zamanlarda yapay zeka araştırmalarının sınırlarına çok dikkat ediyor. Ancak geçen ay, ABD Beyaz Saray Yönetim ve Bütçe Ofisi (OMB), hükümette daha sıradan yapay zeka sistemlerinin kullanılmasının, en azından kısa vadede, eşit derecede önemli sonuçlara yol açabileceğini belirten bir bildiri yayınladı.
Yapay zeka, belgesiz göçmenleri takip etmek için kullanılmasından, nüfusları izlemek ve kaynakları tahsis etmek için polis departmanları tarafından kullanılan tahmine dayalı algoritmalara kadar, artık ABD hükümetinin maliyetleri düşürmesi için yaygın bir araç; ancak bunun bedeli, en savunmasız olanları, haksız yere keyfi kurallara tabi kılmak pahasına. işlem. ve öngörülebilir ayrımcı sonuçlar doğurur. Yıllardır araştırmacılar, gazeteciler ve aktivistler bu konuya dikkat çekiyor. Bu çağrıya nihayet cevap verildi.
OMB, ABD başkanının yönetim ofisinin en büyük birimidir. Çok az tartışılmasına rağmen son derece güçlüdür. Diğer devlet kurumlarını denetler ve eylemlerinin başkanın gündemiyle uyumlu olmasını sağlar. Geçtiğimiz ay OMB Direktörü Shalanda Young, ABD hükümetinde yapay zeka kullanımında devrim yaratabilecek bir bildiri yayınladı.
THE önerilen politika – bu henüz bir taslaktır ve sulandırılabilir – her departmanın bir yapay zeka lideri atamasını ve onlardan mevcut yapay zeka kullanım senaryolarının bir kaydını sağlamalarını istemesini gerektirecektir. Bu bile tek başına şeffaflık açısından önemli bir zafer anlamına geliyor. Ancak buna ek olarak temsilcinin, diğer önemli kısıtlamalara tabi olan bireylerin güvenliğini veya haklarını etkileyebilecek sistemleri tanımlaması gerekir.
Yapay zeka sistemlerinin haklar ve güvenlik açısından oluşturduğu riskleri iddia edilen faydalara göre değerlendirmeyi amaçlayan yeni gereksinimler var. Kurumların ayrıca kullandıkları verilerin kalitesini kontrol etmeleri ve sistemleri devreye alındıktan sonra daha yakından izlemeleri gerekecek. Yapay zeka sistemlerinden etkilenenlerin, yapay zekanın nasıl kullanıldığına dair sade bir dille açıklama almaları ve ayrıca yapay zeka tarafından alınan kararlara itiraz etme fırsatı alması önemlidir.
Tüm bu önlemler açık gibi görünse de henüz alınmıyor ve bu durum toplumdaki en savunmasız kesimlerin daha fazla zarar görmesine yol açıyor.
Politika aynı zamanda departmanların yapay zeka sistemlerinin uygulanma şekliyle adaleti, haysiyeti ve adaleti teşvik etmesini etkin bir şekilde sağlamasını, modellerin doğasında var olan haksız önyargılara ve modellerin sıklıkla eğitim aldığı temsili olmayan verilere dikkat çekmesini gerektirecektir. Bakanlıklar ayrıca bu tür sistemleri kurmadan önce etkilenen gruplara danışmalı ve vatandaşların “kör noktalara” maruz kalmak yerine kendilerini olumsuz etkileyen kararlara itiraz etmelerine olanak tanıyarak, insani değerlendirme ve düzeltme seçenekleri sağlamalıdır. Kafkaesk algoritmalar.
Etkileyici bir şekilde, not son derece seksi olmayan ama önemli bir konu olan yapay zeka tedarikini bile ele alıyor. Yapay zekayla ilgili pek çok toplumsal sorun, deneyimsiz devlet kurumlarının yeterince anlamadıkları yeni yazılımları benimsemeleriyle başlıyor, satıcıları tarafından gereğinden fazla satılıyor ve sonuçta en yoksulları ciddi şekilde etkileyecek şekilde başarısız oluyor. Yapay zeka sistemlerini edinmek için en iyi uygulamaları tanımlamak ve talep etmek, günümüzde departmanların yapabileceği en önemli şeylerden biridir.
OMB bildirisi, sivil toplum öncülüğündeki araştırma ve politika oluşturma alanında bir örnek olay incelemesidir. Özellikle AB’de sınır yapay zeka modellerini (dil ve görüntü işleme de dahil olmak üzere çok çeşitli görevleri gerçekleştirebilen) düzenlemeye yönelik mevcut girişimler bundan ders çıkarabilir. 2023’ün başlarında, ChatGPT’nin popülaritesine şaşıran Avrupa Parlamentosu, sınırdaki yapay zeka sistemleri düzenlemesini (zaten kusurlu olan) yapay zeka yasasına entegre etmeye çalıştı. Parlamento, Avrupa Komisyonu ve Avrupa Konseyi’nin kanuna ilişkin farklı önerilerini uzlaştırmaya çalıştığı, devam eden üçlü müzakerelerin bir parçası olarak, Son zamanlarda Fransa ve Almanya hızla büyüyen yerli yapay zeka şirketleri (sırasıyla Mistral ve Aleph Alpha) için bu önerilerin olası sonuçlarını fark ettikleri için geri adım attılar.
Bu dehşet öngörülebilirdi. En başarılı, son teknoloji ürünü yapay zeka modeli olan GPT-4, ilk düzenleyici teklifler sunulduğunda henüz piyasaya sürülmemişti. Araştırmalarda sıklıkla ilerlemeler görülen bir alanı düzenlemek zordur. Bu sistemlerin konuşlandırılmasına yönelik ekosistem de hızla gelişiyor; Yapay zeka şirketleri tekel veya ikili güce yönelen platformlar olarak mı çalışacak? Yoksa son teknoloji yapay zeka modelleri için güçlü ve rekabetçi bir pazar mı olacak? Henüz bilmiyoruz. Kamu yararı araştırmalarının dengeli politika önerileri ortaya koymasına ya da sivil toplum içinde sağlam ve sağlam bir tartışmanın gerçekleşmesine zamanımız olmadı.
Sınır sistemlerini düzenlemeye yönelik bazı fikirler apaçık ortadadır: AB ve diğerleri, özellikle yeni nesil yapay zeka sistemlerinin ortaya çıkardığı tehlikeli yetenekler konusunda, önde gelen yapay zeka laboratuvarlarından açıkça çok daha fazla şeffaflık talep etmelidir. Ancak bunun ötesinde, belki de en akıllıca yol, işleri aceleye getirmemek ve OMB bildirisi gibi daha olgun politikaların temelini oluşturan türden sivil toplum tartışmalarını ve derinlemesine araştırmaları teşvik etmektir.
