IND, sığınma başvurularında yapay zekâ kullanıyor: Sistemler kamu kayıtlarında yer almıyor

Hollanda Göç ve Vatandaşlık Dairesi (IND), sığınma başvurularının hazırlanması sürecinde iki yapay zekâ sistemi kullanıyor. Ancak Robin ve ChatIND adlı sistemlerin Hollanda’daki kamuya açık algoritma kayıtlarında yer almadığı ortaya çıktı.

Hollanda’da sığınma başvurularını değerlendiren Göç ve Vatandaşlık Dairesi’nin (IND), çalışanlarının hazırlık çalışmalarına destek olmak amacıyla iki yapay zekâ sistemi kullandığı bildirildi.

NRC’nin kurum içi belgelere dayandırdığı habere göre Robin ve ChatIND adlı sistemler bu yılın başından bu yana kullanılıyor. Yapay zekâ araçları, IND çalışanlarının sığınma başvurularıyla ilgili hazırlık süreçlerinde çeşitli görevleri yerine getirmesine yardımcı oluyor.

Robin ve ChatIND ne yapıyor?

Robin, çalışanların sorular yöneltebildiği bir sohbet robotu olarak kullanılıyor. Sistem ayrıca metin oluşturabiliyor, göç politikalarıyla ilgili bilgi arayabiliyor ve mahkeme kararlarının bulunmasına yardımcı olabiliyor.

ChatIND ise belgeleri özetleyebiliyor ve yapılan görüşmelerin yazılı metne dönüştürülmesine yardımcı oluyor. Sisteme sığınmacılara ait kişisel verilerin de girilebildiği belirtiliyor.

Her iki sistemin de geçen yıl Adalet ve Güvenlik Bakanlığı tarafından geliştirildiği ve bakanlığın ChatGPT gibi dışarıdaki yapay zekâ hizmetlerine alternatif olarak kendi sistemlerini oluşturmak istediği ifade ediliyor.

Kamuya açık algoritma kayıtlarında bulunmuyor

Robin ve ChatIND, Hollanda’daki Algoritma Sicili’nde (Algoritmeregister) yer almıyor. Bu kayıt, kamu kurumlarının kullandıkları algoritmalar hakkında vatandaşlara bilgi vermelerini amaçlıyor.

Sistemlerin Avrupa’daki ilgili bir veri tabanına da kaydedilmediği bildiriliyor.

IND ise Hollanda’daki algoritma siciline kayıt yaptırmanın yasal olarak zorunlu olmadığını belirtiyor. Avrupa Birliği’nin yapay zekâ kuralları kapsamında yüksek riskli sistemlerin kayıt altına alınması gerekiyor. IND, Robin ve ChatIND’in sığınma başvuruları hakkında kendiliğinden karar vermediğini ve bu nedenle yüksek riskli sistemler kapsamında değerlendirilmediğini savunuyor.

Avukatlardan şeffaflık endişesi

Bununla birlikte, IND’nin kendi politika kurallarında algoritmaların kullanımında şeffaflığın önemli olduğu belirtiliyor.

Sığınma davalarında görev yapan bazı avukatlar ise yapay zekâ sistemlerinin kullanımından endişe duyuyor. Özellikle sistemlerde hassas bilgilerin işlenebilmesi soru işaretlerine neden oluyor.

NRC’ye konuşan bir avukat, sığınmacıların avukatlarının bu sistemlerin kullanımı konusunda bilgilendirilmemiş olmasından da endişe duyduğunu belirtiyor.

İnsan kararı mı, yapay zekâ desteği mi?

IND, Robin ve ChatIND’in sığınma başvuruları hakkında doğrudan karar vermediğini vurguluyor. Sistemler daha çok çalışanların bilgi arama, belge özetleme ve hazırlık çalışmalarında kullandığı yardımcı araçlar olarak tanımlanıyor.

Ancak sığınma başvurularında kişisel ve hassas bilgilerin söz konusu olması nedeniyle, yapay zekânın hangi verilerle çalıştığı, bu verilerin nasıl korunduğu ve sistemlerin karar süreçlerini ne ölçüde etkilediği konusundaki tartışmaların önümüzdeki dönemde de devam etmesi bekleniyor.

Nhaber.nl