Amsterdam Mahkemesi, Yapay Zekâ Sohbet Robotu Grok’un “Soyunma Özelliğini” Hollanda’da Yasakladı

Hollanda’da Amsterdam Mahkemesi, sosyal medya platformu X bünyesinde yer alan yapay zekâ sohbet robotu Grok için tartışmalı insanları çoplak gösteren “soyunma özelliğinin” ülkede kullanımını yasakladı. Mahkeme, söz konusu özelliğin insanların rızası olmadan dijital olarak “çıplaklaştırılmış” görüntülerinin oluşturulmasına imkân tanıdığını belirtti.

Grok, Elon Musk’ın sahibi olduğu X platformunun bir parçası olarak faaliyet gösteriyor. Mahkeme kararında, oluşturulan görüntülerin platform üzerinden kolayca yayılabilmesinin riskleri artırdığı vurgulandı.

Dava, çevrimiçi istismar merkezi tarafından açıldı

Karar, Hollanda merkezli çevrimiçi istismar uzmanlık kuruluşu Offlimits tarafından açılan dava sonucunda alındı. Kurum, uygulama aracılığıyla kişilerin rızası olmadan dijital olarak “soyulmuş” görüntülerinin üretilebildiğini ve bunların paylaşılabildiğini belirterek mahkemeye başvurmuştu.

Offlimits ayrıca bu tür araçların çocuk istismarı görüntülerinin üretilmesi riskini de barındırdığına dikkat çekti. Kurumun, duruşma öncesinde Grok kullanarak benzer videolar üretmeyi başardığı da dosyada yer aldı.

Grok’u geliştiren şirket daha önce bu tür içeriklerin önüne geçmek için önlemler aldığını açıklamıştı. Ancak mahkeme, mevcut önlemlerin yeterli olmadığı sonucuna vardı.

İhlal başına 100 bin euro ceza

Mahkeme kararına göre yasak, Hollanda’da yaşayan kişilere ait görüntülerin oluşturulmasını ve ülkede bu tür içeriklerin üretilmesi ya da paylaşılmasını kapsıyor.

Kararın ihlal edilmesi durumunda her bir vaka için 100 bin euro para cezası uygulanacak. Toplam ceza miktarı ise 10 milyon euroya kadar çıkabilecek. Ayrıca mahkeme, söz konusu içerik üretimi engellenmediği sürece Grok’un X platformunun bir parçası olarak sunulamayacağına hükmetti.

AB genelinde de yasak gündemde

Öte yandan Avrupa Parlamentosu da aynı gün “soyunma uygulamaları” olarak bilinen benzer araçların yasaklanmasını öngören düzenlemeye onay verdi. Düzenlemenin yaz aylarından önce Avrupa Birliği genelinde yürürlüğe girmesi bekleniyor.

Uzmanlar, kararın yapay zekâ destekli görüntü üretim araçlarının kötüye kullanımına karşı Avrupa genelinde daha sıkı bir denetim döneminin habercisi olabileceğini belirtiyor.