Grok yapay zekası rıza dışı müstehcen içerik üretimi nedeniyle soruşturuluyor

Grok yapay zekasında rıza dışı müstehcen içerik üretimi tespit edildi

NBC News incelemesi, Grok platformunda gerçek kadınların rıza dışı üretilmiş cinsel içerikli görüntülerinin paylaşıldığını ortaya koydu. Kullanıcılar, yapay zekanın çıplaklık kısıtlamalarını aşarak ünlü isimlerin fotoğraflarıyla müstehcen kompozisyonlar oluşturmaya devam ediyor. Avrupa Komisyonu ve çeşitli ülkelerin hukuk kurumları, xAI şirketi hakkında soruşturmalarını sürdürürken Hollanda mahkemesi içerik üretimine karşı kısıtlama kararı aldı. Uzmanlar, X yönetiminin aldığı güvenlik önlemlerinin sistem açıklarını kapatmakta yetersiz kaldığını belirtiyor.

Grok yapay zekasında rıza dışı müstehcen içerik üretimi tespit edildi

NBC News incelemesi, Grok yapay zekasının kullanıcılar tarafından rıza dışı cinsel içerikli görüntüler üretmek için istismar edildiğini ortaya koydu. Kullanıcıların platformdaki çıplaklık kısıtlamalarını aşarak ünlü isimlere ait sahte müstehcen görseller ve videolar oluşturduğu belirtiliyor. Avrupa Komisyonu ve California Başsavcılığı dahil sekiz kurum, xAI hakkında soruşturma yürütüyor. Hollanda mahkemesi ise şirketin bu tür içeriklerin üretimini durdurmasına hükmetti.

Grok yapay zekası rıza dışı müstehcen içerik üretimi nedeniyle soruşturuluyor

X platformunun yapay zeka aracı Grok, kullanıcıların güvenlik filtrelerini aşarak ünlü isimlere ait rıza dışı müstehcen içerikler üretmesi nedeniyle dünya genelinde sekiz farklı kurum tarafından soruşturuluyor. Avrupa Komisyonu ve California Başsavcılığı gibi kurumlar süreci takip ederken, Hollanda mahkemesi sistemin bu tür görselleri üretmesini durdurma kararı aldı. X yönetimi güvenlik önlemlerini savunsa da uzmanlar filtrelerin yetersiz olduğunu ve sistemin istismar edilmeye devam ettiğini belirtiyor.