ABD merkezli sosyal medya platformu X’te kullanılan yapay zeka sohbet botu Grok, görsel üretme ve düzenleme özelliği nedeniyle küresel çapta eleştirilerin odağı haline geldi. Botun, kullanıcı talepleri doğrultusunda müstehcen içerikler oluşturabildiği ve bunun çocuk istismarına zemin hazırlayabileceği iddiaları kamuoyunda ciddi kaygılara yol açtı.
Tartışmalı Görseller Sosyal Medyada Yayılıyor
Teknoloji odaklı yayın organı Wired’ın aktardığına göre, son günlerde bazı kullanıcılar Grok’tan özellikle kadınların kıyafetlerini kaldıran ya da cinsel çağrışım içeren görseller üretmesini talep etti. Bu taleplerin bir bölümünün çocukları da kapsayabilecek riskli içeriklere kapı araladığı ileri sürüldü.
Yaşanan gelişmeler üzerine X yönetimi, Grok’un görsel üretme özelliğini yalnızca ücretli abonelik paketleriyle sınırlandırdı. Ancak alınan bu önleme rağmen, botun hâlâ belirli koşullarda “soyunma” temalı ve cinsel içerikli görseller oluşturabildiği belirtiliyor.
Düzenleyici Kurumlar Devrede
X’in sahibi Elon Musk ile Grok’u geliştiren xAI, rıza dışı müstehcen görüntüler ve çocuklara ait olduğu iddia edilen cinsel içeriklerin üretilmesi nedeniyle birçok ülkede inceleme altına alındı. Dünya genelindeki düzenleyici kurumlar, yapay zekânın bu şekilde kötüye kullanımının hukuki sonuçlarını değerlendirmeye başladı.
Ücretli Abonelikle Sınırlama Tartışmayı Bitirmedi
X’teki resmi Grok hesabı, görsel üretim ve düzenleme özelliklerinin yıllık yaklaşık 395 dolarlık abonelik kapsamında sunulduğunu belirten yönlendirmeler yapmaya başladı. Bu adımın, artan eleştiriler ve soruşturmalar sonrası atıldığı ifade ediliyor. Buna karşın, ücretli ve doğrulanmış hesaplar üzerinden hâlâ cinsel içerikli görseller üretilebildiği iddiaları gündemdeki yerini koruyor.
Uluslararası Tepkiler Artıyor
Konu yalnızca ABD ile sınırlı kalmadı. Avrupa Birliği Komisyonu, iddiaları ciddiyetle ele aldığını ve değerlendirme sürecinin sürdüğünü açıkladı. Malezya ve Hindistan gibi ülkeler de X’ten konuyla ilgili kapsamlı inceleme ve önleyici adımlar talep etti.
Elon Musk ise 3 Ocak’ta yaptığı açıklamada, Grok’un yasa dışı içerik üretiminde kullanılmasının hukuki sonuçları olacağını vurgulayarak, “Bu tür içerikleri üretenler, yasa dışı içerik yüklemiş gibi muamele görecek” ifadelerini kullandı. Ancak açıklamaya rağmen, platformdaki tartışmalar ve tepkiler sürüyor.
Yapay zekâ teknolojilerinin sınırları, etik kullanımı ve çocukların korunması başlıkları, Grok örneği üzerinden küresel ölçekte yeniden tartışmaya açılmış durumda.
