Yapay zeka çöplüğü, insanların çevrimiçi yayın yaptığı her büyük platforma akıyor ve Medium da bir istisna değil. 12 yıllık yayıncılık platformu yıllar içinde baş döndürücü sayıda değişim geçirdi. Sonunda finansal olarak yükselişe geçti ve bu yaz ilk kez aylık kâra geçti.
Medium CEO’su Tony Stubblebine ve şirketteki diğer yöneticiler platformu “insan yazımı için bir yuva” olarak tanımladılar. Ancak robot blog yazarlarının da platforma giderek daha fazla akın ettiğine dair kanıtlar var.
Bu yılın başlarında WIRED, yapay zeka tespit girişimi Pangram Labs’tan Medium’u analiz etmesini istedi. Altı haftalık bir süre zarfında 274.466 yeni gönderiden bir örneklem aldı ve yüzde 47’den fazlasının muhtemelen yapay zeka tarafından oluşturulduğunu tahmin etti.
Pangram CEO’su Max Spero, “Bu, internetin geri kalanında gördüğümden birkaç kat daha fazla” diyor. (Şirketin bu yaz küresel haber sitelerinin bir gününe ilişkin analizi, yüzde 7’sinin muhtemelen yapay zeka tarafından oluşturulduğunu ortaya koydu).
Stubblebine, Medium’un yapay zeka tarafından üretilen makalelerde büyük bir artış gördüğünü inkar etmiyor ve “Medium’da yayınlanan yapay zeka tarafından üretilen içeriğin yılın başından bu yana muhtemelen on kat arttığını düşünüyoruz” diyor.
Ayrıca, platformda ortaya çıkan yapay zeka saçmalıklarına karşı genel olarak muhalif bir yaklaşım benimsiyor:
“Yapay zeka içeriğine kesinlikle karşıyız.”
Ancak sorunun kapsamının değerlendirilmesinde yapay zeka dedektörlerinin kullanılmasına karşı çıkıyor, çünkü bu dedektörlerin tamamen yapay zeka tarafından üretilen gönderiler ile yapay zekanın daha az kullanıldığı gönderiler arasında ayrım yapamadığını iddia ediyor.
“Bu doğru değil,” diyor Spero; Pangram’ın gerçekten de bir komut isteminden oluşturulan bir ChatGPT gönderisi ile bir AI taslağına dayanan ancak insan yazısıyla doldurulmuş bir gönderiyi ayırt edebileceğini iddia ediyor.
Stubblebine’a göre Medium birkaç yapay zeka dedektörünü test etmiş ve bunların etkili olmadığına karar vermiş.
Stubblebine ayrıca Pangram Labs’ı “basın yoluyla” kendisinden para sızdırmaya çalışmakla suçladı; çünkü Pangram’ın CEO’su Spero, WIRED’in talep ettiği analizin sonuçlarını detaylandıran bir e-posta gönderdi ve ardından Medium’a hizmetlerini teklif etti.
Spero, “Sadece onlara yardımcı olabileceğimizi düşündüm” diyor.
Yapay zeka tespit araçları gerçekten de kusurlu. Metinleri analiz ederek ve tahminlerde bulunarak çalışıyorlar ve yanlış pozitifler ve yanlış negatifler üretebilirler. Tek tek yazı ve sanat eserlerini değerlendirmek için bunları kullanırken dikkatli olmak gerekiyor, özellikle de onları kandırmak için yeni bir araç dalgası mevcutken.
Yine de, belirli platformlarda ve web sitelerinde ne kadar YZ tarafından oluşturulan içeriğin var olduğuna dair değişiklikleri ölçen barometreler olarak faydalılar ve araştırmacıların, gazetecilerin ve halkın kalıpları tespit etmesine yardımcı olabilirler.
Gillham, “YZ dedektörleri doğru ancak mükemmel olmadığından, herhangi bir içerik parçasının YZ tarafından üretilip üretilmediğini kesin olarak söylemek mümkün değil. Ancak, Medium gibi platformları ele geçiren YZ yazı trendini görme konusunda harikalar” diyor.
Başkaları da bu eğilimi fark etti.
Online yanlış bilgi izleme şirketi NewsGuard’da editör olan McKenzie Sadeghi, “Yapay zeka tarafından üretilen yeni haber sitelerine yönelik düzenli taramalarım sırasında, Medium’da her hafta düzenli olarak yapay zeka tarafından üretilen içeriklerle karşılaşıyorum. Bunların çoğunun genellikle kripto, pazarlama ve SEO ile ilgili olduğunu gördüm” diyor.
Stubblebine, bu rakamların Medium okuyucularının deneyimlerini tam olarak yansıtmadığı konusunda kararlı ve “Bu önemli değil” diyor ve şöyle devam ediyor:
“Medium’a gönderilenlerin ham akışına erişmek, önerilen ve görüntülenenlerin gerçek faaliyetini temsil etmiyor. Bu konular için ham akışlarda tespit edilebilen yapay zeka tarafından oluşturulmuş hikayelerin büyük çoğunluğu zaten sıfır görüntülenmeye sahip. Hedefimiz sıfır görüntüleme ve bunu başaran bir sistemimiz zaten var.”
Stubblebine, Medium’un genel amaçlı spam filtreleme sistemi ve insan moderasyonunun birleşimiyle yapay zeka saçmalıklarını etkili bir şekilde kontrol altına aldığına inanıyor.
Yüksek hacimlerde YZ tarafından oluşturulmuş materyal yayınlıyor gibi görünen birçok hesabın gerçekten de cılız veya var olmayan okuyucu kitlelerine sahip olduğu görülüyor.
Örneğin, Pangram Labs tarafından kripto hakkında yapay zeka tarafından üretilmiş muhtemel gönderilerin yazarı olarak işaretlenen bir hesap, bir günde altı kez gönderi paylaşmış, ancak gönderilerin hiçbirinde etkileşim olmamış; bu da ihmal edilebilir bir etkiye işaret ediyor.
İşaretlenen diğer gönderiler yakın zamanda kaldırılmış gibi görünüyor; bazıları gönüllü olarak kaldırılmış olabilirken, diğerleri yayınlandıktan günler veya haftalar sonra Medium tarafından kaldırılmış olabilir.
Stubblebine’a göre Medium, sistemde oyun oynamaya çalışan “spam halkaları” tespit etmişse bazen spam’leri kaldırmayı kasıtlı olarak geciktiriyor. Yine de sıfır görüntülenme genel olarak geçerli değil.
WIRED, Pangram, Originality ve yapay zeka tespit şirketi Reality Defender tarafından yapay zeka tarafından üretilmiş olabileceği işaretlenen diğer makalelerin, diğer platformlardaki “beğenilere” benzeyen yüzlerce “alkışa” sahip olduğunu ve en azından sıfırdan önemli ölçüde daha yüksek bir okuyucu kitlesine işaret ettiğini buldu.
Stubblebine, Medium’un kalite kontrol yaklaşımının temel taşı olarak insanları görüyor ve”Medium artık temelde insan küratörlüğüyle çalışıyor” diyor.
Medium’un yayınlarının 9.000 editörünün yanı sıra “güçlendirilebilecek” ya da daha geniş çapta dağıtılabilecek hikayeler için ek insan değerlendirmesinden bahsediyor.
Stubblebine, “Sanırım, bilgiçlik taslıyorsanız, yapay zekayı filtrelediğimizi söyleyebilirsiniz; ancak bunun üzerinde bir hedef var, yani sadece çok iyi olmayan şeyleri filtrelemeye çalışıyoruz” diyor.
Medium bu yıl robotik blog yazarlarının varlığını engellemek için adımlar attı ve YZ politikasını güncelledi.
Medium’un bu tutumu, LinkedIn ve Facebook gibi insanları yapay zeka kullanmaya açıkça teşvik eden diğer platformlarla önemli bir tezat oluşturuyor. Bunun yerine Medium, artık yapay zeka yazılarının İş Ortağı programında ödeme duvarına tabi tutulmasına, Boost programından daha geniş insan küratörlüğünde dağıtım almasına veya bağlı kuruluş bağlantılarını tanıtmasına izin vermiyor. Açıklanan YZ yazıları genel dağıtım alabilir, ancak açıklanmayan YZ yazılarına yalnızca “ağ” dağıtımı verilir, bu da yalnızca yazarı takip eden kişilerin akışlarında görünmesi gerektiği anlamına gelir.
Medium, YZ tarafından oluşturulan yazıları “içeriğin büyük bir kısmının bir YZ-yazma programı tarafından çok az düzenleme, iyileştirme, doğruluk kontrolü veya değişiklik yapılarak ya da hiç yapılmadan oluşturulduğu yazılar” olarak tanımlıyor.
Medium’un bu yeni kurallar için YZ’ye özgü herhangi bir uygulama aracı bulunmuyor.
Stubblebine, “Mevcut kürasyon sistemimizin yapay zeka tarafından üretilen yazıları filtreleme gibi bir yan etkisi olduğunu gördük, çünkü yapay zeka tarafından üretilen yazılar da kötü yazılardır” diyor.
Bazı Medium yazarları ve editörleri platformun yapay zekaya yaklaşımını alkışlıyor.
Medium’un en büyük popüler kültür yayını Fanfare’i kuran Eric Pierce, yapay zeka tarafından üretilen pek çok gönderiyi savuşturmak zorunda kalmadığını ve Medium’un destek programının insan küratörlerinin platformun en iyi insan yazılarını öne çıkarmaya yardımcı olduğuna inandığını söylüyor.
Eric Pierce, “Son birkaç ay içinde Medium’da okuduğum ve yapay zeka tarafından yaratıldığını ima eden tek bir yazı bile düşünemiyorum. Giderek artan bir şekilde, Medium kendini canlı canlı yemeye çalışan bir internetin ortasında akıl sağlığının bir kalesi gibi geliyor” diyor.
Ancak diğer yazarlar ve editörler, platformda halen çok sayıda yapay zeka tarafından oluşturulmuş yazı gördüklerine inanıyor.
Çeşitli yayınların editörlüğünü yapan içerik pazarlama yazarı Marcus Musick, yapay zeka tarafından üretildiğinden şüphelendiği bir makalenin nasıl viral hale geldiğinden yakınan bir yazı yazdı.
Reality Defender söz konusu makale üzerinde bir analiz yaptı ve yüzde 99 oranında “muhtemelen manipüle edilmiş” olduğunu tahmin etti. Hikaye 13.500’den fazla “alkış” ile geniş çapta okunmuş görünüyor.
Musick, bir okuyucu olarak olası yapay zeka içeriğini tespit etmenin yanı sıra, bir editör olarak da bu içerikle sık sık karşılaştığına inanıyor. Her ay potansiyel katılımcıların yaklaşık yüzde 80’ini YZ kullandıklarından şüphelendiği için reddettiğini söylüyor.
“İşe yaramaz” olarak nitelendirdiği yapay zeka dedektörlerini kullanmıyor, bunun yerine kendi muhakemesine güveniyor. Medium’daki muhtemel yapay zeka kaynaklı içeriğin hacmi dikkate değer olsa da, platformun karşılaştığı moderasyon zorlukları (iyi çalışmaların nasıl ortaya çıkarılacağı ve gereksizlerin nasıl yasaklanacağı) her zaman daha büyük web’i rahatsız eden bir sorun.
Yapay zeka patlaması bu sorunu daha da büyüttü.
Örneğin, tıklama çiftlikleri uzun zamandır bir sorun olsa da, yapay zeka SEO takıntılı girişimcilere zombi medya kuruluşlarını yapay zeka saçmalıklarıyla doldurarak hızla diriltmenin bir yolunu verdi.
Facebook, Amazon Kindle ve evet, Medium gibi platformlarda başkalarını yapay zeka slop’u yaratmaya teşvik eden hızlı zengin olma eğitimleri yaratan YouTube hustle kültürü girişimcilerinin bir alt türü var. (Örnek başlık: “1-Click AI SEO Medium Empire 🤯.”)
İntihal danışmanı Jonathan Bailey, “Medium şu anda internetin geneliyle aynı yerde. Çünkü yapay zeka içeriği o kadar hızlı üretiliyor ki her yerde karşımıza çıkıyor. Spam filtreleri, insan moderatörler vs. muhtemelen sahip oldukları en iyi araçlar” diyor.
Stubblebine’ın argümanı (iyi yazıları başarılı bir şekilde çoğalttığı ve söz konusu çöplerin erişimini sınırladığı sürece bir platformun büyük miktarda çöp içerip içermediğinin önemli olmadığı) belki de yapay zeka pisliğini tamamen ortadan kaldırma girişiminden daha pragmatiktir. Onun ılımlılık stratejisi en akıllıca yaklaşım olabilir.
Bu aynı zamanda Ölü İnternet teorisinin gerçekleşeceği bir geleceğe de işaret ediyor.
Bir zamanlar aşırı derecede çevrimiçi komplocu düşünürlerin alanı olan teori, internetin büyük çoğunluğunun gerçek insanlardan ve insan tarafından yaratılan gönderilerden yoksun olduğunu, bunun yerine yapay zeka tarafından üretilen slop ve botlarla tıkandığını savunuyor.
Üretken yapay zeka araçları yaygınlaştıkça, botları ortadan kaldırmaya çalışmaktan vazgeçen platformlar, insanlar tarafından yaratılan işlerin yapay zeka tarafından bataklığa saplanan platformlarda bulunmasının giderek zorlaştığı bir çevrimiçi dünyaya kuluçkaya yatacak.
Kaynak: Kate Knibbs / Wired
Araştırma2 yıl önce
