AIDive

Anthropic 400 Bin Oturumu İnceledi: Yazılımcılar Kaybetti

AIDive tarafından · Yayın

Kodlama agent'ları

Yöneticiler AI ile kodlamada yazılımcıları geçiyor

Anthropic, bir kodlama agent'ı ile gerçekte kimin başarılı olduğunu bulmak için 400,000 Claude Code oturumunu bir sınıflandırıcıya tek tek değerlendirtti. Doğrulanmış başarı oranı en yüksek grup yazılım mühendisleri değil. Yöneticiler. Çalışmadaki en büyük on meslek grubunun tamamı yazılımcılara yedi puan mesafede kalıyor; yani kod yazmayan insanlar, çalışan kodu bu işi meslek olarak yapanlarla neredeyse aynı oranda teslim ediyor.

Bu araçlar kod bilmediğiniz için size göre değil diye düşündüyseniz, bu çalışma tam tersini söylüyor. Kod yazmayı bilmek, başarılı olanlarla olamayanları artık ayırmıyor ve çalışma neyin ayırdığını tam olarak ortaya koyuyor.

Anthropic gerçekte neyi ölçtü

Üç tanım, çalışmadaki her sayıyı okuma biçiminizi değiştiriyor. Önce örneklem: Ekim 2025 ile Nisan 2026 arasında kaydedilen, 235,000 kişiden gelen 400,000 etkileşimli oturum. Claude Code, Anthropic'in terminalde yaşayan kodlama agent'ı: ne istediğinizi düz dille yazıyorsunuz, o da dosyalarınızı okuyor, kodu yazıyor ve komutları kendi başına çalıştırıyor.

Anthropic'te kimse bu konuşmaları elle okumadı. Kendi modellerinden biri üzerine kurulmuş bir sınıflandırıcı her oturumu otomatik olarak derecelendirdi ve verdiği notlar telemetriyle, yani commit'lerle, kod değişiklikleriyle ve test sonuçlarıyla karşılaştırıldı. Kodu değiştiren oturumlarda sınıflandırıcı ile telemetri zamanın 90 yüzdesinden fazlasında aynı sonuca varıyor.

İkincisi, başarı. Çalışma iki tür başarı izliyor ve aradaki fark bundan sonraki her şeyi taşıyor. Değerlendirilmiş başarı, sınıflandırıcının belirtilen hedefe ulaşıldığına inanması demek. Doğrulanmış başarı daha zor: geçen testler, bir commit ya da kullanıcının sonucu açıkça onaylaması gibi kanıt istiyor. Aşağıdaki her sayının arkasındaki yüksek çıta doğrulanmış başarı ve bu talepkâr bir çıta, çünkü pek çok faydalı oturum resmi kanıt olmadan bitiyor.

Üçüncüsü, uzmanlığın kendisi. Sınıflandırıcı unvanınıza ya da özgeçmişinize hiç bakmıyor. Oturum içindeki davranışınızı okuyor ve onu acemiden uzmana beş seviyelik bir ölçekte, yalnızca üç sinyale bakarak derecelendiriyor: yönergeleriniz ne kadar net, agent'tan neyi doğrulamasını istiyorsunuz ve ikinizden biri diğerini düzeltiyor mu. Seviyeniz o oturumdaki probleme ne kadar hâkim olduğunuzu ölçüyor; aynı kişi sabah kendi mesleğinde uzman, akşam yeni bir konuda acemi olabilir.

Acemiden uzmana beş seviye

Acemi tek cümleden tanınır: içine hiç alan bilgisi katılmamış genel yönergeler. Uzman ise bağlam yüklü prompt'lar yazar ve aynı agent çok daha fazla özerk işle karşılık verir. Buradaki eylem, agent'ın attığı somut bir adım demek: bir dosyayı okumak, bir fonksiyon yazmak ya da bir komut çalıştırmak gibi.

Metrik Acemi Uzman
Prompt başına agent eylemi ~5 ~12
Prompt başına teslim edilen iş (kelime) ~600 ~3,200
Doğrulanmış başarı oranı 15% 28-33% (orta düzey ve üzeri)
Oturum ters gittiğinde terk etme oranı 19% 5-7% (acemi olmayan herkes)
Sorunlu oturumları doğrulanmış başarıya çevirme 4% 15%

Aynı araçtan, aynı abonelikle beş kat fazla teslim edilen iş. Değişen tek değişken klavyenin başındaki kişi.

En önemli ayrıntı şu: kazanımın neredeyse tamamı acemi ile orta düzey arasında gerçekleşiyor; orta düzey ile uzman arasındaki fark mütevazı. Başarı oranınızı ikiye katlamak için uzman olmanız gerekmiyor. Acemi olmayı bırakmanız gerekiyor.

En acımasız fark, bir oturum ters gittiğinde ortaya çıkıyor. Agent hata ve bozulan test sarmalına girdiğinde acemiler oturumu zamanın 19 yüzdesinde terk ediyor; diğer herkeste bu oran 5 ile 7 arasında. Devam edenler arasında da acemiler bu sorunlu oturumların yalnızca 4 yüzdesini doğrulanmış başarıya çevirirken uzmanlar 15'ini çeviriyor. Neredeyse dört kat fazla kurtarılan oturum ve bunun tek nedeni, kişinin problemi agent'ı batışını izlemek yerine yeniden yönlendirecek kadar iyi anlaması. Seviyeler arasındaki fark her şey yolundayken görünmüyor. İlk aksaklıkta görünüyor.

Kod yazmayı bilmek neden artık önemli değil

Anthropic'in deyimiyle alan uzmanlığı, çözmeye çalıştığınız problemi en dibine kadar anlamak demek. Kod üreten oturumlarda meslekler arasındaki fark küçük ve istikrarlı:

Grup Doğrulanmış başarı Kısmi başarı
Yazılım meslekleri 34% 89%
Diğer tüm meslekler 29% 88%

Beş puanlık bir fark; çalışmanın yedi ayı boyunca her iki grup da gelişmeye devam ederken bu makas ne açıldı ne kapandı. Hedefe en azından kısmen ulaşıldığı kısmi başarıda iki grup berabere.

Çalışma, alan uzmanlığının nerede devreye girdiğini de gösteriyor. Tipik bir oturumda insan, planlama kararlarının (ne inşa edileceğinin) yaklaşık 70 yüzdesini, ama yürütme kararlarının (nasıl yazılacağının) yalnızca 20 yüzdesini veriyor. Bölüşüm zaten ortada: neyi siz belirliyorsunuz, nasılı agent hallediyor. Ürününün tam olarak ne yapması gerektiğini bilen bir yönetici, agent'ın ürettiklerinin tek satırını yazamasa bile asıl önemli kolu tutuyor. Yöneticilerin sıralamanın tepesine çıkmasının nedeni bu.

Gözlemlenen yedi ay boyunca kullanım, ağırlık merkezinin kaydığını doğruluyor:

Görev türü Çalışmanın başı Çalışmanın sonu
Hata ayıklama Oturumların 33%'ü 19%
Yazılım çalıştırma 14% 21%
Veri analizi ve doküman yazımı başlangıç seviyesi neredeyse iki katına çıktı

İnsanlar agent'ı artık yalnızca kod tamir etmek için kullanmıyor; işlerini yürütmek için kullanıyor. Aynı dönemde agent'a devredilen ortalama görevin tahmini değeri 27 yüzde büyüdü.

Özerklik de rolünüzü aynı şekilde yeniden çerçeveliyor. Tipik bir oturumda insan ile agent arasında yalnızca dört civarı konuşma geçiyor ve her prompt ortalama on civarı eylem tetikliyor. Uçta ise tek bir prompt bazen yüzden fazla eylem başlatıyor: bir yönerge ve agent bir öğleden sonraya denk süre boyunca tek başına çalışıyor. Oturum başına kattığınız şey birkaç cümleye sığıyor; bu cümlelerin netliğinin bu kadar ağır basmasının nedeni tam olarak bu. Yalnızca dört kez konuştuğunuzda her cümle sayılır.

Aynı görev, acemi gibi ve uzman gibi promptlanınca

Farkı herkesin anlayacağı bir görevde yeniden oynattık: küçük bir web sitesine iletişim formu eklemek.

Önce acemi versiyonu, yarımızın hâlâ yazdığı prompt: dokuz kelime, sıfır bağlam, sıfır ölçüt. Agent sitenin nerede olduğunu, formun neyi toplayacağını, mesajların nereye gideceğini bilmiyor; bu kararların her birini sizin yerinize veriyor ve seçimlerini en sonda keşfediyorsunuz. Bizim denememizde formu ana sayfaya koydu, kimsenin istemediği bir telefon alanı uydurdu ve gönderimleri var olmayan bir e-posta adresine bağladı. Bunların hiçbiri bug değil. Agent, istekteki boşlukları tahminlerle doldurdu ve her tahmin bir yanılma fırsatıydı. Ölçülen acemi kalıbı bu: az eylem, kısa bir sonuç ve kabaca yedide bir doğrulanmış başarı şansı.

Uzman versiyonu aynı görevi prompt'ta tek satır kod olmadan ele alıyor. Nerede müdahale edileceğini (hakkında sayfası), ne inşa edileceğini (üç net alan), neyle inşa edileceğini (halihazırda var olan gönderim rotası) ve hepsinden önemlisi bittiğinin nasıl kanıtlanacağını (testleri çalıştır ve formu tarayıcıda göster) söylüyor. Bu bilgilerin hiçbiri kod bilmeyi gerektirmiyor. Sitenizi, ihtiyacınızı ve standardınızı, yani alanınızı bilmeyi gerektiriyor. Gerisini agent devralıyor: sayfayı okuyor, formu ekliyor, rotayı bağlıyor, doğrulamayı yazıyor ve testleri çalıştırıyor. Bu, çalışmadaki 12 eylemlik zincir; onu tetikleyen şey prompt'un netliği, yazarının teknik yeteneği değil.

Uzman prompt'u yazmak acemi olandan yaklaşık otuz saniye fazla sürdü ve o otuz saniye, agent'ın tahmin etme fırsatlarının tamamını ortadan kaldırdı. Bütün gösterim tek cümleye sığıyor: aynı araç, istek alan bilgisini taşıdığında beş kat daha üretken oluyor.

Sizi bir seviye yükselten üç alışkanlık

Birinci alışkanlık, yalnızca sizin bildiğiniz bağlamı agent yanlış tahmin etmeden önce vermek. Sınıflandırıcı buna yönerge netliği diyor. Her istek nerede müdahale edileceğini, neyle çalışılacağını ve bitmişin neye benzediğini söylemeli. Üç cümle yetiyor ve bu yalnızca kod için değil her iş için geçerli: hedef kitleyi, kısıtları ve bitiş çizgisini içeren bir pazarlama prompt'u aynı üç bloğu karşılıyor. Bloklardan birini dolduramıyorsanız, belirsizliğin agent'ta değil sizde olduğunun sinyali bu; oturumu başlatmadan önce netleştirmeye değer.

İkinci alışkanlık, sonda kanıt talep etmek; sınıflandırıcının ikinci sinyali. Prompt'larınızı kontrol edilebilir bir bitiş koşuluyla bitirin: testleri çalıştır, sonucu göster, sayfanın yüklendiğini kontrol et. Kanıt istemediğiniz bir agent size doğrulanamaz iş teslim eder ve çalışma, değerlendirilmiş başarıyı doğrulanmış olandan ayıranın tam da bu olduğunu gösteriyor. O kanıt sizi de korur, çünkü arkasındaki kodu okumayı bilmeden işi onaylamanızı sağlar.

Üçüncü alışkanlık, işler bozulmaya başladığında devrede kalmak. Agent'ın döndürdüğünü yeniden okuyun, yanlışsa düzeltin ve ilk başarısızlıkta oturumu kapatmayın. Acemiler çıktıyı pasifçe kabul ediyor ve iş tıkandığı anda herkesten yaklaşık dört kat daha sık terk ediyor; oysa seviyenin karşılığını verdiği yer tam burası. Problemi kendi kelimelerinizle yeniden anlatmak ve beklentinizle örtüşmeyeni işaret etmek agent'ı düzeltmektir; bu da sınıflandırıcının üçüncü sinyali. İyi bir düzeltmenin şekli: ne oluyor, ne bekleniyordu, nereye bakmalı. Hâlâ tek satır kod yok, yalnızca aradaki farkın dürüst bir tarifi var.

Üç alışkanlık bir yapışkan nota sığıyor: bağlamını ver, kanıt iste, devrede kal. Hiçbiri kod öğrenmeyi gerektirmiyor ve birlikte 15 ile 30 yüzde başarı arasındaki farkı kapatıyorlar.

Çalışmanın söylemedikleri

Uzmanlar için bile doğrulanmış başarı 28 ile 33 yüzde arasında tavan yapıyor. Üç oturumdan ikisi, hedefe ulaşıldığına dair sağlam kanıt olmadan, en iyi ihtimalle 90 yüzdenin üzerine çıkan bir kısmi başarıyla bitiyor. Bir seviye yükselmek şansınızı ikiye katlıyor; agent'ı yanılmaz yapmıyor.

Yöneticilerin sıralaması da kendi uyarısını hak ediyor. Anthropic bir ölçüm yanlılığının mümkün olduğunu not ediyor, çünkü doğrulanmış başarı kullanıcının açık onaylarını da sayıyor ve işin onaylandığını net biçimde söylemek bir yönetici refleksi. Üstelik çalışma, kitlesi ortalamadan zaten daha motive olan bir terminal aracı olan Claude Code oturumlarını ölçüyor; aynı sayıların ChatGPT'de ya da başka bir araçta geçerli olacağının garantisi yok. Ondalıkları değil genel eğimi aklınızda tutun: netlik kazandırıyor, kanıt kazandırıyor ve kimse üçte bir kesinliği aşamıyor.

Seviyeniz bir etiket değil

Kod yazamıyorsanız bu işe girmeli misiniz? Çalışma gruba göre cevap veriyor. Mesleğinizi içiniz dışınız bilecek kadar tanıyorsanız (alanınızı, müşterilerinizi, iyi bir sonucun ne demek olduğunu), o zaman evet. Kararların asıl önemli yarısını, planlama yarısını tam olarak siz getiriyorsunuz. Ama henüz anlamadığınız bir konuya dalıyorsanız, agent o boşluğu doldurmayacak; iletişim formumuzun yanlış sayfaya inmesi gibi tahminlerle tıka basa dolduracak.

Çıkarılacak ders tek karara sığıyor: kod eksikliğinizi bir engel olarak görmeyi bırakın ve problem bilginizi gerçek sermayeniz olarak görmeye başlayın. Sınıflandırıcı kim olduğunuzu derecelendirmiyor; oturumun içinde nasıl çalıştığınızı derecelendiriyor ve bu daha bir sonraki oturumunuzda değişebilir. İsteği bağlamınızı içine katarak yazın, talep ettiğiniz kanıtla bitirin ve iş tıkandığında kapatmak yerine yeniden ifade edin. Kod yazamıyorsanız, herkesle aynı şansla başlıyorsunuz. Çalışma bunu 400,000 oturum üzerinde kanıtladı.

Kaynaklar

Sık sorulan sorular

Anthropic'in 400,000 oturumluk Claude Code çalışması ne buldu?
Bir sınıflandırıcı, 235,000 kişiden gelen 400,000 Claude Code oturumunu (Ekim 2025 - Nisan 2026) derecelendirdi ve başarıyı öngörenin kodlama becerisi değil alan uzmanlığı olduğunu buldu. En iyi doğrulanmış başarı oranı yöneticilerdeydi; yazılım dışı meslekler 34%'lük yazılım mesleklerine karşı 29% doğrulanmış başarıya ulaştı.
Kod yazmayı bilmeden Claude Code kullanılabilir mi?
Evet, alanınızı biliyorsanız. Tipik bir oturumda insanlar planlama kararlarının yaklaşık 70%'ini, yürütme kararlarının ise yalnızca 20%'sini veriyor; yani ne inşa edileceğini bilmek nasıl yazılacağını bilmekten daha önemli. Kod yazmayanlar, çalışan kodu profesyonel geliştiricilerle neredeyse aynı oranda teslim ediyor.
Anthropic çalışmasında doğrulanmış başarı nedir?
Doğrulanmış başarı, hedefe ulaşıldığına dair kanıt gerektirir: geçen testler, bir commit ya da kullanıcının açık onayı. Sınıflandırıcının hedefe ulaşıldığına yalnızca inandığı değerlendirilmiş başarıdan daha katıdır. Uzmanlar bile oturumların yalnızca 28-33%'ünü doğrulayabiliyor.
Anthropic yapay zeka kullanıcılarının uzmanlık seviyelerini nasıl ölçüyor?
Bir sınıflandırıcı her oturumu acemiden uzmana beş seviyelik bir ölçekte, üç davranışsal sinyale bakarak derecelendiriyor: yönerge netliği, kullanıcının agent'tan neyi doğrulamasını istediği ve kullanıcı ile agent'ın birbirini düzeltip düzeltmediği. Unvanlara hiç bakmıyor; aynı kişi bir görevde uzman, bir başkasında acemi çıkabilir.
Yapay zeka kodlama agent'larında acemi ve uzman prompt'ları birbirinden ne ayırıyor?
Uzman prompt'ları alan bağlamı taşır: nerede müdahale edileceği, ne inşa edileceği, neyle inşa edileceği ve testleri çalıştırmak gibi kontrol edilebilir bir bitiş koşulu. Her uzman prompt'u yaklaşık 12 agent eylemi ve 3,200 kelimelik iş tetikliyor; genel acemi prompt'larında bu 5 eylem ve 600 kelime, doğrulanmış başarı oranı da yarısı.
Geliştiricilerin yapay zeka kodlama agent'larında hâlâ avantajı var mı?
Küçük bir avantaj: yazılım meslekleri kod üreten oturumların 34%'ünü doğrularken diğer herkes 29%'unu doğruluyor; bu beş puanlık fark yedi ay boyunca sabit kaldı. Kısmi başarıda gruplar 89% ile 88% olarak berabere.

İlgili videolar