Bütün notlar

2026-08-06

Otonomi yavaş kazanılır, anında kaybedilir

Bir yetenek merdiveni yüzlerce temiz icrayla çıkar ve tek bir olayla düşer; asimetrinin kendisi güvenlik özelliğidir.

Bir yetenek operasyona izinle gelmez. Gözetim altında gelir.

Merdivenin en altında o yeteneğin her tek icrası önerilir ve kararı bir insan verir. Hiçbir şey kendiliğinden yürümez; yanlış olması beklendiği için değil, henüz bir kayıt olmadığı için. Kayıt yoksa doğru olup olmadığı sorusunun da cevabı yoktur. Yetenek orada durur, gözetim altında işi yapar ve onu yukarı taşıyan tek şeyi biriktirir: her birinin arkasında doğrulanabilir bir iz olan yüzlerce temiz icra.

Doğrulanabilir kelimesi o cümlede gerçek bir iş yapıyor. Temiz icra, kimsenin şikâyet etmediği icra değildir. Kaydın ne yapıldığını, ne zaman, hangi kanıta dayanarak ve kimin onayıyla yapıldığını gösterdiği, ve sonucun beklenenle karşılaştırılabildiği icradır. İyi çalışmış ama bunu kanıtlayamayan bir yetenek hiçbir şey kazanmamıştır. Bu, yetkin bir operatörün izlenimine güvenmekten yavaştır, ve sessizce çöken şey tam olarak izlenimdir.

Yükselme bu yüzden kademeli ve pahalıdır. Düşüş ikisi de değildir. Tek bir olay yeteneği doğrudan gözetime geri indirir, anında, basamak basamak değil.

Asimetri, alternatifi incelenene kadar sert görünür. Kademeli düşürme, yani bir hata için bir basamak, hata anında neredeyse hiçbir zaman doğru olmayan bir şeyi varsayar: hatanın anlaşılmış olduğunu. Bir olay yüzeye çıktığında bilinen şey bir şeyin ters gittiğidir. Bilinmeyen şey nedenin ne kadar geniş olduğudur. Bozuk bir girdi miydi, platformun değişen davranışı mı, hep kırılgan olup bugüne kadar zorlanmamış bir kural mı, yoksa haftalardır kıl payı kaçırıp nihayet tutturan bir muhakeme hatası mı. Bir basamak indirmek, nedenin bir basamak genişliğinde olduğuna oynamaktır. Bu bahis hiçbir bilgi olmadan, operasyonun en az bildiği anda, ve kendisini kuran insanları şaşırtabildiğini yeni göstermiş bir sistem hakkında oynanır.

En alta düşmek böyle bir bahse girmez. Güvenin bir kayda dayandığını, kaydın artık kimsenin öngörmediği bir olay içerdiğini, ve güvenin o olayı da kapsayan bir kayda karşı baştan kurulması gerektiğini söyler. İnceleme nedenin dar olduğunu gösterirse geri tırmanış hızlıdır, çünkü zaten doğruya yakın bir yetenekte temiz icralar hızla birikir. Sistem bu ihtiyatın bedelini kalıcı kapasiteyle değil zamanla öder.

Bazı eylem türleri merdivenin en üstüne hiçbir zaman çıkmaz. Para iadesi en açık örnektir. Bir iade doğru tutarda, doğru müşteriye, doğru biçimde yürütülebilir ve yine de yanlış karar olabilir, çünkü içindeki muhakeme bir kural hakkında değil bir ilişki hakkındadır. Hiçbir temiz icra hacmi bunu değiştirmez, dolayısıyla hiçbir sicil uzunluğu onu yukarı taşımaz. Kalıcı olarak insan onayında kalır, ve tavan güncel bir politika olarak bırakılmak yerine tasarıma yazılır. Ayrım önemlidir, çünkü politika, işine gelmediğinde operatörün gevşettiği şeydir.

Bedel söylenmeli, çünkü bir güvenlik özelliğini fiyatını söylemeden anlatmak reklamdır.

Bu, operasyonu olabileceğinden yavaş yapar. Bir yetenek genellikle kanıtlanabilir biçimde güvenilir olmadan çok önce güvenilirdir, ve o aralıkta gözetim altında yürür; yani sistemin hızıyla değil bir insanın dikkatinin hızıyla yürür. O aralıkta fırsatlar geçer. Bir basamak kaybedildiğinde geçen hafta kendi başına yürüyen aynı yetenek tek tek önerilmeye döner, ve bu gerçek bir hacim düşüşüdür; üstelik istisna yapma cazibesinin en güçlü olduğu anda gelir, çünkü bir hata olduktan bir gün sonra hep anlaşılmış hissettirir.

Takas pazarlığa açık değildir, ve gerekçe genel bir ihtiyat sevgisinden dardır. Bu operasyon tek bir sayı raporlar ve o sayıdan sorumlu tek taraf olduğunu söyler. Bu iddia, ancak operasyonun altında çalıştığı izinler sabit ve denetlenebilirse ayakta kalır; operasyonun o an ne kadar kendine güvendiğine göre ayarlanıyorsa kalmaz. İyi bir çeyrekten sonra kendi yetkisini genişleten, kötüsünden sonra daraltan bir operatör hesap veriyor değildir, kendi sınav kâğıdını kendi okuyordur. Merdiven, herhangi bir anda yürürlükte olan yetkinin bir ruh hâli değil kayıtta duran bir olgu olması için vardır.

İkinci bir gerekçe var, daha az yapısal ve daha pratik. Hızlı güvenilen bir sistem, hata oranını müşterilerinin keşfettiği sistemdir, ve o keşif kötü bir ayın geri alındığı gibi geri alınmaz.

Kendine güvenen bir anlatıyla hızlı yürüyen bir operasyon yerine denetlenebilir kayıtla yavaş yürüyen bir operasyonu tercih ediyorsanız, ilk sorunuz neyin kalıcı olarak insan onayında kaldığı olsun.