Yapay Zeka ve Hayat · Yazı
Yapay zeka bana işin bugüne kadar doğal kabul ettiğim bir tarafını sorgulatıyor: Bir işin ne kadarı gerçekten bana ihtiyaç duyuyor, ne kadarı sadece her şeyi birbirine bağlayan biri olmadığı için benden geçiyor?
Son zamanlarda yaptığım işin şaşırtıcı bir bölümünün aslında yaptığımı sandığım iş olmadığını fark ediyorum. Çoğu zaman asıl yaptığım şey, işin ilerlemeye devam etmesini sağlamak.
Bir proje bir fikirle başlıyor. Sonra insanlara, yazılımlara, kararlara, mesajlara, dokümanlara, müşterilere, onaylara ve bunların arasında çıkan küçük sorunlara dönüşüyor. Bir noktada ben de bu yapının parçası haline geliyorum. Birinin yalnızca bende olan bir bilgiye ihtiyacı oluyor. İki sistem birbirini tutmuyor. Bir kararın kime ait olduğu belli değil. Bir şey duruyor ve parçaların nasıl bağlandığını bildiğim için tekrar ben hareket ettiriyorum.
Uzun süre bunu işimi iyi yapmanın doğal bir sonucu olarak gördüm. Bir şirketi, ürünü ya da projeyi ne kadar iyi tanırsanız, resmi yapıların arasına bir şey düştüğünde o kadar işe yararsınız. Hangi kuralın gerçekten önemli olduğunu, hangi varsayımın değiştiğini, kimin konuşmaya dahil olması gerektiğini ve üç hafta önce verilen bir kararda aslında ne kastedildiğini bilirsiniz.
Bunda yanlış bir şey yok. Birlikte çalıştığım en değerli insanların bazıları tam olarak bunu çok iyi yapıyordu. Farklı ekiplerin ve sistemlerin arasını görebiliyor, kimsenin bütünüyle sahiplenmediği boşlukları kapatabiliyorlardı.
Ama faydalı olmakla vazgeçilmez hale gelmek arasında ince bir çizgi var.
Proje siz orada olduğunuz için çalışıyor. Şirket siz hatırladığınız için hatırlıyor. Süreç, durduğunu siz fark ettiğiniz için devam ediyor. Dışarıdan düzgün işleyen bir yapı gibi görünen şey, gerçekte bir ya da iki insanın her gün parçaları kafasında yeniden bir araya getirmesine bağlı olabiliyor.
Ben de son zamanlarda bunu yalnızca bir çalışma biçimi değil, bir tasarım problemi olarak görmeye başladım.
Önceki yazımda, yapay zekanın bize açtığı zaman ve dikkatin sonra nereye gittiğini düşünmüştüm. Bir işi hızlandırmak, kazandığınız zamanı otomatik olarak size geri vermiyor. İçinde çalıştığınız düzen o boşluğu hemen başka bir şeyle doldurabiliyor.
Şimdi başka bir şeyle ilgileniyorum. Bir işin içindeki dakikaları azaltmaktan çok, o işin en başta neden benim üzerimden geçmesi gerektiğiyle.
Yazılımda middleware, farklı sistemlerin birbiriyle konuşmasını sağlayan katmana verilen isim. Şirketlerde bu işi şaşırtıcı derecede sık insanlar yapıyor.
Bir sistemdeki bilgiyi başka bir sisteme taşıyorlar. Hiçbir yere yazılmamış geçmişi hatırlıyorlar. Bir ekibin bildiğini diğerinin kullanabileceği hale getiriyorlar. Toplantı çoktan unutulmuş olsa bile bir kararın neden öyle verildiğini biliyorlar. Süreç bir şey söylüyor ama gerçek hayat o sürece uymuyorsa aradaki farkı onlar kapatıyor.
Bu iş çoğu zaman sıradan iletişim gibi göründüğü için kolayca gözden kaçıyor. Mesajı gönder. Soruyu sor. Sayıyı kontrol et. Birine hatırlat. Dokümanı güncelle. Müşterinin neden mutsuz olduğunu açıkla. Teslimat planının değiştiğini finansa söyle. Satışın müşteriye gerçekte ne vaat ettiğini teslimat ekibine anlat.
Tek tek bakınca bunların hiçbiri çok büyük görünmüyor. Ama bir araya geldiklerinde şirketin gerçekte nasıl çalıştığını belirleyebiliyorlar.
İnsan deneyim kazandıkça bu görünmez yükü taşıma ihtimali de artıyor. Sistemin nerede eksik olduğunu biliyor. Hangi veriye tek başına güvenilmemesi gerektiğini biliyor. Süreç bir şey söylerken durumun başka bir şey gerektirdiği anı fark ediyor.
Bir süre sonra şirket her gün o insanın hafızasını, muhakemesini ve bağlantı kurma becerisini kullanmaya başlıyor.
Bu meselenin şirket ölçeğindeki halini The Executable Company içinde de düşünüyorum. Oradaki temel fikirlerden biri şu: Bir şirket dışarıdan entegre görünebilir ama gerçekte entegrasyonu en iyi insanları yapıyor olabilir. Sistemler, süreçler ve dashboardlar vardır; yine de önemli bir karar verilmeden önce şirketin o anki durumunu birinin kafasında yeniden kurması gerekir.
Bunun kişisel halini görmek benim için daha kolay.
Çünkü kendi işimde bunu yaptığımı sürekli fark ediyorum.
Yapay zekayı işimin giderek daha büyük bir bölümünde kullanıyorum. Araştırmada, yazmada, yazılım geliştirmede, yayınlamada, ürün işlerinde, operasyonlarda ve bütün bunların arasındaki koordinasyonda.
Buradaki ilginç değişim, yapay zekanın bunların hepsini bir anda kusursuz yapmaya başlaması değil. Öyle bir şey yok. Değişen şey, yazılımın eskiden yalnızca insanlara bırakılan daha dağınık bir alanda çalışabilmesi. İnsanlar için yazılmış dokümanları okuyabiliyor, farklı kaynaklardan bilgi toplayabiliyor, araç kullanabiliyor, bir dizi adımı takip edebiliyor ve her adımı önceden tek tek tarif etmeden makul ölçüde ilerleyebiliyor.
Bu, yazılımın taşıyabileceği işin sınırını genişletiyor.
Ama bunun içinde çok kolay düşülen bir tuzak da var.
Araştırmayı otomatikleştiriyorsunuz, sonra araştırmayı siz kontrol ediyorsunuz. Taslağı hazırlatıyorsunuz, sonra siz inceliyorsunuz. Yazılım değişikliğini agent yapıyor, sonra siz doğruluyorsunuz. Yayın sürecini otomatikleştiriyorsunuz, sonra her yayını yine kendinize onaylatıyorsunuz. Birkaç sistemi birbirine bağlıyorsunuz, bu kez de her sabah hepsinin hâlâ çalışıp çalışmadığını kontrol etmeye başlıyorsunuz.
İş hızlanıyor ama dönüp dolaşıp yine aynı kişiye geliyor.
Bu, yalnızca verimlilik meselesinden biraz farklı. Sorun artık açılan zamanın daha fazla işle dolması değil. Yapının kendisi hâlâ aynı insana bağlı olabilir. Yapay zeka daha fazla şey hazırlayıp daha hızlı hareket ederken ortadaki insanın işi, bütün bu üretimi kontrol etmek ve birbirine uydurmak haline gelebilir.
Yani çok fazla işi otomatikleştirip kendinizi günlük işin akışı açısından daha da vazgeçilmez hale getirmeniz mümkün.
Ben kendimi bunu yaparken yakaladım. Dahil olmamı azaltmak için bir şey kuruyorum. Bir süre sonra o şeyi izlemek, düzeltmek ve onaylamak diye kendime yeni bir iş yaratıyorum.
Başlangıçta bunun iyi nedenleri var. Yeni sistemleri gözlemlemek gerekir. Sonucu önemli olan kararlarda dikkatli olmak gerekir. Bir şeyin nasıl bozulduğunu henüz bilmiyorsam fazla görmek, otoriteyi düşünmeden devretmekten daha güvenli gelir.
Ama geçici gözetim çok kolay kalıcı yapıya dönüşebiliyor. Normal olan her durum sonunda yine bana dönüyorsa bağımlılığı ortadan kaldırmış değilim. Yalnızca bana gelen işin hızını artırmışım.
Kendimi daha verimli bir darboğaza çevirmişim.
Bu farkındalık bir sürece bakışımı değiştirdi.
İlk soru hâlâ faydalı: Yapay zeka bunu yapmama nasıl yardımcı olabilir?
Ama hemen arkasından başka bir soru gelmeye başladı: Bu neden hâlâ benden geçiyor?
Bazen cevabı çok açık. Karar gerçekten benim muhakememi gerektiriyor. İlişki önemli. Sonuç ciddi. Verdiğim bir söz var ve sorumluluğunu taşımam gerekiyor. İş benim zevkimi, bakış açımı ya da adımı taşıyor.
Ama bazı cevaplar çok daha zayıf. Dahilim çünkü bilginin nerede olduğunu tesadüfen yalnızca ben biliyorum. Çünkü iki yazılım birbiriyle yeterince bilgi paylaşmıyor. Çünkü normal durumda ne olması gerektiğini kimse tanımlamamış. Çünkü beş kere yaşanmış bir istisna hâlâ sisteme öğretilmemiş. Çünkü yapı kendini düzeltmek yerine bir insana sormaya alışmış.
Bunların hepsi "insan süreçte olmalı" diye aynı torbaya konabilecek nedenler değil.
Geleneksel yazılım uzun süre çok net tanımlanabilen işlerle, insanların sağduyu ve deneyimle çözebildiği işler arasında geniş bir alan bıraktı. Eksik bilgi, belirsiz dil, değişen durumlar, birbiriyle tutmayan kayıtlar ve tek tek kodlamak için fazla pahalı olan istisnalar o alandaydı. İnsanlar da doğal olarak orayı doldurdu.
Yapay zeka bu alanı ortadan kaldırmıyor. Ama sınırını değiştiriyor.
Yazılım artık sırf bilgi dağınık diye insana kalmış işlerin bir bölümünü taşıyabiliyor. Dokümanlarla, konuşmalarla, geçmiş kararlarla, doğal dille yazılmış talimatlarla ve farklı sistemlere yayılmış bilgilerle çalışabiliyor. Sınırları doğru çizildiğinde, şirketin zaten bildiği bir şeyi yeniden bir insana sordurmadan normal durumda bir sonraki adımın ne olduğunu çoğu zaman belirleyebiliyor.
Bu, hedefin insanı süreçten çıkarmak olması gerektiği anlamına gelmiyor.
Tam tersine, insanın neden orada olduğunu daha ciddi sorgulayabileceğimiz anlamına geliyor.
İşin benim için kişisel tarafı da burada başlıyor.
"Kendimi döngünün dışına çıkarmak" ilk duyulduğunda kendimi gereksiz hale getirmeye çalışıyormuşum gibi geliyor. İşimin bazı bölümlerinde gerçekten istediğim şey bu.
Bir şifreyi ben hatırladığım için gerekli olmak istemiyorum. Hangi dokümanın güncel olduğunu yalnızca ben bildiğim için de. Bir kararı bir konuşmadan ötekine ben taşıdığım ya da rutin bir işin durduğunu ben fark ettiğim için süreçlerin beni beklemesini istemiyorum. Normalde bir sonraki adımın ne olması gerektiğini sistem bilmiyorsa, bu benim vazgeçilmez olmam gereken bir alan değil.
Ama kendimi çıkardığımda işin kötüleşeceği yerler de var.
Bazı kararları ben vermek istiyorum, çünkü kararın kendisi yaptığım katkının bir parçası. Bazı insanlarla doğrudan konuşmak istiyorum. Yönün ve zevkin önemli olduğu ürünler var. Bir makine uygulamanın büyük bölümünü yapabilse bile sorumluluğun açık biçimde insanda kalması gereken taahhütler var.
Bu yüzden "human in the loop" ifadesinin kendi başına bir hedef olmasına da mesafeliyim. Bunun organizasyon tarafını Responsibility Before Automation yazısında daha ayrıntılı ele aldım. Otomatik bir sürecin sonuna bir insan koymak, o insanın gerçekten anlamlı bir karar verdiği anlamına gelmiyor. Bazen sistem yalnızca çözemediği belirsizliği ve sonunda sorumluluğu o kişiye bırakıyor.
Ama o insanı, gerçekte ne taşıdığını anlamadan çıkarmak da aynı ölçüde yanlış olabilir.
Benim için önemli ayrım şu: bilinçli olarak orada olmakla, sistem bana bağımlı olduğu için orada olmak aynı şey değil.
İş benim muhakememe, sorumluluğuma, zevkime, güven ilişkime ya da dikkatime ihtiyaç duyduğu için oradaysam başka. Ben olmadığımda ne olacağını kimse tasarlamadığı için oradaysam başka.
Bu soru ne kurmaya çalıştığımı da değiştiriyor.
Bir şey tekrar tekrar bana döndüğünde, hemen çözüp yoluma devam etmek yerine neden döndüğüne bakmaya çalışıyorum. Çünkü o geri dönüşün kendisi bilgi taşıyor.
Belki gereken bilgi sistemde yok. Belki bilgi var ama ihtiyaç duyulan yere ulaşmıyor. Belki kimin neye karar verebileceği belli değil. Belki normal bir sonraki adım hiçbir zaman açıkça tanımlanmamış. Belki otomasyon harekete geçebilir ama karar vermemeli. Ya da belki bu durum gerçekten bir insanın dikkatini hak ediyor.
Bunların hepsi yapay zeka problemi değil. Bu ayrım önemli.
Bazen çözüm daha iyi yazılım. Bazen daha açık bir süreç. Bazen yıllardır yalnızca insanların kafasında duran bir şeyi yazıya dökmek. Bazen iki sistemin aynı durumu paylaşması yeterli. Bazen de organizasyon içindeki gerçek bir anlaşmazlık, bilgi problemiymiş gibi görünüyor ve hiçbir otomasyon bunu çözemez.
Yapay zeka, yazılımın taşıyabileceği işin sınırını genişletiyor. Ama iyi bir sistem kurma sorumluluğunu ortadan kaldırmıyor.
Kendi üzerimde yaptığım bu deneyin The Executable Company ile birleştiği yer de burası. Bir şirketin nasıl çalıştığına dair daha fazla şeyin şirketin kendi içinde yaşayabilmesi ilgimi çekiyor. Yalnızca prosedürlerde ya da yazılımda değil; geçmişi hatırlayabilen, mevcut durumu anlayabilen, belirlenmiş sınırlar içinde hareket edebilen, normal yol artık geçerli olmadığında bunu fark eden ve gerçekten gerektiğinde bir insanı devreye sokan bir yapıda.
Bu, tek tek işleri otomatikleştirmekten daha büyük bir fikir. Henüz tam olarak nasıl görünmesi gerektiğini bildiğimizi de sanmıyorum.
Kendimden başlamamın nedeni basit: hata yaptığım yerleri görmek çok kolay.
Bunu daha iyi yapmanın sonunda daha az çalışmamı sağlayıp sağlamayacağını bilmiyorum.
Belki sağlar. Belki de her biri benden daha az sürekli dikkat istediği için daha fazla şey kurabilirim. Açılan alanın bir bölümünü önemsediğim işlere daha derin girmek için, bir bölümünü de işle hiç ilgisi olmayan şeyler için kullanabilirim.
İlk yazıda bu soruyu bilerek açık bırakmıştım. Açılan zaman kendi başına nereye gideceğine karar vermiyor.
Şimdi daha net gördüğüm şey, o alanı yaratmanın birden fazla yolu olduğu. Tek tek işleri hızlandırabiliriz. Ama işin kendisini de yeniden tasarlayabiliriz; böylece daha az rutin işin bir insan tarafından sürekli bir adımdan ötekine taşınması gerekir.
İkinci tür değişimi ölçmek daha zor. Tek bir görev için dramatik bir "önce üç saat, şimdi otuz dakika" karşılaştırması yok. Ortadan kaybolan şey daha küçük ve daha dağınık: kesintiler, onaylar, hatırlatmalar, yeniden açıklamalar, kaybolan bilgiyi toplama ve gün boyunca dikkati parça parça yiyen küçük koordinasyon işleri.
Şu anda kendi işimde yaptığım deney biraz bu.
Bir iş tekrar tekrar bana ihtiyaç duyduğunda, o bağımlılığı doğal kabul etmeden önce nedenini anlamak istiyorum. Bazı nedenler gerçekten insani olduğu için kalacak. Bazıları ise sistemin hiçbir zaman yeterince bilgi, kural ya da sorumluluk taşıyamamış olmasının kalıntısı çıkacak.
Yarattığım her şeyden kaybolmak istemiyorum. İstediğim, orada bulunmamın daha sık bilinçli bir seçim olması. Ve başka bir yere baktığım anda geride bıraktığım şeylerin durmaması.
Sohbeti sürdür
Yapay zeka, sistemler, iş, üretmek ve hayat üzerine denemeler ve saha notları.