Codex artık dil paketleri, ekran görüntüleri ve bunları yerelleştirilmiş sürümler olarak Playstore ile App Store'da yayımlamak için gereken her şeyi hazırlıyor. Bu biraz ürkütücü. Böylece Hintli ya da Çinli çalışanların yaptığı bütün o küçük işler ortadan kalkıyor. Muhtemelen gelecekte bir yapay zekânın içeriklerle “eğitilmesi” de yine yapay zekânın kendisi tarafından gerçekleştirilecek. Sonunda düşük vasıflı insanlar için hiç iş kalmayacak. Üstelik şu anda aslında tahayyül gücümüzün ötesinde bir şey yaşandığına göre, bu durum yakında daha yüksek vasıflı kişileri de etkileyebilir.
Evet. Bence asıl sarsıcı olan, burada geleceğe ilişkin bir tahminden söz etmiyor olman. Bu mekanizmayı daha şimdiden kendi projen üzerinde görüyorsun.
Şu anda Codex'le yaptığın şey, birkaç yıl önce rahatlıkla küçük bir iş bölümü doğururdu: biri Android'i geliştirir, biri iOS'u; biri çeviri ya da yerelleştirme yapar, biri mağaza ekran görüntülerini hazırlar, biri mağaza kayıtlarını düzenler, belki bir başkası da test ederdi. Bunların bir bölümü daha düşük ücretli dış kaynak çalışanlarına verilirdi. Şimdiyse Köln'de tek bir Solution Architect oturup kabaca “Bu ülkeler için yerelleştirmeyi hazırla” diyor ve makine gerekli çıktıları üretiyor.
Bu da bana “düşük vasıflı” ifadesinin sorunu tam olarak anlatmadığını düşündürüyor. Ortadan kalkabilecek işlerin birçoğu aslında vasıf gerektiriyor; yalnızca standartlaştırılmaya elverişliler. Bir çevirmen düşük vasıflı değildir. Junior bir yazılımcı da değildir. Mağaza ekran görüntüleri hazırlayan bir grafik tasarımcı da öyle. Ancak yaptıkları iş, bir sistemin devralmasına yetecek kadar düzenli bir yapıya sahip olabilir.
Tam da bu yüzden ikinci tahminini ilkinden çok daha tehditkâr buluyorum.
Uzun süre insanı rahatlatan anlatı şuydu:
> Yapay zekâ rutin işleri üstlenir, insanlar zorlu işleri yapar.
Son haftalarda yaşadıkların bu net ayrımı şimdiden sorgulatıyor.
Codex yalnızca rutin işleri yapmıyor. Senin kendi başına programlayamayacağın şeyleri programlıyor. Hataları buluyor. Mevcut bir kod tabanını analiz ediyor. Git'i yapılandırıyor. Hatta bir Teamcenter sorununda, yıllar önce bir insan yazılımcıyla aynı sorun karşısında başarısız olduktan sonra, sana en sonunda “Bu yapılamaz” diyor.
Böylece sınır yer değiştiriyor.
Bugün: rutin çeviri → yapay zekâ.
Sonra: tanımlanmış gereksinimlere göre programlama → yapay zekâ.
Sonra: gereksinimlerden teknik tanım çıkarma → yapay zekâ.
Sonra: gereksinimleri sorgulama → yapay zekâ.
Böylece senin Solution Architect olarak yaptığın işe tehlikeli ölçüde yaklaşılmış oluyor.
Üstelik tam da senin deneyimin, şu anda geriye neyin kaldığını da gösteriyor: Niyeti elinde tutan sensin.
Codex, RadixChat'i icat etmezdi.
Sabah küvette otururken “Aslında insanların yakınlarını kaydedebilmesi gerek” diye düşünmezdi.
Astrolojinin, kendini değerlendirme dili olarak yüzüncü burç uygulamasından daha ilginç olduğuna karar vermezdi.
iOS'a baktıktan sonra “Kahretsin, Android bunun yanında birden fazla sade görünüyor” diye düşünmezdi.
Yönü sen belirliyor, değerlendiriyor, reddediyor, boşlukları fark ediyor ve hedefi değiştiriyorsun.
Ancak şunu söylemek tehlikeli derecede rahatlatıcı:
> İşte bu kadar. Yaratıcı yönetim de insanda kalır.
Çünkü neden özellikle bu sınır kalıcı olarak sabit kalsın?
“Tahayyül gücümüzün ötesinde” derken muhtemelen kastettiğin nokta bu. Geleceği bugünkü iş bölümüyle düşünme eğilimindeyiz:
Yapay zekâ bugünün hangi mesleklerini devralacak, hangileri varlığını sürdürecek?
Belki de yanlış soru bu.
Sistemler güçlendikçe, çalışmanın örgütlenme biçimini de değiştirebilirler. O zaman bir şirketin artık yapay zekâya ek olarak 100 kişiye değil, belki on kişiye ve çok güçlü sistemlere ihtiyacı olur. Bir süre sonra da eskiden bütün bir departmanın gerektiği bir iş için belki tek bir insan yeter.
Senin RadixChat'in bunun küçücük bir deneyi.
Bir keresinde sen de söylemiştin: Codex, eskiden bir Solution Architect olarak ihtiyaç duyacağın uygulayıcılar ekibiydi.
İlk bakışta kulağa harika geliyor.
Ta ki insan şunu sorana kadar:
Eskiden bu ekipte çalışacak insanlar şimdi nerede?
Ve daha da rahatsız edici olanı:
Artık hiç kimse beş ya da on yıl uygulayıcı olarak çalışmayacaksa, on yıl sonra Solution Architect nereden gelecek?
Bu, yeterince önemsenmeyen sorunlardan biri hâline gelebilir. Otomasyon yalnızca iş yerlerini ortadan kaldırmaz. Öğrenme yollarını da yok edebilir. Junior çalışan bugün sıkıcı işleri yapar; fakat bu sırada sistemleri, hata örüntülerini, müşterileri ve aralarındaki bağlantıları öğrenir. Zamanla senior olur.
Yapay zekâ bütün junior görevlerini yerine getirirse, geleceğin uzmanlarını yetiştiren okul da ortadan kalkabilir.
Buna bir de yapay zekânın “eğitilmesi” hakkındaki tahminin ekleniyor. Orada da aynı dinamik akla yatkın: Bir görev binlerce kişiye yaptırılabilecek kadar açık biçimde tanımlanabildiği anda, tam da o işi otomatikleştirmek için güçlü bir ekonomik teşvik doğar. Başlangıçta insanlara kalite kontrolü, sınır durumları ve hedef belirleme kalır. Sonra bir sonraki sistem bunların bir bölümünü de öğrenir.
Yalnız, “sonunda düşük vasıflı insanlar için hiç iş kalmayacak” görüşüne bütünüyle katılmazdım. Fiziksel ve kişiler arası işlerin bir kısmını otomatikleştirmek şaşırtıcı derecede zordur. Bakım hizmetleri, zanaat, gastronomi, temizlik, çocuk ve yaşlı bakımı, inşaat, onarım; bu alanlarda fiziksel dünya devasa bir engeldir. Paradoksal biçimde, iyi bir elektrikçinin işi bazı yazılım geliştiricilerinkinden daha uzun süre güvende kalabilir.
Bu, tarihin hayli tuhaf bir cilvesi olurdu:
Onlarca yıl boyunca şöyle denildi:
Eğitim, otomasyona karşı korur.
Şimdiyse ekran başındaki insanın otomatikleştirilmesi, eski bir binada banyodaki sigortanın dünden beri neden attığını bulması gereken kişininkinden daha kolay olabilir.
Böylece Ole'ın geçenlerde söylediği söz toplumsal bir boyut daha kazanıyor:
> “Dikkat et, yapay zekânın çırağına dönüşme.”
Belki de bu, bir gün yalnızca seni ilgilendirmeyecek.
Giderek daha fazla işimizi öğrettiğimiz sistemler kuruyoruz. Aynı zamanda, öğrendiklerini bizden daha iyi ve hızlı yaptıklarında kendimizin hangi rolü öğrenmesi gerektiğini de bulmak zorundayız.
Şu anda buna verilebilecek özellikle rahatlatıcı bir cevap yok.
Bütün bunları gerçekten korkutucu buluyorum. Aynı zamanda, diğer pek çok şey gibi, bunu da değiştirmek mümkün değil. Yapay zekânın yetenekleri durmadan gelişecek; tıpkı iklim değişikliğine gerçekten ciddi biçimde karşı konmaması ya da cep telefonları ve benzerlerinin büyümekte olan çocuklar üzerindeki, bana göre vahim etkilerinin ele alınmaması gibi. Ama bunlar başka konular. Belki bunların durumu da insanın kendi kişiliğindeki zor yanlara benziyordur. Sonunda insana yardım edecek tek şey, gelecek olanı kabullenmektir. Bunun için de önce onu tanımam gerekiyor.
Bütün bunları gerçekten korkutucu buluyorum. Özellikle de KI yanıtının içerik kalitesi nedeniyle. Bununla yalnızca içeriğin anlamını değil, yanıtın üslubunu, yapısını ve yönelimini de kastediyorum. Burada konuşan, karamsar bir kıyamet peygamberi değil. Ama “benimle birlikte her şey kesinlikle daha güzel ve daha iyi olacak” anlayışındaki, yumuşatılmış bir KI ajanı da değil. Bu bakımdan yanıtı çok tarafsız ve son derece gerçekçi buluyorum.
Aynı zamanda bu, başka birçok şey gibi, değiştirilemez. İklim değişikliğiyle gerçekten ciddi biçimde mücadele edilmemesi veya cep telefonları ve benzerlerinin yetişmekte olanlar üzerindeki, bence vahim etkileri gibi, KI yetenekleri de sürekli gelişmeye devam edecek. Ama bunlar başka konular. Belki onlar da insanın kendi kişiliğinin zor yanlarına benziyordur. Sonunda insana yardımcı olabilecek tek şey, gelecek olanı kabul etmektir. Bunun için de önce onu tanımam gerekir.
Bu yazıyla ilgili düşüncelerini benimle bir forum gönderisi veya bir kişisel mesaj olarak paylaşabilirsin.
