Antropik kurucu ortak Jack Clark, teknoloji insan katkısı olmadan kendini daha da geliştirmeye başlamadan önce yapay zeka endüstrisinin frene basmasını istiyor.
BBC’ye konuşan Clark, Anthropic’in kodlama çalışmalarının yüzde 80’inin halihazırda AI Claude tarafından yapıldığını ve birkaç yıl içinde bu oranın yüzde 100’e çıkabileceğini söyledi. Ancak yapay zeka şirketlerinin onu durdurmadan bu kadar ileri gitmesine izin verip vermemesinin “bir seçim” olduğunu söyledi.
Clark, “Bunun dünyanın daha fazla konuşması gereken bir konu olduğunu düşünüyoruz” dedi. “Yapay zeka endüstrisinin şu anda bir gaz pedalı var, ancak arabada bir fren pedalı yok ve biz bu pedalı oluşturmak için bazı çalışmalar yapmak istiyoruz.”
Perşembe gecesi ilgili bir blog yazısında Anthropic’e göre, bu sürece “özyinelemeli kişisel gelişim” adı veriliyor ve bu süreçte yapay zeka insan katkısı olmadan kendini geliştirebiliyor.
Anthropic, özyinelemeli bir modelde, bir sohbet robotu tarafından oluşturulan otonom işçiler olan AI ajanlarının “kendi modelleri oluşturup eğitebilecek kadar yetenekli hale gelebileceğini”, dolayısıyla Claude’un “Claude tarafından sürekli olarak geliştirilebileceğini” söyledi.
Anthropic, özyinelemeli yapay zekanın bilim ve sağlık alanlarına bazı faydalar getirebileceğini ancak bunun “insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskinin” artması anlamına gelebileceği konusunda uyarıyor.
Blog yazısında şöyle yazıyor: “Sistemler tamamen kendi haleflerini oluşturma kapasitesine sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir.”
Anthropic’in kendi modelinde yinelemenin er ya da geç geleceğine dair kanıtlar var. Bu, personellerinin kod düzeltme oranlarının geçen yıl istikrarlı bir şekilde düştüğüne işaret ediyor, bu da Claude’un ürettiği şeylerde daha az hata olduğu anlamına geliyor.
Claude ayrıca “Daha zayıf bir model daha güçlü bir modeli denetleyebilir mi?” gibi açık uçlu bir soru sorulduğunda kendi araştırma deneylerini yürütebilir. ve insan müdahalesi olmadan kendi çözümlerini üretiyor.
Blogda şöyle yazıyor: “Kanıtlar, yapay zeka geliştirme sürecinin her adımında insanın rolünün daraldığını gösteriyor.”
Anthropic, enstitünün, geliştiricilerin özyinelemeli yapay zekaya doğru ilerlemeyi gerçekten durdurup durdurmadığını veya yavaşlatıp yavaşlatmadığını kontrol edecek bir sistem oluşturmak için araştırma yürüteceğini söyledi.
Ancak gerçek bir yavaşlama, “birden fazla ülkede, sınırda veya yakınında, iyi kaynaklara sahip çok sayıda laboratuvarın aynı koşullar altında durmayı kabul etmesini” gerektirecektir.
