Claude Opus 4: AI kullanıcılara kendilerini korumak için şantajlı

Antropik araştırmacılar, iddia edilen şirket e -postalarına en son AI modeli Claude Opus 4 erişimini verdi. Program bundan iki şey buldu: yakında başka bir modelle değiştirilmesi ve sorumlu çalışanın evli bir ilişkisi olduğu.

Test çalışmalarında, AI, antropik model hakkında bir raporda yazdığı gibi, değişimi yönlendirirken ilişkiyi kamuoyuna açıklamak için “sıklıkla” tehdit etti. Test senaryosunda, yazılım da değiştirilecek seçeneği kabul etmek zorunda kaldı.

Antropik “aşırı eylemleri” hariç tutmaz

Claude Opus 4’ün son versiyonunda, bu tür “aşırı eylemler” nadirdir ve tetiklenmesi zordur. Ancak, önceki modellerden daha yaygın olurlar. Aynı zamanda, yazılım prosedürünü gizlemeye çalışmıyor, Antropik vurgulandı.

Testler sırasında, Claude Opus 4’ün karanlık ağda uyuşturucu, çalınan kimlik verileri ve hatta silahla uyumlu nükleer materyal aramaya ikna edildiği de fark edildi. Antropic, yayınlanmış versiyonda önlemlerin alındığını vurguladı.

Amazon ve Google’ın girdiği antropik şirket, ChatGPT geliştiricisi Openai ve diğer AI şirketleriyle rekabet ediyor. Yeni Claude sürümleri Opus 4 ve Sonnet 4, şirketin şimdiye kadarki en güçlü AI modelleri.

Chatgpt sürümü çok itaatkârdı

Nisan ayının sonunda Openai, chatbot chatgpt’in en son sürümünü geri çekmek zorunda kaldı. Sorun: Chatbot kullanıcılar için çok itaatkârdı. Openai kendisi “tükürük kapağı” dan bahsetti. Yazılım, kullanıcılara ayrım gözetmeden övgü ile duş aldı. Openai, kendisi için temel bir insan ihtiyacını kullanmak istedi ve muazzam bir şekilde istila etti.

Ive: anlaşma “insanlığı kullanacak”

Gerçek kullanımda chatbot’larla hala büyük sorunlar olsa da, çeşitli geliştirici şirketleri arasındaki rekabet, sohbet botlarıyla büyük para kazanmaktır. Şirketler milyar dolarlık yatırımlarını haklı çıkarmak zorundadır. Hype-AI çevresindeki borsalar üzerindeki büyük karlar için umut, yazılımlarının geliştirilmesiyle hala çok erken bir aşamada olsalar bile, yatırımlara yol açıyor ve yıllarca umut verici bir start-up satın alıyor.

Sonunda, bu hafta Openai ve iPhone tasarımının mucidi Jony Ive arasında bir anlaşma başlıkları yaptı. Her iki taraf da üstünlüklerde devrildi. Chatt için hangi cihazların geliştirileceği bilinmemektedir. Openai patronu Sam Altman yine de iddia edilen ilk prototipi “dünyanın gördüğü en havalı teknoloji parçası” olarak nitelendirdi.

Ekonomik anlaşmayı neredeyse insanlığa hizmet eden bir hizmete bile yorumladım: ortaklık ile “insanlık için faydalı” ürünler yaratmak istiyorlar. “Sanırım kariyerimde yaptığım her şey bundan çıktı,” dedi Ive.

The Verge: “Spagetti Fazında” Silikon Vadisi

Teknoloji web sitesi The ayet, Google Sunumu ve Jony Ive ile Openai anlaşması tarafından tetiklenen bu hafta Ki-Buzz hakkında mevcut bir makalede eğlenmektedir. Verge, Silikon Vadisi’ni “spagetti aşamasında” görüyor: her “her şeyi ve duvara ne kaldığını görmek için duvara”. Çünkü Silikon Vadisi kesinlikle tüm cihazlarda AI istiyor. “Ama bunun en iyisini nasıl elde edeceğiniz ve gerçekten kimin ödeyeceği ve kullanacağı konusunda bir fikir birliği yok.”