Antropik CEO Dario Amodei, AI modellerinin insanlardan daha az halüsinasyonunu söylüyor: Rapor

Antropik CEO Dario Amodei’nin yapay zeka (AI) modellerinin insanlardan daha az halüsinasyona uğradığını söyledi. Rapora göre, açıklama CEO tarafından Perşembe günü Claude Etkinliği ile Şirket’in Açılış Kanunu’nda yapıldı. Etkinlik sırasında, San Francisco merkezli AI firması iki yeni Claude 4 modelinin yanı sıra gelişmiş bellek ve araç kullanımı da dahil olmak üzere birçok yeni özellik yayınladı. Amodei’nin de eleştirmenlerin AI için barikat bulmaya çalışırken, “görülecek bir yer olmadıklarını” öne sürdüğünü bildirdi.

Antropik CEO, AI Halüsinasyonları küçümsüyor

TechCrunch, Amodei’nin bir basın brifingi sırasında yorum yaptığını, halüsinasyonların AI’nın yapay genel zekaya (AGI) ulaşması için nasıl bir sınırlama olmadığını açıkladığını bildirdi. Yayından bir soruyu cevaplayan CEO, “Gerçekten nasıl ölçtüğünüze bağlıdır, ancak AI modellerinin muhtemelen insanlardan daha az halüsinasyona girdiğinden şüpheleniyorum, ancak daha şaşırtıcı şekillerde halüsinasyon yapıyorlar.” Dedi.

Amodei ayrıca TV yayıncılarının, politikacıların ve diğer mesleklere katılan insanların düzenli olarak hata yaptığını, bu nedenle AI yapmak rapora göre zekasından uzaklaşmadığını da sözlerine ekledi. Bununla birlikte, CEO’nun AI modellerinin yanlış yanıtlarla güvenle yanıt vermesinin bir sorun olduğunu kabul ettiği bildirildi.

Bloomberg raporuna göre, bu ayın başlarında, Antropic’in avukatı, Claude Chatbot’un bir dosyalamada yanlış bir alıntı ekledikten sonra bir mahkeme salonunda özür dilemek zorunda kaldı. Olay, AI firmasının müzik yayıncılarına karşı en az 500 şarkının sözlerinin telif hakkı ihlali iddiasıyla devam eden davası sırasında meydana geldi.

Ekim 2024 tarihli bir makalede Amodei, antropikin önümüzdeki yıl AGI elde edebileceğini iddia etti. AGI, bilgiyi çok çeşitli görevlerde anlayabilen, öğrenebilen ve uygulayabilen ve insan müdahalesine ihtiyaç duymadan eylemleri yürütebilen bir yapay zeka teknolojisini ifade eder.

Vizyonunun bir parçası olarak Antropic, geliştirici konferansı sırasında Claude Opus 4 ve Claude Sonnet 4’ü serbest bıraktı. Bu modeller, kodlama, araç kullanımı ve yazımda önemli iyileştirmeler sağlar. Claude Sonnet 4, SWE tezgah ölçütünde yüzde 72,7 puan aldı ve kod yazımında son teknoloji ürünü (SOTA) ayrım yaptı.