Claude ve robot köpek: Antropik deneyin gösterdiği şey

Yeni test Antropik Artık bilim kurgu olmaktan çıkan bir konuya odaklanıyor: Bir dil modeli bir robotu koordine ettiğinde ne olur?. İçinde Proje GetirmeClaude sistemleri, robot bir köpeğin ne kadar uzağa gidebileceğini test etmek amacıyla çalıştırılmasına yardımcı oldu. Fiziksel AI metinden harekete geçiş.

Başlığın ötesinde, deney yetenekler ve sınırlamalar hakkında net ipuçları sağlıyor: Claude gerekli programlamanın çoğunu otomatikleştirdi böylece dört ayaklılar fiziksel eylemler gerçekleştirebilsin ve Belirli görevlerde daha hızlı ilerlemek için bir ekip insanı için bir katalizör görevi gördü.

Yapay zeka ve fiziksel dünya: Laboratuvardan eyleme

Eski OpenAI araştırmacıları tarafından kurulan Anthropic, uzun zamandır gelişmiş modellerin risklerini ve pratik uygulamalarını inceliyor. Bu sefer hipotez oldukça basitti: Eğer bir LLM kodlama ve etkileşimde giderek daha fazla ustalaşırsa yazılım, gerçek nesneleri etkilemeye başlayabilirİç güvenlik ekibi (kırmızı ekip) bu geçişi kontrollü bir ortamda gözlemlemek istiyordu.

Araştırmacılar, mevcut modellerin henüz karmaşık bir robotu tam olarak yönetemediğini, ancak Gelecekteki versiyonların daha fazla manevra alanına sahip olacağını öngörüyorlar.Bu nedenle, insanların özellikle fiziksel davranışları programlamak ve düzenlemek için yapay zekaya nasıl güvendiklerini analiz etmek faydalıdır. insansı robotlaro an gelmeden önce.

Project Fetch nasıl tasarlandı?

Testte, daha önce robotik deneyimi olmayan iki takım karşı karşıya getirildi: Biri Claude'un yardımıyla, diğeri ise yapay zeka desteği olmadan programlama yapacaktı. Her iki takımın da uzaktan kumanda kullanarak bir Unitree Go2 robot köpeğinin kontrolünü ele geçirmesi ve aşağıdaki gibi kontrolörler ve platformlarla çalışarak kod yazması gerekiyordu: Arduino Uno Q, için giderek zorlaşan görevleri yerine getirmek, bir noktaya doğru yürümekten bir nesneyi bulmaya kadar.

Claude'lu grup, dört ayaklı hayvanlar da dahil olmak üzere bazı hedeflere daha hızlı ulaşabildi. Yürüdüm ve bir plaj topu buldumBu, yalnızca insanlardan oluşan ekibin test koşulları altında başaramadığı bir şeydi. Anahtar sihir değildi; model, kodu oluşturup iyileştirerek robotla bağlantıyı hızlandırdı ve sürtünmeyi azalttı.

Anthropic, çalışma dinamiklerini kaydedip analiz etti. Kayıtlarda, yapay zekası olmayan ekip daha fazla hayal kırıklığı ve şüphe ifade ederken, Claude'un asistanı Daha anlaşılır bir kontrol arayüzü sağlıyor gibi görünüyor. ve daha sorunsuz bir başlangıç. Yine de, tüm hedeflere ulaşılamadı ve özerklik sınırlıydı.

Seçilen robot köpek: Unitree Go2 ve amacı

Değerlendirme için Çin'in Hangzhou kentindeki Unitree tarafından üretilen Go2 modeli seçildi. Yaklaşık maliyeti: 16.900 dolarSektördeki diğer ekipmanlara göre nispeten sıkı bir rakam olan bu ekipman, uzaktan denetim görevlerinde, güvenlik devriyelerinde veya inşaat ve imalatta yapılan turlarda kullanılıyor.

Bu dört ayaklı hayvan bağımsız hareket edebilir, ancak pratikte bu, yüksek düzeyli emirler veya bir kişinin kontrolüSon piyasa analizlerine göre, Unitree sistemleri en yaygın sistemler arasında yer alıyor ve bu da onları yapay zeka destekli programlamanın sınırları ne kadar zorlayabileceğini görmek için cazip bir test alanı haline getiriyor.

Sonuçlar LLM hakkında ne ortaya koyuyor?

Büyük dil modelleri artık sadece metinler yazmıyor: son yıllarda şu konularda uzmanlaştılar: kod üret ve yönet yazılımProject Fetch'te bu yetenek, tekrarlayan programlama görevlerine harcanan zamanın azalması ve hataların üzerinden adım adım geçme ve robot davranışlarını uyarlama konusunda adım adım bir kılavuz anlamına geliyor.

Tedbirli yorum, tam kontrolden bahsetmesek de, Yapay zeka, uzman olmayan ekipler için giriş engelini azaltıyor Fiziksel bir platformun faydalı eylemler gerçekleştirmesini sağlarlar. Bu niteliksel bir değişimdir: Hukuk alanında lisans dereceleri, yalnızca metin üreteci olmaktan çıkıp, sistem düzenleyicileri olarak hareket etmeye başlıyor.

Riskler ve önlemler: Korkulardan nasıl kaçınılır?

Yapay zekaya makineler üzerinde hareket etme yeteneği kazandırmak, bariz riskler doğurur: kod hataları, hatalı veriler veya kasıtlı kötüye kullanım Bu arızaların fiziksel sonuçları olabilir. Endüstriyel robotik, bu arızaları bağımsız korumalarla azaltmayı uzun zaman önce öğrendi. yazılım.

Bu bağlamda uzmanlar, birkaç katmanın birleştirilmesini öneriyor: operasyonel sınırlar, üretilen kodun denetimi ve her şeyden önce, mekanik acil durum anahtarları ve protokolleri modele bağlı olmayan. Antropik çalışma tam da bu önleyici mantık çerçevesinde çerçevelenmiştir.

Ortaya çıkan uygulamalar ve gerekli önlemler

Uygun güvenlik önlemleriyle aynı yaklaşım lojistik, bakım, denetim veya insan varlığının karmaşık olduğu ortamlarda yardımAmaç teknisyenlerin yerini almak değil, yapılandırmaları hızlandıran ve daha uyarlanabilir tepkilere olanak tanıyan araçlar sunmaktır.

Bu faydaların gerçekleşmesi için güvenli uygulamalar, net dokümantasyon ve sorumlu dağıtım kriterleriAksi takdirde teknik gelişmeler kamuoyunun güvenini zedeleyebilir veya tamamen önlenebilir operasyonel risklerle karşılaşabilir.

Project Fetch deneyimi bir dönüm noktasını işaret ediyor: Claude, bir LLM'nin kod ile eylem arasındaki mesafeyi kısaltabileceğini gösterdiDört ayaklı bir robotta gerçek dünya görevlerini kolaylaştırırken, fiziksel dünyaya geçişin kontroller, sıkı testler ve buna uygun bir güvenlik kültürü gerektirdiğini hatırlatıyoruz.