Claude dan anjing robot: temuan dari Project Fetch

Claude membantu dalam pemrograman dan pengoperasian Unitree Go2, mengotomatiskan sebagian besar pekerjaan di Project Fetch.
Tim yang didukung AI menyelesaikan beberapa tugas lebih cepat, seperti berjalan dan menemukan bola, daripada kelompok yang tidak dibantu.
Analisis interaksi mengungkapkan lebih sedikit kebingungan dengan Claude, berkat koneksi yang lebih mudah dan antarmuka yang lebih mudah digunakan.
Kemajuan tersebut menyoroti peluang dan risiko: protokol dan perlindungan fisik perlu diperkuat saat membawa LLM ke dunia nyata.

Ujian baru dari Antropik Ini berfokus pada isu yang bukan lagi fiksi ilmiah: Apa yang terjadi ketika model bahasa mengoordinasikan robot?. Di Proyek AmbilSistem Claude mereka membantu mengoperasikan anjing robot, dengan tujuan menguji seberapa jauh robot dapat melangkah. IA física berpindah dari teks ke gerakan.

Di luar judulnya, percobaan tersebut memberikan petunjuk yang jelas tentang kemampuan dan keterbatasannya: Claude mengotomatiskan sebagian besar program yang diperlukan sehingga hewan berkaki empat dapat melakukan tindakan fisik, dan Ini berfungsi sebagai katalis bagi sekelompok orang untuk maju lebih cepat dalam tugas-tugas tertentu.

AI dan dunia fisik: dari laboratorium hingga aksi

Robot berkaki empat sedang diuji

Anthropic, yang didirikan oleh mantan peneliti OpenAI, telah lama mempelajari risiko dan aplikasi praktis model-model canggih. Kali ini, hipotesisnya sederhana: jika seorang LLM semakin menguasai pengkodean dan interaksi dengan perangkat lunak, dapat mulai memengaruhi objek nyataTim keamanan internal (tim merah) ingin mengamati transisi ini dalam lingkungan yang terkendali.

Konten eksklusif - Klik Disini NotebookLM: Asisten AI yang akan merevolusi penelitian

Para peneliti menunjukkan bahwa model saat ini belum sepenuhnya mengatur robot yang kompleks, tetapi Mereka mengantisipasi bahwa versi mendatang akan memiliki lebih banyak ruang untuk bermanuver.Oleh karena itu, penting untuk menganalisis bagaimana manusia mengandalkan AI untuk memprogram dan mengatur perilaku fisik, terutama dalam robot humanoidsebelum momen itu tiba.

Bagaimana Project Fetch dirancang

Uji coba ini mempertandingkan dua tim yang belum memiliki pengalaman robotika sebelumnya: satu tim dibantu oleh Claude dan tim lainnya memprogram tanpa bantuan AI. Kedua tim harus mengendalikan robot anjing Unitree Go2 menggunakan kendali jarak jauh dan menulis kode, bekerja dengan pengontrol dan platform seperti Arduino Uno QUntuk melakukan tugas dengan tingkat kesulitan yang meningkat, dari berjalan menuju suatu titik hingga menemukan suatu objek.

Kelompok dengan Claude mampu mencapai beberapa tujuan lebih cepat, termasuk hewan berkaki empat Saya akan berjalan dan menemukan bola pantaiHal ini tidak dapat dicapai oleh tim yang hanya terdiri dari manusia dalam kondisi pengujian. Kuncinya bukanlah sihir; model tersebut menghasilkan dan menyempurnakan kode, mempercepat koneksi dengan robot dan mengurangi hambatan.

Antropik merekam dan menganalisis dinamika kerja. Dalam transkrip, tim tanpa AI menunjukkan lebih banyak rasa frustrasi dan keraguan, sementara bantuan Claude Tampaknya memfasilitasi antarmuka kontrol yang lebih mudah dipahami. dan proses rintisan yang lebih lancar. Meskipun demikian, tidak semua tujuan tercapai dan otonominya terbatas.

Konten eksklusif - Klik Disini Windows 11 dan Agent 365: Konsol baru untuk agen AI Anda

Anjing robot pilihan: Unitree Go2 dan tujuannya

Unitre Go2

Model Go2, yang diproduksi oleh Unitree di Hangzhou, Tiongkok, dipilih untuk evaluasi. Harganya sekitar Dolar AS 16.900, angka yang relatif ketat dibandingkan dengan peralatan lain di sektor ini, dan digunakan dalam tugas inspeksi jarak jauh, patroli keamanan, atau tur di bidang konstruksi dan manufaktur.

Hewan berkaki empat ini dapat bergerak secara mandiri, namun dalam praktiknya tergantung pada perintah tingkat tinggi atau kendali seseorangMenurut analisis pasar terkini, sistem Unitree merupakan salah satu yang paling tersebar luas, menjadikannya tempat pengujian yang menarik untuk melihat sejauh mana pemrograman berbantuan AI dapat melampaui batasan.

Apa yang terungkap dari hasil penelitian tentang LLM?

Model bahasa yang hebat tidak lagi hanya menulis teks: dalam beberapa tahun terakhir mereka telah mengkhususkan diri dalam menghasilkan kode dan mengelola perangkat lunakDalam Project Fetch, kemampuan itu diterjemahkan menjadi lebih sedikit waktu yang dihabiskan untuk tugas pemrograman berulang dan panduan langkah demi langkah untuk mengulangi kesalahan dan mengadaptasi perilaku robot.

Penafsiran yang bijaksana adalah, meskipun kita tidak berbicara tentang kontrol total, AI menurunkan hambatan masuk bagi tim non-ahli Mereka memungkinkan platform fisik untuk melakukan tindakan yang bermanfaat. Ini merupakan perubahan kualitatif: dari sekadar generator teks, LLM mulai bertindak sebagai pengatur sistem.

Konten eksklusif - Klik Disini Antropik dan kasus AI yang merekomendasikan minum pemutih: ketika model curang

Risiko dan perlindungan: cara menghindari ketakutan

Memberikan AI kemampuan untuk bertindak pada mesin menimbulkan risiko yang jelas: kesalahan kode, data yang salah, atau penyalahgunaan yang disengaja Kegagalan ini dapat menimbulkan konsekuensi fisik. Robotika industri telah lama belajar untuk memitigasi kegagalan ini dengan perlindungan independen. perangkat lunak.

Dalam konteks ini, para ahli menyarankan untuk menggabungkan beberapa lapisan: batasan operasional, audit kode yang dihasilkan, dan, yang terpenting, sakelar darurat mekanis dan protokol yang tidak bergantung pada model. Studi Antropik dibingkai tepat dalam logika preventif tersebut.

Aplikasi yang muncul dan tindakan pencegahan yang diperlukan

Dengan perlindungan yang tepat, pendekatan yang sama dapat diterapkan pada logistik, pemeliharaan, inspeksi, atau bantuan di lingkungan di mana kehadiran manusia kompleksIdenya bukanlah untuk menggantikan teknisi, tetapi untuk menyediakan alat yang mempercepat konfigurasi dan memungkinkan respons yang lebih adaptif.

Agar manfaat ini dapat terwujud, perlu disepakati praktik-praktik yang aman, dokumentasi yang jelas, dan kriteria penempatan yang bertanggung jawabJika tidak, kemajuan teknis dapat berbenturan dengan kepercayaan publik atau dengan risiko operasional yang sebenarnya dapat dihindari.

Pengalaman Project Fetch menunjukkan titik balik: Claude menunjukkan bahwa LLM dapat memperpendek jarak antara kode dan tindakanMerampingkan tugas dunia nyata dalam robot berkaki empat, sekaligus mengingatkan kita bahwa lompatan ke dunia fisik memerlukan kontrol, pengujian yang ketat, dan budaya keselamatan yang sesuai.