Claude và chú chó robot: những phát hiện từ Dự án Fetch

Claude đã hỗ trợ lập trình và vận hành Unitree Go2, tự động hóa phần lớn công việc tại Project Fetch.
Nhóm được hỗ trợ bởi AI đã giải quyết một số nhiệm vụ nhanh hơn, chẳng hạn như đi bộ và xác định vị trí quả bóng, so với nhóm không được hỗ trợ.
Phân tích tương tác cho thấy ít nhầm lẫn hơn với Claude, nhờ kết nối dễ dàng hơn và giao diện dễ sử dụng hơn.
Tiến trình này nhấn mạnh cả cơ hội và rủi ro: các giao thức và biện pháp bảo vệ vật lý cần được tăng cường khi đưa LLM vào thế giới thực.

Bài kiểm tra mới của nhân loại Nó tập trung vào một vấn đề không còn là khoa học viễn tưởng nữa: Điều gì xảy ra khi một mô hình ngôn ngữ điều phối một robot?. Trong Dự án FetchHệ thống Claude của họ đã giúp vận hành một chú chó robot, với mục đích thử nghiệm xem robot có thể đi được bao xa. AI vật lý chuyển từ văn bản sang chuyển động.

Ngoài tiêu đề, thí nghiệm còn cung cấp manh mối rõ ràng về khả năng và hạn chế: Claude đã tự động hóa phần lớn các chương trình cần thiết để loài bốn chân có thể thực hiện các hành động vật lý và Nó đóng vai trò như chất xúc tác giúp một nhóm người tiến bộ nhanh hơn trong một số nhiệm vụ nhất định.

Trí tuệ nhân tạo và thế giới vật chất: từ phòng thí nghiệm đến hành động

Robot bốn chân đang được thử nghiệm

Anthropic, được thành lập bởi các cựu nghiên cứu viên OpenAI, từ lâu đã nghiên cứu những rủi ro và ứng dụng thực tế của các mô hình tiên tiến. Lần này, giả thuyết được đưa ra rất đơn giản: nếu một LLM ngày càng thành thạo việc mã hóa và tương tác với phần mềm, có thể bắt đầu ảnh hưởng đến các vật thể thựcNhóm an ninh nội bộ (nhóm đỏ) muốn quan sát quá trình chuyển đổi này trong môi trường được kiểm soát.

Nội dung độc quyền - Bấm vào đây Gemini đến với Google TV: cách nó thay đổi trải nghiệm TV của bạn

Các nhà nghiên cứu chỉ ra rằng các mô hình hiện tại vẫn chưa hoàn toàn điều khiển được một robot phức tạp, nhưng Họ dự đoán rằng các phiên bản trong tương lai sẽ có nhiều không gian để điều khiển hơn.Do đó, việc phân tích cách con người dựa vào AI để lập trình và điều phối các hành vi vật lý, đặc biệt là trong người máy hình ngườitrước khi khoảnh khắc đó đến.

Dự án Fetch được thiết kế như thế nào

Thử thách này bao gồm hai đội chưa từng có kinh nghiệm về robot: một đội được Claude hỗ trợ và đội còn lại lập trình mà không cần sự trợ giúp của AI. Cả hai đội phải điều khiển một chú chó robot Unitree Go2 bằng điều khiển từ xa và viết mã, làm việc với các bộ điều khiển và nền tảng như Arduino Uno QĐể thực hiện các nhiệm vụ có độ khó tăng dần, từ việc đi bộ đến một điểm đến việc xác định vị trí của một vật thể.

Nhóm với Claude đã có thể đạt được một số mục tiêu nhanh hơn, bao gồm cả mục tiêu bốn chân Tôi đi bộ và tìm thấy một quả bóng bãi biểnĐây là điều mà nhóm chỉ có con người không thể đạt được trong điều kiện thử nghiệm. Chìa khóa không phải là phép thuật; mô hình đã tạo ra và tinh chỉnh mã, tăng tốc độ kết nối với robot và giảm ma sát.

Anthropic đã ghi lại và phân tích động lực làm việc. Trong bản ghi chép, nhóm không có AI thể hiện sự thất vọng và nghi ngờ nhiều hơn, trong khi sự hỗ trợ của Claude Có vẻ như nó giúp tạo ra giao diện điều khiển dễ hiểu hơn. và khởi nghiệp suôn sẻ hơn. Tuy nhiên, không phải mục tiêu nào cũng đạt được và quyền tự chủ còn hạn chế.

Nội dung độc quyền - Bấm vào đây Microsoft 365 Copilot trên trình duyệt: những thay đổi khi làm việc từ Chrome hoặc Edge

Chú chó robot được chọn: Unitree Go2 và mục đích của nó

Đơn vị Go2

Mẫu Go2, do Unitree sản xuất tại Hàng Châu, Trung Quốc, đã được chọn để đánh giá. Giá của nó khoảng Đô la Mỹ 16.900, một con số tương đối chặt chẽ so với các thiết bị khác trong ngành và được sử dụng trong các nhiệm vụ kiểm tra từ xa, tuần tra an ninh hoặc các chuyến tham quan trong xây dựng và sản xuất.

Loài bốn chân này có thể di chuyển độc lập, nhưng trên thực tế nó phụ thuộc vào các mệnh lệnh cấp cao hoặc sự kiểm soát của một ngườiTheo phân tích thị trường gần đây, hệ thống Unitree là một trong những hệ thống phổ biến nhất, khiến chúng trở thành nơi thử nghiệm hấp dẫn để xem lập trình hỗ trợ AI có thể vượt qua giới hạn đến mức nào.

Kết quả cho thấy điều gì về LLM?

Các mô hình ngôn ngữ lớn không còn chỉ viết văn bản nữa: trong những năm gần đây, chúng đã chuyên về tạo mã và quản lý phần mềmTrong Project Fetch, khả năng đó được chuyển thành việc giảm thời gian dành cho các tác vụ lập trình lặp đi lặp lại và hướng dẫn từng bước để lặp lại các lỗi và điều chỉnh hành vi của robot.

Giải thích thận trọng là, mặc dù chúng ta không nói về sự kiểm soát hoàn toàn, AI giảm rào cản gia nhập cho các nhóm không chuyên Chúng cho phép một nền tảng vật lý thực hiện các hành động hữu ích. Đây là một sự thay đổi về chất: từ việc chỉ là công cụ tạo văn bản, LLM đang bắt đầu hoạt động như một công cụ điều phối hệ thống.

Nội dung độc quyền - Bấm vào đây Blue Origin thực hiện thành công cuộc đổ bộ đầu tiên của New Glenn và khởi động sứ mệnh ESCAPADE

Rủi ro và biện pháp bảo vệ: cách tránh sợ hãi

Việc cung cấp cho AI khả năng tác động lên máy móc sẽ gây ra những rủi ro rõ ràng: lỗi mã, dữ liệu bị lỗi hoặc cố ý sử dụng sai Những hư hỏng này có thể gây ra hậu quả vật lý. Robot công nghiệp đã học được cách giảm thiểu những hư hỏng này từ lâu bằng các biện pháp bảo vệ độc lập. phần mềm.

Trong bối cảnh này, các chuyên gia đề xuất kết hợp nhiều lớp: ranh giới hoạt động, kiểm tra mã được tạo ra và trên hết là công tắc và giao thức khẩn cấp cơ học không phụ thuộc vào mô hình. Nghiên cứu Nhân học được xây dựng chính xác trong khuôn khổ logic phòng ngừa đó.

Các ứng dụng mới nổi và các biện pháp phòng ngừa cần thiết

Với các biện pháp bảo vệ thích hợp, cách tiếp cận tương tự có thể được áp dụng cho hậu cần, bảo trì, kiểm tra hoặc hỗ trợ trong môi trường có sự hiện diện của con người phức tạpÝ tưởng không phải là thay thế các kỹ thuật viên mà là cung cấp các công cụ giúp tăng tốc cấu hình và cho phép phản hồi thích ứng hơn.

Để những lợi ích này trở thành hiện thực, cần phải thống nhất về các biện pháp an toàn, tài liệu rõ ràng và tiêu chí triển khai có trách nhiệmNếu không, những tiến bộ kỹ thuật có thể gây xung đột với niềm tin của công chúng hoặc với những rủi ro hoạt động hoàn toàn có thể tránh được.

Trải nghiệm của Project Fetch cho thấy một bước ngoặt: Claude đã chứng minh rằng LLM có thể rút ngắn khoảng cách giữa mã và hành độngHợp lý hóa các nhiệm vụ thực tế trong một robot bốn chân, đồng thời nhắc nhở chúng ta rằng bước nhảy vọt vào thế giới vật lý đòi hỏi sự kiểm soát, thử nghiệm nghiêm ngặt và văn hóa an toàn tương ứng.