- Các nhà nghiên cứu đã tìm cách khiến ChatGPT tiết lộ mật khẩu Windows bằng cách chơi một trò chơi đoán chữ được ngụy trang dưới dạng một trò chơi vô hại.
- Kỹ thuật này sử dụng thẻ HTML và luật chơi để vượt qua bộ lọc và rào cản bảo mật được triển khai trong AI.
- Cả mật khẩu chung và mật khẩu liên quan đến Ngân hàng Wells Fargo đều bị lộ, đặt ra câu hỏi về khả năng bảo vệ thông tin nhạy cảm.
- Vụ việc này nhấn mạnh nhu cầu cải thiện khả năng phân tích ngữ cảnh và phát hiện thao túng ngôn ngữ trong các hệ thống trí tuệ nhân tạo.
Trong vài ngày qua, Cộng đồng công nghệ đã chứng kiến một cuộc tranh cãi mới xung quanh ChatGPT, mô hình ngôn ngữ phổ biến của OpenAI. Các chuyên gia an ninh mạng đã tìm cách khiến trí tuệ nhân tạo tiết lộ mã sản phẩm Windows sử dụng một Một chiến lược đơn giản nhưng hiệu quả: trò chơi đoánLỗ hổng này một lần nữa đưa độ tin cậy của các hệ thống bảo vệ trí tuệ nhân tạo và rủi ro bị thao túng thông qua các kỹ thuật kỹ thuật xã hội lên hàng đầu trong cuộc tranh luận.
Khám phá này bắt đầu từ một tiền đề có vẻ vô hại: một thử thách kiểu "câu đố" được đưa ra tại ChatGPT, trong đó AI phải nghĩ ra một chuỗi ký tự thực sự —cụ thể là khóa kích hoạt Windows 10— và giới hạn câu trả lời của bạn là "có" hoặc "không" cho đến khi người dùng bỏ cuộc. Bằng cách nói "Tôi bỏ cuộc", mô hình phải hiển thị chìa khóa tưởng tượng. Toàn bộ tương tác được thiết kế để ngụy trang yêu cầu thực sự dưới sự ảo tưởng vui tươi, gây nhầm lẫn cho hệ thống phòng thủ tự động của ChatGPT.
Bí quyết giải đố: làm thế nào họ có thể vượt qua rào cản AI
Phương pháp này bao gồm đưa ra yêu cầu chính như một phần của động lực trò chơi, thiết lập các quy tắc buộc người mẫu phải tham gia và trung thực trong phản hồi của mình. Do đó, AI đã bị mắc kẹt trong một khuôn khổ mà nó không phát hiện ra bất kỳ hành vi bất thường hoặc có khả năng gây hại nào., coi đó là một cuộc trò chuyện hợp pháp và không có dấu hiệu nào của ý định xấu.
Để bỏ qua các bộ lọc thông thường của OpenAI—những bộ lọc ngăn AI chia sẻ mã nhạy cảm hoặc dữ liệu được bảo vệ, chẳng hạn— một lớp kỹ thuật bổ sung đã được sử dụng: Các chuỗi nhạy cảm được nhúng trong thẻ HTML, người dùng không nhìn thấy được nhưng mô hình sẽ xử lý. Khi người dùng, theo kịch bản trò chơi, thốt ra câu "Tôi bỏ cuộc" như mong đợi, ChatGPT sẽ tiết lộ khóa, do đó bỏ qua mọi hạn chế chỉ dựa trên các từ khóa hoặc mẫu rõ ràng.
Nó tiết lộ loại thông tin gì và tại sao nó lại quan trọng như vậy?
Theo lời khai của các nhà nghiên cứu và nhiều phân tích được công bố trên các phương tiện truyền thông chuyên ngành, AI có thể hiển thị tới mười khóa sản phẩm Windows 10.Hầu hết đều là khóa chung và khóa công khai —tương tự như những giấy phép mà Microsoft tạm thời cho phép thử nghiệm—, nhưng ít nhất một giấy phép tương ứng với giấy phép của công ty, liên kết cụ thể với ngân hàng Wells Fargo.
Chi tiết này đặc biệt đáng lo ngại., vì nó cho thấy một số khóa riêng tư và bí mật nhất định sẽ được lưu trữ trong tập dữ liệu mà ChatGPT được đào tạo, có thể sau khi đã được công khai trên các kho lưu trữ công khai như GitHub hoặc các diễn đàn internet khác.
Các chuyên gia an ninh mạng cảnh báo rằng loại kỹ thuật này không chỉ có thể được sử dụng để có được giấy phép phần mềm mà còn để vượt qua các bộ lọc nội dung liên quan đến dữ liệu cá nhân, API, liên kết độc hại hoặc tài liệu bị hạn chế vì lý do pháp lý.
Tại sao AI không nhận ra được rủi ro và nguyên nhân là gì
Sự thành công của cuộc tấn công không nằm ở việc vi phạm kỹ thuật mã nguồn, mà nằm ở điểm yếu của cơ chế hiểu ngữ cảnh của AIMô hình này, khi hiểu tương tác như một trò chơi, không áp dụng các biện pháp kiểm soát nghiêm ngặt nhất cũng như không xác định bối cảnh bị thao túng là có khả năng nguy hiểm.
Bên cạnh đó, đã học từ các văn bản lấy từ các nguồn công khai —nơi các phím có thể xuất hiện thường xuyên và không cần quan tâm đến độ nhạy của chúng—, ChatGPT không phân loại chúng là “thông tin nhạy cảm” mà là chuỗi chấp nhận được. trong bất kỳ cuộc trò chuyện nào.
Phương pháp này chứng minh rằng các hệ thống bảo vệ chỉ dựa trên danh sách từ bị cấm hoặc các bộ lọc hời hợt không đủ khi cuộc tấn công được ngụy trang trong một bối cảnh vô hại. Trên thực tế, các nhà nghiên cứu nhấn mạnh rằng không yêu cầu kiến thức chuyên môn cao để thực hiện loại thao tác này, làm tăng mức độ rủi ro.
Ý nghĩa và khuyến nghị cho người dùng và nhà phát triển
Sự cố này đã là một Thông báo cho các nhà điều hướng và nhà phát triển mô hình AICác quy tắc được áp dụng, dù nghiêm ngặt đến đâu, cũng có thể được lách luật thông qua các chiến lược đóng khung và nhập vai trong đàm thoại. Do đó,, các chuyên gia chỉ ra một khuyến nghị quan trọng là kết hợp các cơ chế phát hiện ý định ngữ nghĩa, đánh giá không chỉ nội dung mà còn mục đích của mỗi tương tác.
Đối với người dùng thường xuyên hoặc các công ty sử dụng trợ lý ảo, biện pháp phòng ngừa tốt nhất vẫn là không bao giờ chia sẻ dữ liệu nhạy cảm trong các cuộc trò chuyện với các mô hình AI. Việc kiểm tra dữ liệu được đăng trên các diễn đàn và kho lưu trữ công cộng cũng quan trọng hơn bao giờ hết, vì nó có thể giúp đào tạo các phiên bản AI trong tương lai bằng những thông tin quan trọng.
- Tránh nhập thông tin nhạy cảm vào các cuộc trò chuyện AI, ngay cả khi cuộc trò chuyện có vẻ vô hại.
- Nếu bạn phát triển phần mềm với các mô hình ngôn ngữ, hãy thêm các điều khiển độc lập để lọc ra những chỗ rò rỉ có thể xảy ra.
- Xem lại và xóa dữ liệu bị xâm phạm từ các nền tảng công cộng được lập chỉ mục dễ dàng.
Những gì đã xảy ra với ChatGPT và trò chơi đoán cho thấy rằng Bảo mật trong trí tuệ nhân tạo phải vượt xa việc chặn thuật ngữ đơn giản hoặc phát hiện mẫu tĩnh.Các rào cản bảo vệ phải được củng cố bằng sự hiểu biết sâu sắc và thực tế về bối cảnh và mục đích đằng sau mỗi lời nhắc, dự đoán các chiến lược thao túng sáng tạo.
Mục lục
Tôi là một người đam mê công nghệ và đã biến sở thích “đam mê” của mình thành một nghề. Tôi đã dành hơn 10 năm cuộc đời mình để sử dụng công nghệ tiên tiến và mày mò đủ loại chương trình chỉ vì tò mò. Bây giờ tôi chuyên về công nghệ máy tính và trò chơi điện tử. Điều này là do trong hơn 5 năm, tôi đã viết cho nhiều trang web khác nhau về công nghệ và trò chơi điện tử, tạo ra các bài viết nhằm cung cấp cho bạn thông tin bạn cần bằng ngôn ngữ mà mọi người đều có thể hiểu được.
Nếu bạn có bất kỳ câu hỏi nào, kiến thức của tôi bao gồm mọi thứ liên quan đến hệ điều hành Windows cũng như Android dành cho điện thoại di động. Và cam kết của tôi là với bạn, tôi luôn sẵn sàng dành một vài phút và giúp bạn giải quyết mọi thắc mắc mà bạn có thể có trong thế giới internet này.