OpenAI xóa cảnh báo nội dung trong ChatGPT: Bạn sẽ thấy ít kiểm duyệt hơn

OpenAI đã quyết định xóa cảnh báo nội dung trên ChatGPT, những thông báo xuất hiện khi người dùng nhập tin nhắn có thể vi phạm chính sách của họ. Biện pháp này có mục tiêu chính là cải thiện trải nghiệm người dùng, loại bỏ các bộ lọc không cần thiết và trao cho người dùng Internet quyền tự chủ hơn trong các tương tác với chatbot.

Tin tức đã được xác nhận bởi Laurentia Romaniuk, một thành viên của nhóm hành vi mô hình tại OpenAI, người đã giải thích trên mạng xã hội X rằng công ty đã chọn loại bỏ những cảnh báo này vì giảm “những lời từ chối vô cớ hoặc không giải thích được”. Quyết định này cũng được Nick Turley, giám đốc sản phẩm tại ChatGPT, ủng hộ, người tuyên bố rằng người dùng nên “có thể sử dụng ChatGPT theo cách phù hợp nhất với họ”, miễn là họ tôn trọng luật pháp và không sử dụng nền tảng này theo mục đích có hại.

Tác động của việc xóa cảnh báo đến trải nghiệm của người dùng

Cho đến nay, ChatGPT hiển thị cảnh báo bằng tông màu cam hoặc đỏ cho một số truy vấn của người dùng, cảnh báo họ rằng nội dung có thể vi phạm các quy tắc của nền tảng. Tuy nhiên, OpenAI đã xác định rằng nhiều thông báo trong số này là không cần thiết và gây ra sự thất vọng., đặc biệt là khi người dùng không cố ý vi phạm bất kỳ quy tắc nào.

Mặc dù các thông báo này đã được gỡ bỏ, Điều đó không có nghĩa là ChatGPT hiện phản hồi mà không có hạn chế. OpenAI sẽ tiếp tục chặn các truy vấn kích động bạo lực, truyền bá thông tin sai lệch có hại hoặc liên quan đến nội dung bị cấm, chẳng hạn như tài liệu khai thác trẻ em hoặc dữ liệu cá nhân nhạy cảm. Tuy nhiên, AI sẽ cho phép một phạm vi rộng hơn trong các cuộc thảo luận về các vấn đề được xem xét nhạy cảm.

Một sự thay đổi do áp lực bên ngoài?

Thông báo của OpenAI được đưa ra vào thời điểm các công ty trí tuệ nhân tạo đang phải đối mặt với sự chỉ trích về chính sách kiểm duyệt nội dung của họ. Những con số như Elon Musk và David Sacks Họ đã đặt câu hỏi liệu các mô hình AI có hoạt động như "người kiểm duyệt" hay không và ủng hộ một số diễn ngôn chính trị gây bất lợi cho những diễn ngôn khác. Có thể việc gỡ bỏ những cảnh báo này là một nỗ lực của OpenAI nhằm tách mình khỏi những cáo buộc này và tránh xung đột với những lĩnh vực ủng hộ sự kiểm duyệt ôn hòa hơn. lỏng lẻo.

Ngoài ra, OpenAI đã cập nhật Thông số mô hình, tài liệu mà bạn xác định các quy tắc chi phối hành vi của mô hình AI của bạn. Trong phiên bản mới này, công ty nhấn mạnh rằng các mô hình của mình Họ phải giữ thái độ trung lập về các vấn đề gây tranh cãi và tránh đưa ra quan điểm biên tập.

Những giới hạn vẫn tồn tại trong ChatGPT

Mặc dù OpenAI đã xóa nhiều cảnh báo, Kiểm duyệt nội dung vẫn được duy trì. Công ty đã khẳng định rõ ràng rằng AI của họ sẽ không tạo ra những phản hồi tạo điều kiện cho các hoạt động bất hợp pháp, tin nhắn thù địch hoặc thông tin nguy hiểm như hướng dẫn sản xuất. thuốc nổ.

Bên cạnh đó, OpenAI thiết lập một số bối cảnh nhất định trong đó các mô hình của nó có thể xử lý các chủ đề nhạy cảm. Ví dụ, nội dung khiêu dâm hoặc bạo lực có thể được xử lý trong các tình huống cụ thể, chẳng hạn như trong giáo dục, lịch sử hoặc y tế. Tuy nhiên, AI vẫn từ chối mọi tương tác liên quan đến việc bóc lột trẻ em hoặc rủi ro về an ninh.

Người dùng có thể mong đợi điều gì từ bây giờ?

Mặc dù sự thay đổi sẽ mang lại linh hoạt hơn trong phản ứng mà ChatGPT có thể tạo ra, một số ngành đã bày tỏ lo ngại về phạm vi của biện pháp này. Trong khi các cảnh báo dễ thấy đang được gỡ bỏ, nhiều người lo ngại rằng việc gỡ bỏ các hạn chế có thể dẫn đến việc vô tình phát tán thông tin sai lệch hoặc tạo điều kiện cho các tương tác có vấn đề mà không có sự kiểm duyệt rõ ràng.

Từ OpenAI, họ tuyên bố rằng mô hình AI sẽ tiếp tục hoạt động theo một giám sát tích cựcvà những thay đổi được đưa ra nhằm mục đích cho phép một cách sử dụng tự nhiên hơn và ít hạn chế hơn của nền tảng mà không ảnh hưởng đến tính bảo mật hoặc tính toàn vẹn của phản hồi.

Với lượt đi này, OpenAI dường như đang cố gắng tìm kiếm sự cân bằng giữa cung cấp cho người dùng nhiều quyền kiểm soát hơn đối với các tương tác của họ với AI y Duy trì đạo đức trong việc tạo ra nội dung. Trong những tháng tới, điều quan trọng là phải xem sự thay đổi này ảnh hưởng như thế nào đến danh tiếng của ChatGPT và liệu các nhà phát triển AI khác có làm theo hay không.