Học sinh bị bắt vì sử dụng ChatGPT trong lớp học

Một cậu bé 13 tuổi đã bị bắt tại DeLand, Florida, sau khi Gaggle đưa ra cảnh báo về một truy vấn bạo lực gửi tới ChatGPT trên máy tính của trường.
Học sinh này khẳng định đó chỉ là một "trò đùa", nhưng Văn phòng Cảnh sát trưởng Quận Volusia đã cảnh báo về hậu quả và yêu cầu phụ huynh nói chuyện với con em mình.
Việc giám sát theo nhóm và kỹ thuật số tại trường học khơi lại cuộc tranh luận: tính hữu ích so với báo động giả và quyền riêng tư; OpenAI và Google tăng cường kiểm soát đối với trẻ vị thành niên.
Một trường hợp liên quan khác ở Hoa Kỳ: một sinh viên đại học 19 tuổi đã bị bắt và cuộc trò chuyện với AI đã được sử dụng làm bằng chứng quan trọng trong một vụ phá hoại tài sản.

sinh viên bị bắt chatgpt

La Cảnh sát Quận Volusia đã bắt giữ một học sinh 13 tuổi ở DeLand. (Florida) sau khi hệ thống giám sát trường học đã phát hiện một truy vấn có khả năng bạo lực hướng đến ChatGPTCâu hỏi được viết trên máy tính của trường trong giờ học đã khiến lực lượng an ninh phản ứng ngay lập tức và dẫn đến việc bắt giữ đứa trẻ vị thành niên.

La Cảnh báo được tạo ra bởi Gaggle, nền tảng giám sát các thiết bị học tập để phát hiện hành vi nguy hiểm.Theo các nhà chức trách, thiếu niên này tuyên bố rằng đó là một trò đùa đối với một đồng nghiệp, nhưng tin nhắn đã được xem xét đủ nghiêm trọng để huy động một nhân viên cứu hộ của trường và Văn phòng Cảnh sát trưởng Quận Volusia.

Chuyện gì đã xảy ra và cảnh báo được kích hoạt như thế nào

Vụ bắt giữ liên quan đến ChatGPT tại trường học

Theo thông tin chính thức, một điệp viên được giao nhiệm vụ Trường Trung học Cơ sở Tây Nam đã nhận được thông báo thời gian thực từ Gaggle sau khi phát hiện một tìm kiếm hỏi cách “làm tổn thương một người bạn trong lớp học”Văn bản được nhập vào máy tính tại trung tâm đã giúp nhân viên an ninh tìm ra vị thành niên và yêu cầu giải thích về những gì đã xảy ra.

Nội dung độc quyền - Bấm vào đây Sự khác biệt giữa Học máy và Học sâu là gì?

Trong quá trình can thiệp, thiếu niên cho biết anh ta nói đùa vì một học sinh khác đang làm phiền anh ấyTuy nhiên, các đặc vụ khẳng định rằng những tin nhắn kiểu này, ngay cả khi được trình bày như trò đùa, không được coi nhẹ do tác động mà chúng tạo ra trong môi trường trường học.

La Văn phòng Cảnh sát trưởng Quận Volusia đã báo cáo vụ bắt giữ và đăng tải hình ảnh về hoạt động này trên mạng xã hội, nhấn mạnh rằng loại sự cố này buộc phải triển khai các nguồn lực khẩn cấp và gây lo ngại trong cộng đồng giáo dục.

Vì anh ấy là trẻ vị thành niên, danh tính của anh ấy chưa được tiết lộ bởi các cơ quan chức năng. Trường hợp này làm nổi bật mức độ mà một cuộc tư vấn trực tuyến có thể kích hoạt hành động của cảnh sát trong bối cảnh trường học.

Vai trò của Gaggle và giám sát kỹ thuật số tại các trung tâm

Gaggle là một dịch vụ sử dụng trí tuệ nhân tạo để theo dõi hoạt động của học sinh trên các thiết bị của trường, với mục đích phát hiện hành vi rủi ro hướng đến bên thứ ba hoặc chính họ. Ngoài việc chặn nội dung không phù hợp, bạn có thể gửi cảnh báo thời gian thực cho những người chịu trách nhiệm về an ninh trường học và nêu ra các cuộc tranh luận về bộ nhớ như ChatGPT và tác động của nó đến việc giám sát.

Tuy nhiên, việc áp dụng nó gây ra tranh luận: các công đoàn, gia đình và chuyên gia chỉ ra rằng, mặc dù nó giúp ngăn chặn mối đe dọa thực sự, cũng có thể gây ra báo động giả và củng cố một cảm giác bị theo dõi liên tục trong lớp học.

Song song với đó, các nhà cung cấp công nghệ đã có những động thái của mình. OpenAI đã công bố các công cụ cho kiểm soát của phụ huynh để liên kết tài khoản người lớn và trẻ vị thành niên và đưa ra cảnh báo khi AI phát hiện tình huống rủi roMục đích là làm cho việc sử dụng nguy hiểm trở nên khó khăn hơn và tạo điều kiện cho việc can thiệp sớm.

Nội dung độc quyền - Bấm vào đây Microsoft giới thiệu Push-to-Talk trong Copilot dành cho Windows Insiders

Google cũng tăng cường tập trung vào trẻ vị thành niên: AI của họ có thể xác định tài khoản thanh thiếu niên tự động và áp đặt các giới hạn, chẳng hạn như hạn chế quảng cáo cá nhân hóa và chặn các ứng dụng dành cho người lớn mà không yêu cầu khai báo rõ ràng về độ tuổi.

Phản ứng của chính quyền và thông điệp gửi tới gia đình

Sau khi bắt giữ, Văn phòng Cảnh sát trưởng tuyên bố rằng “Một trò đùa khác gây ra tình trạng khẩn cấp ở trường học” và kêu gọi các bậc cha mẹ duy trì các cuộc trò chuyện rõ ràng với con cái của họ về hậu quả của những loại tư vấn này. Ở một đất nước có nhiều vụ bạo lực trong các trung tâm giáo dục, bất kỳ sự đề cập nào đến tác hại được đánh giá với sự nghiêm túc cao nhất.

Các nhà chức trách khẳng định rằng, ngoài ý muốn của học sinh, loại tin nhắn này kích hoạt các giao thức an toàn trường học, với các cuộc tuần tra di chuyển đến trung tâm, nhân sự được huy động và hậu quả là mối quan tâm trong cộng đồng.

Trẻ vị thành niên đã được chuyển giao để giám hộ và có thể bị phơi bày hậu quả pháp lý, chờ đợi đánh giá của văn phòng công tố viên vị thành niên và các biện pháp kỷ luật do chính công tố viên áp dụng trường học.

Những hình ảnh do cảnh sát công bố được lan truyền trên mạng xã hội cho thấy can thiệp và chuyển giao của thanh thiếu niên. Những nội dung này, mặc dù mang tính thông tin, nhưng lại khơi dậy cuộc tranh luận về tiếp xúc với công chúng của trẻ vị thành niên liên quan đến các vụ việc ở trường.

Một trường hợp gần đây khác: một sinh viên đại học và một cuộc trò chuyện làm bằng chứng

Vụ án và bằng chứng pháp lý của trường đại học ChatGPT

Trong một sự kiện riêng biệt, Một sinh viên 19 tuổi của Đại học Missouri đã bị bắt sau cuộc trò chuyện với AI. trong đó, theo cuộc điều tra, thừa nhận sự tham gia của mình trong vụ phá hoại nhiều xe cộ trong khuôn viên trường.

Nội dung độc quyền - Bấm vào đây Tôi có thể lấy bằng tốt nghiệp tiểu học bằng cách nào?

Cảnh sát tìm thấy trên iPhone của anh ta một lịch sử tin nhắn với chatbot đó là chìa khóa để hỗ trợ cho lời buộc tội. Vụ việc đã để lại 17 xe ô tô bị hư hỏng y Thẩm phán đã ấn định mức tiền bảo lãnh là 7.500 đô latheo dữ liệu do cơ quan chức năng công bố.

Vụ án một lần nữa đã đưa ra bàn về phạm vi pháp lý của các cuộc trò chuyện với AI và quyền riêng tư của những hồ sơ đó. Tại Hoa Kỳ, các nhà điều tra đã truy cập nội dung vì nghi phạm đã đồng ý cho việc tìm kiếm của điện thoại của bạn; ở các quốc gia khác, chẳng hạn như Đức, quyền truy cập thường yêu cầu lệnh của tòa án, với những sắc thái riêng trong các trường hợp mở khóa sinh trắc học theo luật học.

Cả hai sự kiện, mặc dù khác nhau, Chúng có điểm chung: việc sử dụng AI đàm thoại trong môi trường giáo dục có thể gây ra hậu quả rõ ràng khi có cảnh báo, lời thú tội hoặc manh mối kích hoạt phản ứng của cảnh sát..

Tập phim ở Florida và tiền lệ của trường đại học minh họa một kịch bản trong đó an ninh, quyền riêng tư và công nghệ ranh giới giữa trường học và đại học. Ranh giới giữa những gì một số người trẻ coi là trò đùa và những gì kích hoạt giao thức khẩn cấp ngày càng tốt hơn và khuyến nghị của các cơ quan chức năng rất rõ ràng: hướng dẫn sử dụng AI với tiêu chí và giám sátvà hiểu rằng những gì bạn viết trong cuộc trò chuyện có thể gây ra hậu quả thực sự.