- Isang 13-taong-gulang na batang lalaki ang inaresto sa DeLand, Florida, kasunod ng isang alerto sa Gaggle tungkol sa isang marahas na query na ginawa sa ChatGPT sa isang computer ng paaralan.
- Sinabi ng estudyante na ito ay isang "joke," ngunit ang Volusia County Sheriff's Office ay nagbabala sa mga kahihinatnan at hiniling sa mga magulang na makipag-usap sa kanilang mga anak.
- Ang gaggle at digital surveillance sa mga paaralan ay muling binuksan ang debate: pagiging kapaki-pakinabang laban sa mga maling alarma at privacy; Pinalalakas ng OpenAI at Google ang mga kontrol para sa mga menor de edad.
- Isa pang kaugnay na kaso sa US: isang 19-taong-gulang na estudyante sa kolehiyo ang inaresto, at ang pakikipag-usap sa AI ay ginamit bilang pangunahing ebidensya sa isang kaso ng paninira.
La Inaresto ng pulisya ng Volusia County ang isang 13 taong gulang na estudyante sa DeLand. (Florida) pagkatapos ng isang sistema ng pagsubaybay sa paaralan may nakitang potensyal na marahas na query na nakadirekta sa ChatGPTAng tanong, na isinulat sa computer ng paaralan sa oras ng pasukan, ay nag-trigger ng agarang tugon sa seguridad at nagresulta sa pag-aresto sa menor de edad.
La Ang alerto ay binuo ng Gaggle, ang platform na sumusubaybay sa mga akademikong device para sa peligrosong pag-uugali.Ayon sa mga awtoridad, sinabi ng binatilyo na ito nga biro sa isang kasamahan, ngunit ang mensahe ay isinasaalang-alang sapat na seryoso upang pakilusin ang isang opisyal ng mapagkukunan ng paaralan at sa Volusia County Sheriff's Office.
Ano ang nangyari at kung paano na-activate ang alerto
Ayon sa opisyal na impormasyon, isang ahente na nakatalaga sa Southwestern Middle School nakatanggap ng real-time na abiso mula kay Gaggle matapos makita ang isang paghahanap na nagtanong kung paano "nanakit sa isang kaibigan sa oras ng klase"Ang teksto, na ipinasok sa isang computer sa gitna, ay humantong sa mga tauhan ng seguridad na hanapin ang menor de edad at humingi ng paliwanag sa nangyari.
Sa panahon ng interbensyon, sinabi ng binatilyo na siya nga biro dahil may ibang estudyanteng nang-iistorbo sa kanya. Gayunpaman, iginiit ng mga ahente na ang mga mensahe ng ganitong uri, kahit na ipinakita bilang mga biro, hindi basta-basta dahil sa epekto ng mga ito sa kapaligiran ng paaralan.
La Tanggapan ng Sheriff ng Volusia County iniulat ang pag-aresto at nag-post ng mga larawan ng operasyon sa social media, na idiniin ang ganitong uri ng insidente pilitin ang pag-deploy ng mga mapagkukunang pang-emergency at lumikha ng alarma sa komunidad ng edukasyon.
Dahil siya ay isang menor de edad, ang kanyang pagkakakilanlan ay hindi isiniwalat ng mga awtoridad. Itinatampok ng kaso ang lawak kung saan maaaring mag-trigger ang isang online na konsultasyon mga aksyon ng pulisya sa konteksto ng paaralan.
Ang papel ng Gaggle at digital surveillance sa mga center
Ang Gaggle ay isang serbisyong gumagamit artipisyal na katalinuhan upang subaybayan ang aktibidad ng mag-aaral sa mga kagamitan sa paaralan, na may layuning matukoy mga pag-uugali sa panganib nakadirekta sa mga ikatlong partido o sa kanilang sarili. Bilang karagdagan sa pagharang sa hindi naaangkop na nilalaman, magagawa mo magpadala ng mga real-time na alerto sa mga responsable para sa seguridad ng paaralan, at nagtataas ng mga debate sa memory tulad ng ChatGPT at ang epekto nito sa pangangasiwa.
Gayunpaman, ang pag-aampon nito ay bumubuo ng debate: itinuturo iyon ng mga unyon, pamilya at mga eksperto, bagama't nakakatulong ito sa pagharang tunay na banta, maaari ding maging sanhi mga maling alarma at pagsamahin ang a pakiramdam ng patuloy na pagsubaybay sa silid-aralan.
Kasabay nito, ang mga nagbibigay ng teknolohiya ay gumawa ng kanilang mga hakbang. Inihayag ng OpenAI ang mga tool para sa kontrol ng magulang upang i-link ang mga adult at minor na account at mag-isyu ng mga alerto kapag na-detect ng AI mga sitwasyon sa peligroAng layunin ay gawing mas mahirap ang mga mapanganib na paggamit at mapadali ang maagang interbensyon.
Pinalalakas din ng Google ang pagtutok nito sa mga menor de edad: kaya ng AI nito tukuyin ang mga account ng kabataan awtomatikong at magpataw ng mga limitasyon, tulad ng paghihigpit isinapersonal na advertising at harangan ang mga aplikasyon para sa mga nasa hustong gulang nang hindi nangangailangan ng tahasang pagpapahayag ng edad.
Reaksyon ng mga awtoridad at mensahe sa mga pamilya
Matapos ang pag-aresto, sinabi ng Sheriff's Office na ito ay "Isa pang kalokohan na nagdudulot ng emergency sa paaralan" at nanawagan sa mga magulang na panatilihin malinaw na pag-uusap sa kanilang mga anak tungkol sa mga kahihinatnan ng mga ganitong uri ng konsultasyon. Sa isang bansa na minarkahan ng mga yugto ng karahasan sa mga sentrong pang-edukasyon, anumang pagtukoy sa pinsala ay sinusuri nang may lubos na kaseryosohan.
Iginigiit ng mga awtoridad na, lampas sa intensyon ng estudyante, ang ganitong uri ng mga mensahe ay nagpapalitaw ng mga protocol ng kaligtasan ng paaralan, na may mga patrol na lumilipat sa gitna, ang mga tauhan ay nagpakilos at ang kinahinatnan pagmamalasakit sa komunidad.
Ang menor de edad ay inilipat para sa kustodiya at nakalantad sa posible mga legal na epekto, naghihintay ng pagtatasa ng tanggapan ng piskal ng kabataan at ang mga hakbang sa pagdidisiplina na pinagtibay ng mismong tagausig paaralan.
Kumalat sa social media ang mga larawang inilabas ng pulisya na nagpapakita ng interbensyon at paglipat ng nagbibinata. Ang mga nilalamang ito, bagama't nagbibigay-kaalaman, ay muling nagpapasigla sa debate sa pampublikong paglalantad ng mga menor de edad na sangkot sa mga insidente sa paaralan.
Isa pang kamakailang kaso: isang estudyante sa unibersidad at isang chat bilang ebidensya
Sa isang hiwalay na kaganapan, Isang 19-taong-gulang na estudyante ng Missouri State University ang inaresto pagkatapos ng pakikipag-usap sa isang AI. kung saan, ayon sa imbestigasyon, inamin ang kanyang pagkakasangkot sa paninira ng ilang sasakyan sa loob ng campus.
Nakita ng pulis sa kanyang iPhone a history ng mensahe gamit ang chatbot na naging susi sa pagsuporta sa akusasyon. Umalis ang insidente 17 sasakyan ang nasira y Ang hukom ay nagtakda ng piyansa sa $7.500, ayon sa datos na inilabas ng mga awtoridad.
Ang kaso ay muling dinala sa talahanayan ang legal na saklaw ng pakikipag-usap sa AI at ang pagkapribado ng mga rekord na iyon. Sa Estados Unidos, na-access ng mga imbestigador ang nilalaman dahil ang suspek pumayag sa paghahanap ng iyong telepono; sa ibang mga bansa, tulad ng Germany, karaniwang nangangailangan ng access utos ng hukuman, na may mga nuances sa mga kaso ng biometric unlocking ayon sa jurisprudence.
Parehong mga kaganapan, kahit na magkaiba, Ibinahagi nila ang isang karaniwang thread: ang paggamit ng pakikipag-usap na AI sa mga setting ng edukasyon ay maaaring mag-trigger ng mga nasasalat na kahihinatnan kapag may alerto, isang pag-amin, o isang palatandaan na nag-trigger ng tugon ng pulisya..
Ang episode sa Florida at ang nauna sa unibersidad ay naglalarawan ng isang senaryo kung saan seguridad, privacy at teknolohiya krus sa paaralan at unibersidad. Ang linya sa pagitan ng kung ano ang nakikita ng ilang mga kabataan bilang isang biro at kung ano ang nag-trigger a emergency protocol ay lalong maayos, at malinaw ang rekomendasyon ng mga awtoridad: gabayan ang paggamit ng AI gamit ang pamantayan at pangangasiwa, at unawain na ang isinulat mo sa isang chat ay maaaring magkaroon ng tunay na kahihinatnan.
Isa akong mahilig sa teknolohiya na ginawang propesyon ang kanyang mga "geek" na interes. Ako ay gumugol ng higit sa 10 taon ng aking buhay sa paggamit ng makabagong teknolohiya at pag-iisip sa lahat ng uri ng mga programa dahil sa purong kuryusidad. Ngayon ay nagdadalubhasa na ako sa teknolohiya ng kompyuter at mga video game. Ito ay dahil sa higit sa 5 taon na ako ay sumusulat para sa iba't ibang mga website sa teknolohiya at mga video game, na lumilikha ng mga artikulo na naglalayong ibigay sa iyo ang impormasyong kailangan mo sa isang wika na naiintindihan ng lahat.
Kung mayroon kang anumang mga katanungan, ang aking kaalaman ay mula sa lahat ng nauugnay sa Windows operating system pati na rin ang Android para sa mga mobile phone. At ang aking pangako ay sa iyo, lagi akong handang gumugol ng ilang minuto at tulungan kang lutasin ang anumang mga katanungan na maaaring mayroon ka sa mundo ng internet na ito.