- En 13-årig dreng blev arresteret i DeLand, Florida, efter en Gaggle-advarsel om en voldelig forespørgsel foretaget til ChatGPT på en skolecomputer.
- Studenten hævdede, at det var en "joke", men Volusia County Sheriff's Office advarede om konsekvenserne og bad forældre om at tale med deres børn.
- Gaggle og digital overvågning i skoler genåbner debatten: nytteværdi versus falsk alarm og privatliv; OpenAI og Google styrker kontrollen for mindreårige.
- En anden relateret sag i USA: en 19-årig universitetsstuderende blev arresteret, og samtalen med AI'en blev brugt som centralt bevismateriale i en sag om hærværk.
La Politiet i Volusia County anholdt en 13-årig elev i DeLand. (Florida) efter et skoleovervågningssystem en potentielt voldelig forespørgsel rettet mod ChatGPT blev registreretSpørgsmålet, der blev skrevet på en skolecomputer i skoletiden, udløste en øjeblikkelig sikkerhedsindsats og resulterede i den mindreåriges anholdelse.
La Advarslen blev genereret af Gaggle, platformen der overvåger akademiske enheder for risikabel adfærd.Ifølge myndighederne hævdede teenageren, at det var en joke mod en kollega, men budskabet blev overvejet alvorlig nok til at mobilisere en skolemedarbejder og til Volusia County Sheriff's Office.
Hvad der skete, og hvordan alarmen blev aktiveret
Ifølge officielle oplysninger er en agent, der er tildelt Southwestern Middle School modtog en realtidsnotifikation fra Gaggle efter at have registreret en søgning, der spurgte, hvordan "At såre en ven i timen"Teksten, der blev indtastet på en computer i centret, førte til, at sikkerhedspersonalet fandt den mindreårige og krævede en forklaring på, hvad der var sket.
Under interventionen sagde teenageren, at han var spøg fordi en anden elev generede hamAgenterne insisterede dog på, at beskeder af denne type, selv når de præsenteres som vittigheder, tages ikke let på på grund af den indflydelse, de skaber i skolemiljøet.
La Volusia County Sheriff's Office rapporterede anholdelsen og spredte billeder af operationen på sociale netværk og understregede, at denne type episoder fremtvinge indsættelse af nødressourcer og skabe alarm i uddannelsesmiljøet.
Da han er mindreårig, hans identitet er ikke blevet oplyst af myndighederne. Sagen fremhæver, i hvilket omfang en online konsultation kan udløse politiets handlinger i skolesammenhæng.
Gaggles rolle og digital overvågning i centre
Gaggle er en tjeneste, der bruger kunstig intelligens at overvåge elevernes aktivitet på skolens enheder med det formål at opdage risikabel adfærd rettet mod tredjeparter eller dem selv. Udover at blokere upassende indhold kan du send realtidsadvarsler til dem, der er ansvarlige for skolernes sikkerhed, og rejser debatter om hukommelse som ChatGPT og dens indflydelse på tilsynet.
Imidlertid skaber dens indførelse debat: Fagforeninger, familier og eksperter påpeger, at selvom det hjælper med at opfange reelle trusler, kan også forårsage falske alarmer og konsolidere en følelse af konstant overvågning i klasseværelset.
Sideløbende har teknologiudbydere taget deres skridt. OpenAI annoncerede værktøjer til forældrekontrol at forbinde konti for voksne og mindreårige og udstede advarsler, når AI registrerer risikosituationerHensigten er at gøre farlige anvendelser vanskeligere og fremme tidlig intervention.
Google styrker også sit fokus på mindreårige: deres AI kan Identificér ungdomskonti automatisk og pålægge begrænsninger, såsom at begrænse personlig annoncering og blokere apps for voksne uden at kræve eksplicit alderserklæring.
Myndighedernes reaktion og besked til familierne
Efter anholdelsen oplyste sheriffkontoret, at det var "Endnu en spøg, der forårsager en skolekrise" og opfordrede forældrene til at opretholde klare samtaler med deres børn om konsekvenserne af denne type konsultationer. I et land præget af voldsepisoder i uddannelsescentre, enhver henvisning til skade vurderes med den største alvor.
Myndighederne insisterer på, at denne type beskeder udløser protokoller, der går ud over den studerendes intention. skolens sikkerhed, med patruljer rykket ind til centrum, mobiliseret personel og den deraf følgende bekymring i samfundet.
Den mindreårige blev overført til forældremyndigheden og er udsat for mulige juridiske konsekvenser, i afventning af ungdomsanklagemyndighedens vurdering og de disciplinære foranstaltninger, som anklageren selv har vedtaget skole.
Billeder offentliggjort af politiet cirkulerede på sociale medier, der viser intervention og overførsel af den unge. Dette indhold, selvom det er informativt, genopliver debatten om offentlig eksponering af mindreårige involveret i skolehændelser.
En anden nylig sag: en universitetsstuderende og en snak som bevis
I et separat arrangement, En 19-årig studerende fra Missouri State University blev anholdt efter en samtale med en kunstig intelligens. hvor, ifølge undersøgelsen, indrømmede sin involvering i hærværk af flere køretøjer inden for campus.
Politiet fandt på hans iPhone en beskedhistorik med chatbotten hvilket var nøglen til at understøtte anklagen. Hændelsen efterlod 17 biler beskadiget y Dommeren satte kautionen til 7.500 dollars, ifølge data frigivet af myndighederne.
Sagen har endnu engang bragt det juridiske omfang af samtaler med AI og fortroligheden af disse optegnelser. I USA fik efterforskere adgang til indholdet, fordi den mistænkte samtykkede til eftersøgningen af din telefon; i andre lande, såsom Tyskland, kræver adgang normalt retskendelse, med nuancer i tilfælde af biometrisk oplåsning i henhold til retspraksis.
Begge begivenheder, omend forskellige, De deler en fælles tråd: brugen af konversationsbaseret AI i uddannelsesmæssige sammenhænge kan udløse håndgribelige konsekvenser, når der er en alarm, en tilståelse eller et spor, der udløser en politiindsats..
Episoden i Florida og universitetspræcedensen illustrerer et scenarie, hvor sikkerhed, privatliv og teknologi kryds i skolen og på universitetet. Grænsen mellem hvad nogle unge ser som en joke, og hvad der udløser en nødprotokol er i stigende grad fint, og myndighedernes anbefaling er klar: vejled brugen af AI med kriterier og tilsyn, og forstå at det du skriver i en chat kan have reelle konsekvenser.
Jeg er en teknologientusiast, der har vendt sine "nørde" interesser til et erhverv. Jeg har brugt mere end 10 år af mit liv på at bruge avanceret teknologi og pille ved alle slags programmer af ren nysgerrighed. Nu har jeg specialiseret mig i computerteknologi og videospil. Dette skyldes, at jeg i mere end 5 år har skrevet til forskellige hjemmesider om teknologi og videospil, og lavet artikler, der søger at give dig den information, du har brug for, på et sprog, der er forståeligt for alle.
Har du spørgsmål, så spænder min viden fra alt relateret til Windows styresystemet samt Android til mobiltelefoner. Og mit engagement er over for dig, jeg er altid villig til at bruge et par minutter og hjælpe dig med at løse eventuelle spørgsmål, du måtte have i denne internetverden.