- 'n 13-jarige seun is in DeLand, Florida, in hegtenis geneem na 'n Gaggle-waarskuwing oor 'n gewelddadige navraag wat aan ChatGPT op 'n skoolrekenaar gemaak is.
- Die student het beweer dit was 'n "grap", maar die Volusia County Sheriff's Office het gewaarsku oor die gevolge en ouers gevra om met hul kinders te praat.
- Gaggle en digitale toesig in skole heropen die debat: nuttigheid teenoor vals alarms en privaatheid; OpenAI en Google versterk beheermaatreëls vir minderjariges.
- Nog 'n verwante saak in die VSA: 'n 19-jarige kollegestudent is in hegtenis geneem, en die gesprek met die KI is as sleutelbewys in 'n vandalismesaak gebruik.
La Die polisie van Volusia County het 'n 13-jarige student in DeLand in hegtenis geneem. (Florida) na 'n skoolmoniteringstelsel 'n potensieel gewelddadige navraag gerig aan ChatGPT is bespeurDie vraag, wat gedurende skoolure op 'n skoolrekenaar geskryf is, het 'n onmiddellike sekuriteitsreaksie ontlok en tot die minderjarige se inhegtenisneming gelei.
La Die waarskuwing is gegenereer deur Gaggle, die platform wat akademiese toestelle vir riskante gedrag monitor.Volgens die owerhede het die tiener beweer dat dit was 'n grap teenoor 'n kollega, maar die boodskap is oorweeg ernstig genoeg om 'n skoolhulpbronbeampte te mobiliseer en aan die Volusia County Sheriff se Kantoor.
Wat het gebeur en hoe die waarskuwing geaktiveer is
Volgens amptelike inligting, 'n agent wat aan die Suidwes-Middelbare Skool het 'n intydse kennisgewing van Gaggle ontvang nadat 'n soektog opgespoor is wat gevra het hoe "'n Vriend tydens klas seermaak"Die teks, wat in 'n rekenaar by die sentrum ingevoer is, het sekuriteitspersoneel daartoe gelei om die minderjarige op te spoor en 'n verduideliking te eis vir wat gebeur het.
Tydens die intervensie het die tiener gesê hy was maak 'n grap omdat 'n ander student hom plaDie agente het egter daarop aangedring dat boodskappe van hierdie tipe, selfs wanneer dit as grappe aangebied word, word nie ligtelik opgeneem nie as gevolg van die impak wat hulle op die skoolomgewing het.
La Volusia County Sheriff se Kantoor het die inhegtenisneming gerapporteer en beelde van die operasie op sosiale netwerke versprei, en beklemtoon dat hierdie tipe episodes dwing die ontplooiing van noodhulpbronne af en veroorsaak alarm in die onderwysgemeenskap.
Aangesien hy minderjarig is, sy identiteit is nie bekend gemaak nie deur die owerhede. Die saak beklemtoon die mate waarin 'n aanlyn konsultasie kan veroorsaak polisie-aksies in die skoolkonteks.
Die rol van Gaggle en digitale toesig in sentrums
Gaggle is 'n diens wat gebruik maak van kunsmatige intelligensie om studenteaktiwiteit op skooltoestelle te monitor, met die doel om op te spoor risikogedrag gerig op derde partye of hulself. Benewens die blokkering van onvanpaste inhoud, kan jy stuur intydse waarskuwings aan diegene wat verantwoordelik is vir skoolsekuriteit, en opper debatte oor die geheue soos ChatGPT en die impak daarvan op toesig.
Die aanvaarding daarvan veroorsaak egter debat: vakbonde, families en kenners wys daarop dat, hoewel dit help om te onderskep werklike bedreigings, kan ook veroorsaak vals alarms en konsolideer 'n gevoel van konstante monitering in die klaskamer.
Terselfdertyd het tegnologieverskaffers hul stappe gedoen. OpenAI het gereedskap aangekondig vir control parental om volwasse en minderjarige rekeninge te koppel en waarskuwings uit te reik wanneer KI opspoor risiko situasiesDie doel is om gevaarlike gebruike moeiliker te maak en vroeë intervensie te fasiliteer.
Google versterk ook sy fokus op minderjariges: sy KI kan identifiseer jeugrekeninge outomaties en stel beperkings op, soos om te beperk publicidad personalizada en blokkeer volwasse toepassings sonder om eksplisiete ouderdomsverklaring te vereis.
Reaksie van die owerhede en boodskap aan families
Na die arrestasie het die balju se kantoor verklaar dat dit was “Nog ’n grap wat ’n skoolnoodgeval veroorsaak” en het ouers versoek om te handhaaf duidelike gesprekke met hul kinders oor die gevolge van hierdie tipe konsultasies. In 'n land wat gekenmerk word deur episodes van geweld in opvoedkundige sentrums, enige verwysing na skade word met die grootste erns beoordeel.
Owerhede dring daarop aan dat hierdie tipe boodskappe, buite die student se bedoeling, protokolle van skoolveiligheid, met patrollies wat na die sentrum beweeg, personeel gemobiliseer en die gevolglike kommer in die gemeenskap.
Die minderjarige is vir toesig oorgeplaas en is blootgestel aan moontlike repercusiones legales, hangende die assessering van die jeugaanklaer se kantoor en die dissiplinêre maatreëls wat deur die aanklaer self aangeneem is skool.
Beelde wat deur die polisie vrygestel is, het op sosiale media versprei wat wys hoe intervensie en oordrag van die adolessent. Hierdie inhoud, hoewel insiggewend, wakker die debat oor die openbare blootstelling van minderjariges wat by skoolvoorvalle betrokke was.
Nog 'n onlangse geval: 'n universiteitstudent en 'n geselsie as bewys
In 'n aparte geleentheid, 'n 19-jarige student van die Missouri State University is in hegtenis geneem na 'n gesprek met 'n KI. waarin, volgens die ondersoek, het sy betrokkenheid erken in die vandalisme van verskeie voertuie binne die kampus.
Polisie het op sy iPhone gevind 'n boodskapgeskiedenis met die kletsbot wat die sleutel was tot die ondersteuning van die beskuldiging. Die voorval het 17 motors beskadig y Die regter het borgtog op $7 500 vasgestel, volgens data wat deur die owerhede vrygestel is.
Die saak het weereens die regsgebied van gesprekke met KI en die privaatheid van daardie rekords. In die Verenigde State het ondersoekbeamptes toegang tot die inhoud verkry omdat die verdagte het ingestem tot die soektog van jou foon; in ander lande, soos Duitsland, vereis toegang gewoonlik orden judicial, met nuanses in gevalle van biometriese ontsluiting volgens jurisprudensie.
Beide gebeurtenisse, alhoewel verskillend, Hulle deel 'n gemeenskaplike draad: die gebruik van gespreks-KI in opvoedkundige omgewings kan tasbare gevolge veroorsaak wanneer daar 'n waarskuwing, 'n bekentenis of 'n leidraad is wat 'n polisie-reaksie veroorsaak..
Die Florida-episode en die universiteitspresedent illustreer 'n scenario waarin sekuriteit, privaatheid en tegnologie kruis by skool en universiteit. Die lyn tussen wat sommige jongmense as 'n grap beskou en wat 'n noodprotokol word toenemend goed, en die aanbeveling van die owerhede is duidelik: lei die gebruik van KI met kriteria en toesig, en verstaan dat wat jy in 'n klets skryf, werklike gevolge kan hê.
Ek is 'n tegnologie-entoesias wat sy "geek"-belangstellings in 'n beroep verander het. Ek het meer as 10 jaar van my lewe bestee om die nuutste tegnologie te gebruik en uit pure nuuskierigheid met allerhande programme te peuter. Nou het ek gespesialiseer in rekenaartegnologie en videospeletjies. Dit is omdat ek al vir meer as 5 jaar vir verskeie webwerwe oor tegnologie en videospeletjies skryf en artikels skep wat poog om jou die inligting te gee wat jy nodig het in 'n taal wat vir almal verstaanbaar is.
As jy enige vrae het, strek my kennis van alles wat verband hou met die Windows-bedryfstelsel sowel as Android vir selfone. En my verbintenis is aan jou, ek is altyd bereid om 'n paar minute te spandeer en jou te help om enige vrae op te los wat jy in hierdie internetwêreld mag hê.