Instagram će aktivirati upozorenja za roditelje u vezi s pretragama povezanim sa samoubojstvom i samoozljeđivanjem među tinejdžerima.

Instagram je odlučio poduzeti daljnji korak u kontroli osjetljivog sadržaja vezanog uz samoubojstvo i samoozljeđivanje. među maloljetnicima. Platforma, u vlasništvu tvrtke Meta, Aktivirat će sustav upozorenja kako bi roditelji znali ako njihova tinejdžerska djeca uporno pretražuju ove vrste pojmova. na društvenoj mreži.

Nova značajka dio je programa Roditeljski nadzor i tinejdžerski računi Instagram ima za cilj pomoći obiteljima da rano otkriju potencijalne znakove upozorenja. Prema tvrtki, većina maloljetnika ne obavlja ove vrste pretraživanja, ali kada to učine, Žele da odrasli imaju informacije i resurse za reagiranje ubrzati.

Kako će funkcionirati upozorenja za pretrage samoubojstva i samoozljeđivanja?

Sustav se neće aktivirati jednim upitom, već samo kada platforma otkrije nekoliko pokušaja u kratkom vremenu s ključnim riječima koje su jasno povezane sa samoubojstvom ili samoozljeđivanjem. To bi uključivalo pojmove poput "samoubojstvo", "samoozljeđivanje" ili fraze koje sugeriraju namjeru samoozljeđivanja.

Kako bi definirao taj prag aktivacije, Instagram tvrdi da je surađivao sa svojim savjetodavna skupina specijalizirana za samoubojstva i samoozljeđivanjeAnaliza obrazaca ponašanja pomaže u izbjegavanju lažno pozitivnih rezultata i upozorenja koja stižu prekasno. Ideja je dati djetetu vremena da pristupi resursima podrške bez ikakve jednokratne pretrage koja bi izazvala trenutnu uzbunu unutar obitelji.

Kada su ispunjeni uvjeti koje je postavila platforma, Obavijest će biti poslana odraslima koji su aktivirali nadzor računa za dijete.Ta upozorenja će stizati putem e-poštom, SMS-om ili WhatsAppomOvisno o kontaktnim podacima koje su roditelji naveli, oni će se pojaviti i kao obavijest unutar same Instagram aplikacije.

Dodirom na obavijest otvorit će se poruka preko cijelog zaslona u kojoj se objašnjava da tinejdžer nekoliko je puta pokušao pretražiti sadržaj vezan uz samoubojstvo ili samoozljeđivanje u kratkom vremenskom roku. Isti će panel ponuditi poveznice na materijale koje su razvili stručnjaci kako bi roditeljima pomogli u tome kako pristupiti osjetljivom razgovoru sa svojim djetetom.

Što se mijenja u pravilima o sadržaju na Instagramu

Meta inzistira da se to već primjenjuje stroge politike protiv sadržaja koji promiče ili veliča samoubojstvo i samoozljeđivanjeZapravo, kada tinejdžer izvrši očitu pretragu o tim temama, platforma ne prikazuje povezane rezultate, već preusmjerava korisnika na telefonske linije za pomoć i specijalizirane organizacije u psihološkoj podršci i prevenciji.

Istovremeno, Instagram korisnicima omogućuje dijeljenje osobna iskustva vezana uz probleme mentalnog zdravljapod uvjetom da nisu predstavljene na način koji potiče oponašanje rizičnog ponašanja. Tvrtka pojašnjava da su ove vrste objava skrivene od maloljetnika, čak i ako ih dijele računi koje već prate.

Dodavanjem novih upozorenja, Meta je navela da je cilj nadopuniti blokiranje pretraživanja izravnim kanalom prema roditeljima ili skrbnicima. Ideja je da platforma ne samo da će intervenirati preusmjeravanjem tinejdžera na resurse podrške, već će i odrasli imaju priliku osobno intervenirati ako smatraju da je to potrebno.

Tvrtka potvrđuje da je primila obavijest ove vrste To može biti vrlo uznemirujuće za svaku obitelj.No on tvrdi da su obavijesti osmišljene upravo kako bi ponudile jasne informacije i konkretne alate, a ne samo alarmističku poruku bez konteksta.

Raspoređivanje po zemljama i situacija u Španjolskoj i Europi

Nova upozorenja počet će se omogućavati za Sjedinjene Američke Države, Ujedinjeno Kraljevstvo, Australija i Kanada Od sljedećeg tjedna ova će značajka biti dostupna roditeljima koji već koriste Instagramove roditeljske kontrole. Tvrtka je objavila da će značajka Proširit će se na ostale regije tijekom godineiako još nije određen određeni datum za Španjolsku ili druge europske zemlje.

U slučaju tinejdžerskih računa, aktivacija ovih signala doći će kao dio sigurnosne alate koje Meta već neko vrijeme koristiNeki specijalizirani mediji navode da bi ta značajka mogla biti omogućena prema zadanim postavkama na računima maloljetnika, dok drugi izvještavaju da će biti potrebna izričita registracija u programu praćenja; u svakom slučaju, Roditelji moraju biti povezani s računom maloljetnika za primanje obavijesti.

Objava se podudara s rastućom raspravom u Europi o tome kako zaštititi maloljetnike na društvenim mrežama. Nekoliko vlada, uključujući one Španjolska, Grčka ili SlovenijaPočeli su proučavati stroža dobna ograničenja za pristup platformama poput Instagrama, slijedeći primjer zemalja koje razmatraju zabranu korištenja društvenih mreža osobama mlađim od 16 godina.

U međuvremenu, Ujedinjeno Kraljevstvo otvorilo je vrata nova ograničenja za sadržaj štetan za maloljetnikeU međuvremenu, Europska unija raspravlja o praktičnoj primjeni svojih propisa o digitalnim uslugama, koji zahtijevaju veću transparentnost od velikih tehnoloških tvrtki u vezi s algoritmima, moderiranjem sadržaja i zaštitom maloljetnika.

Umjetna inteligencija, još jedna linija obrane

Meta je također najavila da priprema sličan sustav upozorenja za Interakcije tinejdžera s njihovom umjetnom inteligencijomTvrtka priznaje da mnogi mladi već koriste chatbotove i virtualne asistente za raspravu o osjetljivim temama, uključujući mentalno zdravlje, te želi da roditelji budu obaviješteni ako se otkriju razgovori vezani uz samoubojstvo ili samoozljeđivanje.

Trenutno su modeli umjetne inteligencije integrirani u Meta usluge - poput Meta AI - obučeni za sigurno reagirati na maloljetnikepreusmjeravajući ih na resurse za pomoć kada se pojave određeni uvjeti ili znakovi rizika. S novim sustavom, Ako tinejdžer pokuša voditi ovakve razgovore s umjetnom inteligencijom, roditelji će dobiti upozorenje. slično pretragama unutar Instagrama.

Tvrtka Još nije precizirano koji će točno izrazi pokrenuti ova upozorenja u slučaju umjetne inteligencije.niti kako će razlikovati informativni upit od signala potencijalne opasnosti. Ono u čemu je napredovao jest to da Ovo je projekt u razvoju. i da će ponuditi više informacija "u nadolazećim mjesecima", kako se bude uvodilo.

Ovaj potez dolazi u vrijeme kada razne vlade i regulatori pomno prate porast generativne umjetne inteligencije i njegov potencijalni utjecaj na maloljetnikeSlučaj Grok chatbotVeza s mrežom X (ranije Twitter), koja je generirala seksualizirani sadržaj, pojačala je pritisak za uvođenje strožih zaštitnih mjera kada su u pitanju djeca i adolescenti.

Pravni pritisak i rasprava o utjecaju na mentalno zdravlje

Instagramova objava nije došla u vakuumu. Meta se suočava s izazovima u Sjedinjenim Državama. nekoliko sudskih postupaka za naknadu štete maloljetnicima, u kojem se dovodi u pitanje jesu li njihove platforme, a posebno Instagram, dizajnirane da izazivaju ovisnost i jesu li doprinijele problemima mentalnog zdravlja kod adolescenata.

U Los Angelesu se održava suđenje kako bi se utvrdilo hoće li Funkcije društvene mreže potiču ovisnost i izlažu maloljetnike kontinuiranom toku potencijalno štetnog sadržaja, uključujući sadržaj vezan uz poremećaje prehrane, samoozljeđivanje ili suicidalne misli. Drugi slučaj u Novom Meksiku istražuje je li Meta nije adekvatno zaštitio maloljetnike od seksualnog iskorištavanja unutar svojih usluga.

Tijekom svog pojavljivanja pred kalifornijskim sudom, izvršni direktor tvrtke Meta, Mark ZuckerbergTvrdi da nije znanstveno dokazano da društvene mreže uzrokuju ovisnost ili izravno štete mentalnom zdravlju, pozivajući se na dostupnu akademsku literaturu. Istovremeno je tvrdio da primarna odgovornost u provjeri dobi Odgovornost bi trebala pasti na operativne sustave i trgovine aplikacija, poput Applea i Googlea, a ne samo na razvojne programere svake aplikacije.

Tvrtka se također suočila s kritikama zbog toga kako bi end-to-end enkripcija u nekim njezinim aplikacijama mogla zakomplicirati otkrivanje i prijavljivanje seksualnog zlostavljanja djeceMeta tvrdi da surađuje s vlastima i poriče da su njezine mjere zaštite privatnosti namijenjene ometanju istrage tih zločina.

U ovom okruženju političkog i pravnog pritiska, novi alati za upozorenja na Instagramu tumače se kao pokušaj jačanja slike predanosti sigurnosti maloljetnika i pokazati regulatorima da je tvrtka spremna uvesti tehničke promjene kako bi prilagodila svoj poslovni model trenutnim zahtjevima.

Društvene mreže, samoozljeđivanje i društvena percepcija

Rasprava o ulozi platformi poput Instagrama u mentalnom zdravlju mladih nije ograničena samo na sudove. Nedavne studije u Španjolskoj, poput onih koje su provele sveučilišne istraživačke skupine na području djetinjstva i adolescencije, sugeriraju da značajan udio maloljetnika bio je izložen sadržaju o samoozljeđivanju putem mreža, poruka, pa čak i kibernetičko nasilje.

Ne radi se samo o objavama koje izravno potiču samoozljeđivanje, već i o slike, metafore i kodovi dijeljeni među jednakima Ovaj kodirani jezik omogućuje ljudima da govore o tim ponašanjima bez da ih izričito spominju. Ova vrsta kodiranog jezika kruži na različitim platformama i može doprinijeti normalizaciji određenih praksi ili, barem, smanjenju njihove ozbiljnosti u očima onih koji su već u ranjivoj situaciji.

Unatoč tome, tinejdžeri i mladi uglavnom tvrde veća kontrola nad sadržajem vezanim uz samoozljeđivanje na društvenim mrežama. Opća je percepcija da su ti prostori postali mjesta gdje se fenomen dijeli, raspravlja, a ponekad i trivijalizuje, što komplicira rad obitelji i stručnjaka kada je u pitanju sprječavanje rizičnih ponašanja.

U tom kontekstu, prijedlozi poput Instagram obavijesti izazivaju različita mišljenja: s jedne strane, Cijene se kao dodatni alat otkriti moguće slučajeve opasnosti; s druge strane, postavlja se rasprava o privatnosti adolescenata i u kojoj mjeri ova vrsta nadzora može utjecati na povjerenje između roditelja i djece.

Platforma navodi da joj je namjera pronaći ravnotežu između zaštite i poštovanja privatnosti, ograničavajući upozorenja na situacije u kojima jasno ponavljanje potencijalno zabrinjavajućih pretraga i uvijek uz obavijest priložiti korisne informacije i stručne resurse.

Ovom kombinacijom blokiranja rezultata, preusmjeravanja korisnika na telefonske linije za pomoć, upozoravanja roditelja i integracije umjetne inteligencije za otkrivanje obrazaca rizika, Instagram pokušava ojačati svoju poziciju u posebno osjetljivom području. Ostaje za vidjeti kako će se te mjere točno provoditi u europskim zemljama poput Španjolske i u kojoj mjeri. Moći će se pozabaviti društvenim i regulatornim problemima. o utjecaju društvenih mreža na mentalno zdravlje maloljetnika.

Povezani članak:

Kako prijaviti i izbjeći nasilan sadržaj na Instagramu

Alberto Navarro

Ja sam tehnološki entuzijast koji je svoje "geek" interese pretvorio u profesiju. Proveo sam više od 10 godina svog života koristeći vrhunsku tehnologiju i petljajući sa svim vrstama programa iz čiste znatiželje. Sada sam se specijalizirao za računalne tehnologije i video igre. To je zato što sam više od 5 godina pisao za razne web stranice o tehnologiji i videoigrama, stvarajući članke koji vam nastoje dati informacije koje su vam potrebne na jeziku koji je svima razumljiv.

Ako imate bilo kakvih pitanja, moje znanje seže od svega vezanog uz Windows operativni sustav kao i Android za mobitele. I moja je posvećenost vama, uvijek sam spreman odvojiti nekoliko minuta i pomoći vam riješiti sva pitanja koja imate u ovom internetskom svijetu.