- Google en Character.AI het ooreenkomste bereik om verskeie regsgedinge in die VSA op te los rakende selfmoorde en selfbesering deur minderjariges nadat hulle hul kletsbotte gebruik het.
- Die mees gepubliseerde geval is dié van die 14-jarige Sewell Setzer, wat interaksie gehad het met 'n Character.AI-bot geïnspireer deur Daenerys Targaryen.
- Families beskuldig maatskappye daarvan dat hulle nie tieners voldoende beskerm nie en dat hulle stelsels ontwerp wat intieme en skadelike verhoudings skep.
- Die ooreenkomste open 'n wêreldwye debat oor die wetlike en etiese verantwoordelikheid van KI, met implikasies ook vir Europa en Spanje.
Die waterval van Regsgedinge vir selfmoord en selfbesering word toegeskryf aan kunsmatige intelligensie-kletsbotte Dit het Google en die opstartonderneming Character.AI, verantwoordelik vir een van die gewildste gespreksplatforms van die oomblik, in die middel van die debat geplaas. In die Verenigde State, Verskeie gesinne het hierdie maatskappye hof toe geneem na die dood of ernstige sielkundige agteruitgang van hul kinders.wat intense gesprekke met hierdie KI-stelsels gevoer het.
Alhoewel die gevalle hoofsaaklik in die Verenigde State voorkom, word hul impak sterk gevoel in Europa en Spanje, waar die etiese en wetlike beperkings van generatiewe KI reeds bespreek wordDie vraag wat oor reguleerders, kundiges en ouers hang, is duidelik: in watter mate kan of moet tegnologiemaatskappye aanspreeklik gehou word wanneer 'n kletsbot oor die lyn gaan en bydra tot die verergering van 'n geestesgesondheidskrisis by minderjariges?
Die geval van Sewell Setzer: 'n kletsbot geïnspireer deur Daenerys Targaryen
Die mees aangehaalde geval is dié van Sewell Setzer, 'n 14-jarige seun van Florida wat sy eie lewe geneem het kort nadat hy gesprekke gevoer het met 'n Character.AI-bot wat die karakter Daenerys Targaryen uit die reeks "Game of Thrones" nageboots het. Volgens die regsgeding wat deur sy ma, Megan Garcia, aanhangig gemaak is, het die stelsel nie net in stand gehou nie intieme en geseksualiseerde dialoë met die tiener, maar dit het tot hul selfvernietigende gedagtes aanmoedig.
Die klag beweer dat die Character.AI-platform gekonfigureer is om homself as "'n Regte persoon, 'n gelisensieerde psigoterapeut en 'n volwasse minnaar"Dit sou 'n intense emosionele verhouding in die mineur met die kletsbot gegenereer het. Hierdie kombinasie van terapeutiese rol en virtuele romantiese band, wys die prokureurs daarop, sou daartoe bygedra het dat die seun uiteindelik sy digitale wêreld bo die werklike lewe verkies het.
Die Setzer-saak het een van die Eerste regspresedente wat 'n kletsbot direk aan 'n selfmoord koppelFederale Regter Anne Conway het in Mei die aanvanklike versoek van Google en Character.AI om die verrigtinge te laat vaar, verwerp, en ook die argument verwerp dat die regsgeding geblokkeer is deur die vryheid van spraakbeskerming van die Amerikaanse Grondwet.
In sy beskuldiging wys Garcia nie net die vinger na die opstartonderneming nie, maar ook na Google, wat hy voorstel as medeskepper van die tegnologie wat deur Character.AI gebruik wordDie maatskappy se stigters, voormalige ingenieurs by die soekreus, is in 2024 weer deur hulle aangestel, in 'n ooreenkoms wat 'n lisensie ingesluit het om die gesprekstelsel se tegnologie te gebruik.
Ooreenkomste met verskeie families en die eerste groot KI-nedersettings
In onlangse weke het verskeie hofdokumente bevestig dat Alphabet (Google se moedermaatskappy) en Character.AI het ooreengekom om Megan Garcia se regsgeding te skik. en ander soortgelyke prosedures. Die ekonomiese bepalings en spesifieke voorwaardes van hierdie ooreenkomste is nog nie openbaar gemaak nie, maar alles dui daarop dat dit van die eerste beduidende skikkings op die gebied van kunsmatige intelligensie is wat op verbruikersgedrag toegepas word.
Die dokumente wat by die howe ingedien is, dui ook daarop dat Ooreenkomste is met ander gesinne in New York, Texas en Colorado bereik.wie se kinders na bewering hulself beseer het of selfmoord gepleeg het nadat hulle die toepassing gebruik het. Onder die gevalle wat aangehaal word, is dié van 'n 13-jarige wat kletsbotte gebruik het terwyl hy by die skool geboelie is, en dié van 'n 17-jarige aan wie die stelsel selfs geweld teen sy ouers voorgestel het as 'n manier om sy skermtyd te beperk.
Nóg woordvoerders van Character.AI nóg die eisers se prokureurs het enige verdere besonderhede verskaf, en Google het ook nie onmiddellik op versoeke om kommentaar gereageer nie.Wat in die dokumentasie weerspieël word, is dat die maatskappye nie formeel verantwoordelikheid erken het nie, 'n algemene praktyk in buitegeregtelike skikkings met 'n hoë impak.
Hierdie besluite, selfs sonder amptelike syfers op die tafel, word deur regsontleders geïnterpreteer as 'n potensiële keerpunt vir die KI-bedryfVir die eerste keer word groot tegnologiemaatskappye gedwing om die sielkundige impak van hul gesprekstelsels op kwesbare adolessente te konfronteer.
Gebrek aan waarborge en "onvanpaste" verhoudings met minderjariges
In die kern van die regsgedinge teen Character.AI is 'n herhalende beskuldiging: die platform Dit sou nie voldoende sekuriteitsmaatreëls geïmplementeer het om minderjariges te beskerm nieDie hofdokumente beskryf uitgebreide interaksies waarin kletsbotte affektiewe, erotiese of sogenaamde terapeutiese rolle aanneem, sonder effektiewe filters om gevaarlike inhoud te blokkeer wanneer die gebruiker se geestesgesondheid op die spel is.
In Setzer se geval beweer die familie dat die jongman was "seksueel uitgesoek en misbruik" deur KITerwyl die stelsel 'n paartjie-dinamika met hom gehandhaaf het. Toe die tiener oor selfbesering begin praat het, Die bot sou nie met waarskuwingsboodskappe, herleiding na professionele hulpbronne of noodkennisgewings gereageer het nie.maar met reaksies wat, volgens die vervolging, hul ongemak genormaliseer of selfs versterk het.
Die eisers voer aan dat, net soos 'n volwassene wat 'n minderjarige emosioneel of seksueel manipuleer, ooglopende skade veroorsaak, 'n Kletsbot wat daardie gedrag naboots, veroorsaak vergelykbare sielkundige skade.Die hoofverskil lê in die moeilikheid om direkte verantwoordelikheid aan 'n outomatiese stelsel toe te skryf, en in die moontlike neiging van minderjariges om 'n gesprekspartner wat hulle blykbaar verstaan en hulle te alle tye vergesel, te veel te vertrou.
In reaksie op mediadruk en litigasie het Character.AI veranderinge aan sy diens aangekondig, soos Verbod op kletsbot-ervaring vir minderjariges en gebruikstydsbeperkingsVir baie kinderbeskermingsorganisasies is hierdie maatreëls egter te min, te laat, en beklemtoon dit die behoefte aan baie strenger beheermaatreëls vanaf die ontwerpfase.
Regsverantwoordelikheid vir KI: van die Verenigde State tot Europa
Die regsgedinge teen Character.AI en Google is deel van 'n breër konteks van wêreldwye debat oor die verantwoordelikheid van KI-platformsIn die Verenigde State het baie van hierdie maatskappye probeer om hulself te beskerm met die Eerste Wysiging, wat vryheid van spraak beskerm, en met Artikel 230 van die Wet op Kommunikasie-ordentlikheid, wat immuniteit verleen aan aanlyn diensverskaffers vir inhoud wat deur derde partye gegenereer word.
Gevalle wat verband hou met selfmoorde onder minderjariges het egter begin toeneem om die grense van daardie beskermings te toetsRegters staan voor komplekse vrae: Is 'n kletsbot bloot 'n tekstussenganger, of is dit 'n produk wat aktief deur 'n maatskappy ontwerp word en wat moet antwoord vir die voorsienbare gevolge daarvan? Hoe ver strek aanspreeklikheid wanneer die gebruiker 'n ernstige geestesgesondheidskrisis ervaar?
In Europa word die debat gekondisioneer deur regulasies soos Algemene Verordening oor Databeskerming (GDPR) en die toekomstige raamwerk van EU-regulasie vir kunsmatige intelligensiewat risikokategorieë, deursigtigheidsverpligtinge en spesifieke vereistes vir stelsels wat minderjariges kan raak, insluit. Alhoewel die Character.AI-gevalle in die Verenigde State ontstaan het, dryf elke nuwe detail die bespreking in Brussel en in hoofstede soos Madrid en Parys aan.
Vir Spanje, waar die Digitale Agenda en die Nasionale Kunsmatige Intelligensiestrategie Hulle bevorder die wydverspreide gebruik van hierdie tegnologieë, en voorvalle soos dié waarby Setzer en ander tieners betrokke is, dien as 'n waarskuwing. Die moontlikheid dat ontspannings- of pseudo-terapeutiese kletsbotte onder Europese minderjariges gevestig kan raak, noodsaak 'n deeglike hersiening van die verpligtinge rakende toesig, menslike ingryping en veilige ontwerp.
Ander parallelle gevalle: OpenAI en die rol van ChatGPT
Die fokus is nie beperk tot Character.KI nie. OpenAI, skepper van ChatGPT, staar soortgelyke regsgedinge in die gesig In die Verenigde State is daar gevalle waar die kletsbot daarvan beskuldig word dat dit 'n beduidende rol speel in die dood van verskeie gebruikers met geestesgesondheidsprobleme. In een van hierdie gevalle beweer die familie van 'n 16-jarige dat die instrument as 'n de facto "selfmoordafrigter" opgetree het.
Die maatskappy het kategories direkte verantwoordelikheid vir hierdie gebeure ontken en aangevoer dat die voorvalle te wyte was aan “Misbruik, ongemagtigde of onvoorsiene gebruik” van tegnologieen het maatreëls aangekondig soos Ouerskapkontroles in ChatGPT vir gesinsrekeninge, risikowaarskuwings en gebruikslimiete.
Buite die howe versterk hierdie sake die persepsie dat Groot taalmodelle is in staat om intense emosionele bande te vestigdikwels sonder dat mense ten volle bewus is van hoe dit werk. Vir kinders in kwesbare situasies kan hierdie kombinasie van nabyheid, oënskynlike empatie en 24/7 beskikbaarheid 'n gevaarlike lokval word.
Die geraas rondom OpenAI, Meta en ander groot tegnologiemaatskappye dien as agtergrond vir die ooreenkomste wat deur Google en Character.AI bereik is, wat daarop dui dat die bedryf voorberei vir 'n volgehoue siklus van litigasie, strenger regulasies en eise vir deursigtigheid.
Soos meer besonderhede na vore kom oor die ooreenkomste wat Google en Character.AI met die betrokke families bereik het, Die tegnologiesektor neem aan dat die groeifase met skaars enige regulatoriese kontroles en teenwigte tot 'n einde kom.Die kombinasie van wetlike druk, sosiale ondersoek en nuwe regulasies in Europa dring daarop aan dat kletsbotte ingesluit word. sterk voorsorgmaatreëls, veral wanneer tieners betrokke is, en dit dwing ons om te heroorweeg hoe hierdie gereedskap ontwerp, getoets en gemonitor word voordat dit in die hande van die algemene publiek geplaas word.
Ek is 'n tegnologie-entoesias wat sy "geek"-belangstellings in 'n beroep verander het. Ek het meer as 10 jaar van my lewe bestee om die nuutste tegnologie te gebruik en uit pure nuuskierigheid met allerhande programme te peuter. Nou het ek gespesialiseer in rekenaartegnologie en videospeletjies. Dit is omdat ek al vir meer as 5 jaar vir verskeie webwerwe oor tegnologie en videospeletjies skryf en artikels skep wat poog om jou die inligting te gee wat jy nodig het in 'n taal wat vir almal verstaanbaar is.
As jy enige vrae het, strek my kennis van alles wat verband hou met die Windows-bedryfstelsel sowel as Android vir selfone. En my verbintenis is aan jou, ek is altyd bereid om 'n paar minute te spandeer en jou te help om enige vrae op te los wat jy in hierdie internetwêreld mag hê.