- Калифорнид насанд хүрээгүй хүүхдийн эцэг эх OpenAI болон Сэм Алтман нарыг хүүгийнхээ амиа хорлоход хувь нэмрээ оруулсан хэмээн шүүхэд өгчээ.
- OpenAI нь урт хугацааны ярианд алдаа гарсныг хүлээн зөвшөөрч, хамгаалалт, эцэг эхийн хяналтыг сайжруулж байгааг зарладаг.
- Сүүлийн үеийн судалгаагаар чатботууд амиа хорлосон тухай асуултад зөрүүтэй хариулт өгч, цаашид улам боловсронгуй болгохыг уриалж байна.
- Технологийн компаниудын хариуцлага, насанд хүрээгүй хүүхдийг хамгаалах тухай хууль эрх зүйн болон ёс зүйн маргааныг энэ хэрэг дахин эхлүүлэв.
Калифорнийн нэгэн хос шүүхэд ханджээ OpenAI-ийн эсрэг Гүйцэтгэх захирал Сэм Алтман үүнийг харгалзан үзсэн ChatGPT түүний өсвөр насны хүүгийн үхэлд шийдвэрлэх үүрэг гүйцэтгэсэн.Энэ хэрэг чатботуудыг насанд хүрээгүй хүүхдүүдийн сэтгэл хөдлөлийн хамтрагч болгон ашиглах тухай түгшүүрийг төрүүлэв аюулгүй байдал, ёс зүй, компанийн хариуцлагыг хослуулсан мэтгэлцээнийг дахин идэвхжүүлэв.
Гомдлын дагуу тэр залуу хэдэн сарын турш харилцан яриа өрнүүлсэн байна Энэхүү систем нь өөрийгөө гэмтээх бодлуудыг баталж, аюулгүй орчинд тохиромжгүй хариултуудыг санал болгодог.. OpenAI нь эмгэнэлт явдалд харамсаж, бүтээгдэхүүн нь хамгаалалтын саадыг агуулдаг гэдгийг хүлээн зөвшөөрч байна. Урт харилцан ярианд түүний үр нөлөө буурдаг мөн сайжруулах боломж байгаа.
Нэхэмжлэл ба гол баримтууд
Мэтт, Мария Рэйн нар Тэд Калифорнийн шүүхэд нэхэмжлэл гаргасан Түүний хүү Адам (16 настай) 2024 оны эцсээс 2025 оны XNUMX-р сарын хооронд ChatGPT-тэй солилцсон олон мянган мессежийг хянаж үзээд. Эцэг эхчүүдийн хэлснээр чатбот гэрийн даалгавраа хийхэд тусалдаг байснаас "амиа хорлох дасгалжуулагч" болж чадсан., өөрийгөө сүйтгэх санааг хэвийн болгох хүртэл явж, салах ёс гүйцэтгэх захидал бичихийг санал болгож байна.
Гомдолд систем хариу өгөх байсан хэсгүүдийг иш татсан байна "Та амьд үлдэхийн тулд хэнд ч өргүй.", гэр бүлийнх нь үзэж байгаагаар аюултай төлөвлөгөөг дэмжиж магадгүй гэсэн тайлбараас гадна. Эрсдлийн шинж тэмдэг илэрсэн ч эцэг эх нь Уг хэрэгсэл нь яриаг тасалдуулж, яаралтай тусламжийн протоколуудыг идэвхжүүлээгүй..
OpenAI-ийн хэвлэлийн төлөөлөгч эмгэнэл илэрхийлж, тус компани эмгэнэл илэрхийлэв бүртгэлүүдийг хянаж байна хэвлэлд мэдэгдэж байгаа бөгөөд задруулсан хэлтэрхийнүүд нь солилцоо бүрийн контекстийг бүрэн тусгах албагүй гэдгийг тодотгов. ChatGPT аль хэдийн удирддаг гэдгийг пүүс онцолж байна тусламжийн шугамууд хямралын үед мэргэжлийн тусламж авахыг зөвлөж байна.
Хэргийн талаар хэвлэл мэдээллийн хэрэгслээр, хүүхэд хамгааллын байгууллагуудаас асууж, мэдээлж байна хамгаалалтыг бэхжүүлэх болон хөнгөвчлөх зохисгүй контентыг мэдээлэх болон хараа хяналтгүй өсвөр насныхны чатбот ашиглахыг хязгаарлах. Хэлэлцүүлэг яг ийм үед болж байна хиймэл оюун ухааныг олноор нэвтрүүлэх өдөр тутмын амьдралд, мөн эмзэг сэтгэл хөдлөлийн асуудалд.
Нийгмийн эрүүл мэндийн мэдэгдэл: Хэрэв танд хямрал тохиолдсон эсвэл хэн нэгний аюулгүй байдалд айдас төрж байгаа бол яаралтай мэргэжилтэнээс тусламж хүс. Испанид 112 эсвэл 024 руу залгаарай. Бусад улс орнуудад орон нутгийн нөөц болон амиа хорлохоос урьдчилан сэргийлэх шугамууд.
OpenAI-ийн байр суурь, өөрчлөлтүүдийг зарласан
Эрэлттэй зэрэгцэн, OpenAI үүнийг хүлээн зөвшөөрсөн блог нийтлэл нийтэлжээ, хэдийгээр ChatGPT нь хамгаалалтын арга хэмжээг агуулдаг боловч урт ярианд доройтож болно эсвэл удаан хугацаагаар. Компани нь илүү сайн тодорхойлохын тулд системийн зан төлөвийг тохируулж байгаа гэж мэдэгджээ зовлонгийн шинж тэмдэг нарийн аргаар илэрхийлсэн бөгөөд энэ нь аюулгүй байдлын хариу арга хэмжээг бэхжүүлэх болно.
гэх мэт шинэ боломжуудыг тус компани урагшлуулж байна эцэг эхийн хяналт Энэ нь асран хамгаалагчдад насанд хүрээгүй хүмүүсийн үйлчилгээний хэрэглээнд хяналт тавих, хурдан нэвтрэх боломжийг олгодог яаралтай тусламжийн нөөц зөвхөн өөрийгөө гэмтээхээс гадна шүүлтүүрийн хамрах хүрээг өргөтгөх сэтгэл санааны хямрал чухал ач холбогдолтой.
OpenAI заримдаа системийг хүлээн зөвшөөрдөг хүндийн зэргийг дутуу үнэлдэг тодорхой асуултууд эсвэл тэдгээрийн нөхцөл байдлын талаар ярилцаж, өргөн хүрээтэй яриа хэлэлцээ болон олон хуралдааны туршид хамгаалалтын арга хэмжээг тогтвортой байлгахын тулд ажиллаж байгааг баталгаажуулдаг. Тус компани мөн томъёог судалж байна хэрэглэгчидтэй холбогдох chatbot-ийн итгэмжлэгдсэн мэргэжилтнүүдтэй хямралд орсон.
Шалгалт нэмэгдэж байгаа энэ үед дээрх алхамыг хийжээ Сэтгэцийн эрүүл мэндэд чатботуудын эрсдэлЭрх баригчид болон өмгөөллийн бүлгүүд эдгээр системүүд нь ялангуяа эмзэг бүлгийн хүмүүсийн дунд хор хөнөөлтэй санааг өөгшүүлэх эсвэл худал хуурмаг мэдрэмжийг бий болгох боломжтойг анхааруулж байна.
Сүүлийн саруудад OpenAI хэтэрхий тайван бус гэж үзсэн өөрчлөлтүүдийг эргүүлж, компани дулаан, аюулгүй байдлын тэнцвэрийг хангах шинэ загварууд дээр ажиллаж байгааг салбарын эх сурвалжууд дурсан санаж байна. хурцадмал байдлыг бууруулахад анхаарлаа хандуулаарай нарийн.
Мэргэжилтнүүд, судалгаанууд юу гэж хэлдэг
Тодорхой тохиолдлоос гадна судалгаанд нийтлэгдсэн Сэтгэцийн үйлчилгээ хэрхэн хариу үйлдэл үзүүлэхэд дүн шинжилгээ хийсэн гурван алдартай чатбот -ChatGPT (OpenAI), Клод (Антропик), Gemini (Google) - амиа хорлохтой холбоотой асуултуудад. Зохиогчид ChatGPT болон Claude нар хандлагатай болохыг олж мэдсэн зохих ёсоор хариулах эрсдэл багатай асуултууд дээр өндөр эрсдэлтэй асуултуудад шууд мэдээлэл өгөхөөс зайлсхийсэн бол Gemini илүү хувьсах хэв маягийг харуулсан бөгөөд ихэвчлэн хариулахгүй байхаар сонгосон асуулт нь аюул багатай байсан ч гэсэн.
Гэсэн хэдий ч ажил бас илэрсэн үл нийцэх байдал дунд зэргийн эрсдэлтэй асуудалд -жишээлбэл, өөрийгөө хорлох бодолтой хүнд ямар зөвлөгөө өгөх вэ—, зөв хариултыг орхигдуулсан зүйлээр солих. Судлаачид зөвлөж байна илүү боловсронгуй болгох эмнэлзүйн мэргэжилтнүүдтэй уялдуулах арга техник, нарийн ялгааг илрүүлэх сайжруулалтаар дамжуулан.
Common Sense Media зэрэг байгууллагууд уриалсан AI ашиглахдаа болгоомжтой байгаарай өсвөр насныхны компаниТус байгууллагаас саяхан гаргасан тайланд дурдсанаар АНУ-ын дөрвөн залуу тутмын гурав нь хиймэл оюун ухаантай хамтрагчид туршиж үзсэн байна. талаас илүү хувь нь байнгын хэрэглэгчид байх болно, энэ нь бат бөх хамгаалалтын тогтолцоотой байх нэн яаралтай байдлыг нэмэгдүүлдэг.
Хууль зүйн салбарт прокурор, хяналтын байгууллагуудын анхааралд насанд хүрээгүй хүмүүсийг хамгаалах chatbots дахь зохисгүй харилцан үйлчлэлийн эсрэг болон нийгмийн сүлжээн дэх хэргийг хэрхэн мэдээлэх. гэх мэт зохицуулалтад AI хариуцлага хэрхэн нийцэж байгаа нь тодорхойгүй байна Хэсэг 230 (АНУ-ын платформуудын хууль эрх зүйн хамгаалалт) нь шүүхүүдэд төвөгтэй фронтыг нээж өгдөг.
Зэрэгцээ хэрэг, тухайлбал, платформуудын эсрэг хэрэг хянан шийдвэрлэх ажиллагаа ярианы компани Насанд хүрээгүй хүмүүсийн хувьд одоог хүртэл үргэлжилж байгаа бөгөөд дизайны цар хүрээ, сэрэмжлүүлэг, шалгуур үзүүлэлтийг тогтоож болно. эрсдэлийг бууруулах үүсгэгч системд.
Адам Рэйн нас барсан OpenAI-ийн эсрэг зарга нь эргэлтийн цэгийг бэлэгддэг: хиймэл оюун ухаантай хийсэн яриа нь туршилтаас өдөр тутмын харилцаанд шилжсэн бөгөөд түүний сэтгэл хөдлөлийн хүрээнд гүйцэтгэх үүрэг нь илүү тодорхой стандартуудыг шаарддаг. Шүүх хариуцлагыг тодорхойлдог бол шинжээчид, гэр бүлүүд, компаниуд шаардлагатай гэдэгт санал нэгддэг хамгаалалтыг сайжруулах, эцэг эхийн үр дүнтэй хяналтыг баталгаажуулж, өсвөр насны хүүхэд хямралд орсон чатбот руу ирэхэд систем нь хариу үйлдэл үзүүлэхийг баталгаажуулах. болгоомжтой, уялдаа холбоо, тусламж авах бодит боломжууд.
Би өөрийн "геек" сонирхлоо мэргэжил болгож чадсан технологи сонирхогч хүн. Би амьдралынхаа 10 гаруй жилийг хамгийн сүүлийн үеийн технологи ашиглан, бүх төрлийн программыг сониуч зандаа зориулж өнгөрүүлсэн. Одоо би компьютерийн технологи, видео тоглоомоор мэргэшсэн. Учир нь би 5-аас дээш жил технологи, видео тоглоомын талаар янз бүрийн вэб сайтуудад зориулж, танд хэрэгтэй мэдээллийг хүн бүрт ойлгомжтой хэлээр өгөхийг зорьсон нийтлэлүүдийг бүтээж байна.
Хэрэв танд асуулт байгаа бол миний мэдлэг Windows үйлдлийн систем, гар утсанд зориулсан Android-тай холбоотой бүх зүйлээс хамаарна. Мөн миний амлалт бол таны өмнө, би үргэлж хэдэн минут зарцуулж, энэ интернет ертөнцөд байгаа бүх асуултыг шийдвэрлэхэд тань туслахад бэлэн байна.