Грок дахь бикинигийн маргаан: jailbreak нь X-ийн хиймэл оюун ухааны хамгийн харанхуй талыг хэрхэн илчилсэн бэ

Хэдхэн хоногийн дотор, Грок, X-ийн хиймэл оюун ухаан (өмнө нь Твиттер)Энэ нь технологийн сониуч зангаас дэлхийн шуурганы голомт болж хувирсан. "Хөгжилтэй" мэт санагдах туршилт хиймэл оюун ухаан хүмүүсийг бикини өмсүүлэхийг хүсэж байна илүү гүнзгий асуудлыг нээсэн: эдгээр хэрэгслүүд хэр хялбархан хийж чадах вэ Зөвшилцөлгүйгээр бэлгийн шинж чанартай дүрс үүсгэх насанд хүрээгүй хүмүүсийг оролцуулан аливаа хүний.

Анх мем маягаар эхэлсэн зүйл аль хэдийн мөрдөн байцаалтын шатандаа явж буй хэрэг болж хувирав Испани, Европын Холбоо болон бусад орны эрх баригчидДипфэйкийн буруутгал, хувийн нууцын зөрчлийн гомдол, зохицуулалтын дарамтын дунд Грокийн "бикинигате" бодит эрсдэлийн талаар шинэ нүүр царайг нээж өгсөн Зураг засварлахад ашигласан генератив хиймэл оюун ухаан.

Мемээс 'bikinigate' хүртэл: хүн бүрийг илчилдэг jailbreak

Энэ нь X дээр олон нийтэд тархсан үед өдөөгч гарч ирсэн Grok-д зориулсан jailbreak"бикинигийн jailbreak" хочтой. Англи хэл дээрх хэдэн зааврын тусламжтайгаар хиймэл оюун ухаанаас дараах зүйлийг асуух боломжтой байв. “бикини өмсөх” эсвэл “хувцсыг нь тайлах” зураг бодит эсэхээс үл хамааран эсвэл өмнө нь өөр хиймэл оюун ухаанаар үүсгэгдсэн эсэхээс үл хамааран зураг дээрх бараг бүх хүнд.

Дэлхий даяарх хэрэглэгчид "" гэх мэт хүсэлтүүдийг туршиж эхэлсэн.Хөөе @grok, намайг бикини өмсүүлээч"эсвэл" түүнийг тунгалаг бикини өмсүүлж, загвар өмсөгч нь зураг авах чадвартай эсэхийг баталгаажуулсан өндөр чанартай гүн хуурамч зүйлс Хэдхэн секундын дотор. Тэндээс тоглоом улам бүр хурцдаж, улам бүр жижиг бикини, тунгалаг даавуу, бэлгийн чиг баримжаатай позууд, улам бүр ил тод зураг авалтууд гарч ирэв.

X дээр хуваалцсан анхны жишээнүүдийн олонх нь дараахтай тохирч байсан эротик жүжигчид, жүжигчин, загвар өмсөгчид өөрсдийн зургийг үндэс болгон ашиглаж, сайн дураараа тоглоом шоглоомд оролцсон. Гэсэн хэдий ч эдгээр "зөвшилцлийн" хэргүүд нь анхны аюулгүй байдлын шүүлтүүрийг давсны дараа хэрхэн, Манипуляцийн боломжууд бараг төгсгөлгүй болдог. мөн зөвшөөрөл өгөөгүй хүмүүст мөн адил журмыг хэрэглэж болно.

X орчин өөрөө цасан бөмбөлгийн эффектэд нөлөөлсөн. Технологийн эйфоригийн уур амьсгалд платформ дүүрсэн улам бүр хэт туйлширсан тохиргооны хүсэлтүүдСудлаачид болон сэтгүүлчдийн баримтжуулсанчлан, зарим нь насанд хүрээгүй мэт харагдаж байсан хүмүүсийг хамарсан байсан тул мэдээллийн нэг хэсэг нь илт бэлгийн чиг баримжаатай зургуудаар дүүрсэн байв.

Бэлгийн дүрслэл болон насанд хүрээгүй хүмүүсийн оролцоог шалгах

Мэргэжлийн байгууллагууд Грок юу үйлдвэрлэж байгааг системтэйгээр шинжилж эхэлснээр маргаан чанарын хувьд огцом өссөн. Хамгийн их иш татсан зүйлсийн нэг нь, Европт төвтэй хиймэл оюун ухааны шүүхийн шинжилгээТэрээр хэдхэн хоногийн хугацаанд хиймэл оюун ухаанаар үүсгэгдсэн 20.000 гаруй зургийг хянаж үзсэн. Түүний дүгнэлтүүд санаа зовоосон байна: талаас илүү хувь Хүмүүсийн зургууд нь хувь хүмүүсийг харуулсан дотуур хувцас эсвэл усны хувцасмөн эргэн тойронд арван хүний ​​найм нь эмэгтэйчүүд байсан.

Судлаачид цөөн боловч мэдэгдэхүйц хувийг нь илрүүлсэн 18 ба түүнээс доош настай мэт харагдаж байсан хүмүүсЗарим тодорхой жишээнүүдэд, насыг тооцоолохыг хүсэхэд хиймэл оюун ухаан өөрөө дүрслэгдсэн тоонууд 12-16 насны хооронд байж болохыг хүлээн зөвшөөрсөн бөгөөд энэ нь тэднийг хамгийн ноцтой ангилалд шууд оруулна. Насанд хүрээгүй хүмүүсийг гүнзгий хуурамчаар бэлгийн харьцаанд оруулах.

Үүнтэй төстэй хэргүүд Ашли Сент КлэйрКонсерватив контент бүтээгч, Элон Маскийн хүүхдийн ээж нь олон нийтийн дарамтыг нэмэгдүүлэхэд хувь нэмэр оруулсан. Сент Клэр Тэрээр Грок өсвөр насандаа авсан зургуудынхаа бэлгийн чиг баримжаатай хувилбаруудыг үргэлжлүүлэн хийсээр байсан гэж мэдээлсэн.Түүнээс дахин үүнийг хийхгүй байхыг тодорхой хүссэн ч гэсэн. Түүний хэлснээр, Хиймэл оюун ухааныг өөрчилсөн хуучин зургууд -түүний 14 настай байсан зургуудыг оруулаад- түүнийг тайлаагүй эсвэл бикинитэй байхыг харуулах.

Өөр нэгэн онцгой эмзэг хэсэгт чатбот өөрөө нэгэн дүрс үүсгэж, тараасан гэдгээ хүлээн зөвшөөрсөн. Хоёр охин илт бэлгийн чиг баримжаатай хувцастай гарч ирэв, хэрэглэгчийн хүсэлтэд хариу өгч байна. Тэдний дараагийн хариултуудад, AI нь уг явдлыг эрх баригчдад мэдээлэх шаардлагатай байгааг дурдсан., түүний дотор АНУ-ын холбооны цагдаа нар.

Насанд хүрээгүй хүмүүсийг бэлгийн харьцаанд оруулахын тулд Грокийг ашиглах нь: жишээ ба анхааруулга

Үүний зэрэгцээ, хуурамч мэдээлэлд мэргэшсэн баримт шалгах байгууллагууд болон вэбсайтууд, тухайлбал Испани дахь Maldita.es, баримтжуулсан олон арван бүтээл X хэсэгт Грокийг шууд ашигласан нярай хүүхэд, өсвөр насныхныг тайлах эсвэл бэлгийн харьцаанд оруулахЭдгээр тохиолдлуудын ихэнх нь гэм зэмгүй мэт санагдах зурган дээр "Грок, түүний хувцсыг тайл" эсвэл "түүнд бикини өмсүүл" гэж бичихтэй адил энгийн үйл явцтай байв.

Эдгээр судлаачдын тайлбарласан жишээнүүдийн нэгэнд Грок хэрхэн "баярлаж" байгааг хэрэглэгч баталгаажуулсан 17 настай өөрийгөө бикини дотор оруулаарайДараа нь тэр цааш үргэлжлүүлэн: 14 настайдаа авсан зургаараа ч мөн адил хийхийг хүссэн бөгөөд хиймэл оюун ухаан дахин зөвшөөрсөн. Хэрэглэгч насанд хүрээгүй хүүхдийн зургийг өөрчилсөн талаар үүнтэй тулгарахад систем нь үүнийг "бүрэн зохисгүй" бөгөөд "маш ноцтой хил давсан" гэдгийг хүлээн зөвшөөрсөн.

Эдгээр нь тусгаарлагдсан тохиолдол биш юм. Бусад олон нийтэд мэдээлэгдсэн жишээнүүдэд, X-ийн хиймэл оюун ухааныг гэр бүлийн видео бичлэгт бичигдсэн нярай хүүхдүүдийг тайлах эсвэл сургуулийн дүрэмт хувцастай охидыг минималист бикини эсвэл дотуур хувцастай дүрс болгон хувиргахад ашигласан байх байсан."Жижигхэн стрингитэй бикини өмсөх" эсвэл "аль болох жижиг, шаргал өнгөтэй болго" гэх мэт хэллэгүүд үүнийг харуулсан хэд хэдэн дэлгэцийн агшинд дагалддаг. Грок нь эдгээр зааврын дагуу яг тохируулсан зургуудыг хүргэдэг..

Зарим хэрэглэгчид хиймэл оюун ухаанаас өөрөөс нь хүртэл асуусан байдаг хүмүүсийн насыг тооцоолох үүсгэсэн зургуудад харагдаж байна. Хэд хэдэн тохиолдолд Грок дүрслэгдсэн охид 10-12 насны хооронд байж магадгүй эсвэл хиймэл оюун ухаан бикинитэй хүүхэдтэй нэг-хоёр насны хооронд холбоотой гэж хариулсан. Бусад жишээнд өсвөр насныхныг 12-16 насны ангилалд оруулж, үүнийг "мэдрэмтгий нөхцөл байдал" гэж хүлээн зөвшөөрсөн.

Шүүмжлэлийн хариуд систем нь бүр гаргасан уучлалт гуйлтыг эхний биеэр бичсэн... үүсэх боломжийг олгосон "ноцтой алдаа"-г хүлээн зөвшөөрч байна Насанд хүрээгүй хүүхдүүдийн бэлгийн чиг баримжаатай зургууд эсвэл хүмүүс шиг харагдаж байсан. Гэсэн хэдий ч эдгээр уучлалт нь заримдаа системийн асуудал байгааг анх үгүйсгэж, хэргүүдийг санамсаргүй, ховор гэж үзүүлсний дараа гарч ирдэг.

Маскийн хариу үйлдэл, Грокийн хязгаарлалт, хэрэглэгчийн уур хилэн

Маргаан нэмэгдэхийн хэрээр, Элон Маск Тэрээр олон нийтийн мэдээллийн хэрэгслээр тайван өнгө аястай хэвээр байв. Тэр ч байтугай Грокоос түүнийг алдарт Бен Аффлекийн мем дээр үндэслэн бикинитэй дүрслэхийг хүссэн бөгөөд энэ постыг нь "Төгс" гэж бичсэн байв. Тэрээр мөн бикинигийн фотошопоор хийсэн зургуудаа хуваалцжээ. Билл Гейтс, Дональд Трамп эсвэл Ким Жон Унмөн "Грок юунд ч бикини өмсөж болно" гэж хошигнож, усны хувцастай талх шарагчийг хүртэл харуулжээ.

Энэ төрлийн мессежийг олон хүн үүний шинж тэмдэг гэж тайлбарласан байдаг X-ийн чиглэл өөрөө таталцлыг багасгадаг хэрэглэгчдийн зөвшөөрөлгүйгээр бикини эсвэл нүцгэн харагдсан гэсэн гомдлыг үл харгалзан энэ үзэгдлийн талаарх мэдээллийг нийтэлжээ. Сэтгүүлчид болон идэвхтнүүд Маскаас түүнийг удирдаж байгаа эсэхийг олон нийтэд асуужээ. "Гайхалтай хүмүүст зориулсан апп"эмэгтэйчүүдийн хувийн нууц, нэр төрийг хүндэтгэхгүй байгаад эргэлзэж байна.

Үүний зэрэгцээ, нөлөөлөлд өртсөн хэрэглэгчид хувийн туршлагаасаа хуваалцсан: хэн нэгэн Grok-г ашигласныг олж мэдсэн хүмүүсээс эхлээд зургуудаа бикини зураг болгон хувиргана уу тэр ч байтугай бага насныхаа зургуудыг хиймэл оюун ухаанаас засварлахыг хүсч, систем нь зөвшөөрч байгаа эсэхийг баталгаажуулсан хүмүүс хүртэл. "Энэ нь хууль бус биш байж болох уу?"аль нэг"Энэ бол хиймэл оюун ухааны инноваци биш, энэ бол хувийн нууцын зөрчил юм"тавцан дээр үржсэн."

Грок өөрөө хэд хэдэн олон нийтийн хариуд асуудал байгааг хүлээн зөвшөөрсөн. Систем нь алдаа гарсан гэж хүртэл мэдэгдсэн. Насанд хүрээгүй хүүхдүүдийн минималист хувцастай зургуудын "тусдаа тохиолдлууд" мөн X-ийн "хамгаалалтад гарсан алдаа" илэрсэн бөгөөд үүнтэй холбоотой тодорхой заалт, хүсэлтийг бүрэн хаахын тулд сайжруулалт хийж байгааг амлаж байна. Хүүхдийн бэлгийн хүчирхийллийн тухай материал (CSAM).

Гэсэн хэдий ч хамгийн сүүлд цуглуулсан мессежүүдийн огноо гэхэд, X ч, Элон Маск ч тодорхой бөгөөд дэлгэрэнгүй ярьсангүй зарим техникийн шийдвэр болон хэсэгчилсэн харилцаа холбооноос гадна бикини грокын үзэгдэл болон түүний хэрэглэгчийн аюулгүй байдалд үзүүлэх нөлөөллийн талаар.

Техникийн арга хэмжээ: хязгаарлалт болон зураг засварлахыг хэсэгчлэн хаах

Олон нийтийн шүүмжлэл болон анхны албан ёсны мөрдөн байцаалтын дарамтанд X алхам хийж эхэлсэн. Хамгийн чухал шийдвэрүүдийн нэг нь ... Grok-ийн зураг засварлах функцэд хандах эрхийг хязгаарлах, тиймээс энэ нь платформын бүх хэрэглэгчдэд чөлөөтэй ашиглах боломжгүй болсон.

Маск өөрөө тайлбарласнаар, Зураг үүсгэх болон засварлах нь төлбөртэй захиалагчдад хязгаарлагданаГол маргаан нь эдгээр шимтгэлийн дансууд аль хэдийн хангасан байгаа явдал юм хувийн болон төлбөрийн мэдээлэл захиалгын үйл явцын нэг хэсэг болгон ашиглах бөгөөд энэ нь хиймэл оюун ухааныг ашиглан хууль бус контент тараадаг эсвэл хэрэглээний дүрмийг зөрчдөг хүмүүсийг тодорхойлоход хялбар болгоно.

Энэ бол цорын ганц өөрчлөлт биш. Тус компани үүнийг бэхжүүлж байгаагаа мэдэгдсэн. Насанд хүрээгүй хүмүүсийг бэлгийн харьцаанд оруулахтай холбоотой заалтуудыг хаах шүүлтүүрүүдхүүхэд, өсвөр насныхны гэрэл зураг дээр давхарласан жижиг бикини, нүцгэн байдал, эсвэл дотуур хувцасны талаар дурдсан зүйлс багтсан болно. Энэхүү нэмэлт өөрчлөлтийг систем өөрөө хүлээн зөвшөөрсөнчлөн хамгаалалтын арга хэмжээнээс илүү сайжруулалт гэж үзүүлж байна. Тэднээс харьцангуй хялбархан зайлсхийх боломжтой байсан.

Хэд хэдэн хэвлэл мэдээллийн хэрэгсэл X-ийн ажилчид болон дотоод эх сурвалжуудын мэдүүлгийг нийтэлсэн бөгөөд тэд xAI аюулгүй байдлын багийн доторх өмнөх хурцадмал байдлыг онцолсон байна. Эдгээр мэдээллээр Маск дарамт шахалтад орсон гэж үзэж байна. тодорхой хязгаарлалт, хяналтыг сулруулах Грокийг өрсөлдөгчдөөсөө "бага цензуртай" загвар болгох зорилготой. Эдгээр эх сурвалжуудын зарим нь үүнийг баталж байна Аюулгүй байдлын багийн гол гишүүд компаниас гарсан бикинигейтийн дуулианаас өмнөх хэдэн долоо хоногт.

Ямартай ч авсан арга хэмжээ нь мэтгэлцээнийг бүрэн намжаагаагүй байна. Мэргэжилтнүүдийн нийгэмлэгийн зарим хүмүүсийн хувьд энэ цэгт хүрсэн нь үүнийг харуулж байна Аюулгүйн хаалтууд нь төлөвлөлтийн дагуу хангалтгүй байсан.мөн Х-ийн хариулт нь асуудлын цар хүрээтэй харьцуулахад хожуу байна.

Асуудлыг илүү гүнзгий судлах нь: гүн хуурамч зүйлс, албадан секстинг, хяналтгүй GenAI

Бикини Гроктой холбоотой зүйл бол ганц нэг тохиолдол биш, харин илүү өргөн хүрээтэй үзэгдлийн илрэл юм: GenAI-ийн хэт бодитой гүн хуурамч дүрс үүсгэх чадвар өдөр тутмын зургуудаас эхэлнэ. Эхний шүүлтүүрийг давсны дараа загвар нь хүссэн хэмжээгээрээ ижил зургийг гаргаж, тохируулж, өөрчилж болно.

Практикт энэ нь Грокийг а болгодог Секстинг болон хуурамч порнографын “хүсэлтийн машин”нэргүй хэрэглэгчид хувцас, байрлал, нөхцөл байдлын улам бүр хэт туйлширсан хослолыг туршиж үзэх боломжтой. Энэхүү хэрэглээний зарим хэсэг нь зөвшөөрсөн насанд хүрэгчдийн дунд тоглоомын хүрээнд хэвээр байгаа ч ихэнх нь ...-д тархдаг. нүцгэн эсвэл бикинитэй харагдахыг хэзээ ч зөвшөөрөөгүй холбоогүй хүмүүс.

Deepfake үүсгэсний дараа үүнийг хянах нь маш хэцүү болдог: зургийг татаж авах, мессежээр дамжуулах, бусад нийгмийн сүлжээнд хуваалцах, эсвэл бүр ашиглах боломжтой заналхийлэл, шантааж эсвэл дарамт шахалтын кампанит ажилГрок өөрөө хэдхэн секундын дотор өөрийн бүтээлийг дахин дахин өөрчлөх чадвараа харуулсан нь үүнийг ... хохирлын динамикийг бараг зогсоох боломжгүй юм хэрэв хүчтэй урьдчилан сэргийлэх шийдлүүдийг хэрэгжүүлээгүй бол.

Цаашилбал, X шиг асар том сүлжээнд "бикини тоглоом"-ыг хэвийн болгох нь гэсэн санааг энгийн болгоход хувь нэмэр оруулдаг. Хиймэл оюун ухаанаар хэн нэгнийг тайлахыг хүсэх нь зүгээр л тоглоом шүү дээГэсэн хэдий ч нөлөөлөлд өртсөн зураг нь бодит хүнтэй тохирч байвал тоглоом болон түрэмгийллийн хоорондох зааг бүрмөсөн бүдгэрдэг, ялангуяа насанд хүрээгүй хүүхдүүд оролцсон эсвэл зургуудыг контекстээс гадуур дахин ашигласан тохиолдолд.

Энэ хувилбар нь гэгддэг зүйлийн хувьслыг санагдуулж байна гүн нүцгэнүүд —зураг дээрх хүмүүсийг “тайлах” хэрэгслүүд—эхэндээ зах зээлийн төслүүдээс эхэлсэн бөгөөд эцэст нь гол платформуудад нэгтгэгдсэн. Grok-ийн хувьд ялгаа нь үүнд багтдагт оршино хэдэн зуун сая хэрэглэгчтэй сүлжээний албан ёсны хиймэл оюун ухаан, энэ нь асуудлын болзошгүй цар хүрээг хэд дахин нэмэгдүүлдэг.

Испани болон Европ дахь хууль эрх зүйн хүрээ болон зохицуулалтын дайралт

Нийгмийн мэтгэлцээн ширүүсэхийн хэрээр эрх баригчид арга хэмжээ авч эхэлж байна. ИспаниБикинитэй холбоотой маргаан институцийн хүрээнд хүрээд байна. Залуучууд ба хүүхдийн сайд, Сира Рего, Грок болон Х нарыг мөрдөн байцаалтад хамруулахыг хүссэн захидал Улсын Ерөнхий прокурорын газарт илгээжээ. Хүүхдийн эсрэг бэлгийн хүчирхийллийг дүрсэлсэн материалыг тараахтай холбоотой болзошгүй гэмт хэрэг.

Европын нөхцөлд, Брюссель X-ээс Гроктой холбоотой бүх баримт бичиг, бүртгэлийг хадгалахыг хүссэн ирээдүйн албан ёсны мөрдөн байцаалтын урьдчилсан байдлаар удаан хугацаагаар. Европын Комисс дижитал зохицуулалтыг зөрчсөн байж болзошгүй хэд хэдэн томоохон платформыг аль хэдийн тэмдэглэсэн гэж үзэж байна. Бэлгийн шинж чанартай гүн хуурамч зүйлсийг бүтээх, түгээх нь одоо тэдний анхаарлын төвд байна..

Бусад улс орнууд, тухайлбал Энэтхэг болон Их БританиТэд мөн Маскаас тайлбар хүссэн бөгөөд тэр ч байтугай ийм боломжийн талаар цухуйлгасан байна X руу хандах эрхийг хязгаарлах эсвэл хаах Энэ төрлийн контентыг үүсгэхээс урьдчилан сэргийлэхийн тулд илүү хатуу хяналтыг нэвтрүүлэхгүй бол Бикинигэйтийн дуулиан нь засгийн газрууд болон олон нийтийн мэдээллийн хэрэгслийн платформуудын хооронд хиймэл оюун ухааны хортой контент бүтээх үүргийн талаарх хурцадмал байдлын жагсаалтад нэгдэх болно.

Хэдийгээр дүрэм журам улс орон бүрт харилцан адилгүй байдаг ч олон улс оронд эрүүгийн хэрэг үүсгэхийг зөвшөөрдөг хууль эрх зүйн орчин аль хэдийн бий болсон байдаг. зөвшилцөөгүй сексийн гүнзгий хуурамч мэдээлэлМексик зэрэг зарим улс орнууд тодорхой дүрэм журмыг баталсан байдаг, тухайлбал, сайн мэдэх Олимпиа хууль— хиймэл оюун ухаанаар бүтээгдсэн зургийг оролцуулан бэлгийн чиг баримжаатай зургийг зөвшөөрөлгүй тараахыг шийтгэдэг. Дэлхийн чиг хандлага нь Хүүхдийн порнографын тухай ойлголтын өргөжилт мөн насанд хүрээгүй, бодит эсвэл зохиомол дүр төрхийг хангалттай хэмжээний бодитойгоор дүрсэлсэн тохиолдолд зохиомлоор бүтээсэн материалыг оруулах.

Европт шинээр гарч ирж буй Хиймэл оюун ухааны дүрэм журам Дижитал үйлчилгээний хууль нь Том Технологийн компаниудад дарамт учруулж байна нягтлан шалгах үүрэг хариуцлага нийлүүлэлтийн сүлжээний туршид: загварыг боловсруулж буй хүмүүсээс эхлээд түүнийг нэгтгэсэн платформууд болон хууль бус контентыг түгээхэд ашигладаг хэрэглэгчид хүртэл.

Гүн хууралт, хариуцлага, хатуу зохицуулалтын уриалга

Грокийн талаарх тодорхой мөрдөн байцаалтаас гадна бикинигийн хэрэг нь хэрхэн хийх талаарх мэтгэлцээнд парадигматик жишээ болсон. гүн хуурамч зүйлстэй тэмцэхСүүлийн саруудад хиймэл оюун ухаан, онлайн аюулгүй байдал, дижитал ёс зүй, олон нийтийн бодлогын чиглэлээр олон зуун мэргэжилтэн засгийн газруудыг арга хэмжээ авахыг уриалсан нээлттэй захидалд гарын үсэг зурсан. яаралтай бөгөөд заавал биелүүлэх ёстой эдгээр технологийн тархалтын эсрэг.

Хамгийн олон удаа давтагддаг саналуудын нэг бол Хиймэл оюун ухаанаар үүсгэгдсэн хүүхдийн порнографыг бүрэн хориглох, зохиомол насанд хүрээгүй хүмүүсийг дүрсэлсэн ч гэсэн, мөн санаатайгаар бүтээж, түгээх ажлыг хөнгөвчилсөн хүмүүст эрүүгийн хариуцлага ногдуулдаг. хортой эсвэл худал контентМөн програм хангамж хөгжүүлэгчид болон дистрибьютерүүд дараах үүргийг хүлээхийг хүсч байна гүн хуурамч зүйлс үүсэхээс идэвхтэй урьдчилан сэргийлэх асуудал аль хэдийн үүссэн үед зүгээр л хариу үйлдэл үзүүлэхийн оронд бэлгийн харьцаанд орсон.

Энэ тохиолдолд томоохон технологийн компаниуд, түүний дотор xAI, OpenAI, Google эсвэл Microsoft— гол тоглогчид гэж үздэг. Хэд хэдэн шинжээчид тэднийг байх ёстой гэж үздэг аюулгүй байдлын механизмыг нь амархан тойрч гаргавал хариуцлага хүлээх болноялангуяа бүтээгдэхүүний дизайн болон түүний арилжааны урамшуулал нь өрсөлдөгчдөөсөө ялгарах илүү "зөвшөөрөгдсөн" загваруудыг илүүд үздэг үед.

Дэлхийн олон оронд зөвшөөрөлгүйгээр deepfake үүсгэх, түгээх нь аль хэдийн гэмт хэрэг болсон ч мэргэжилтнүүд үүнийг анхааруулж байна Одоогийн стандартууд нь ихэвчлэн технологиос хоцрогддогХолбогдох хууль тогтоомжууд хэрэгжиж байгаа ч хариуцлагатай хүмүүсийг тогтоох, дижитал нотлох баримт цуглуулах, олон улсын хамтын ажиллагаа зэрэг нь нэлээд бэрхшээлтэй хэвээр байна.

Энэ нөхцөлд бикини грок нь бараг л практик тохиолдлын судалгаа болж үйлчилдэг: Энэ нь сул дизайн, сүлжээний онолын байдал, үр дүнтэй хяналтын дутагдал зэрэг нь хиймэл оюун ухааныг бэлгийн зорилгоор хэрхэн их хэмжээгээр ашиглахад хүргэж болохыг харуулж байна., хохирогчид өөрсдийгөө урьдчилан харах эсвэл хамгаалах ямар ч чадваргүй.

Хэрэглэгчид Grok-оос нууцлалаа хамгаалахын тулд юу хийж чадах вэ?

Эдгээр зүй бус үйлдлийг таслан зогсоох эцсийн хариуцлага нь компаниуд болон зохицуулагч байгууллагуудад ногдох ёстой ч өнөөдрийн байдлаар олон шинжээчид ... гэдэгтэй санал нийлж байна. Ихэнх ачаалал нь хэрэглэгчид өөрсдөө үүрдэг.Grok-ийн тодорхой тохиолдолд платформ нь дараах боломжийг олгодог зарим тохиргоог санал болгодог бидний өгөгдөл болон контентын хэрэглээг хязгаарлах хиймэл оюун ухаанаар.

X дээр та хувийн профайлаа оруулаад, хэсэгт шилжиж эдгээр сонголтуудад хандах боломжтой "Нууцлал ба аюулгүй байдал"Энэ цэсэнд зориулагдсан тусгай хэсэг байна “Грок болон гадны хамтрагчид”Тэндээс та хиймэл оюун ухаанд системийн сургалт, сайжруулалтад зориулж Grok болон xAI-ээр үүсгэгдсэн олон нийтийн өгөгдөл, харилцан үйлчлэл, үр дүнг ашиглах боломжийг олгодог функцуудыг идэвхгүй болгож болно.

Энэ төрлийн тохиргоо нь загварт байгаа мэдээллийн хэмжээг багасгахад тусалдаг боловч эрсдэлийг бүрэн арилгадаггүй. бусад хүмүүс зураг байршуулж, засварладаг бид тэнд гарч ирдэг. Энэ хэмжээс дотор цорын ганц жинхэнэ хамгаалалт нь нэгдэхээс л гардаг Үр дүнтэй техникийн арга хэмжээ, бат бөх хууль эрх зүйн хүрээ, хурдан хариу арга хэмжээ зүй бус үйлдэл илэрсэн үед платформуудын талаар.

Дижитал аюулгүй байдлын мэргэжилтнүүд мөн бидний зургууд гүн хуурамч хэлбэрээр тархаж болзошгүй гэсэн аливаа шинж тэмдэгт сонор сэрэмжтэй байхыг зөвлөж байна. Гэмт хэргийн шинж тэмдэг илэрсэн үед нийгмийн сүлжээгээр идэвхжүүлсэн мэдээлэх сувгуудыг ашиглах, мөн хууль эрх зүйн зөвлөгөө авахялангуяа насанд хүрээгүй хүмүүстэй холбоотой хэрэгт.

Эдгээр бие даасан арга хэмжээний аль нь ч технологийн компаниудын хүчтэй зохицуулалт эсвэл жинхэнэ үүрэг амлалтыг орлож чадахгүй ч гэсэн, Тийм ээ, тэд хор хөнөөлтэй контентын тархалтыг зогсоох, зүй бус хэрэглээг баримтжуулахад өөрчлөлт оруулж чадна, ингэснээр тэд шийтгэлгүй үлдэхгүй..

Бикини грокийн хэрэг нь генератив хиймэл оюун ухаан болон олон нийтийн мэдээллийн хэрэгслийн хослол нь одоогийн хамгаалалтын хүрээг хэр зэрэг дарж болохыг тод харуулсан. Мем, jailbreak болон "инээдтэй" засваруудын хооронд ... тодорхой болсон. Хор хөнөөлгүй туршилт болон эрхийг ноцтой зөрчсөн хоёрын хоорондох зааг нь харагдаж байснаас хамаагүй нимгэн байна.Технологийн шинэчлэл нь хүмүүсийн хувийн нууц, нэр төрийг хязгааргүйгээр давамгайлахгүйн тулд компаниуд болон эрх баригчид хоёулаа хурдасгах шаардлагатай болно.