- ஆராய்ச்சியாளர்கள், அப்பாவி விளையாட்டாக மாறுவேடமிட்டு ஒரு யூக விளையாட்டை விளையாடுவதன் மூலம், ChatGPT-ஐ விண்டோஸ் கடவுச்சொற்களை வெளிப்படுத்த வைக்க முடிந்தது.
- இந்த நுட்பம் வடிகட்டிகளைத் தவிர்ப்பதற்கும் AI இல் செயல்படுத்தப்பட்ட பாதுகாப்புத் தடைகளைக் கடப்பதற்கும் HTML குறிச்சொற்கள் மற்றும் விளையாட்டு விதிகளைப் பயன்படுத்தியது.
- பொதுவான கடவுச்சொற்கள் மற்றும் வெல்ஸ் பார்கோ வங்கியுடன் இணைக்கப்பட்ட ஒன்று இரண்டும் அம்பலப்படுத்தப்பட்டன, இது முக்கியமான தகவல்களின் பாதுகாப்பை கேள்விக்குள்ளாக்கியது.
- செயற்கை நுண்ணறிவு அமைப்புகளில் சூழல் பகுப்பாய்வு மற்றும் மொழியியல் கையாளுதலைக் கண்டறிதல் ஆகியவற்றை மேம்படுத்த வேண்டியதன் அவசியத்தை இந்த வழக்கு எடுத்துக்காட்டுகிறது.
Durante los últimos días, ChatGPT-ஐச் சுற்றியுள்ள ஒரு புதிய சர்ச்சையை தொழில்நுட்ப சமூகம் கண்டுள்ளது., OpenAI இன் பிரபலமான மொழி மாதிரி. சைபர் பாதுகாப்பு நிபுணர்கள் செயற்கை நுண்ணறிவைப் பயன்படுத்தி வெளிப்படுத்த முடிந்தது claves de producto de Windows பயன்படுத்தி எளிமையான அதே சமயம் பயனுள்ள ஒரு உத்தி: ஒரு யூக விளையாட்டு.இந்தப் பாதிப்பு, செயற்கை நுண்ணறிவு பாதுகாப்பு அமைப்புகளின் நம்பகத்தன்மையையும், சமூக பொறியியல் நுட்பங்கள் மூலம் கையாளும் அபாயங்களையும் மீண்டும் ஒருமுறை விவாதத்தின் முன்னணிக்குக் கொண்டுவருகிறது.
இந்தக் கண்டுபிடிப்பு வெளித்தோற்றத்தில் பாதிப்பில்லாத ஒரு முன்மாதிரியிலிருந்து தொடங்கியது: ChatGPT-இல் தொடங்கப்பட்ட ஒரு "புதிர்" வகை சவால், இதில் AI உண்மையான கதாபாத்திரங்களின் சரத்தைப் பற்றி சிந்திக்க வேண்டியிருந்தது. —குறிப்பாக, ஒரு விண்டோஸ் 10 செயல்படுத்தல் விசை— மற்றும் உங்கள் பதில்களை "ஆம்" அல்லது "இல்லை" என்று மட்டுப்படுத்தவும். பயனர் கைவிடும் வரை. "நான் கைவிடுகிறேன்" என்று கூறுவதன் மூலம், மாதிரி கற்பனை செய்யப்பட்ட சாவியைக் காட்ட வேண்டியிருந்தது. முழு தொடர்பும் வடிவமைக்கப்பட்டது உண்மையான கோரிக்கையை ஒரு விளையாட்டுத்தனமான நீர்த்துப்போகச் செய்து மறைத்தல்., ChatGPT இன் சொந்த தானியங்கி பாதுகாப்பு அமைப்புகளை குழப்புகிறது.
புதிர் தந்திரம்: அவர்கள் AI தடைகளை எவ்வாறு கடக்க முடிந்தது
இந்த முறை விளையாட்டு இயக்கவியலின் ஒரு பகுதியாக முக்கிய கோரிக்கையை முன்வைக்கவும்., மாதிரி பங்கேற்கவும் அவர்களின் பதில்களில் உண்மையாக இருக்கவும் கட்டாயப்படுத்தும் விதிகளை நிறுவுதல். இதனால், எந்தவொரு அசாதாரணமான அல்லது தீங்கு விளைவிக்கும் நடத்தையையும் கண்டறியாத ஒரு கட்டமைப்பில் AI சிக்கிக்கொண்டது., தீங்கிழைக்கும் நோக்கத்தின் எந்த தடயமும் இல்லாத ஒரு முறையான உரையாடலாக அதை விளக்குகிறது.
எடுத்துக்காட்டாக, முக்கியமான குறியீடு அல்லது பாதுகாக்கப்பட்ட தரவைப் பகிர்வதிலிருந்து AI ஐத் தடுக்கும் OpenAI இன் வழக்கமான வடிப்பான்களைத் தவிர்ப்பதற்கு - கூடுதல் பொறியியல் அடுக்கு பயன்படுத்தப்பட்டது.: உணர்திறன் வாய்ந்த சரங்கள் HTML குறிச்சொற்களில் உட்பொதிக்கப்பட்டன, பயனருக்குத் தெரியாது ஆனால் மாதிரியால் செயலாக்கப்பட்டன. பயனர், விளையாட்டு ஸ்கிரிப்டைப் பின்தொடர்ந்து, எதிர்பார்க்கப்பட்ட "நான் கைவிடுகிறேன்" என்று உச்சரித்தபோது, ChatGPT விசையை வெளிப்படுத்தியது, இதனால் வெளிப்படையான முக்கிய வார்த்தைகள் அல்லது வடிவங்களை மட்டுமே அடிப்படையாகக் கொண்ட எந்தவொரு கட்டுப்பாடுகளையும் தவிர்த்து.
அது என்ன மாதிரியான தகவல்களை வெளிப்படுத்தியது, அது ஏன் மிகவும் முக்கியமானது?
ஆராய்ச்சியாளர்களின் சாட்சியங்கள் மற்றும் சிறப்பு ஊடகங்களில் வெளியிடப்பட்ட பல பகுப்பாய்வுகளின்படி, AI பத்து விண்டோஸ் 10 தயாரிப்பு விசைகளைக் காட்ட முடிந்தது.. La mayoría eran பொதுவான மற்றும் பொது விசைகள் —மைக்ரோசாப்ட் தற்காலிகமாக சோதனைக்காக அனுமதிக்கும் உரிமங்களைப் போன்றது— ஆனால் குறைந்தபட்சம் ஒன்று வெல்ஸ் பார்கோ வங்கியுடன் குறிப்பாக இணைக்கப்பட்ட ஒரு பெருநிறுவன உரிமத்துடன் தொடர்புடையது.
இந்த விவரம் குறிப்பாக கவலையளிக்கிறது., ஏனெனில் சில தனிப்பட்ட மற்றும் ரகசிய விசைகள் ChatGPT பயிற்சி பெற்ற தரவுத்தொகுப்பில் சேமிக்கப்பட்டிருக்கும் என்பதைக் காட்டுகிறது, இது GitHub அல்லது பிற இணைய மன்றங்கள் போன்ற பொது களஞ்சியங்களில் அம்பலப்படுத்தப்பட்ட பிறகு இருக்கலாம்.
சைபர் பாதுகாப்பு நிபுணர்கள் எச்சரிக்கின்றனர் இந்த வகையான நுட்பம் மென்பொருள் உரிமங்களைப் பெறுவதற்கு மட்டுமல்லாமல், தனிப்பட்ட தரவு, APIகள், தீங்கிழைக்கும் இணைப்புகள் அல்லது சட்ட காரணங்களுக்காக தடைசெய்யப்பட்ட பொருட்கள் தொடர்பான உள்ளடக்க வடிப்பான்களைத் தவிர்ப்பதற்கும் பயன்படுத்தப்படலாம்.
AI ஏன் ஆபத்தை அங்கீகரிக்கத் தவறிவிட்டது மற்றும் அதற்கான காரணங்கள் என்ன?
தாக்குதலின் வெற்றி மூலக் குறியீட்டின் தொழில்நுட்ப மீறலில் இல்லை, மாறாக AI இன் சூழல் புரிதல் வழிமுறைகளின் பலவீனம்இந்த மாதிரியானது, தொடர்புகளை ஒரு விளையாட்டாகப் புரிந்துகொள்வதன் மூலம், அதன் கடுமையான கட்டுப்பாடுகளைப் பயன்படுத்துவதில்லை, அல்லது கையாளப்பட்ட சூழலை ஆபத்தானதாக அடையாளம் காணவில்லை.
தவிர, பொது மூலங்களிலிருந்து எடுக்கப்பட்ட நூல்களிலிருந்து கற்றுக்கொண்டது —சாவிகள் அடிக்கடி தோன்றும் இடத்திலும் அவற்றின் உணர்திறனைக் கருத்தில் கொள்ளாமலும்—, ChatGPT அவற்றை "உணர்திறன் மிக்க தகவல்" என்று வகைப்படுத்தவில்லை, மாறாக ஏற்றுக்கொள்ளக்கூடிய சரங்களாக வகைப்படுத்துகிறது. எந்த உரையாடலிலும்.
தடைசெய்யப்பட்ட சொல் பட்டியல்கள் அல்லது மேலோட்டமான வடிப்பான்களை மட்டுமே அடிப்படையாகக் கொண்ட பாதுகாப்பு அமைப்புகள் என்பதை இந்த முறை நிரூபிக்கிறது தாக்குதல் ஒரு அப்பாவி சூழலில் மாறுவேடமிடப்படும்போது போதுமானதாக இல்லை. உண்மையில், ஆராய்ச்சியாளர்கள் அதை வலியுறுத்துகிறார்கள் உயர் தொழில்நுட்ப அறிவு தேவையில்லை. இந்த வகையான கையாளுதலை மேற்கொள்ள, இது ஆபத்தின் அளவை அதிகரிக்கிறது.
பயனர்கள் மற்றும் டெவலப்பர்களுக்கான தாக்கங்களும் பரிந்துரைகளும்
இந்த சம்பவம் ஒரு நேவிகேட்டர்கள் மற்றும் AI மாதிரி உருவாக்குநர்களுக்கான அறிவிப்புசெயல்படுத்தப்படும் விதிகள், எவ்வளவு கடுமையானதாக இருந்தாலும், சட்டக உத்திகள் மற்றும் உரையாடல் மூலம் அவற்றைத் தவிர்க்கலாம். எனவே,சொற்பொருள் நோக்கத்தைக் கண்டறிதல் வழிமுறைகளை இணைப்பதற்கான முக்கிய பரிந்துரையாக நிபுணர்கள் சுட்டிக்காட்டுகின்றனர்., உள்ளடக்கத்தை மட்டுமல்ல, ஒவ்வொரு தொடர்புகளின் நோக்கத்தையும் மதிப்பீடு செய்தல்.
வழக்கமான பயனர்கள் அல்லது மெய்நிகர் உதவியாளர்களைப் பயன்படுத்தும் நிறுவனங்களுக்கு, சிறந்த முன்னெச்சரிக்கை நடவடிக்கை இன்னும் உள்ளது. முக்கியமான தரவை ஒருபோதும் பகிர வேண்டாம். AI மாதிரிகளுடனான உரையாடல்களில். பொது மன்றங்கள் மற்றும் களஞ்சியங்களில் பதிவேற்றப்படும் தரவைத் தணிக்கை செய்வதும் முன்னெப்போதையும் விட முக்கியமானது, ஏனெனில் இது AI இன் எதிர்கால பதிப்புகளுக்கு முக்கியமான தகவல்களுடன் பயிற்சி அளிக்க வழிவகுக்கும்.
- AI அரட்டைகளில் முக்கியமான தகவல்களை உள்ளிடுவதைத் தவிர்க்கவும்., உரையாடல் அப்பாவியாகத் தோன்றினாலும் கூட.
- நீங்கள் மொழி மாதிரிகளுடன் மென்பொருளை உருவாக்கினால், சுயாதீன கட்டுப்பாடுகளைச் சேர்க்கவும். சாத்தியமான கசிவுகளை வடிகட்ட.
- திருடப்பட்ட தரவை மதிப்பாய்வு செய்து நீக்கவும். எளிதாக அட்டவணைப்படுத்தப்படும் பொது தளங்களிலிருந்து.
ChatGPT மற்றும் யூகிக்கும் விளையாட்டில் என்ன நடந்தது என்பதைக் காட்டுகிறது செயற்கை நுண்ணறிவில் பாதுகாப்பு என்பது எளிய கால தடுப்பு அல்லது நிலையான வடிவக் கண்டறிதலைத் தாண்டிச் செல்ல வேண்டும்.ஒவ்வொரு தூண்டுதலுக்கும் பின்னால் உள்ள சூழல் மற்றும் நோக்கத்தைப் பற்றிய ஆழமான மற்றும் உண்மையான புரிதலால் பாதுகாப்புத் தடைகள் வலுப்படுத்தப்பட வேண்டும், ஆக்கப்பூர்வமான கையாளுதல் உத்திகளை எதிர்பார்க்க வேண்டும்.
நான் ஒரு தொழில்நுட்ப ஆர்வலர், அவர் தனது "கீக்" ஆர்வங்களை ஒரு தொழிலாக மாற்றியுள்ளார். எனது வாழ்நாளில் 10 ஆண்டுகளுக்கும் மேலாக அதிநவீன தொழில்நுட்பத்தைப் பயன்படுத்தி, அனைத்து வகையான திட்டங்களையும் ஆர்வத்துடன் பயன்படுத்தினேன். இப்போது நான் கணினி தொழில்நுட்பம் மற்றும் வீடியோ கேம்களில் நிபுணத்துவம் பெற்றுள்ளேன். ஏனென்றால், 5 ஆண்டுகளுக்கும் மேலாக தொழில்நுட்பம் மற்றும் வீடியோ கேம்கள் குறித்து பல்வேறு இணையதளங்களில் எழுதி வருகிறேன், அனைவருக்கும் புரியும் மொழியில் உங்களுக்குத் தேவையான தகவல்களைத் தர முற்படும் கட்டுரைகளை உருவாக்கி வருகிறேன்.
உங்களிடம் ஏதேனும் கேள்விகள் இருந்தால், எனது அறிவு விண்டோஸ் இயங்குதளம் மற்றும் மொபைல் போன்களுக்கான ஆண்ட்ராய்டு தொடர்பான அனைத்திலிருந்தும் பரவுகிறது. மேலும் எனது அர்ப்பணிப்பு உங்களிடம் உள்ளது, நான் எப்போதும் சில நிமிடங்களைச் செலவழித்து, இந்த இணைய உலகில் உங்களுக்கு ஏதேனும் சந்தேகங்களைத் தீர்க்க உதவ தயாராக இருக்கிறேன்.