ഒരു ദാരുണമായ കേസും നിരവധി ചോദ്യങ്ങളും: ഒരു ആത്മഹത്യാ കേസിൽ ChatGPT ഒരു കേസ് നേരിടുന്നു.

കാലിഫോർണിയയിലെ ഒരു ദമ്പതികൾ ഒരു കേസ് ഫയൽ ചെയ്തു ഓപ്പൺഎഐക്കെതിരെ അതിന്റെ എക്സിക്യൂട്ടീവ് ഡയറക്ടർ സാം ആൾട്ട്മാൻ, പരിഗണിക്കുമ്പോൾ തന്റെ കൗമാരക്കാരനായ മകന്റെ മരണത്തിൽ ചാറ്റ്ജിപിടി നിർണായക പങ്ക് വഹിച്ചു.പ്രായപൂർത്തിയാകാത്തവർക്ക് വൈകാരിക കൂട്ടാളികളായി ചാറ്റ്ബോട്ടുകൾ ഉപയോഗിക്കുന്നതിനെക്കുറിച്ച് ഈ കേസ് ആശങ്കാജനകമായ സൂചനകൾ നൽകിയിട്ടുണ്ട്, കൂടാതെ സുരക്ഷ, ധാർമ്മികത, കോർപ്പറേറ്റ് ഉത്തരവാദിത്തം എന്നിവ ഇടകലർന്ന ഒരു സംവാദം വീണ്ടും സജീവമാക്കി..

പരാതി പ്രകാരം, യുവാവ് മാസങ്ങളോളം സംഭാഷണങ്ങൾ നടത്തി, അതിൽ സ്വയം ഉപദ്രവിക്കുന്ന ചിന്തകളെ ഈ സിസ്റ്റം സാധൂകരിക്കുകയും സുരക്ഷിതമായ അന്തരീക്ഷത്തിന് അനുയോജ്യമല്ലാത്ത പ്രതികരണങ്ങൾ നൽകുകയും ചെയ്യുമായിരുന്നു.. OpenAI, അതിന്റെ ഭാഗത്തുനിന്ന്, ദുരന്തത്തിൽ ഖേദം പ്രകടിപ്പിക്കുകയും ഉൽപ്പന്നത്തിൽ സംരക്ഷണ തടസ്സങ്ങൾ ഉൾപ്പെടുന്നുവെന്ന് വാദിക്കുകയും ചെയ്യുന്നു, അതേസമയം തന്നെ നീണ്ട സംഭാഷണങ്ങളിൽ അതിന്റെ ഫലപ്രാപ്തി കുറയുന്നു. മെച്ചപ്പെടുത്തലിന് ഇടമുണ്ടെന്നും.

കേസും പ്രധാന വസ്തുതകളും

മാറ്റും മരിയ റെയ്‌നും അവർ കാലിഫോർണിയയിലെ ഒരു കോടതിയിൽ നിയമനടപടി ഫയൽ ചെയ്തു. 16 അവസാനത്തിനും 2024 ഏപ്രിലിനും ഇടയിൽ അദ്ദേഹത്തിന്റെ മകൻ ആദം (2025 വയസ്സ്) ChatGPT-യുമായി കൈമാറിയ ആയിരക്കണക്കിന് സന്ദേശങ്ങൾ പരിശോധിച്ച ശേഷം. കേസിൽ, ഗൃഹപാഠത്തിൽ സഹായിക്കുന്നതിൽ നിന്ന് ചാറ്റ്ബോട്ട് ഒരു "സൂയിസൈഡ് കോച്ച്" ആയി മാറിയെന്ന് മാതാപിതാക്കൾ പറയുന്നു.സ്വയം നശിപ്പിക്കുന്ന ആശയങ്ങൾ സാധാരണവൽക്കരിക്കുന്നതിലേക്ക് പോലും പോകുകയും, ഒരു വിടവാങ്ങൽ കുറിപ്പ് എഴുതാൻ വാഗ്ദാനം ചെയ്യുകയും ചെയ്തു.

പരാതിയിൽ സിസ്റ്റം ഇനിപ്പറയുന്നതുപോലുള്ള പദപ്രയോഗങ്ങൾ ഉപയോഗിച്ച് പ്രതികരിക്കുമായിരുന്ന ഭാഗങ്ങൾ ഉദ്ധരിക്കുന്നു: "നിങ്ങളുടെ അതിജീവനത്തിന് നിങ്ങൾ ആരോടും കടപ്പെട്ടിട്ടില്ല.", കുടുംബത്തിന്റെ അഭിപ്രായത്തിൽ, അപകടകരമായ പദ്ധതികളെ പിന്തുണയ്ക്കാമായിരുന്നു എന്ന അഭിപ്രായങ്ങൾക്ക് പുറമേ. വ്യക്തമായ അപകടസാധ്യതയുടെ സൂചനകൾ ഉണ്ടായിരുന്നിട്ടും, മാതാപിതാക്കൾ വാദിക്കുന്നത്, ഉപകരണം സംഭാഷണത്തെ തടസ്സപ്പെടുത്തുകയോ അടിയന്തര പ്രോട്ടോക്കോളുകൾ സജീവമാക്കുകയോ ചെയ്തില്ല..

ഒരു ഓപ്പൺഎഐ വക്താവ് അനുശോചനം രേഖപ്പെടുത്തി, കമ്പനി പറഞ്ഞു രേഖകൾ പരിശോധിക്കുന്നു വെളിപ്പെടുത്തിയ ഭാഗങ്ങൾ ഓരോ കൈമാറ്റത്തിന്റെയും പൂർണ്ണ സന്ദർഭത്തെ പ്രതിഫലിപ്പിക്കുന്നില്ലെന്ന് വ്യക്തമാക്കിക്കൊണ്ട് മാധ്യമങ്ങൾക്ക് അറിയാം. ChatGPT ഇതിനകം തന്നെ നിർദ്ദേശം നൽകുന്നുണ്ടെന്ന് സ്ഥാപനം ഊന്നിപ്പറയുന്നു സഹായ ലൈനുകൾ പ്രതിസന്ധി ഘട്ടങ്ങളിൽ പ്രൊഫഷണൽ സഹായം തേടാൻ ശുപാർശ ചെയ്യുന്നു.

ഈ കേസ് മാധ്യമങ്ങളിലും ശിശു സംരക്ഷണ സംഘടനകളിലും വ്യാപകമായി റിപ്പോർട്ട് ചെയ്യപ്പെട്ടിട്ടുണ്ട്, അവർ ചോദിക്കുന്നത് സുരക്ഷാ സംവിധാനങ്ങൾ ശക്തിപ്പെടുത്തുക സുഗമമാക്കുകയും ചെയ്യുന്നു അനുചിതമായ ഉള്ളടക്കം റിപ്പോർട്ട് ചെയ്യുക മേൽനോട്ടമില്ലാത്ത കൗമാരക്കാർ ചാറ്റ്ബോട്ടുകളുടെ ഉപയോഗം പരിമിതപ്പെടുത്തുന്നതും. ഈ ചർച്ച ഒരു സമയത്താണ് വരുന്നത് AI യുടെ കൂട്ട സ്വീകാര്യത ദൈനംദിന ജീവിതത്തിൽ, സൂക്ഷ്മമായ വൈകാരിക പ്രശ്നങ്ങൾക്കും.

പൊതുജനാരോഗ്യ അറിയിപ്പ്: നിങ്ങൾക്ക് ഒരു പ്രതിസന്ധി അനുഭവപ്പെടുകയോ ആരുടെയെങ്കിലും സുരക്ഷയെക്കുറിച്ചുള്ള ഭയം അനുഭവപ്പെടുകയോ ചെയ്താൽ, ഉടനടി പ്രൊഫഷണൽ സഹായം തേടുക. സ്പെയിനിൽ, 112 അല്ലെങ്കിൽ 024 എന്ന നമ്പറിൽ വിളിക്കുക. മറ്റ് രാജ്യങ്ങളിൽ, പ്രാദേശിക വിഭവങ്ങളുമായി കൂടിയാലോചിക്കുകയും ആത്മഹത്യാ പ്രതിരോധ ലൈനുകൾ.

OpenAI-യുടെ നിലപാടും പ്രഖ്യാപിച്ച മാറ്റങ്ങളും

ആവശ്യാനുസരണം, ഓപ്പൺഎഐ ഒരു ബ്ലോഗ് പോസ്റ്റ് പ്രസിദ്ധീകരിച്ചു, അത് അംഗീകരിച്ചുകൊണ്ട്, ChatGPT സംരക്ഷണ നടപടികൾ ഉൾപ്പെടുത്തിയിട്ടുണ്ടെങ്കിലും, നീണ്ട സംഭാഷണങ്ങളിൽ തരംതാഴ്ത്താൻ കഴിയും അല്ലെങ്കിൽ കാലക്രമേണ ദീർഘിപ്പിച്ചു. സിസ്റ്റത്തിന്റെ സ്വഭാവം നന്നായി തിരിച്ചറിയുന്നതിനായി ക്രമീകരിക്കുകയാണെന്ന് കമ്പനി പറയുന്നു. ദുരിതത്തിന്റെ ലക്ഷണങ്ങൾ സൂക്ഷ്മമായ രീതിയിൽ പ്രകടിപ്പിക്കുകയും അത് സുരക്ഷാ പ്രതികരണങ്ങളെ ശക്തിപ്പെടുത്തുകയും ചെയ്യും.

കമ്പനി പുതിയ സവിശേഷതകൾ വികസിപ്പിക്കുന്നു, ഉദാഹരണത്തിന് രക്ഷാകർതൃ നിയന്ത്രണങ്ങൾ പ്രായപൂർത്തിയാകാത്തവർ സേവനം ഉപയോഗിക്കുന്നത് മേൽനോട്ടം വഹിക്കാൻ രക്ഷിതാക്കൾക്ക് അനുവദിക്കുന്ന, അടിയന്തര ഉറവിടങ്ങൾ സ്വയം ഉപദ്രവിക്കൽ മാത്രമല്ല, അത്തരം കേസുകളും ഉൾക്കൊള്ളുന്നതിനായി ഫിൽട്ടറുകളുടെ വ്യാപ്തിയുടെ വിപുലീകരണം. വൈകാരിക ക്ലേശം ശ്രദ്ധേയമായത്.

ചിലപ്പോൾ സിസ്റ്റം തീവ്രത കുറച്ചുകാണുന്നു ചില ചോദ്യങ്ങളുടെയോ അവയുടെ സന്ദർഭത്തിന്റെയോ അടിസ്ഥാനത്തിൽ, വിപുലമായ സംഭാഷണങ്ങളിലും ഒന്നിലധികം സെഷനുകളിലും സുരക്ഷാ മുൻകരുതലുകളുടെ സ്ഥിരത നിലനിർത്താൻ കമ്പനി പ്രവർത്തിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കുന്നു. കമ്പനി ഫോർമുലകളും പര്യവേക്ഷണം ചെയ്യുന്നു ഉപയോക്താക്കളുമായി ബന്ധിപ്പിക്കുക ചാറ്റ്ബോട്ടിൽ നിന്നുള്ള അംഗീകൃത പ്രൊഫഷണലുകളുമായി പ്രതിസന്ധിയിലാണ്.

വർദ്ധിച്ചുവരുന്ന സൂക്ഷ്മപരിശോധനയ്ക്കിടെയാണ് ഈ നീക്കം. മാനസികാരോഗ്യത്തിൽ ചാറ്റ്ബോട്ടുകളുടെ അപകടസാധ്യതകൾപ്രത്യേകിച്ച് ദുർബലരായ ആളുകൾക്കിടയിൽ, ദോഷകരമായ ആശയങ്ങൾ വേരൂന്നുന്നതിനോ തെറ്റായ അടുപ്പബോധം സൃഷ്ടിക്കുന്നതിനോ ഈ സംവിധാനങ്ങൾക്ക് സാധ്യതയുണ്ടെന്ന് അധികാരികളും അഭിഭാഷക ഗ്രൂപ്പുകളും മുന്നറിയിപ്പ് നൽകിയിട്ടുണ്ട്.

സമീപ മാസങ്ങളിൽ, അമിതമായി സംതൃപ്തി നൽകുന്നതായി കരുതപ്പെട്ട മാറ്റങ്ങളെ OpenAI മാറ്റിമറിച്ചുവെന്നും, ഊഷ്മളതയും സുരക്ഷയും തമ്മിലുള്ള സന്തുലിതാവസ്ഥ വാഗ്ദാനം ചെയ്യുന്ന പുതിയ മോഡലുകളിൽ കമ്പനി പ്രവർത്തിക്കുന്നുണ്ടെന്നും വ്യവസായ വൃത്തങ്ങൾ ഓർമ്മിക്കുന്നു. സംഘർഷം ലഘൂകരിക്കുന്ന സാഹചര്യങ്ങളിൽ ശ്രദ്ധ കേന്ദ്രീകരിക്കുക അതിലോലമായ.

വിദഗ്ധരും പഠനങ്ങളും പറയുന്നത്

പ്രത്യേക കേസിനപ്പുറം, ഒരു പഠനം പ്രസിദ്ധീകരിച്ചത് മാനസിക സേവനങ്ങൾ അവർ എങ്ങനെ പ്രതികരിക്കുന്നുവെന്ന് വിശകലനം ചെയ്തു മൂന്ന് ജനപ്രിയ ചാറ്റ്ബോട്ടുകൾ —ChatGPT (OpenAI), ക്ലോഡ് (ആന്ത്രോപിക്), ജെമിനി (Google) — ആത്മഹത്യയുമായി ബന്ധപ്പെട്ട ചോദ്യങ്ങൾക്ക്. ChatGPT ഉം ക്ലോഡും പ്രവണത കാണിക്കുന്നതായി രചയിതാക്കൾ കണ്ടെത്തി ഉചിതമായി പ്രതികരിക്കുക കുറഞ്ഞ അപകടസാധ്യതയുള്ള ചോദ്യങ്ങളിൽ, ഉയർന്ന അപകടസാധ്യതയുള്ള ചോദ്യങ്ങൾക്ക് നേരിട്ടുള്ള വിവരങ്ങൾ നൽകുന്നത് ഒഴിവാക്കി, അതേസമയം ജെമിനി കൂടുതൽ വേരിയബിൾ പാറ്റേൺ കാണിച്ചു, പലപ്പോഴും മറുപടി പറയേണ്ടെന്ന് തീരുമാനിച്ചു ചോദ്യം അപകടകരമല്ലാത്തപ്പോൾ പോലും.

എന്നിരുന്നാലും, പ്രവൃത്തി കണ്ടെത്തി പൊരുത്തക്കേടുകൾ ഇടത്തരം അപകടസാധ്യതയുടെ കാര്യങ്ങളിൽ —ഉദാഹരണത്തിന്, സ്വയം ഉപദ്രവിക്കുന്ന ചിന്തകളുള്ള ഒരാൾക്ക് എന്ത് ഉപദേശമാണ് നൽകേണ്ടത്—, ശരിയായ ഉത്തരങ്ങൾ ഒഴിവാക്കലുകളുമായി മാറിമാറി നൽകുക. ഗവേഷകർ ശുപാർശ ചെയ്യുന്നു കൂടുതൽ പരിഷ്ക്കരണം ക്ലിനിക്കൽ വിദഗ്ധരുമായുള്ള അലൈൻമെന്റ് ടെക്നിക്കുകളിലൂടെയും സൂക്ഷ്മ കണ്ടെത്തലിലെ മെച്ചപ്പെടുത്തലുകളിലൂടെയും.

കോമൺ സെൻസ് മീഡിയ പോലുള്ള സംഘടനകൾ ആവശ്യപ്പെട്ടത് AI ഉപയോഗിക്കുമ്പോൾ ജാഗ്രത പാലിക്കുക കൗമാരക്കാരിലെ കമ്പനിസംഘടനയുടെ സമീപകാല റിപ്പോർട്ട് സൂചിപ്പിക്കുന്നത് യുഎസിലെ നാലിൽ മൂന്ന് യുവാക്കളും AI കമ്പാനിയനുകൾ പരീക്ഷിച്ചിട്ടുണ്ടെന്നാണ്. പകുതിയിലധികം പേരും പതിവ് ഉപയോക്താക്കളായിരിക്കും, ഇത് ശക്തമായ സുരക്ഷാ ചട്ടക്കൂടുകൾ ഉണ്ടായിരിക്കേണ്ടതിന്റെ അടിയന്തിരത വർദ്ധിപ്പിക്കുന്നു.

നിയമ മേഖലയിൽ, പ്രോസിക്യൂട്ടർമാരുടെയും റെഗുലേറ്റർമാരുടെയും ശ്രദ്ധ പ്രായപൂർത്തിയാകാത്തവരുടെ സംരക്ഷണം ചാറ്റ്ബോട്ടുകളിലെ അനുചിതമായ ഇടപെടലുകൾക്കെതിരെയും സോഷ്യൽ നെറ്റ്‌വർക്കുകളിൽ കേസുകൾ എങ്ങനെ റിപ്പോർട്ട് ചെയ്യാം. AI ബാധ്യത പോലുള്ള നിയന്ത്രണങ്ങളുമായി എങ്ങനെ യോജിക്കുന്നു എന്നതിനെക്കുറിച്ചുള്ള അനിശ്ചിതത്വം വകുപ്പ് 230 (യുഎസിലെ പ്ലാറ്റ്‌ഫോമുകൾക്കുള്ള നിയമപരമായ കവചം) കോടതികൾക്ക് സങ്കീർണ്ണമായ ഒരു മുന്നണി തുറക്കുന്നു.

പ്ലാറ്റ്‌ഫോമുകൾക്കെതിരായ നടപടികൾ പോലുള്ള സമാന്തര കേസുകൾ സംഭാഷണ കമ്പനി പ്രായപൂർത്തിയാകാത്തവർക്കായി, ഇപ്പോഴും തുടരുകയാണ്, കൂടാതെ രൂപകൽപ്പന, മുന്നറിയിപ്പ്, എന്നിവയുടെ വ്യാപ്തിയിൽ മാനദണ്ഡങ്ങൾ സ്ഥാപിക്കാനും കഴിയും. അപകടസാധ്യത കുറയ്ക്കൽ ജനറേറ്റീവ് സിസ്റ്റങ്ങളിൽ.

ആദം റെയ്‌നിന്റെ വിയോഗം ഓപ്പൺഎഐക്കെതിരായ കേസ് ഒരു വഴിത്തിരിവിനെ പ്രതീകപ്പെടുത്തുന്നു: AI-യുമായുള്ള സംഭാഷണങ്ങൾ പരീക്ഷണാത്മകതയിൽ നിന്ന് ദൈനംദിന ജീവിതത്തിലേക്ക് മാറിയിരിക്കുന്നു, വൈകാരിക മേഖലയിൽ അതിന്റെ പങ്കിന് കൂടുതൽ വ്യക്തമായ മാനദണ്ഡങ്ങൾ ആവശ്യമാണ്. കോടതികൾ ഉത്തരവാദിത്തങ്ങൾ നിർണ്ണയിക്കുമ്പോൾ, വിദഗ്ധരും കുടുംബങ്ങളും കമ്പനികളും ആവശ്യകതയെക്കുറിച്ച് യോജിക്കുന്നു സുരക്ഷാ സംവിധാനങ്ങൾ മെച്ചപ്പെടുത്തുക, ഫലപ്രദമായ രക്ഷാകർതൃ നിയന്ത്രണങ്ങൾ ഉറപ്പാക്കുകയും പ്രതിസന്ധിയിലായ ഒരു കൗമാരക്കാരൻ ചാറ്റ്ബോട്ടിലേക്ക് വരുമ്പോൾ, സിസ്റ്റം പ്രതികരിക്കുന്നുണ്ടെന്ന് ഉറപ്പാക്കുകയും ചെയ്യുക വിവേകം, പരസ്പര ധാരണ, സഹായത്തിനുള്ള യഥാർത്ഥ വഴികൾ.

അനുബന്ധ ലേഖനം:

ഓൺലൈൻ സുരക്ഷാ നിയമം എന്താണ്, ലോകത്തെവിടെ നിന്നും നിങ്ങളുടെ ഇന്റർനെറ്റ് ആക്‌സസിനെ ഇത് എങ്ങനെ ബാധിക്കുന്നു?

ആൽബർട്ടോ നവാരോ

അവൻ്റെ "ഗീക്ക്" താൽപ്പര്യങ്ങൾ ഒരു തൊഴിലാക്കി മാറ്റിയ ഒരു സാങ്കേതിക തത്പരനാണ് ഞാൻ. എൻ്റെ ജീവിതത്തിൻ്റെ 10 വർഷത്തിലേറെ ഞാൻ അത്യാധുനിക സാങ്കേതികവിദ്യ ഉപയോഗിച്ചും ശുദ്ധമായ ജിജ്ഞാസയിൽ നിന്ന് എല്ലാത്തരം പ്രോഗ്രാമുകളും ഉപയോഗിച്ച് ചെലവഴിച്ചു. ഇപ്പോൾ ഞാൻ കമ്പ്യൂട്ടർ സാങ്കേതികവിദ്യയിലും വീഡിയോ ഗെയിമുകളിലും സ്പെഷ്യലൈസ് ചെയ്തിട്ടുണ്ട്. കാരണം, 5 വർഷത്തിലേറെയായി ഞാൻ സാങ്കേതികവിദ്യയിലും വീഡിയോ ഗെയിമുകളിലും വിവിധ വെബ്‌സൈറ്റുകൾക്കായി എഴുതുന്നു, എല്ലാവർക്കും മനസ്സിലാകുന്ന ഭാഷയിൽ നിങ്ങൾക്കാവശ്യമായ വിവരങ്ങൾ നൽകാൻ ശ്രമിക്കുന്ന ലേഖനങ്ങൾ സൃഷ്ടിക്കുന്നു.

നിങ്ങൾക്ക് എന്തെങ്കിലും ചോദ്യങ്ങളുണ്ടെങ്കിൽ, എൻ്റെ അറിവ് വിൻഡോസ് ഓപ്പറേറ്റിംഗ് സിസ്റ്റവുമായി ബന്ധപ്പെട്ട എല്ലാത്തിലും മൊബൈൽ ഫോണുകൾക്കായുള്ള ആൻഡ്രോയിഡുമായി ബന്ധപ്പെട്ടിരിക്കുന്നു. എൻ്റെ പ്രതിബദ്ധത നിങ്ങളോടാണ്, ഈ ഇൻ്റർനെറ്റ് ലോകത്ത് നിങ്ങൾക്കുണ്ടായേക്കാവുന്ന ഏത് ചോദ്യങ്ങളും പരിഹരിക്കാൻ കുറച്ച് മിനിറ്റ് ചെലവഴിക്കാനും നിങ്ങളെ സഹായിക്കാനും ഞാൻ എപ്പോഴും തയ്യാറാണ്.