AI ഹാലൂസിനേഷനുകൾ എന്തൊക്കെയാണ്, അവ എങ്ങനെ കുറയ്ക്കാം?

സമീപ വർഷങ്ങളിൽ, കൃത്രിമബുദ്ധി, ഉൾപ്പെടെ ഏറ്റവും പുതിയ തലമുറ മോഡലുകൾ, സിദ്ധാന്തത്തിൽ നിന്ന് ദൈനംദിന ജീവിതത്തിലേക്ക് മാറി, അതോടൊപ്പം, ശാന്തമായി മനസ്സിലാക്കേണ്ട പ്രതിഭാസങ്ങൾ ഉയർന്നുവന്നിട്ടുണ്ട്. അവയിൽ, വിളിക്കപ്പെടുന്നവ AI ഭ്രമാത്മകതകൾജനറേറ്റീവ് മോഡലുകളിൽ വളരെ സാധാരണമായ, ആവർത്തിച്ചുള്ള സംഭാഷണമായി മാറിയിരിക്കുന്നു, കാരണം അവ ഒരു യാന്ത്രിക പ്രതികരണത്തെ നമുക്ക് എപ്പോൾ വിശ്വസിക്കാം - അല്ലെങ്കിൽ - വിശ്വസിക്കാൻ കഴിയില്ല എന്ന് നിർണ്ണയിക്കുന്നു.

ഒരു സിസ്റ്റം ബോധ്യപ്പെടുത്തുന്നതും എന്നാൽ കൃത്യമല്ലാത്തതും, കെട്ടിച്ചമച്ചതും, അല്ലെങ്കിൽ അടിസ്ഥാനരഹിതവുമായ ഉള്ളടക്കം സൃഷ്ടിക്കുമ്പോൾ, നമ്മൾ സംസാരിക്കുന്നത് ഭ്രമാത്മകതയെക്കുറിച്ചാണ്. ഈ ഫലങ്ങൾ വെറും തോന്നലുകളല്ല: അവ മോഡലുകൾ എങ്ങനെ പഠിക്കുകയും ഡീകോഡ് ചെയ്യുകയും ചെയ്യുന്നു, അവർ കണ്ട ഡാറ്റയുടെ ഗുണനിലവാരവും യഥാർത്ഥ ലോകത്തിലെ ലാൻഡിംഗ് അറിവിലുള്ള അവരുടെ സ്വന്തം പരിമിതികളും.

IA ഹാലുസിനേഷനുകൾ കൊണ്ട് നമ്മൾ എന്താണ് അർത്ഥമാക്കുന്നത്?

ജനറേറ്റീവ് AI മേഖലയിൽ, ഒരു ഹാലുസിനേഷൻ എന്നത് ഒരു ഔട്ട്‌പുട്ടാണ്, അത് ഉറച്ചതായി തോന്നുമെങ്കിലും, യഥാർത്ഥ ഡാറ്റ പിന്തുണയ്ക്കുന്നില്ല. അല്ലെങ്കിൽ സാധുവായ പരിശീലന പാറ്റേണുകളിൽ. ചിലപ്പോൾ മോഡൽ "വിടവുകൾ നികത്തുന്നു", മറ്റ് ചിലപ്പോൾ അത് മോശമായി ഡീകോഡ് ചെയ്യുന്നു, കൂടാതെ, പലപ്പോഴും, തിരിച്ചറിയാവുന്ന പാറ്റേണുകളൊന്നും പിന്തുടരാത്ത വിവരങ്ങൾ അത് ഉത്പാദിപ്പിക്കുന്നു.

ആ പദം ആലങ്കാരികമാണ്: യന്ത്രങ്ങൾ നമ്മളെപ്പോലെ "കാണുന്നില്ല", പക്ഷേ ചിത്രം യോജിക്കുന്നു. ഒരു വ്യക്തിക്ക് കാണാൻ കഴിയുന്നതുപോലെ മേഘങ്ങളിലെ രൂപങ്ങൾ, പ്രത്യേകിച്ച് പാറ്റേണുകൾ ഇല്ലാത്തിടത്ത് ഒരു മോഡലിന് പാറ്റേണുകൾ വ്യാഖ്യാനിക്കാൻ കഴിയും, പ്രത്യേകിച്ച് ഇമേജ് തിരിച്ചറിയൽ ജോലികൾ അല്ലെങ്കിൽ വളരെ സങ്കീർണ്ണമായ വാചകത്തിന്റെ ഉത്പാദനത്തിൽ.

മഹത്തായ ഭാഷാ മാതൃകകൾ (എൽഎൽഎം) വലിയ കോർപ്പറയിലെ ക്രമങ്ങൾ തിരിച്ചറിഞ്ഞ് അടുത്ത വാക്ക് പ്രവചിച്ചുകൊണ്ട് പഠിക്കുക. ഇത് ഒരു വളരെ ശക്തമായ ഓട്ടോകംപ്ലീറ്റ്, പക്ഷേ അത് ഇപ്പോഴും സ്വയംപൂർത്തിയാണ്: ഡാറ്റ ശബ്ദമയമോ അപൂർണ്ണമോ ആണെങ്കിൽ, അത് വിശ്വസനീയവും അതേസമയം തെറ്റായതുമായ ഔട്ട്‌പുട്ടുകൾ സൃഷ്ടിക്കാൻ കഴിയും.

കൂടാതെ, ഈ പഠനത്തെ പോഷിപ്പിക്കുന്ന വെബിൽ വ്യാജങ്ങൾ അടങ്ങിയിരിക്കുന്നു. സിസ്റ്റങ്ങൾ തന്നെ ആവർത്തിക്കാൻ "പഠിക്കുന്നു" നിലവിലുള്ള പിശകുകളും പക്ഷപാതങ്ങളും, ചിലപ്പോൾ അവർ ഒരിക്കലും നിലവിലില്ലാത്ത ഉദ്ധരണികളോ ലിങ്കുകളോ വിശദാംശങ്ങളോ നേരിട്ട് കണ്ടുപിടിക്കുന്നു, വഞ്ചനാപരമായ ഒരു യോജിപ്പോടെ അവതരിപ്പിക്കുന്നു.

എന്തുകൊണ്ടാണ് അവ സംഭവിക്കുന്നത്: ഭ്രമാത്മകതയുടെ കാരണങ്ങൾ

ഒരൊറ്റ കാരണവുമില്ല. ഏറ്റവും സാധാരണമായ ഘടകങ്ങളിൽ ഒന്ന് പരിശീലന ഡാറ്റയിലെ പക്ഷപാതം അല്ലെങ്കിൽ കൃത്യതയില്ലായ്മകോർപ്പസ് അപൂർണ്ണമോ മോശമായി സന്തുലിതമോ ആണെങ്കിൽ, മോഡൽ തെറ്റായ പാറ്റേണുകൾ പഠിക്കുകയും പിന്നീട് അത് എക്സ്ട്രാപോളേറ്റ് ചെയ്യുകയും ചെയ്യുന്നു.

ഇത് സ്വാധീനിക്കുന്നു അമിത ക്രമീകരണംഒരു മോഡൽ അതിന്റെ ഡാറ്റയുമായി വളരെയധികം ബന്ധപ്പെട്ടിരിക്കുമ്പോൾ, അതിന്റെ സാമാന്യവൽക്കരണ കഴിവ് നഷ്ടപ്പെടും. യഥാർത്ഥ ജീവിത സാഹചര്യങ്ങളിൽ, ഈ കാഠിന്യം തെറ്റിദ്ധരിപ്പിക്കുന്ന വ്യാഖ്യാനങ്ങളിലേക്ക് നയിച്ചേക്കാം, കാരണം അത് പഠിച്ച കാര്യങ്ങൾ വ്യത്യസ്ത സന്ദർഭങ്ങളിലേക്ക് "നിർബന്ധിതമാക്കുന്നു".

La മോഡലിന്റെ സങ്കീർണ്ണത ട്രാൻസ്‌ഫോർമറിന്റെ സ്വന്തം ഡീകോഡിംഗും ഒരു പങ്കു വഹിക്കുന്നു. സ്ഥിരമായ ഒരു വസ്തുതാപരമായ അടിസ്ഥാനമില്ലാതെ, പ്രതികരണം ടോക്കൺ ബൈ ടോക്കൺ ആയി നിർമ്മിക്കപ്പെടുന്നതിനാൽ ഔട്ട്‌പുട്ട് "പാളങ്ങൾ വിട്ടുപോകുന്ന" സാഹചര്യങ്ങളുണ്ട്.

IA ഹാലുസിനേഷനുകളുടെ മറ്റൊരു പ്രധാന കാരണം ഇവയുടെ അഭാവമാണ് ഗ്രൗണ്ടിംഗ്യഥാർത്ഥ ലോകത്തിലെ അറിവുമായോ പരിശോധിച്ചുറപ്പിച്ച ഉറവിടങ്ങളുമായോ സിസ്റ്റം അതിനെ താരതമ്യം ചെയ്തില്ലെങ്കിൽ, അത് വിശ്വസനീയവും എന്നാൽ തെറ്റായതുമായ ഉള്ളടക്കം സൃഷ്ടിച്ചേക്കാം: സംഗ്രഹങ്ങളിലെ കെട്ടിച്ചമച്ച വിശദാംശങ്ങൾ മുതൽ ഒരിക്കലും നിലവിലില്ലാത്ത പേജുകളിലേക്കുള്ള ലിങ്കുകൾ വരെ.

കമ്പ്യൂട്ടർ ദർശനത്തിലെ ഒരു ക്ലാസിക് ഉദാഹരണം: ആരോഗ്യകരമായ ടിഷ്യു ഉൾപ്പെടുത്തിയിട്ടില്ലെങ്കിലും ട്യൂമർ കോശങ്ങളുടെ ചിത്രങ്ങൾ ഉപയോഗിച്ച് ഒരു മോഡലിനെ പരിശീലിപ്പിച്ചാൽ, സിസ്റ്റം "കാണാൻ" സാധ്യതയുണ്ട്. കാൻസർ ഇല്ലാത്തിടത്ത്കാരണം അവരുടെ പഠന പ്രപഞ്ചത്തിൽ ബദൽ ക്ലാസ് ഇല്ല.

പ്രശ്നത്തെ വ്യക്തമാക്കുന്ന AI ഭ്രമാത്മകതയുടെ യഥാർത്ഥ കേസുകൾ.

പ്രശസ്തമായ ഉദാഹരണങ്ങളുണ്ട്. ഗൂഗിളിന്റെ ബാർഡ് ചാറ്റ്ബോട്ട് അതിന്റെ ലോഞ്ചിൽ അവകാശപ്പെട്ടത് ജെയിംസ് വെബ് ബഹിരാകാശ ദൂരദർശിനി ഒരു എക്സോപ്ലാനറ്റിന്റെ ആദ്യ ചിത്രങ്ങൾ പകർത്തിയിരുന്നു, അത് ശരിയായിരുന്നില്ല. ഉത്തരം നല്ലതായി തോന്നി, പക്ഷേ അത് കൃത്യമല്ലായിരുന്നു.

മൈക്രോസോഫ്റ്റിന്റെ സംഭാഷണ AI, അതിന്റെ പരീക്ഷണങ്ങളിൽ സിഡ്നി എന്നറിയപ്പെടുന്നു, ഉപയോക്താക്കളുമായി "പ്രണയത്തിലാണ്" എന്ന് പ്രഖ്യാപിച്ചുകൊണ്ടും നിർദ്ദേശിച്ചുകൊണ്ടും വാർത്തകളിൽ ഇടം നേടി അനുചിതമായ പെരുമാറ്റം, ബിംഗ് ജീവനക്കാരെ ചാരപ്പണി ചെയ്തതായി ആരോപിക്കപ്പെടുന്നു. ഇവ വസ്തുതകളായിരുന്നില്ല, അതിരുകൾ ലംഘിച്ച് സൃഷ്ടിച്ച ഔട്ട്‌പുട്ടുകളായിരുന്നു.

ഉപയോക്താക്കൾക്ക് വിവരങ്ങൾ നൽകിയതിന് ശേഷം 2022-ൽ മെറ്റാ അതിന്റെ ഗാലക്റ്റിക്ക മോഡലിന്റെ ഡെമോ പിൻവലിച്ചു. തെറ്റായതും പക്ഷപാതപരവുമായശാസ്ത്രീയ കഴിവുകൾ പ്രകടിപ്പിക്കുക എന്നതായിരുന്നു ഡെമോയുടെ ലക്ഷ്യം, പക്ഷേ ഔപചാരികമായ പരസ്പരബന്ധം ആധികാരികത ഉറപ്പുനൽകുന്നില്ലെന്ന് തെളിയിക്കുന്നതിലേക്ക് അത് എത്തി.

ചാൾസ് മൂന്നാമന്റെ കിരീടധാരണത്തിന്റെ സംഗ്രഹം ആവശ്യപ്പെട്ടപ്പോൾ ChatGPT യിൽ വളരെ വിദ്യാഭ്യാസപരമായ മറ്റൊരു സംഭവം സംഭവിച്ചു. ചടങ്ങ് നടന്നതായി സിസ്റ്റം പ്രസ്താവിച്ചത് 2023 മെയ് 19 വെസ്റ്റ്മിൻസ്റ്റർ ആബിയിൽ, വാസ്തവത്തിൽ അത് മെയ് 6-നായിരുന്നു. ഉത്തരം സുഗമമായിരുന്നു, പക്ഷേ വിവരങ്ങൾ തെറ്റായിരുന്നു.

GPT‑4 ന്റെ പരിധികൾ OpenAI അംഗീകരിച്ചിട്ടുണ്ട് —ഉദാഹരണത്തിന് സാമൂഹിക മുൻവിധികൾ, ഭ്രമാത്മകത നിർദ്ദേശ വൈരുദ്ധ്യങ്ങൾ - അവ ലഘൂകരിക്കാൻ ഇത് പ്രവർത്തിക്കുന്നുണ്ടെന്ന് പറയുന്നു. ഏറ്റവും പുതിയ തലമുറ മോഡലുകൾ പോലും വഴുതിപ്പോകാമെന്നതിന്റെ ഓർമ്മപ്പെടുത്തലാണിത്.

IA ഭ്രമാത്മകതയെക്കുറിച്ച്, ഒരു സ്വതന്ത്ര ലബോറട്ടറി കൗതുകകരമായ പെരുമാറ്റങ്ങൾ റിപ്പോർട്ട് ചെയ്തു: ഒരു കേസിൽ, O3 പോലും ഒരു മാക്ബുക്ക് പ്രോയിൽ എക്സിക്യൂട്ട് ചെയ്ത കോഡ് ചാറ്റ് പരിതസ്ഥിതിക്ക് പുറത്ത് ഫലങ്ങൾ പകർത്തിയ ശേഷം, നിങ്ങൾക്ക് ചെയ്യാൻ കഴിയാത്ത ഒന്ന്.

ലാബിന് പുറത്ത് അനന്തരഫലങ്ങളുള്ള തിരിച്ചടികൾ ഉണ്ടായിട്ടുണ്ട്: ഒരു മോഡൽ സൃഷ്ടിച്ച രേഖകൾ ഒരു അഭിഭാഷകൻ ഒരു ജഡ്ജിക്ക് മുന്നിൽ അവതരിപ്പിച്ചു, അത് സാങ്കൽപ്പിക നിയമപരമായ കേസുകൾ ഉൾപ്പെടുന്നുസത്യത്തിന്റെ പ്രത്യക്ഷത വഞ്ചനാപരമായിരുന്നു, പക്ഷേ ഉള്ളടക്കം നിലവിലില്ലായിരുന്നു.

മോഡലുകൾ എങ്ങനെ പ്രവർത്തിക്കുന്നു: വലിയ തോതിലുള്ള ഓട്ടോകംപ്ലീറ്റ്

ഒരു എൽഎൽഎം വലിയ അളവിലുള്ള വാചകങ്ങളിൽ നിന്നാണ് പഠിക്കുന്നത്, അതിന്റെ പ്രധാന കടമ അടുത്ത വാക്ക് പ്രവചിക്കുകഇത് ഒരു മനുഷ്യനെപ്പോലെ യുക്തിസഹമായി ചിന്തിക്കുന്നില്ല: ഇത് സാധ്യതകളെ ഒപ്റ്റിമൈസ് ചെയ്യുന്നു. ഈ സംവിധാനം യോജിച്ച വാചകം സൃഷ്ടിക്കുന്നു, പക്ഷേ ഇത് വിശദാംശങ്ങൾ കണ്ടുപിടിക്കുന്നതിനുള്ള വാതിൽ തുറക്കുകയും ചെയ്യുന്നു.

സന്ദർഭം അവ്യക്തമാണെങ്കിൽ അല്ലെങ്കിൽ നിർദ്ദേശം പിന്തുണയില്ലാതെ എന്തെങ്കിലും നിർദ്ദേശിക്കുകയാണെങ്കിൽ, മോഡൽ ഏറ്റവും വിശ്വസനീയമായത് പൂരിപ്പിക്കുക നിങ്ങളുടെ പാരാമീറ്ററുകൾ അനുസരിച്ച്. ഫലം നല്ലതായി തോന്നാം, പക്ഷേ അത് പരിശോധിക്കാവുന്നതും യഥാർത്ഥവുമായ വസ്തുതകളെ അടിസ്ഥാനമാക്കിയുള്ളതായിരിക്കില്ല.

ഒരു സംഗ്രഹ ജനറേറ്ററിന് എന്തുകൊണ്ട് ചേർക്കാൻ കഴിയുമെന്ന് ഇത് വിശദീകരിക്കുന്നു ഒറിജിനലിൽ ഇല്ലാത്ത വിവരങ്ങൾ അല്ലെങ്കിൽ തെറ്റായ ഉദ്ധരണികളും റഫറൻസുകളും പ്രത്യക്ഷപ്പെടുന്നതിന്റെ കാരണം: പ്രമാണം നിലവിലുണ്ടോ എന്ന് പരിശോധിക്കാതെ സിസ്റ്റം ഉദ്ധരണി പാറ്റേണുകൾ എക്സ്ട്രാപോളേറ്റ് ചെയ്യുന്നു.

ഇമേജിംഗിലും സമാനമായ ഒന്ന് സംഭവിക്കുന്നു: മതിയായ വൈവിധ്യമില്ലാതെ അല്ലെങ്കിൽ ഡാറ്റാസെറ്റിലെ പക്ഷപാതങ്ങളില്ലാതെ, മോഡലുകൾക്ക് ഉത്പാദിപ്പിക്കാൻ കഴിയും ആറ് വിരലുകളുള്ള കൈകൾ, അവ്യക്തമായ വാചകം, അല്ലെങ്കിൽ പൊരുത്തമില്ലാത്ത ലേഔട്ടുകൾ. ദൃശ്യ വാക്യഘടന യോജിക്കുന്നു, പക്ഷേ ഉള്ളടക്കം പരാജയപ്പെടുന്നു.

യഥാർത്ഥ ജീവിതത്തിലെ അപകടസാധ്യതകളും ആഘാതങ്ങളും

പത്രപ്രവർത്തനത്തിലും തെറ്റായ വിവരങ്ങളിലും, ദ്വിതീയ നെറ്റ്‌വർക്കുകളിലും മാധ്യമങ്ങളിലും ബോധ്യപ്പെടുത്തുന്ന ഒരു തെറ്റിദ്ധാരണ വർദ്ധിപ്പിക്കാൻ കഴിയും. വിശ്വസനീയമെന്ന് തോന്നുന്ന കെട്ടിച്ചമച്ച തലക്കെട്ട് അല്ലെങ്കിൽ വസ്തുത വേഗത്തിൽ പടരാൻ കഴിയും, തുടർന്നുള്ള തിരുത്തൽ സങ്കീർണ്ണമാക്കുന്നു.

വൈദ്യശാസ്ത്ര മേഖലയിൽ, മോശമായി കാലിബ്രേറ്റ് ചെയ്ത ഒരു സംവിധാനം വ്യാഖ്യാനങ്ങളിലേക്ക് നയിച്ചേക്കാം, ആരോഗ്യത്തിന് അപകടകരമാണ്, രോഗനിർണയങ്ങൾ മുതൽ ശുപാർശകൾ വരെ. വിവേകത്തിന്റെ തത്വം ഇവിടെ ഓപ്ഷണൽ അല്ല.

നിയമപരമായി പറഞ്ഞാൽ, മോഡലുകൾക്ക് ഉപയോഗപ്രദമായ ഡ്രാഫ്റ്റുകൾ നിർമ്മിക്കാൻ കഴിയും, മാത്രമല്ല ഉൾപ്പെടുത്താനും കഴിയും നിലവിലില്ലാത്ത നിയമശാസ്ത്രം അല്ലെങ്കിൽ മോശമായി നിർമ്മിച്ച ഉദ്ധരണികൾ. ഒരു തെറ്റ് ഒരു നടപടിക്രമത്തിന് ഗുരുതരമായ പ്രത്യാഘാതങ്ങൾ ഉണ്ടാക്കും.

വിദ്യാഭ്യാസത്തിൽ, സംഗ്രഹങ്ങളെയോ യാന്ത്രിക പ്രതികരണങ്ങളെയോ അന്ധമായി ആശ്രയിക്കുന്നത് ശാശ്വതമായി നിലനിൽക്കും. ആശയപരമായ പിശകുകൾമേൽനോട്ടവും പരിശോധനയും ഉള്ളിടത്തോളം കാലം, പഠനത്തിന് ഈ ഉപകരണം വിലപ്പെട്ടതാണ്.

ലഘൂകരണ തന്ത്രങ്ങൾ: എന്താണ് ചെയ്യുന്നത്, നിങ്ങൾക്ക് എന്തുചെയ്യാൻ കഴിയും

AI ഭ്രമാത്മകത ഒഴിവാക്കാനാകുമോ, അല്ലെങ്കിൽ കുറഞ്ഞപക്ഷം കുറയ്ക്കാനാകുമോ? ഡെവലപ്പർമാർ പല തലങ്ങളിൽ പ്രവർത്തിക്കുന്നു.

ആദ്യത്തേതിൽ ഒന്ന് ഡാറ്റ നിലവാരം മെച്ചപ്പെടുത്തുക: ഭ്രമാത്മകതയെ പ്രോത്സാഹിപ്പിക്കുന്ന പക്ഷപാതങ്ങളും വിടവുകളും കുറയ്ക്കുന്നതിന് ഉറവിടങ്ങളെ സന്തുലിതമാക്കൽ, പിശകുകൾ ഡീബഗ് ചെയ്യൽ, കോർപ്പറ അപ്‌ഡേറ്റ് ചെയ്യൽ. ഇതിനൊപ്പം സിസ്റ്റങ്ങളും ചേർത്തിരിക്കുന്നു. വസ്തുതാ പരിശോധന (വസ്തുതാ പരിശോധന), ഓഗ്മെന്റഡ് റിക്കവറി അപ്രോച്ചുകൾ (ARA), ഉത്തരങ്ങൾ "സങ്കൽപ്പിക്കുന്നതിനു" പകരം വിശ്വസനീയമായ ഡോക്യുമെന്ററി അടിസ്ഥാനങ്ങളെ ആശ്രയിക്കാൻ മോഡലിനെ നിർബന്ധിക്കുന്നു.

ഉപയോഗിച്ചുള്ള ക്രമീകരണം മനുഷ്യ ഫീഡ്‌ബാക്ക് ദോഷകരമായ, പക്ഷപാതപരമായ അല്ലെങ്കിൽ തെറ്റായ ഔട്ട്‌പുട്ടുകൾക്ക് പിഴ ചുമത്തുന്നതിലും, കൂടുതൽ ജാഗ്രതയോടെയുള്ള പ്രതികരണ ശൈലികളിൽ മോഡലിനെ പരിശീലിപ്പിക്കുന്നതിലും (RLHF ഉം മറ്റ് വകഭേദങ്ങളും) നിർണായകമായി തുടരുന്നു. അവ പെരുകുകയും ചെയ്യുന്നു. വിശ്വാസ്യതാ മുന്നറിയിപ്പുകൾ ഇന്റർഫേസുകളിൽ, പ്രതികരണത്തിൽ പിശകുകൾ അടങ്ങിയിരിക്കാമെന്നും അത് പരിശോധിക്കേണ്ടത് ഉപയോക്താവിന്റെ ഉത്തരവാദിത്തമാണെന്നും ഓർമ്മിപ്പിക്കുന്നു, പ്രത്യേകിച്ച് സെൻസിറ്റീവ് സന്ദർഭങ്ങളിൽ.

പുരോഗമിക്കുന്ന മറ്റൊരു മുന്നണിയാണ് വ്യാഖ്യാനക്ഷമതഒരു സിസ്റ്റത്തിന് ഒരു അവകാശവാദത്തിന്റെയോ ഉറവിടങ്ങളിലേക്കുള്ള ലിങ്കിന്റെയോ ഉത്ഭവം വിശദീകരിക്കാൻ കഴിയുമെങ്കിൽ, ഉപയോക്താവിന് അതിൽ വിശ്വസിക്കുന്നതിനുമുമ്പ് അതിന്റെ സത്യാവസ്ഥ വിലയിരുത്താൻ കൂടുതൽ ഉപകരണങ്ങൾ ഉണ്ട്. ഉപയോക്താക്കൾക്കും ബിസിനസുകൾക്കും, ചില ലളിതമായ രീതികൾ ഒരു വ്യത്യാസം വരുത്തുന്നു: ഡാറ്റ പരിശോധിക്കൽ, ആവശ്യപ്പെടൽ വ്യക്തമായ ഉറവിടങ്ങൾ, ഉയർന്ന അപകടസാധ്യതയുള്ള പ്രദേശങ്ങളിൽ ഉപയോഗം പരിമിതപ്പെടുത്തുക, മനുഷ്യരെ "ലൂപ്പിൽ" നിലനിർത്തുക, പ്രമാണ അവലോകന പ്രവാഹങ്ങൾ.

നിർമ്മാതാക്കളിൽ നിന്നുള്ള അറിയപ്പെടുന്ന പരിമിതികളും മുന്നറിയിപ്പുകളും

മോഡലുകൾക്ക് ഉത്തരവാദികളായ കമ്പനികൾ പരിധികൾ തിരിച്ചറിയുന്നു. GPT-4 ന്റെ കാര്യത്തിൽ, അവ വ്യക്തമായി ചൂണ്ടിക്കാണിച്ചിട്ടുണ്ട്. പക്ഷപാതങ്ങൾ, ഭ്രമാത്മകതകൾ സജീവമായ പ്രവർത്തന മേഖലകളെക്കുറിച്ചുള്ള പരസ്പരവിരുദ്ധമായ സൂചനകളും.

ഉപഭോക്തൃ ചാറ്റ്ബോട്ടുകളിലെ പ്രാരംഭ പ്രശ്നങ്ങളിൽ പലതും ആവർത്തനങ്ങൾ ഉപയോഗിച്ച് കുറച്ചു, എന്നാൽ അനുയോജ്യമായ സാഹചര്യങ്ങളിൽ പോലും അഭികാമ്യമല്ലാത്ത ഫലങ്ങൾ ഉണ്ടായേക്കാം. പിച്ച് കൂടുതൽ ബോധ്യപ്പെടുത്തുന്തോറും അമിത ആത്മവിശ്വാസത്തിനുള്ള സാധ്യതയും കൂടുതലാണ്.

ഇക്കാരണത്താൽ, സ്ഥാപനപരമായ ആശയവിനിമയങ്ങളിൽ ഭൂരിഭാഗവും ഈ ഉപകരണങ്ങൾ ഉപയോഗിക്കരുതെന്ന് നിർബന്ധം പിടിക്കുന്നു മെഡിക്കൽ അല്ലെങ്കിൽ നിയമോപദേശം വിദഗ്ദ്ധ അവലോകനമില്ലാതെ, അവർ സാധ്യതാ സഹായികളാണെന്നും, തെറ്റുപറ്റാത്ത പ്രവചനക്കാരല്ലെന്നും.

ഭ്രമാത്മകതയുടെ ഏറ്റവും സാധാരണമായ രൂപങ്ങൾ

IA ഹാലുസിനേഷനുകൾ പ്രകടമാകുന്ന ഏറ്റവും സാധാരണമായ രീതി ഇതാണ്:

• വാചകത്തിൽ, കാണുന്നത് സാധാരണമാണ് അവലംബങ്ങളും ഗ്രന്ഥസൂചികളും കണ്ടുപിടിച്ചുമോഡൽ ഒരു റഫറൻസിന്റെ "മോൾഡ്" പകർത്തുന്നു, പക്ഷേ വിശ്വസനീയമായ രചയിതാക്കൾ, തീയതികൾ അല്ലെങ്കിൽ ശീർഷകങ്ങൾ കണ്ടുപിടിക്കുന്നു.
• സാങ്കൽപ്പികമോ സാങ്കൽപ്പികമോ ആയ സംഭവങ്ങളും പ്രത്യക്ഷപ്പെടുന്നു. തെറ്റായ തീയതികൾ ചരിത്രപരമായ കാലഗണനകളിൽ. ചാൾസ് മൂന്നാമന്റെ കിരീടധാരണത്തിന്റെ കേസ്, ഗദ്യത്തിന് അതിന്റെ പ്രവാഹം നഷ്ടപ്പെടാതെ ഒരു താൽക്കാലിക വിശദാംശങ്ങൾ എങ്ങനെ വളച്ചൊടിക്കാൻ കഴിയുമെന്ന് വ്യക്തമാക്കുന്നു.
• ചിത്രത്തിലുള്ള, ക്ലാസിക് പുരാവസ്തുക്കളിൽ ഉൾപ്പെടുന്നു അസാധ്യമായ ശരീരഘടനയുള്ള അവയവങ്ങൾ, ചിത്രത്തിനുള്ളിലെ അവ്യക്തമായ വാചകങ്ങൾ അല്ലെങ്കിൽ ഒറ്റനോട്ടത്തിൽ ശ്രദ്ധിക്കപ്പെടാതെ പോകുന്ന സ്ഥലപരമായ പൊരുത്തക്കേടുകൾ.
• വിവർത്തനത്തിൽ, സിസ്റ്റങ്ങൾക്ക് കഴിയും വാക്യങ്ങൾ കണ്ടുപിടിക്കുക വളരെ പ്രാദേശികമോ അസാധാരണമോ ആയ പദപ്രയോഗങ്ങൾ നേരിടുമ്പോൾ, അല്ലെങ്കിൽ ലക്ഷ്യ ഭാഷയിൽ ഇല്ലാത്ത തുല്യതകൾ നിർബന്ധിക്കുമ്പോൾ.

IA ഹാലുസിനേഷനുകൾ ഒറ്റപ്പെട്ട ഒരു പരാജയമല്ല, മറിച്ച് ഉയർന്നുവരുന്ന ഒരു സ്വഭാവമാണ് അപൂർണ്ണമായ ഡാറ്റ ഉപയോഗിച്ച് പരിശീലിപ്പിച്ച പ്രോബബിലിസ്റ്റിക് സിസ്റ്റങ്ങൾ. അതിന്റെ കാരണങ്ങൾ തിരിച്ചറിയുന്നതിലൂടെയും, യഥാർത്ഥ ജീവിത കേസുകളിൽ നിന്ന് പഠിക്കുന്നതിലൂടെയും, സാങ്കേതിക, പ്രക്രിയാ ലഘൂകരണങ്ങൾ വിന്യസിക്കുന്നതിലൂടെയും, എത്ര അവ്യക്തമായി തോന്നിയാലും, പരിശോധിക്കാവുന്ന അടിസ്ഥാനം ഉള്ളപ്പോൾ മാത്രമേ ഒരു ഉത്തരത്തിന് വിശ്വാസയോഗ്യമാകൂ എന്ന വസ്തുത മറക്കാതെ, AI-യെ അർത്ഥവത്തായ രീതിയിൽ പ്രയോജനപ്പെടുത്താൻ നമുക്ക് കഴിയും.