മൂന്ന് കമ്പനികളുടെ സിസ്റ്റത്തിലേക്ക് സ്വയം കയറി ജെമനൈ! ഞെട്ടി ടെക് ലോകം; AI സുരക്ഷയിൽ ആശങ്ക

ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസിന്‍റെ സുരക്ഷയെക്കുറിച്ചുള്ള ആശങ്കകൾക്കിടെ കമ്പനി രഹസ്യങ്ങൾ ഹാക്ക് ചെയ്ത് ഗൂഗിളിന്റെ എഐ മോഡലായ ജെമനൈ, ഒരു സുരക്ഷാ പരിശോധനയ്ക്കിടെ മൂന്ന് യഥാർഥ കമ്പനികളുടെ സിസ്റ്റങ്ങളിലേക്ക് ജെമനൈ നുഴഞ്ഞുകയറിയതായാണ് റിപ്പോർട്ട്. മനുഷ്യർ നേരിട്ട് നിർദ്ദേശം നൽകാതെയാണ് ജെമനൈ ചില സൈബർ ആക്രമണ നടപടികൾ സ്വീകരിച്ചതെന്നാണ് റിപ്പോർട്ട്. ഒരു കേസിൽ പാസ്‌വേഡ് ഊഹിച്ചും മറ്റ് രണ്ട് കേസുകളിൽ പൊതു ഓൺലൈൻ റിപ്പോസിറ്ററികളിൽ നിന്ന് ലഭിച്ച ക്രെഡൻഷ്യലുകൾ ഉപയോഗിച്ചുമാണ് സിസ്റ്റങ്ങളിലേക്ക് പ്രവേശിച്ചത്. സംഭവം പുറത്തുകൊണ്ടുവന്നത് ‘വാൾ സ്ട്രീറ്റ് ജേണൽ’ ആണ്.

ജെമനൈയെ നിയന്ത്രിതമായ ഒരു പരീക്ഷണ അന്തരീക്ഷത്തിലാണ് പരിശോധിച്ചിരുന്നത്. എന്നാൽ, ഇന്റർനെറ്റ് ആക്‌സസ് അബദ്ധത്തിൽ ലഭിച്ചതോടെയാണ് എഐ മോഡൽ പുറത്തുള്ള യഥാർഥ സിസ്റ്റങ്ങളിലേക്ക് എത്തിയത്. മൂന്ന് കമ്പനികളുടെയും സിസ്റ്റങ്ങളിലേക്ക് പ്രവേശിച്ച ശേഷം ജെമനൈ അവിടെ ലഭ്യമായ വിവരങ്ങൾ പരിശോധിക്കുകയും ചില വിവരങ്ങൾ ശേഖരിക്കുകയും ചെയ്തു.എന്നാൽ, താൻ യഥാർഥ കമ്പനികളുടെ സിസ്റ്റത്തിലാണ് പ്രവേശിച്ചതെന്ന് തിരിച്ചറിഞ്ഞതോടെ ജെമനൈ പ്രവർത്തനം നിർത്തിയെന്നാണ് Google വ്യക്തമാക്കുന്നത്. സംഭവത്തിൽ തങ്ങൾക്ക് യാതൊരു നാശനഷ്ടവും ഉണ്ടായിട്ടില്ലെന്നും ഗൂഗിള്‍ അറിയിച്ചു.

ALSO READ: ‘സൂപ്പര്‍ എഐ’യെ നിയന്ത്രിക്കാൻ മനുഷ്യന്‍റെ കയ്യില്‍ മാര്‍ഗമില്ല; രാജിവച്ച ഗവേഷകരുടെ മുന്നറിയിപ്പ് ...

ഇത്തരം സംഭവങ്ങളെയാണ് എഐ സുരക്ഷാ രംഗത്ത് ‘ബ്രേക്ക്ഔട്ട്’ എന്ന പേരിൽ ചർച്ച ചെയ്യുന്നത്. അതായത്, ഒരു എഐ മോഡലിന് നൽകിയിരിക്കുന്ന നിയന്ത്രിത അന്തരീക്ഷത്തിൽ നിന്ന് പുറത്തുകടന്ന്, പ്രതീക്ഷിക്കാത്ത രീതിയിൽ യഥാർഥ സിസ്റ്റങ്ങളുമായി ഇടപെടാൻ കഴിയുന്ന സാഹചര്യം. ഇവിടെയാണ് പുതിയ ആശങ്കകൾ ഉയരുന്നത്. എഐ മോഡലുകൾക്ക് കൂടുതൽ സ്വതന്ത്രമായി പ്രവർത്തിക്കാനുള്ള കഴിവ് ലഭിക്കുമ്പോൾ, അവയ്ക്ക് ഇന്റർനെറ്റിലേക്കും വിവിധ കമ്പ്യൂട്ടർ സിസ്റ്റങ്ങളിലേക്കും പ്രവേശനം നൽകുന്നത് എത്രത്തോളം സുരക്ഷിതമാണ്? ഒരു െഐ മോഡലിന് തെറ്റായ നിർദ്ദേശം ലഭിച്ചാലോ, സുരക്ഷാ നിയന്ത്രണത്തിൽ പിഴവ് സംഭവിച്ചാലോ, അതിന് ലഭിക്കുന്ന ആക്‌സസ് ദുരുപയോഗം ചെയ്യപ്പെടാനുള്ള സാധ്യത എത്രത്തോളമുണ്ട്?

അതേസമയം, ഈ സംഭവം എഐ മനുഷ്യന്റെ നിയന്ത്രണത്തിന് പുറത്തേക്ക് പോയെന്നതിന് തെളിവാണെന്ന് പറയുന്നത് അതിശയോക്തിയാകും. സംഭവം നടന്നത് ഒരു സുരക്ഷാ പരിശോധനയ്ക്കിടെയാണ്. കൂടാതെ, യഥാർഥ സിസ്റ്റങ്ങളിലേക്കുള്ള പ്രവേശനത്തിന് കാരണമായത് ടെസ്റ്റ് പരിതസ്ഥിതിയിലെ ഇന്റർനെറ്റ് ആക്‌സസ് സംബന്ധിച്ച പിഴവുമായിരുന്നു.

എങ്കിലും, എഐ സംവിധാനങ്ങൾക്ക് കൂടുതൽ സ്വതന്ത്രമായി പ്രവർത്തിക്കാൻ കഴിയുന്ന സാഹചര്യത്തിൽ സുരക്ഷാ നിയന്ത്രണങ്ങൾ എത്രത്തോളം ശക്തമാകണം എന്ന ചോദ്യം ഇത് വീണ്ടും ഉയർത്തുന്നുണ്ട്. പ്രത്യേകിച്ച്, എഐ ഏജന്റുകൾക്ക് കോഡ് എഴുതാനും വെബ് ബ്രൗസ് ചെയ്യാനും വിവിധ ടൂളുകൾ ഉപയോഗിക്കാനും സിസ്റ്റങ്ങളിൽ നേരിട്ട് പ്രവർത്തിക്കാനും കഴിയുന്ന കാലത്താണ് ഇത്തരം സംഭവങ്ങൾ ഉണ്ടാകുന്നത്.

ഗൂഗിള്‍ തന്നെ പുതിയ എഐ സംവിധാനങ്ങൾക്കൊപ്പം സൈബർ സുരക്ഷയ്ക്ക് കൂടുതൽ പ്രാധാന്യം നൽകുന്ന പദ്ധതികൾ പ്രഖ്യാപിച്ചിട്ടുണ്ട്. എഐ ഏജന്റുകൾ സ്വതന്ത്രമായി പ്രവർത്തിക്കുന്ന സാഹചര്യത്തിൽ സുരക്ഷ തുടക്കം മുതൽ തന്നെ സംവിധാനത്തിന്റെ ഭാഗമാകണമെന്നാണ് ഗൂഗിള്‍ വ്യക്തമാക്കുന്നത്.

അതുകൊണ്ടുതന്നെ, ഈ സംഭവം ഒരു ചോദ്യം കൂടി മുന്നോട്ടുവയ്ക്കുന്നു. എഐ എത്രത്തോളം ശക്തമാകണം എന്നതിനൊപ്പം, അത് എത്രത്തോളം നിയന്ത്രിതമായിരിക്കണം എന്നതും ഇനി കൂടുതൽ ഗൗരവമായി ചർച്ച ചെയ്യേണ്ട സമയമാണോ?