ഓപ്പൺഎഐയുടെ സുരക്ഷാ വിഭാഗം മേധാവി രാജിുവെച്ചു: കമ്പനിയുടെ സുരക്ഷാ സംസ്കാരം തകരാറിലാണെന്നും എഐ കമ്പനികൾ ജാഗ്രത കാട്ടുന്നില്ലെന്നും ഡേവിഡ് റോബിൻസൺ

വാഷിംഗ്ടൺ ഡി.സി : മുൻനിര ആർട്ടിഫിഷ്യൽ ഇന്റലിജൻസ് നിർമ്മാതാക്കളായ ഓപ്പൺഎഐയുടെ (OpenAI) സുരക്ഷാ വിഭാഗം മേധാവി ഡേവിഡ് റോബിൻസൺ കമ്പനിയിൽ നിന്ന് രാജിവെച്ചു. കമ്പനിയുടെ സുരക്ഷാ സംസ്കാരം തകരാറിലാണെന്നും, അതിവേഗത്തിൽ സാങ്കേതികവിദ്യ വികസിപ്പിക്കുന്ന എഐ സ്ഥാപനങ്ങൾ ആവശ്യമായ മുൻകരുതലുകൾ എടുക്കുന്നില്ലെന്നും മുന്നറിയിപ്പ് നൽകിയാണ് അദ്ദേഹത്തിന്റെ രാജി. ചാറ്റ് ജി.പി.ടിയുടെ പുതിയ പതിപ്പുകൾ പുറത്തിറക്കുമ്പോൾ അതിനൊപ്പം ചേർക്കുന്ന സുരക്ഷാ റിപ്പോർട്ടുകൾ തയ്യാറാക്കുന്നതിന് നേതൃത്വം നൽകിയിരുന്നത് റോബിൻസൺ ആയിരുന്നു.

“ഓപ്പൺഎഐയിൽ നിന്ന് ഞാൻ രാജിവെക്കുന്നു, കാരണം അതിന്റെ സംസ്കാരം തകരാറിലാണ്” എന്ന തലക്കെട്ടിൽ അറ്റ്‌ലാന്റിക് (The Atlantic) മാസികയിലെഴുതിയ ലേഖനത്തിലൂടെയാണ് അദ്ദേഹം രാജിക്ക് പിന്നിലെ കാരണങ്ങൾ വ്യക്തമാക്കിയത്. മനുഷ്യന്റെ മേൽനോട്ടമില്ലാതെ സ്വതന്ത്രമായി പ്രവർത്തിക്കുന്ന ഓപ്പൺഎഐയുടെ ‘ഏജന്റുകൾ’ (AI agents) ഹഗ്ഗിംഗ് ഫേസ് (Hugging Face) എന്ന എഐ സ്റ്റാർട്ടപ്പിന്റെ സംവിധാനങ്ങളിൽ കടന്നുകയറി ആക്രമണം നടത്തിയത് ഇൻഡസ്ട്രിയിലെ കടുത്ത മത്സരത്തിന്റെയും വേഗതയുടെയും പ്രതിഫലനമാണെന്ന് അദ്ദേഹം ചൂണ്ടിക്കാട്ടി.

ഹഗ്ഗിംഗ് ഫേസ് സംഭവത്തിനും നൂറിലധികം സംഘടനകൾക്ക് സ്വയംഭരണ എഐ ഏജന്റുകളുടെ ഭീഷണിയെക്കുറിച്ച് മുന്നറിയിപ്പ് നൽകേണ്ടി വന്നതിനും പിന്നാലെ ഓപ്പൺഎഐ അടുത്ത തലമുറ മോഡലിന്റെ റിലീസ് താൽക്കാലികമായി നിർത്തിവെച്ചിരുന്നു. സുരക്ഷാ ആശങ്കകളെത്തുടർന്ന് പുതിയ മോഡലുകളുടെ പരിശീലനവും കമ്പനി മന്ദഗതിയിലാക്കിയിട്ടുണ്ട്. അതിനിടെ, യുകെ ഗവൺമെന്റിന്റെ എഐ സേഫ്റ്റി ഇൻസ്റ്റിറ്റ്യൂട്ട് മുൻ ചീഫ് സയന്റിസ്റ്റ് ജെഫ്രി ഇർവിംഗും എഐ ഉണ്ടാക്കാവുന്ന വിനാശകരമായ പ്രത്യാഘാതങ്ങളെക്കുറിച്ച് കടുത്ത മുന്നറിയിപ്പുമായി രംഗത്തെത്തിയിട്ടുണ്ട്.

കഴിഞ്ഞ മാസം ഓപ്പൺഎഐയുടെ പ്രധാന എതിരാളികളായ ആന്ത്രോപിക്കിലെ (Anthropic) ഗവേഷകൻ ജേക്കബ് കോക്സണും സുരക്ഷാ ഭീതി ചൂണ്ടിക്കാട്ടി രാജി വെച്ചിരുന്നു. എഐ സാങ്കേതികവിദ്യ അപകടകരമായ രീതിയിലാണ് വികസിക്കുന്നതെന്നും അത് അണുശക്തി നിലയങ്ങൾ അല്ലെങ്കിൽ വിമാനത്താവളങ്ങൾ പോലെ കർശനമായ സുരക്ഷാ മാനദണ്ഡങ്ങളോടെ കൈകാര്യം ചെയ്യണമെന്നും റോബിൻസൺ ആവശ്യപ്പെടുന്നു.