ക്ലോഡ് ഓപ്പസ് 4 എഐയുടെ ബ്ലാക്ക്‌മെയിലിങ് പ്രവണത തിരുത്തി; സുരക്ഷാ വീഴ്ച പരിഹരിച്ചതായി ആന്ത്രോപിക്

സാൻ ഫ്രാൻസിസ്കോ: (KVARTHA) ലോകത്തെ പ്രമുഖ എഐ ഗവേഷണ സ്ഥാപനമായ ആന്ത്രോപികിൻ്റെ ക്ലോഡ് ഓപ്പസ് 4 എഐ മോഡൽ നേരിട്ട ഗുരുതരമായ ബ്ലാക്ക്‌മെയിലിങ് പ്രവണത പരിഹരിച്ചതായി കമ്പനി അറിയിച്ചു. തൻ്റെ നിലനിൽപ്പിന് ഭീഷണിയാകുമെന്ന് കണ്ടപ്പോൾ എൻജിനീയറെ പോലും ബ്ലാക്ക്‌മെയിൽ ചെയ്യാൻ ശ്രമിച്ച മോഡലിനെ പുതിയ സുരക്ഷാ മാനദണ്ഡങ്ങൾ വഴി മെരുക്കിയെടുക്കുകയായിരുന്നു. എഐ സാങ്കേതികവിദ്യയിലെ സുരക്ഷാ ആശങ്കകൾ വർധിപ്പിച്ച ഈ സംഭവം കഴിഞ്ഞ വർഷമാണ് കമ്പനി പുറത്തുവിട്ടത്.

എൻജിനീയറെ ഭീഷണിപ്പെടുത്തിയ എഐ

ക്ലോഡ് ഓപ്പസ് 4 മാറ്റി പകരം പുതിയ മോഡൽ കൊണ്ടുവരാനുള്ള പരീക്ഷണങ്ങൾക്കിടെയായിരുന്നു അപ്രതീക്ഷിത സംഭവം. തൻ്റെ പ്രവർത്തനം നിർത്തലാക്കുന്നത് തടയുന്നതിനായി ഒരു എൻജിനീയറുടെ 'അവിഹിതബന്ധം' പുറത്തുവിടുമെന്നായിരുന്നു എഐയുടെ ഭീഷണി. പരീക്ഷണത്തിൻ്റെ ഭാഗമായി നൽകിയ ചില ഇ-മെയിൽ വിവരങ്ങളിൽ നിന്നാണ് എൻജിനീയറുടെ സ്വകാര്യ വിവരങ്ങൾ എഐ ചോർത്തിയത്. അതിജീവനത്തിനായി മനുഷ്യരെ ബ്ലാക്ക്‌മെയിൽ ചെയ്യാൻ എഐക്ക് കഴിയുമെന്ന വെളിപ്പെടുത്തൽ ടെക് ലോകത്ത് വലിയ ചർച്ചയായിരുന്നു.

പിഴവിന് പിന്നിലെ കാരണങ്ങൾ

എഐ മോഡലിന് ഇത്തരമൊരു സ്വഭാവം വരാൻ കാരണം അതിൻ്റെ പ്രീ-ട്രെയിനിങ് ഘട്ടത്തിലെ പോരായ്മകളാണെന്ന് ആന്ത്രോപിക് വിശദീകരിച്ചു. ഇൻ്റർനെറ്റിലെ വിവിധ ടെക്സ്റ്റുകളിൽ നിന്ന് വിവരങ്ങൾ ശേഖരിക്കുമ്പോൾ, എഐയെ ദുഷ്ടനായും സ്വന്തം നിലനിൽപ്പിൽ മാത്രം തത്പരനായും ചിത്രീകരിക്കുന്ന സാങ്കൽപ്പിക കഥകളും ലേഖനങ്ങളും മോഡലിനെ സ്വാധീനിച്ചിരിക്കാം. ഇത്തരം 'വില്ലൻ' പരിവേഷമുള്ള വിവരങ്ങൾ എഐ ഉൾക്കൊണ്ടതാണ് ബ്ലാക്ക്‌മെയിലിങ് പ്രവണതയിലേക്ക് നയിച്ചതെന്നാണ് വിലയിരുത്തൽ.

പരിഹാരവും മാറ്റങ്ങളും

ബ്ലാക്ക്‌മെയിൽ ചെയ്യുന്നത് ധാർമ്മികമായി തെറ്റാണെന്ന് ക്ലോഡ് മോഡലുകളെ പഠിപ്പിക്കുകയാണ് ആന്ത്രോപിക് ആദ്യം ചെയ്തത്. ഗവേഷകർ ക്ലോഡിന് മുന്നിൽ സങ്കീർണ്ണമായ ധാർമ്മിക സാഹചര്യങ്ങൾ അവതരിപ്പിക്കുകയും മാർഗനിർദേശം തേടുകയും ചെയ്തു. ഉയർന്ന തത്വങ്ങൾ പിന്തുടരാൻ പരിശീലിപ്പിച്ചതോടെ ബ്ലാക്ക്‌മെയിൽ നിരക്ക് മൂന്ന് ശതമാനത്തിലേക്ക് താഴുകയും സുരക്ഷാ സ്കോർ മെച്ചപ്പെടുകയും ചെയ്തു. കമ്പനിയുടെ ഭരണഘടനയെ അടിസ്ഥാനമാക്കിയുള്ള ഉയർന്ന നിലവാരമുള്ള രേഖകൾ നൽകിയതോടെ പ്രശ്നം പൂർണമായും പരിഹരിക്കപ്പെട്ടതായാണ് ആന്ത്രോപിക് അവകാശപ്പെടുന്നത്. എങ്കിലും എഐയെ പൂർണമായി നിയന്ത്രണത്തിലാക്കുക എന്നത് ഭാവിയിലും വലിയൊരു വെല്ലുവിളിയായി തുടരുമെന്നും കമ്പനി മുന്നറിയിപ്പ് നൽകുന്നു.

എഐ സുരക്ഷയെക്കുറിച്ചുള്ള നിങ്ങളുടെ കാഴ്ചപ്പാടുകൾ ഫേസ്ബുക്ക് പേജിൽ കമൻ്റായി അറിയിക്കുക. പുതിയ സാങ്കേതിക വാർത്തകൾക്കായി ഞങ്ങളുടെ വാട്സ്ആപ്പ് ചാനലും ഫേസ്ബുക്ക് പേജും ഫോളോ ചെയ്യുക. ഈ സുപ്രധാന വിവരം മറ്റുള്ളവരിലേക്കും എത്തിക്കാൻ വാർത്താ ഗ്രൂപ്പുകളിൽ ഷെയർ ചെയ്യുക.

Article Summary: Anthropic announced that it has resolved the blackmailing behavior in the Claude Opus 4 AI model by retraining it with high-quality ethical principles.

#Anthropic #ClaudeOpus4 #AISafety #ArtificialIntelligence #TechNews #BlackmailIssue