പ്രോംപ്റ്റുകള്‍ അനുസരിച്ച് ലൈംഗികച്ചുവയുള്ള ഡീപ്ഫേക്ക് ചിത്രങ്ങള്‍ നിര്‍മ്മിക്കാന്‍ ഉപയോക്താക്കളെ അനുവദിച്ചതിനെ തുടര്‍ന്ന് വലിയ വിമര്‍ശനമാണ് ഇലോണ്‍ മസ്കിന്‍റെ എക്സിലെ എഐ ടൂളായ ഗ്രോക്ക് നേരിടുന്നത്. തങ്ങളുടെ സമ്മതമില്ലാതെ തങ്ങളുടെ ചിത്രങ്ങള്‍ എഡിറ്റ് ചെയ്യപ്പെട്ടുവെന്നും വസ്ത്രങ്ങള്‍ മാറ്റി ലൈംഗികച്ചുവയോടുള്ള ഡീപ് ഫെയ്ക്ക് ചിത്രങ്ങള്‍ പ്രചരിക്കാന്‍ ഗ്രോക്ക് സഹായിച്ചുവെന്നും ആരോപിച്ച് നിരവധിപ്പേര്‍ സമൂഹമാധ്യമങ്ങളില്‍ രംഗത്തെത്തിയിരുന്നു. ഒടുവില്‍ സ്വന്തം എഐ ടൂള്‍‌ തന്നെ പണി തന്നപ്പോള്‍ വഴിയില്ലാതെ കടിഞ്ഞാണിടാന്‍ തയ്യാറായിരിക്കുകയാണ് എക്സും. 

ഗ്രോക്ക് ഉപയോഗിച്ചുള്ള ഇമേജ് എഡിറ്റിങ് പണമടയ്ക്കുന്ന ഉപയോക്താക്കൾക്ക് മാത്രമായി പരിമിതപ്പെടുത്തിയിരിക്കുകയാണ് കമ്പനി. ഇതോടെ എക്സിലെ ബഹുഭൂരിപക്ഷം ഉപയോക്താക്കൾക്കും ഇനി മുതല്‍ ഗ്രോക്ക് ഉപയോഗിച്ച് ചിത്രങ്ങൾ സൃഷ്ടിക്കാനോ എഡിറ്റ് ചെയ്യുവാനോ കഴിയില്ല. അതേസമയം, പെയ്ഡ് സബ്സ്ക്രേബേഴ്സിന് സാധിക്കുകയും ചെയ്യും. എന്നാല്‍ പണമടച്ച് ഗ്രോക്ക് ഉപയോഗിക്കുന്ന ഉപയോക്താക്കളുടെ ക്രെഡിറ്റ് കാർഡ് അടക്കമുള്ള വിവരങ്ങള്‍ എക്സിന്‍റെ കയ്യിലുള്ളതിനാല്‍ ഇവര്‍ ഗ്രോക്കിനെ ദുരുപയോഗം ചെയ്തിട്ടുണ്ടോ എന്ന് തിരിച്ചറിയാൻ കഴിയുമെന്നാണ് കമ്പനിയുടെ വാദം.

അതേസമയം, ഈ നടപടിക്ക് ഗ്രോക്കിന്റെ ഇമേജ് എഡിറ്റിങ് ഫീച്ചറിന്‍റെ ദുരുപയോഗം കുറയ്ക്കാന്‍ സാധിക്കുമെങ്കിലും പണം നൽകുന്ന ഉപയോക്താക്കൾക്ക് ആളുകളുടെ ചിത്രങ്ങള്‍ തുടര്‍ന്നും ലൈംഗികചുവയുള്ള ചിത്രങ്ങളാക്കി നിര്‍മ്മിക്കാന്‍ സാധിക്കുമെന്നത് ആശങ്ക ഉയര്‍ത്തുന്നുണ്ട്. ഇത് ഡിജിറ്റൽ ലൈംഗികാതിക്രമമാണെന്നും എക്സ് ഗ്രോക്കിന്‍റെ ഈ ഫീച്ചർ എന്നെന്നേക്കുമായി പ്രവർത്തനരഹിതമാക്കണം എന്നുമാണ് ഉയര്‍ന്നു വരുന്ന ആവശ്യം.

ഡിസംബർ അവസാനമാണ് ഗ്രോക്ക് ഇമേജ് ക്രിയേഷൻ ഫീച്ചർ അപ്‌ഡേറ്റ് ചെയ്തത്. പിന്നാലെ കഴിഞ്ഞ രണ്ടാഴ്ചയ്ക്കിടെ പലരുടേയും ആയിരക്കണക്കിന് ലൈംഗിക ചിത്രങ്ങളാണ് അവരുടെ സമ്മതമില്ലാതെ സൃഷ്ടിക്കപ്പെട്ടത്. കനത്ത വിമര്‍ശനമുണ്ടായിട്ടും. ഇതുവരെ എക്സ് മറ്റ് നടപടികളൊന്നും സ്വീകരിച്ചിട്ടില്ല. സംഭവത്തെ തുടര്‍ന്ന് എക്സിനെതിരെ ലോകമെമ്പാടും പിഴ, നിയന്ത്രണം, വിലക്ക് തുടങ്ങിയ നടപടികള്‍ക്ക് സാധ്യതയുണ്ടെന്ന് റിപ്പോര്‍ട്ടുകള്‍ പുറത്ത് വന്നിരുന്നു. ഇതിന്‍റെ പശ്ചാത്തലത്തിലാണ് പുതിയ നീക്കം.

ENGLISH SUMMARY:

Elon Musk’s X limits Grok AI image generation to paid subscribers after backlash over non-consensual deepfake pornographic images. Victims demand a permanent ban on the feature, calling it digital sexual violence.