અશ્લીલ ડીપફેકના ફેલાવાના મામલે વિશ્વભરમાંથી પસ્તાળ પછી ઇલોન મસ્કના AI ચેટબોટ ગ્રોકમાં મોટાભાગના યુઝર્સ માટે ઇમેજ જનરેશન કે ઇમેજ એડિટિંગ કરવા પર પ્રતિબંધ મૂકાયો છે. હવે ગ્રોકે ચેટબોટ પર ઇમેજ જનરેશન ફંક્શન ફક્ત પેઇડ યુઝર્સ પૂરતું મર્યાદિત કર્યું છે. મસ્કના સોશિયલ મીડિયા પ્લેટફોર્મ X પર ઉપલબ્ધ આ ચેટબોટમાં છેલ્લાં કેટલાંક સપ્તાહોથી અભદ્ર ડીપફેક અને વાંધાનજક સામગ્રીને કારણે મોટો વિવાદ ઊભો થયો છે.
ઘણા યુઝર્સ તેનો ઉપયોગ કરીને નગ્ન કે બિકીની પહેરેલી મહિલાઓની ડીપફેક ઇમેજ બનાવતાં હતાં. સંશોધકોએ ચેતવણી આપી છે કે કેટલાક કિસ્સાઓમાં બાળકોના વાંધાજનક ફોટા પણ દર્શાવવામાં આવી રહ્યાં છે. વિશ્વભરની સરકારોએ પ્લેટફોર્મની નિંદા કરી છે અને પ્લેટફોર્મની તપાસ શરૂ કરી છે.
શુક્રવારે ગ્રોક પર છબી બદલવાની રિકવેસ્ટ કરવામાં આવે ત્યારે મેસેજ આવતો હતો કે ઇમેજ જનરેશન અને એડિટિંગ હાલમાં પેઇડ સબ્સ્ક્રાઇબર્સ સુધી મર્યાદિત છે. તમે આ ફિચર્સનો લાભ લેવા સબ્સ્ક્રાઇબ કરી શકો છો. ગ્રોકના સબ્સ્ક્રાઇબરની સંખ્યા કેટલી છે તેનો આંકડો સાર્વજનિક નથી, પરંતુ તેમાં હવે જે અશ્લીલ ડીપફેકમાં મોટો ઘટાડો થયો છે.
આ મુદ્દે યુરોપિયન યુનિયને ગ્રોકની આકરી ટીકા કરી તેને ગેરકાયદેસર અને ભયાનક ગણાવ્યું હતું, જ્યારે ફ્રાન્સ, ભારત, મલેશિયા સહિતના દેશોએ તપાસની માગણી કરી છે. ગુરુવારે બ્રિટનના વડાપ્રધાન કેર સ્ટાર્મરે X સામે કાર્યવાહીની ધમકી આપી હતી.
2023માં લોન્ચ કરાયેલું ગ્રોક X યુઝર્સ માટે ફ્રી છે. ગયા ઉનાળામાં કંપનીએ ગ્રોક ઇમેજિન નામનું ઇમેજ જનરેટર ફીચર એડ કર્યું હતું. તેમાં સ્પાઇસી મોડ છે, જે પુખ્ત વયના લોકો માટે સામગ્રી જનરેટ કરી શકે છે.
