ડીપફેક અને ફેક AI કન્ટેન્ટ પર આવશે કન્ટ્રોલ, સરકારે IT નિયમોમાં સુધારો કરીને સુરક્ષા વધારવાનો પ્રસ્તાવ મૂક્યો
સરકાર હવે ડીપફેક અને નકલી AI-જનરેટેડ વીડિયોઝ અને ઈમેજને કાબુમાં લેવાની તૈયારી કરી રહી છે. ઇલેક્ટ્રોનિક્સ અને માહિતી ટેકનોલોજી મંત્રાલય (MeitY) એ IT નિયમો (2021) માં સુધારાનો ડ્રાફ્ટ બહાર પાડ્યો છે, જેમાં આવી નકલી સામગ્રી અંગે કડક નિયમોનો પ્રસ્તાવ મૂકવામાં આવ્યો છે. આ સુધારા કૃત્રિમ સામગ્રીને કાયદેસર રીતે જવાબદાર બનાવવા તરફ એક મોટું પગલું છે. કૃત્રિમ સામગ્રીનો અર્થ કમ્પ્યુટર અથવા AI દ્વારા બનાવવામાં આવેલી અથવા બદલાયેલી સામગ્રીનો થાય છે જેથી તે અધિકૃત દેખાય.
સરકારે 6 નવેમ્બર સુધીમાં આ ડ્રાફ્ટ પર જનતા, નિષ્ણાતો અને કંપનીઓ પાસેથી સૂચનો અને પ્રતિસાદ માંગ્યા છે. આ પહેલનો હેતુ ટેકનોલોજીના દુરુપયોગને રોકવા અને જવાબદાર ડિજિટલ વિશ્વ બનાવવાનો છે.
કૃત્રિમ સામગ્રીને લેબલ કરવી આવશ્યક
પ્લેટફોર્મ (જેમ કે એપ્લિકેશન્સ અથવા વેબસાઇટ્સ) જે વપરાશકર્તાઓને AI અથવા અન્ય કમ્પ્યુટર ટૂલ્સનો ઉપયોગ કરીને નકલી અથવા બદલાયેલા ફોટા, વિડિઓઝ અથવા ઑડિઓ ફાઇલો બનાવવાની મંજૂરી આપે છે તેમને હવે તે સામગ્રીમાં સ્પષ્ટ ઓળખ લેબલ ઉમેરવાની જરૂર પડશે. આ લેબલ અથવા માહિતી ચિહ્ન સ્પષ્ટ રીતે દૃશ્યમાન થાય તેટલું મોટું હોવું જોઈએ. જો તે વિડિઓ કે ફોટો હોય, તો લેબલ સ્ક્રીનના ઓછામાં ઓછા 10% ભાગ પર કબજો કરેલો હોવો જોઈએ. જો તે ઑડિઓ હોય, તો તે સ્ક્રીનના ઓછામાં ઓછા પહેલા 10% ભાગ માટે શ્રાવ્ય હોવું જોઈએ. અને સૌથી અગત્યનું, આ લેબલ હંમેશા સામગ્રીમાં જડેલું રહેવું જોઈએ, જેથી કોઈ પણ તેને દૂર કરી શકે અને વપરાશકર્તાઓને ગેરમાર્ગે દોરી ન શકે.
લેબલ દૂર કરવા પર પ્રતિબંધ રહેશે
કોઈપણ પ્લેટફોર્મ વપરાશકર્તાઓને આ લેબલ દૂર કરવા અથવા બદલવાની મંજૂરી આપશે નહીં. આનો અર્થ એ છે કે એકવાર ઓળખાઈ ગયા પછી, તે સામગ્રીનો ભાગ બની જાય છે. સોશિયલ મીડિયા પ્લેટફોર્મ જે ખૂબ મોટા છે (જેમ કે લાખો વપરાશકર્તાઓ ધરાવતા) તેમણે વધુ સાવચેત રહેવું પડશે. તેમણે વપરાશકર્તાઓને પૂછવું પડશે કે તેઓ જે સામગ્રી અપલોડ કરે છે તે કૃત્રિમ છે કે નહીં. પછી, આ માહિતીને સ્વચાલિત સાધનોનો ઉપયોગ કરીને ચકાસવી પડશે. જો સામગ્રી નકલી હોય, તો તેને સ્પષ્ટ રીતે ચિહ્નિત કરવી પડશે.
પાલન ન કરવા બદલ કાર્યવાહી
જો આ મુખ્ય પ્લેટફોર્મ આ નિયમોનું પાલન ન કરે, તો તેને કાયદાનું ઉલ્લંઘન ગણવામાં આવશે, એટલે કે તેમને કાર્યવાહીનો સામનો કરવો પડી શકે છે.
ખોટી સામગ્રી દૂર કરવા માટે કાનૂની રક્ષણ
સરકારે જણાવ્યું છે કે કોઈપણ ઓનલાઈન પ્લેટફોર્મ જે આવી નકલી અથવા ખતરનાક કૃત્રિમ સામગ્રીને દૂર કરે છે અથવા તેની ઍક્સેસને અવરોધિત કરે છે તેને કાનૂની રક્ષણ આપવામાં આવશે, એટલે કે તેની સામે કોઈ કાનૂની કાર્યવાહી કરવામાં આવશે નહીં. આ સુરક્ષા હાલના IT કાયદાની કલમ 79(2) હેઠળ પૂરી પાડવામાં આવી રહી છે, જેથી પ્લેટફોર્મ ખચકાટ વિના ખોટી સામગ્રી સામે કાર્યવાહી કરી શકે. સરકાર માને છે કે AI નો ઉપયોગ કરીને બનાવેલ ડીપફેક અને કૃત્રિમ સામગ્રી એક મોટો ખતરો બની ગયા છે. તેઓ ખોટી માહિતી ફેલાવે છે, વ્યક્તિઓનો ઢોંગ કરી શકે છે અને ગોપનીયતા અને રાષ્ટ્રીય સુરક્ષા માટે જોખમી હોઈ શકે છે. તેથી, સરકાર એવા નિયમો રજૂ કરી રહી છે જે આ જોખમોને કાબુમાં લેવામાં મદદ કરશે.
AI અને ડિજિટલ સામગ્રીનું નિરીક્ષણ વધારવાની તૈયારીઓ
આ નવા નિયમોનો હેતુ લોકો ઓનલાઈન જુએ છે, સાંભળે છે અથવા શેર કરે છે તે દરેક બાબતમાં પારદર્શિતા અને વિશ્વાસ જાળવવાનો છે. તેઓ પ્લેટફોર્મને તેમના વપરાશકર્તાઓની સલામતી માટે જવાબદાર પણ બનાવે છે. આ નિયમો AI અને ડિજિટલ નવીનતા વચ્ચે સંતુલન જાળવવાનો પ્રયાસ છે. મંત્રાલયે આ ડ્રાફ્ટ નિયમો અને તેમની સ્પષ્ટતાઓને તેની વેબસાઇટ પર જાહેર કરી છે. સરકારે જાહેર જનતા અને નિષ્ણાતોને નિયમોમાં સુધારો કરવા અને સુધારવા માટે 6 નવેમ્બર સુધીમાં સૂચનો આપવા પણ કહ્યું છે. આ ફેરફારો 2022 અને 2023 માં IT નિયમોમાં થયેલા અપડેટ્સનું અનુવર્તી સ્વરૂપ છે.
