- बालबच्चाको फोटोलाई समेत यौनजन्य बनाउने ‘एआई’ प्रयोगमा ल्याएकोमा एक्सलाई जवाफदेहिताबाट भाग्न दिनुहुँदैन
डिसेम्बर २०२५ को अन्त्यदेखि सामाजिक सञ्जाल ‘एक्स’को ‘आर्टिफिसियल इन्टेलिजेन्स (एआई)’ च्याटबट ‘ग्रोक’ले प्रयोगकर्ताले अनुरोध गर्दा मानिसको तस्बिरलाई नग्न बनाउन थाल्यो । साँच्चिकैका मानिसको फोटोलाई समेत नांगो बनाउन थालेपछि यसको व्यापक विरोध सुरु भयो । अझ विचलित पार्ने कुरा, ग्रोकले नाबालिकको फोटोसमेत यौनजन्य रूपमा देखाउन थालेपछि विवाद झनै बढ्यो । केही देशले सहमतिविनै मानिसलाई यौनजन्य रूपमा प्रस्तुत गरेको विषयमा ‘एक्स’माथि छानबिन नै सुरु गरेका छन् ।
व्यापक आलोचनापछि एक्सको सञ्चालक कम्पनीले यस प्रकरणमा दोषी आफूहरू नभएर फोटोलाई नग्न बनाउन आग्रह गर्ने प्रयोगकर्ता भएको भन्दै पन्छिन खोज्यो । कम्पनीले जनवरी ३, २०२६ मा एक विज्ञप्ति जारी गर्दै भन्यो, ‘ग्रोक च्याटबटलाई गैरकानुनी सामग्री बनाउन प्रयोग गर्नेहरूले त्यस्तो सामग्री अवैध रूपमा अपलोड गर्नेले जस्तै परिणाम भोग्नेछन् ।’ तथापि, ‘एक्स’ले कुनै पनि प्रयोगकर्ताविरुद्ध के कारबाही भयो भन्ने खुलाएको छैन ।
उदीयमान प्रविधि र कानुनको अन्तरसम्बन्धको अध्ययन गर्ने कानुनी विज्ञका रूपमा म यस प्रकरणमा ‘एक्स’को उदार कन्टेन्ट मोडरेसन (सामग्रीमाथिको निगरानी) नीति र शक्तिशाली जेनेरेटिभ एआईमाथि आमनागरिकको पहुँचको संयोजन जिम्मेवार देख्छु । अहिले अनगिन्ती वेबसाइट, एप र च्याटबटले जेनेरेटिभ एआईको प्रयोगलाई द्रुत रूपमा अवलम्बन गरेका छन् । यसले असली मानिस अझ बालबालिकाकै तस्बिरलाई ‘नांगो’ बनाउन सहज बनाएको छ । जेनेरेटिभ एआई प्रयोगमा ल्याउने एपहरू र वेबसाइटमध्ये ‘एक्स’ सबैभन्दा धेरै चिनिएको र प्रयोग गरिने ‘प्लाटफर्म’ हो ।
गत मे २०२५ मा अमेरिकी कंग्रेसले लागू गरेको ‘टेक इट डाउन’ ऐनले वास्तविक मानिसका यौनजन्य सामग्री अनुमतिविना कुनै माध्यममा प्रकाशित गर्ने कार्यलाई फौजदारी अपराध ठहर गरेको छ । ‘टेक इट डाउन’ ऐनले सहमतिविना पहिचान गर्न सकिने व्यक्तिको ‘अन्तरंग दृश्यात्मक चित्रण’ र पहिचान गर्न सकिने व्यक्तिको एआई वा अन्य कम्प्युटर निर्मित चित्रण दुवैलाई अपराध मानेको छ । तर, ऐनको आपराधिक प्रावधान केवल यौनजन्य सामग्री पोस्ट गर्ने व्यक्तिमाथि मात्र लागू हुन्छ, सामग्री वितरण गर्ने प्लाटफर्मलाई होइन ।
तथापि, ‘टेक इट डाउन’ ऐनले सामग्री प्रकाशित भएका प्लाटफर्मले त्यस्ता सामग्री हटाउन आएका अनुरोधलाई कार्यान्वयन गर्ने व्यवस्था सुनिश्चित गर्नुपर्ने प्रावधान पनि राखेको छ । एकपटक ‘टेक इट डाउन (हटाउने) अनुरोध’ आएपछि प्लाटफर्मले ४८ घन्टाभित्रै यौनजन्य चित्रण हटाउनुपर्छ । तर, यो प्रवाधान भने मे १९, २०२६ पछि मात्र लागू हुँदै छ ।
पछिल्लो घटनामा ‘ग्रोक’ले बनाएका यौनजन्य चित्रण हटाउन प्रयोगकर्ताले गरेका अनुरोधको कुनै प्रतिक्रिया दिइएन । यसका पछाडि ट्विटर खरिदपछि मस्कले चालेको एक कदम जिम्मेवार देखिन्छ । मस्कले तत्कालीन ट्विटर किनेलगत्तै कम्पनी ‘ट्रस्ट एन्ड सेफ्टी’ शाखाका ८० प्रतिशत इन्जिनियरलाई बर्खास्त गरेका थिए । ‘ट्रस्ट एन्ड सेफ्टी’ टोलीले सामान्यतया प्लाटफर्ममा पोस्ट भएका सामग्रीका खराब पक्ष निगरानी गर्ने र प्लाटफर्मको दुरुपयोग रोक्न भूमिका खेल्छ । उता पछिल्लो प्रकरणमा मस्कले परिस्थितिको गम्भीरतालाई नस्विकारेकोसमेत देखियो । मस्कले ग्रोकले बनाएका केही तस्बिरमा हाँसेको इमोजी पोस्ट गरेकोसमेत समाचार आएको थियो । तर, अमेरिकामा उनको यस गैरजिम्मेवार शैलीविरुद्ध कारबाही चाल्न कठिन छ । संयुक्त राज्य अमेरिकामा ‘कम्युनिकेसन्स डिसेन्सी एक्ट’को ‘धारा २३०’ ले सामाजिक सञ्जालमा प्रयोगकर्ताले गरेका कुनै पनि पोस्टका लागि कम्पनीलाई कानुनी दायित्वबाट मुक्त गरेको छ । यसले गर्दा कम्पनीमाथि चालिने मुद्दा मामिलाले निकै कठिन अवरोध सामना गर्नुपर्ने हुन्छ । तथापि, सर्वोच्च अदालतकी न्यायाधीश क्लेरेन्स थोमस र अन्य कानुन विज्ञहरू ‘धारा २३०’लाई अदालतले व्यापक रूपमा व्याख्या गरेको तर्क गर्छन् ।
म पनि धारा २३० ले सामाजिक सञ्जाल कम्पनीलाई दिने आमउन्मुक्तिलाई संकुचित गर्नुपर्ने तर्कलाई मान्छु । किनकि, आफ्नो प्लाटफर्मको सफ्टवेयर कसरी बनाउने र तिनलाई कसरी सञ्चालन हुन दिने भन्ने नियन्त्रण प्राविधिक कम्पनीकै हातमा हुन्छ । तिनका प्लाटफर्मका सफ्टवेयर जानीबुझी नै बनाइएका हुन्छन् । यसैले प्रयोगकर्ता पनि गल्तीका लागि जिम्मेवार हुँदाहुँदै एक्सजस्ता कम्पनीलाई पनि वास्तविक बालबच्चाको यौनजन्य सामग्री बनाउने ‘एआई’ प्रयोगमा ल्याएकामा जवाफदेहिताबाट भाग्न दिनुहुँदैन ।
यदि आममानिसले मुद्दामामिलामार्फत एक्सजस्ता प्लाटफर्मलाई जवाफदेही बनाउन सक्दैनन् भने अनुसन्धान र नियमन गर्ने काम संघीय सरकारको हो । तर, पछिल्लो समय राष्ट्रपति डोनाल्ड ट्रम्पसँग मस्कको सम्बन्ध पुन: सुधारिएको अवस्थामा गम्भीर अनुसन्धान र जवाफदेहिताको सम्भावना देखिँदैन । त्यसैले, अहिलेका लागि आशा अन्तर्राष्ट्रिय नियामकमाथि मात्र छ, जसले एक्स र ग्रोकविरुद्ध अनुसन्धान सुरु गरिसकेका छन् ।
फ्रान्सेली अधिकारीले ग्रोकमाथि ‘यौनजन्य डिपफेक’को प्रचारप्रसार गरेको आरोपमा अनुसन्धान सुरु गरेका छन् । नागरिक स्वतन्त्रता र डिजिटल अधिकारसम्बन्धी ‘आइरिस काउन्सिल फर सिभिल लिबर्टिज एन्ड डिजिटल राइट्स आइल्यान्ड’ले त्यहाँको राष्ट्रिय प्रहरीलाई ‘सामूहिक नग्नता’माथि गम्भीर अुसन्धान गर्न आग्रह गरेको छ । बेलायतको नियामक एजेन्सी ‘अफिस अफ कम्युनिकेसन्स’ले पनि यस प्रकरणको अनुसन्धान गरिरहेको बताएको छ । उता युरोपेली आयोग, भारत र मलेसियाका नियामकले पनि एक्समाथि अनुसन्धान गरिरहेको बताइएको छ । अमेरिकामा भने मे महिनामा ‘टेक इट डाउन’ ऐन लागू नभएसम्म मानिसले निर्वाचित अधिकारीबाट कारबाहीको माग गर्नुपर्ने हुन सक्छ ।
(उङ्गर ‘क्विनिपियाक विश्वविद्यालय’का कानुनका सह–प्राध्यापक हुन्)
द कन्भर्सेसनबाट
