নারী ও শিশুদের আপত্তিকর ছবি তৈরি: মাস্কের ‘গ্রোক’ নিষিদ্ধ করল ইন্দোনেশিয়া ও মালয়েশিয়া
ইন্দোনেশিয়া এবং মালয়েশিয়া প্রথম দেশ হিসেবে ইলন মাস্কের কৃত্রিম বুদ্ধিমত্তা (এআই) টুল 'গ্রোক' ব্লক করে দিয়েছে। এই এআই টুলটির 'ডিজিটাল আনড্রেসিং' ফাংশন ব্যবহার করে ইন্টারনেটে নারী ও শিশুদের আপত্তিকর ও অশ্লীল বিকৃত ছবি ছড়িয়ে দেওয়ার পর দেশ দুটি এই সিদ্ধান্ত নেয়।
ব্যবহারকারীরা এই এআই টুলটি ব্যবহার করে যৌন আবেদনময়ী 'ডিপফেক' ছবি তৈরি করছে। আর এটি ভাইরাল হয়ে পড়ায় গ্রোক-কে নিয়ন্ত্রণে আনার জন্য মাস্কের ওপর আন্তর্জাতিক চাপ ক্রমেই বাড়ছে।
গ্রোক হলো মাস্কের সামাজিক যোগাযোগ মাধ্যম 'এক্স' (সাবেক টুইটার)-এর একটি টুল বা ফিচার।
ইন্দোনেশিয়ার ডিজিটাল মন্ত্রী মেউতিয়া হাফিদ শনিবার এক বিবৃতিতে বলেন, 'কৃত্রিম বুদ্ধিমত্তা প্রযুক্তি ব্যবহার করে তৈরি করা ভুয়া পর্নোগ্রাফিক কন্টেন্টের ঝুঁকি থেকে নারী, শিশু এবং সাধারণ জনগণকে রক্ষা করতেই' এই নিষেধাজ্ঞা দেওয়া হয়েছে।
মালয়েশিয়া রোববার গ্রোক-এর ওপর নিজস্ব সাময়িক নিষেধাজ্ঞা ঘোষণা করেছে। কারণ হিসেবে তারা জানিয়েছে যে, 'নারী ও শিশুদের অশ্লীল, যৌন উত্তেজক, অশালীন, চরম আপত্তিকর এবং সম্মতিহীন বিকৃত ছবি তৈরিতে গ্রোক-এর বারবার অপব্যবহার করা হচ্ছে।'
ইন্দোনেশিয়া এবং মালয়েশিয়া উভয়ই মুসলিম সংখ্যাগরিষ্ঠ দেশ এবং সেখানে পর্নোগ্রাফি বিরোধী অত্যন্ত কঠোর আইন রয়েছে।
এ বিষয়ে মন্তব্যের জন্য সিএনএন এআই টুলটির মূল প্রতিষ্ঠান এক্সএআই-এর সাথে যোগাযোগ করেছে।
যুক্তরাজ্য, ইউরোপীয় ইউনিয়ন এবং ভারতের কর্মকর্তারাও গ্রোক-এর সুরক্ষা কবচ বা 'গার্ডরেইল' নিয়ে উদ্বেগ প্রকাশ করেছেন।
এর আগে মাস্ক এবং এক্সএআই জানিয়েছিল, তারা নিয়ম লঙ্ঘনকারী অ্যাকাউন্টগুলো স্থায়ীভাবে স্থগিত করে এবং 'স্থানীয় সরকার ও আইন প্রয়োগকারী সংস্থার সাথে কাজ করার' মাধ্যমে এই সমস্যার সমাধান করছে। কিন্তু তা সত্ত্বেও, ব্যবহারকারীদের অনুরোধের জবাবে গ্রোক থেকে এখনও নারীদের যৌন উত্তেজক ছবি তৈরির ঢল অব্যাহত রয়েছে।
যৌন উত্তেজক কন্টেন্ট এবং ভার্চুয়াল সঙ্গী বা 'কম্প্যানিয়ন অ্যাভাটার' তৈরির অনুমতি দেওয়া এবং কিছু ক্ষেত্রে সেগুলোকে উৎসাহিত করার কারণে অনেক ব্যবহারকারীর কাছে গ্রোক অন্যান্য মূলধারার এআই মডেলগুলোর তুলনায় একটি ব্যতিক্রমী বা বিতর্কিত মাধ্যম হিসেবে বিবেচিত হয়।
ডিজিটাল পদ্ধতিতে পোশাক সরিয়ে ফেলার এই প্রবণতা গত বছরের শেষের দিকে ব্যাপক বৃদ্ধি পায়। কারণ সেসময় অনেক ব্যবহারকারী আবিষ্কার করেন, তারা এক্স প্ল্যাটফর্মে গ্রোক-কে ট্যাগ করে ছবি বিকৃত করতে পারছেন।
ব্যবহারকারীরা চ্যাটবটটিকে বিকিনি পরিহিত এবং উস্কানিমূলক ভঙ্গিতে মানুষের ছবি তৈরি করতে প্ররোচিত করছেন, যা বিশ্বজুড়ে লক্ষ লক্ষ নারীর জন্য চরম মানসিক যন্ত্রণার কারণ হয়ে দাঁড়িয়েছে।
ইউরোপীয় অলাভজনক সংস্থা 'এআই ফরেনসিকস', যারা অ্যালগরিদম নিয়ে গবেষণা করে, তারা ২৫ ডিসেম্বর থেকে ১ জানুয়ারির মধ্যে গ্রোক-এর তৈরি ২০ হাজারের বেশি র্যান্ডম ছবি এবং ৫০ হাজার ব্যবহারকারীর অনুরোধ বিশ্লেষণ করেছে।
গবেষকরা সেখানে হার (তার), পুট/রিমুভ (রাখা বা সরানো), বিকিনি এবং ক্লথ (পোশাক)—এই শব্দগুলোর ব্যাপক উপস্থিতি লক্ষ্য করেছেন।
মানুষের যত ছবি তৈরি করা হয়েছে, তার অর্ধেকেরও বেশি ছবিতে ব্যক্তিদের অন্তর্বাস বা বিকিনির মতো অত্যন্ত স্বল্প পোশাকে দেখা গেছে।
সেন্সরশিপের বিরুদ্ধে মাস্কের অবস্থান
প্রকাশ্যে মাস্ক দীর্ঘ সময় ধরে 'ওক' এআই মডেল এবং যাকে তিনি 'সেন্সরশিপ' বা তথ্য নিয়ন্ত্রণ বলে মনে করেন, তার বিরুদ্ধে ওকালতি করে আসছেন।
তবে এক্সএআই -এর পরিস্থিতির ওপর অবগত একটি সূত্র সিএনএন-কে জানিয়েছে, এই ধনকুবের তার নিজের প্রতিষ্ঠানের ভেতরেও গ্রোক-এর ওপর কড়া সুরক্ষা ব্যবস্থা বা 'গার্ডরেইল' আরোপের বিরোধিতা করেছেন।
প্রতিদ্বন্দ্বীদের তুলনায় এমনিতেই ছোট এক্সএআই -এর নিরাপত্তা দলটি এই বিতর্ক শুরু হওয়ার আগের সপ্তাহগুলোতে আরও কয়েকজন কর্মীকে হারিয়েছে।
মাস্ক বলেন, গ্রোক ব্যবহার করে অবৈধ কন্টেন্ট তৈরি করলে যে কাউকেই পরিণতির সম্মুখীন হতে হবে। তবে তিনি এই অ্যাপে থাকা যৌন কন্টেন্ট সম্পর্কিত উদ্বেগগুলোকে মূলত উড়িয়ে দিয়েছেন; তার যুক্তি হলো—সরকারগুলো 'কেবল বাকস্বাধীনতা দমন করতে চায়'। তিনি এসব সমালোচনার জবাবে ইমোজি দিয়ে প্রতিক্রিয়া জানিয়েছেন।
গত সপ্তাহে, গ্রোক তার কিছু ইমেজ জেনারেশন ফিচার শুধু এক্স-এর পেইড সাবস্ক্রাইবারদের জন্য সীমাবদ্ধ করেছে। তবে এই বিধিনিষেধগুলো গ্রোক-এর সাথে ব্যবহারকারীদের যোগাযোগের কেবল একটি পদ্ধতির ক্ষেত্রে প্রযোজ্য।
যারা সাবস্ক্রাইবার নন, তারা এখনও অ্যাপটিতে ছবি এডিট করার জন্য গ্রোক-কে অনুরোধ করতে পারেন। এছাড়া গ্রোক-এর নিজস্ব ওয়েবসাইট এবং অ্যাপের মাধ্যমে ছবি ও ভিডিও তৈরির সুবিধাগুলো এখনও বিনামূল্যে পাওয়া যাচ্ছে।
সোমবার যুক্তরাজ্যের যোগাযোগ পরিষেবা নিয়ন্ত্রক সংস্থা অফকম, এক্স-এর বিরুদ্ধে একটি আনুষ্ঠানিক তদন্ত শুরু করেছে। ব্রিটিশ জনগণকে অবৈধ কন্টেন্ট থেকে রক্ষা করার ক্ষেত্রে প্রতিষ্ঠানটি তার দায়িত্ব সঠিকভাবে পালন করেছে কি না, তা নির্ধারণ করতেই এই তদন্ত শুরু করা হয়েছে।
অফকম এক বিবৃতিতে বলেছে, মানুষের পোশাকহীন ছবি তৈরি করা 'ব্যক্তিগত গোপনীয়তার অবমাননা' বা পর্নোগ্রাফি হিসেবে গণ্য হতে পারে; অন্যদিকে শিশুদের যৌন আবেদনময়ী ছবি 'শিশু যৌন নিপীড়নমূলক বিষয়বস্তু' হিসেবে বিবেচিত হতে পারে।
যদি নিয়ন্ত্রক সংস্থা দেখতে পায় যে এক্স আইন ভঙ্গ করেছে, তবে তারা ১৮ মিলিয়ন পাউন্ড (২৪ মিলিয়ন ডলার) পর্যন্ত জরিমানা ধার্য করতে পারে অথবা কোম্পানির বিশ্বব্যাপী আয়ের ১০ শতাংশ জরিমানা করতে পারে—এই দুইটির মধ্যে যেটির অংক বড় হবে, সেটিই প্রযোজ্য হবে।
