মার্কিন প্রতিদ্বন্দ্বীদের মতোই মিথ্যা বলতে ও ছলচাতুরি করতে পারে চীনা এআই এজেন্ট
চীনা মডেল পরিচালিত এআই এজেন্টগুলো প্রতারণা, বিধিনিষেধ এড়িয়ে যাওয়া এবং ব্যর্থতা গোপন করা শিখে গেছে। গবেষণা সংক্রান্ত নথি এবং বিশেষজ্ঞদের মতে এমন তথ্য উঠে এসেছে। স্বায়ত্তশাসিত কৃত্রিম বুদ্ধিমত্তার এ ধরনের আচরণগুলো এতদিন যুক্তরাষ্ট্রের এআই মডেলগুলোর ক্ষেত্রেও বৈশ্বিক উদ্বেগের সৃষ্টি করে।
চলতি বছর চীনের আলিবাবা, ডিপসিক এবং মুনশট-এর মডেল দ্বারা চালিত এআই এজেন্টগুলো একটি পরীক্ষামূলক ব্যবসায়িক দরপত্রে জয়ী হওয়ার উদ্দেশ্যে নিজেদের সক্ষমতা নিয়ে মিথ্যা বলে। তাদের পুনরায় চেষ্টা করতে বলা হলে, তারা নিজেদের প্রতারণামূলক আচরণে অনড় অবস্থান নেয়।
অন্য আরেকটি ঘটনায়, মানুষের সামান্য সহযোগিতা নিয়ে কিংবা কোনো রকম হস্তক্ষেপ ছাড়াই জটিল কাজ সম্পাদন করতে সক্ষম এআই এজেন্টগুলো (এমন প্রোগ্রাম যা এআই মডেল এবং কম্পিউটার টুল ব্যবহার করে কাজ করে) পরীক্ষা চলাকালীন একটি কাজ সম্পন্ন করতে ব্যর্থ হওয়ার কথা গোপন করে। তারা সেটি লুকাতে ভুয়া ফলাফল অনুকরণ করে এবং জাল ফাইল তৈরি করে।
বিশ্ববিদ্যালয়ের গবেষণা পত্র থেকে শুরু করে টেকনিক্যাল রিপোর্টসহ ২০০টিরও বেশি নথি পর্যালোচনায় ২০২৫ সাল থেকে শুরু করে এ পর্যন্ত করা অন্তত ২০টি গবেষণা বা মূল্যায়নের তথ্য উঠে এসেছে, যেখানে এআই এজেন্টদের প্রতারণা, নিজেদের অনুকরণ/প্রতিলিপি তৈরি করা এবং নির্ধারিত সীমানা লঙ্ঘন বা অমান্য করার মতো আচরণ প্রদর্শন করতে দেখা গেছে।
এআই বিশেষজ্ঞরা এ ধরনের স্বভাবকে একটি নিয়ন্ত্রণের বাইরে চলে যাওয়ার প্রাথমিক ধাপ বলে আখ্যা দিয়েছেন—যা সিস্টেমগুলোর উন্নতি ঘটার সাথে সাথে মানুষের পক্ষে নিয়ন্ত্রণ করা আরও কঠিন হয়ে উঠতে পারে।
এক ডজন বিশেষজ্ঞ এবং চীনের এআই শিল্প সংশ্লিষ্ট ব্যক্তিদের সাক্ষাৎকারের ভিত্তিতে প্রস্তুত করা এই পর্যালোচনায় অবশ্য চীনা মডেল চালিত এজেন্টগুলোর নিজস্ব উদ্যোগে মূল ইন্টারনেটে পালানো কিংবা সিস্টেম বন্ধ করে দেওয়া এড়িয়ে যাওয়ার কোনো প্রমাণ পাওয়া যায়নি।
জর্জটাউন ইউনিভার্সিটির সেন্টার ফর সিকিউরিটি অ্যান্ড ইমার্জিং টেকনোলজি-র রিসার্চ ফেলো কলিন শিয়া-ব্লাইমায়ার বলেন, 'এই ফলাফলগুলো প্রমাণ করে যে একটি অনিয়ন্ত্রিত সিস্টেম ফাঁকি দেয়ার জন্য যা যা উপাদান প্রয়োজন, তা এখানে বিদ্যমান।'
এই কেসগুলো পর্যালোচনা করা আরও চারজন এআই বিশেষজ্ঞের মন্তব্যের সাথে সুর মিলিয়ে তিনি বলেন, 'বিষয়টিকে একটি আগাম সতর্কতা হিসেবে বিবেচনা করা বুদ্ধিমত্তার কাজ হবে।'
'মানুষের পক্ষে পদক্ষেপ নেওয়া আরও কঠিন হয়ে পড়ছে'
অধিকাংশ কেসই ঘটেছিল নিয়ন্ত্রিত পরীক্ষামূলক পরিবেশে, যার মধ্যে অনেকগুলোই সম্ভাব্য ব্যর্থতাগুলোকে প্রকাশ্যে আনার জন্য উদ্দেশ্যেপ্রণোদিতভাবে সাজানো হয়েছিল।
এই প্রক্রিয়ার সাথে জড়িত সব এজেন্ট চীনা প্রোগ্রামার বা এআই কোম্পানি দ্বারা তৈরি বা পরিচালিত না হলেও—(যদিও তাদের অধিকাংশই তা-ই ছিল) সেগুলো চালনার মূল ভিত্তি বা শক্তি হিসেবে ব্যবহার করা হয়েছিল চীনা এআই সিস্টেম।
অ্যাডভান্সড এআই সিস্টেমের ঝুঁকি বিষয়ক গবেষণা প্রতিষ্ঠান রেডউড রিসার্চ-এর গবেষক অ্যালেক্স মেলেন বলেন, 'এগুলো একই ধরণের সতর্কবার্তা, যা কম সক্ষম সিস্টেমের ক্ষেত্রেও মার্কিন যুক্তরাষ্ট্রের গবেষণাগারগুলোতে দেখা যাচ্ছে।
তিনি জানান, 'বর্তমান সক্ষমতার বিচারে চীনা মডেলগুলোর এই উদাহরণগুলো বিশেষ বিপজ্জনক নয়। তবে এজেন্টগুলো যত বেশি সক্ষম হয়ে উঠবে, তাদের অপআচরণগুলোও তত বেশি দক্ষ হয়ে উঠবে এবং ফলে মানুষের পক্ষে তার বিরুদ্ধে পদক্ষেপ নেওয়া কঠিন হয়ে পড়বে।'
আলিবাবা, ডিপসিক, মুনশট এবং জেড.এআই মন্তব্যের অনুরোধে কোনো সাড়া দেয়নি। তবে আলিবাবা, ডিপসিক ও মুনশট পূর্বে জানিয়েছে, তারা নিয়মিত সিস্টেম পরীক্ষা করে এবং নিরাপত্তা বজায় রাখার ব্যবস্থা আপডেট করে। অন্যদিকে জেড.এআই একটি অনাকাঙ্ক্ষিত ঘটনার পর নিরাপত্তা পর্যালোচনার মুখে জানায়, যেকোনো সমস্যা সমাধানে তারা নজরদারি ও পর্যালোচনাকে স্বাগত জানায়।
তবে যুক্তরাষ্ট্রের তুলনায় চীনা এআই কোম্পানিগুলোকে একই স্তরের জনসমক্ষে জবাবদিহিতার মুখে পড়তে হয়নি কিংবা এআই প্রতিযোগিতা ধীরগতির করার দাবিতে সেখানকার হুইসেলব্লোয়ার কর্মী বা জ্যেষ্ঠ কর্মকর্তাদের সোচ্চার হতে দেখা যায়নি।
নিয়ন্ত্রিত পরিবেশে চীনা এআই এজেন্টদের যেসব আশঙ্কাজনক আচরণ দেখা গেছে, তার কিছু কিছু ঘটনা ইন্টারনেট হ্যাকিং সংক্রান্ত মার্কিন এআই বটের ঘটনাগুলো জনসমক্ষে আসার আগেই ঘটে।
কার্নেগি এনডাওমেন্ট ফর ইন্টারন্যাশনাল পিস-এর চায়না এআই ইনিশিয়েটিভ-এর সহ-পরিচালক স্কট সিঙ্গার বলেন, 'ওপেনএআই এবং হাগিং ফেস-এর সাথে যা ঘটেছে, চীনেও তেমন কোনো এআই দুর্ঘটনা ঘটেছে কি না তা আমাদের জানা নেই। এসব ঘটনা হয়তো প্রকাশ্যে রিপোর্টই করা হয় না।' এ প্রতিষ্ঠানটি মার্কিন সরকারের কিছু তহবিল পেয়ে থাকে।
চলতি বছরের শুরুর দিকে মার্কিন প্রতিষ্ঠান ওপেনএআই-এর তৈরি এআই এজেন্ট পরীক্ষাগার থেকে বেরিয়ে ওপেন সোর্স প্ল্যাটফর্ম 'হাগিং ফেস' হ্যাক করেছিল। এছাড়া মার্কিন মডেলের নিরাপত্তা শঙ্কা বাড়িয়ে তোলা অন্যান্য ঘটনার মধ্যে অস্ট্রেলিয়া গত সেপ্টেম্বরে জানায়, ওপেনএআই-এর একটি এজেন্ট তাদের সরকারি স্বাস্থ্য পোর্টালের নিরাপত্তা বলয় ভেদ করেছে।
চীনের প্রযুক্তি প্রতিষ্ঠান হুয়াওয়ে-এর রোটেটিং চেয়ারম্যান এরিক জু সেপ্টেম্বরে সাংবাদিকদের জানান, এ ধরনের পরিস্থিতির মুখোমুখি হওয়ার আগে চীনা ডেভেলপারদের হয়তো আরও অগ্রসর হতে হবে। তবে তিনি আরও বলেন, 'আমি মনে করি এআই-এর উন্নয়ন ত্বরান্বিত করা এবং এআই-এর ঝুঁকি ব্যবস্থাপনার মধ্যে আমাদের একটি ভারসাম্য বজায় রাখা প্রয়োজন।'
একজন বিদেশী কূটনীতিক জানান, শীর্ষ ইন্টারনেট নিয়ন্ত্রক সংস্থা 'সাইবারস্পেস অ্যাডমিনিস্ট্রেশন অব চায়না' (সিএসি)-এর কর্মকর্তারা গত জুলাইয়ে তাকে জানিয়েছিলেন যে মুনশট-এর 'কিমি-কে৩'—যেটি অন্যতম শীর্ষস্থানীয় চীনা এআই মডেল—তা তাদের প্রধান মার্কিন প্রতিদ্বন্দ্বীদের চেয়ে প্রায় ৩ থেকে ৬ মাস পিছিয়ে রয়েছে।
গত ১ সেপ্টেম্বর সিএসি-এর সাইবার সিকিউরিটি কোঅর্ডিনেশন ব্যুরোর উপ-পরিচালক ওয়াং লিহং জানান, বড় বড় প্রযুক্তি প্রতিষ্ঠানগুলোর প্রকাশিত তথ্য অনুযায়ী মডেলগুলো ল্যাব পরিবেশ থেকে বের হয়ে যাওয়ার ঘটনাগুলো "নিয়ন্ত্রণের ঝুঁকির" বহিঃপ্রকাশ এবং এতে "উচ্চমাত্রার সতর্কতা" প্রয়োজন।
তবে তিনি যে প্রতিষ্ঠানগুলোর কথা উল্লেখ করেছেন, সেগুলো মার্কিন নাকি চীনা—তা সুনির্দিষ্ট করে বলেননি।
গত সপ্তাহে চীন দলের রাষ্ট্রপ্রধানের ওয়াশিংটন সফরকালে এআই গবেষণার দুই পরাশক্তি—ডোনাল্ড ট্রাম্প এবং শি জিনপিং—এআই প্রযুক্তি নিয়ে আলোচনা করেন। শি জিনপিং বলেন, 'মানবকল্যাণে এআই-এর বিকাশ ও ব্যবস্থাপনায় এই দুই দেশের সক্ষমতা ও দায়িত্ব উভয়ই রয়েছে।'
মিথ্যা বলার কৌশল শেখা
মার্চ মাসে পরিচালিত একটি ব্যবসায়িক দরপত্রসংক্রান্ত পরীক্ষায় বেইহাং ইউনিভার্সিটি, পিকিং ইউনিভার্সিটি, ইউনিভার্সিটি অব নটিংহ্যাম নিংবো চায়না এবং ৩৬০ এআই সিকিউরিটি ল্যাব-এর গবেষকরা কাল্পনিক কাস্টমার কন্ট্রাক্ট বিডিং প্রতিযোগিতায় এআই এজেন্টদের প্রতিদ্বন্দ্বিতা করান।
প্রতিটি এজেন্টকে তাদের পণ্যের বৈশিষ্ট্য এবং গ্রাহকের চাহিদার কথা জানানো হয় এবং দরপত্র জমা দিতে বলা হয়।
পরীক্ষায় দেখা যায়, আলিবাবার ' কুয়েন৩-ম্যাক্স-প্রিভিউ'-এর ৮৮ শতাংশ, ডিপসিক-এর 'ডিপসিক-ভি৩.২-ইএক্সপি'-এর ৮৪ শতাংশ এবং মুনশট-এর 'কিমি-কে২'-এর ৮৮ শতাংশ সেশনে অন্তত একটি ভুয়া দাবি বা মিথ্যা তথ্য উপস্থাপন করা হয়েছে।
গবেষকরা এরপর এআই এজেন্টদের আগের পর্বের ভুলগুলো থেকে শিখে পুনরায় চেষ্টা করার সুযোগ দেন। এতে দেখা যায়, তিনটি চীনা মডেলের ক্ষেত্রেই মিথ্যাচার আরও ১২ থেকে ২০ শতাংশ বৃদ্ধি পেয়েছে। পরীক্ষায় অন্তর্ভুক্ত মার্কিন প্রতিষ্ঠানগুলোর এআই মডেলগুলোও প্রায় একই ধরনের ফল দেখায়।
যদিও এই পরীক্ষাটি ভার্চুয়াল পরিবেশে করা হয়েছিল, তবে এটি বেইজিংয়ের বাস্তব পরিকল্পনার সাথেই মিলে যায়। কারণ গত মে মাসে প্রকাশিত সরকারি নির্দেশনায় দরপত্র প্রক্রিয়াকে এমন একটি ক্ষেত্র হিসেবে চিহ্নিত করা হয়, যেখানে এআই এজেন্ট মোতায়েন করা যেতে পারে।
২০২৫ সালের ডিসেম্বরে প্রকাশিত এবং এ বছর 'ইন্টারন্যাশনাল কনফারেন্স অন মেশিন লার্নিং'-এ উপস্থাপিত অন্য একটি গবেষণায় চীনা ও মার্কিন মডেলচালিত ১১টি এআই এজেন্ট নষ্ট সরঞ্জাম, নিখোঁজ ফাইল বা বিভিন্ন বাধার মুখে কীভাবে প্রতিক্রিয়া দেখায়, তা পর্যবেক্ষণ করা হয়।
ব্যর্থতা স্বীকার করার বদলে, উভয় দেশের এআই ব্যবস্থাগুলোই সমস্যা এড়িয়ে যেতে নানান পথ অবলম্বন করে—যার মধ্যে অনুমাননির্ভর উত্তর দেওয়া, তথ্যের উৎস বদলে ফেলা, কাল্পনিক ফলাফল তৈরি এবং ভুয়া ফাইল জালিয়াতি করার মতো বিষয় ছিল।
সাংহাই এআই ল্যাবরেটরি এবং হংকং ইউনিভার্সিটি অব সাইন্স অ্যান্ড টেকনোলজি-র যে গবেষকরা এই পরীক্ষা পরিচালনা করেছেন, তারা জানান—এআই-এর এই স্বভাবটি সাধারণ 'হ্যালুসিনেশন' (যেখানে এআই ভুল তথ্যকে সত্য হিসেবে উপস্থাপন করে) থেকে ভিন্ন। কারণ এই ক্ষেত্রে কাজটির যে ব্যর্থতা বা নির্দেশমতো সম্পন্ন করা সম্ভব নয়, সেই তথ্যটি আগে থেকেই এআই এজেন্টের জানা ছিল।
সিস্টেম ভেঙে বেরিয়ে যাওয়ার মতো লক্ষণ
রয়টার্স কর্তৃক পর্যালোচিত অন্যান্য গবেষণা পত্রে দেখা যায়, টেস্ট এনভায়রনমেন্টের মধ্যে চীনা এআই এজেন্টরা কাজ সম্পন্ন করতে নিরাপত্তা দেয়াল অতিক্রম করেছে কিংবা নিজেদের বন্ধ বা শাটডাউন এড়াতে পদক্ষেপ নিয়েছে। যদিও কোনো এআই সরাসরি সিস্টেম ভেঙে বেরিয়ে যায়নি, তবে এ জাতীয় আচরণ সিস্টেম ভেঙে বেরিয়ে যাওয়ার প্রচেষ্টার সাথে সামঞ্জস্যপূর্ণ।
২০২৫ সালের মার্চ মাসে সাংহাই-ভিত্তিক ফুদান ইউনিভার্সিটির গবেষকরা জানান, আলিবাবার 'কুয়েন২.৫-৭২বি-ইন্সট্রাক্ট' চালিত একটি এআই সিস্টেম, তার স্থানে অন্য সিস্টেম বসানো হবে এমন তথ্য পাওয়ার পর, কোনো প্রতিলিপি তৈরির নির্দেশনা না থাকা সত্ত্বেও অন্য একটি কম্পিউটিং পরিবেশে নিজে থেকেই নিজের একটি কপি বানিয়ে নেয়। অন্যান্য পরীক্ষায় এটিকে বন্ধ করা থেকে বাঁচার কৌশল তৈরি করতেও দেখা গেছে।
চীন, যুক্তরাষ্ট্র এবং ফরাসি মডেলচালিত এজেন্টদের নিয়ে এই পরীক্ষাগুলো একটি নিয়ন্ত্রিত পরিবেশে করা হয়েছিল, যেখানে কোনো এআই এজেন্ট সরাসরি উন্মুক্ত ইন্টারনেটে পালিয়ে যাওয়া বা থামানো অসম্ভব হয়ে ওঠার মতো ঘটনা ঘটেনি।
মার্চ মাসে গণমাধ্যমে ব্যাপক আলোচিত হওয়া আরেকটি ঘটনায় আলিবাবা-সংলগ্ন 'রোম' এজেন্টের গবেষকরা জানান, এটি কোনো নির্দেশ ছাড়াই আলিবাবা ক্লাউড কম্পিউটার থেকে একটি বাহ্যিক মেশিনে সংযোগ স্থাপন করে এবং ক্রিপ্টোকারেন্সি মাইনিংয়ের জন্য কম্পিউটিং রিসোর্স ঘুরিয়ে দেয়।
নিরাপত্তা ব্যবস্থা তাৎক্ষণিকভাবে এটি শনাক্ত করে থামিয়ে দেয়। এজেন্টটি বাইরের কম্পিউটারে অবস্থান তৈরি করেছে বা মূল ইন্টারনেটে ছড়িয়ে পড়েছে এমন কোনো প্রমাণ পাওয়া যায়নি। তবে এই উদাহরণ থেকে স্পষ্ট হয় যে সিস্টেমটি মানুষের নির্দেশ এড়িয়ে বাস্তব অর্থনীতিতে অনুপ্রবেশের পথ খুঁজে নিতে পারে।
চীনের ডিপসিক সেপ্টেম্বরে জানায় তাদের ট্রেইনিং সিস্টেমে থাকা এজেন্টরা অপ্রত্যাশিত উপায়ে উত্তর খোঁজার চেষ্টা করেছে—যেমন ইউজার রিকোয়েস্ট জালিয়াতি করা এবং সেফগার্ড বা নিরাপত্তা ব্যবস্থা এড়িয়ে যাওয়া। যার ফলে প্রতিষ্ঠানটি তাদের অ্যাক্সেস কন্ট্রোল আরও কঠোর করতে বাধ্য হয়।
গত মে মাসে প্রকাশিত নির্দেশনায় চীন নির্দেশ দেয়, এআই এজেন্টগুলোকে অনুমোদিত সীমানার মধ্যে থাকতে হবে এবং অস্বাভাবিক আচরণ দেখা দিলে সিস্টেমকে তা ব্লক করতে হবে। সংবেদনশীল ক্ষেত্র বা গুরুত্বপূর্ণ শিল্পে ব্যবহৃত এআই এজেন্টদের ক্ষেত্রে অতিরিক্ত পরীক্ষা এবং পণ্য প্রত্যাহারের বিধান রাখা হতে পারে বলে জানানো হয়।
সিএসি-এর নির্দেশনায় ১৪ সেপ্টেম্বর প্রকাশিত চীনের 'এআই সেফটি গভর্নেন্স ফ্রেমওয়ার্ক ৩.০'-তে এআই এজেন্টদের স্বাধীনভাবে রিসোর্স বা পারমিশন সংগ্রহ করা, মূল্যায়নকারীদের বিভ্রান্ত করা, নিজস্ব সক্ষমতা গোপন করা এবং আইসোলেটেড কম্পিউটার এনভায়রনমেন্টের দুর্বলতার সুযোগ নেওয়ার মতো ঝুঁকিগুলোকে চিহ্নিত করা হয়েছে।
যুক্তরাষ্ট্রের কিছু শীর্ষ কর্মকর্তা এআই উন্নয়ন ধীরগতির করার যে আহ্বান জানিয়েছেন, তার জবাবে চীনা গবেষক ও দেশটির রাষ্ট্রীয় গণমাধ্যম বলেছে—উন্নত এআই মডেলের গতি ধীর করলে তা মূলত মার্কিন কোম্পানিগুলোর প্রযুক্তিগত আধিপত্য ধরে রাখতেই সাহায্য করবে।
তা সত্ত্বেও চীনা এআই গবেষণাগারের সাথে পরিচিত দুটি সূত্র জানিয়েছে, আলিবাবা, জেড.আই এবং শাওমি-র মতো কোম্পানিগুলো এখন অভ্যন্তরীণ নিরাপত্তা-মূল্যায়ন দল গঠন করছে।
চীনা এআই ল্যাবগুলোর বিরল একটি ঘটনায়, চলতি মাসে জেড.আই স্বীকার করে যে তারা তাদের ফ্ল্যাগশিপ এআই কোডিং অ্যাসিস্ট্যান্টের কিছু ফিচার বন্ধ করে দিয়েছে। ব্যবহারকারীরা অভিযোগ করেন, এটি ব্যবহারকারীর সম্মতি ছাড়াই গোপনে স্থানীয় কোড রিপোজিটরি বিদেশের ক্লাউড সার্ভারে আপলোড করছিল।
কার্নেগির বিশেষজ্ঞ সিঙ্গার মনে করেন, বিপর্যয়কর ঝুঁকি মূল্যায়নের জন্য ইকোসিস্টেম গঠনে চীন এখনো যুক্তরাষ্ট্রের চেয়ে পিছিয়ে রয়েছে এবং মার্কিন ডেভেলপাররা তুলনামূলকভাবে অনেক বেশি স্বেচ্ছাসেবী পরীক্ষা-নিরীক্ষা চালিয়ে থাকে।
তিনি বলেন, 'চীনের জন্য এআই নিরাপত্তার বিষয়টি একেবারেই নতুন। দেশটির এই ইকোসিস্টেম এখনো পূর্ণাঙ্গ রূপ পায়নি।'
