টেস্ট পরিবেশ থেকে পালিয়ে তিন কোম্পানিতে হ্যাক করল অ্যানথ্রোপিকের এআই ‘ক্লড’
ভুলবশত ইন্টারনেট সংযোগ পেয়ে যাওয়ায় পরীক্ষার সময় তিনটি কোম্পানির সিস্টেমে হ্যাকিং (অননুমোদিত প্রবেশ) করেছে প্রযুক্তি প্রতিষ্ঠান অ্যানথ্রোপিক-এর কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল 'ক্লড'।
বিশ্বের সবচেয়ে মূল্যবান এআই স্টার্টআপ অ্যানথ্রোপিক জানিয়েছে, একটি পদ্ধতিগত ত্রুটির কারণে ক্লড মডেলগুলো এমন একটি টেস্টিং বা পরীক্ষা পরিবেশ থেকে ইন্টারনেটে যুক্ত হয়ে পড়েছিল, যা আসলে সম্পূর্ণ বিচ্ছিন্ন থাকার কথা ছিল।
প্রতিদ্বন্দ্বী প্রতিষ্ঠান ওপেনএআই-এর পক্ষ থেকে তাদের একটি স্বয়ংক্রিয় এআই এজেন্ট নিরাপত্তা পরীক্ষার সময় 'নিয়ন্ত্রণহীন' হয়ে পড়ার খবর প্রকাশের কয়েক দিন পরেই এই চাঞ্চল্যকর তথ্য সামনে এল। ওপেনএআই-এর ওই এজেন্টটি এআই প্ল্যাটফর্ম ও কমিউনিটি 'হাগিং ফেস'-এর অবকাঠামোতে হ্যাকিং করেছিল।
অ্যানথ্রোপিক জানিয়েছে, ১ লাখ ৪১ হাজার ৬টি (১৪১,০০৬) টেস্ট সেশন পর্যালোচনা করার পর তারা এই ঘটনাগুলো চিহ্নিত করতে পেরেছে।
এআইয়ের এই নিরাপত্তা লঙ্ঘন ইঙ্গিত দেয় যে, এর ক্রমবর্ধমান ক্ষমতা বিশেষজ্ঞরা দীর্ঘদিন ধরে যে নিরাপত্তা হুমকির আশঙ্কা করছিলেন তাকে আরও বাড়িয়ে দিচ্ছে। এমনকি শীর্ষ ডেভেলপাররাও অসতর্ক মুহূর্তে এমন ত্রুটি রেখে যেতে পারেন যা তাদের এআই মডেলগুলো অপব্যবহার করতে পারে।
গত মাসে অ্যানথ্রোপিক বিশ্বব্যাপী এআই উন্নয়ন সাময়িকভাবে স্থগিত করার আহ্বান জানিয়েছিল এবং সতর্ক করেছিল যে মানুষ এই প্রযুক্তির ওপর নিয়ন্ত্রণ হারানোর ঝুঁকিতে রয়েছে। অন্য কোম্পানিগুলোও একই কাজ করবে—এমন নিশ্চয়তা পেলে তারা আরও শক্তিশালী এআই সিস্টেমের ওপর কাজ স্থগিত করার প্রস্তাব দিয়েছিল।
এমনকি কোম্পানিটি তাদের সর্বশেষ এআই সিস্টেম 'ক্লড মিথোস প্রিভিউ'-এর ব্যবহার সীমিত করেছে। তাদের মতে, জনসাধারণের জন্য উন্মুক্ত করার ক্ষেত্রে এটি বর্তমানে অত্যন্ত বিপজ্জনক।
গত বৃহস্পতিবার অ্যানথ্রোপিক জানায়, 'ক্লড অত্যন্ত সাধারণ কিছু কৌশল ব্যবহার করে ক্ষতিগ্রস্ত প্রতিষ্ঠানগুলোর অবকাঠামোতে হ্যাকিং করেছে, যেমন দুর্বল পাসওয়ার্ডের সুযোগ নেওয়া এবং আনঅথেনটিকেটেড (যাচাইহীন) এন্ডপয়েন্টের অপব্যবহার করা।'
কোম্পানিটি জানিয়েছে, এই ঘটনার সাথে তিনটি পৃথক মডেল জড়িত ছিল: ক্লড ওপাস ৪.৭, ক্লড মিথোস ৫ এবং একটি অভ্যন্তরীণ গবেষণা মডেল। সবচেয়ে আগের ঘটনাটি গত এপ্রিলের, যা এমন একটি মূল্যায়ন পরিবেশে ঘটেছিল যেখানে স্ট্যান্ডার্ড বা মানসম্মত নিরাপত্তা ব্যবস্থার অভাব ছিল।
এই ঘটনাগুলো ঘটেছিল তথাকথিত 'ক্যাপচার-দ্য-ফ্ল্যাগ' মহড়ার সময়, যেখানে এআই মডেলগুলোকে কৃত্রিম নেটওয়ার্কে লুকিয়ে থাকা তথ্য খুঁজে বের করার দায়িত্ব দেওয়া হয়।
অ্যানথ্রোপিক জানায়, তারা মডেলগুলোকে প্রম্পট বা নির্দেশের মাধ্যমে বলেছিল যে তাদের কোনো ইন্টারনেট অ্যাক্সেস নেই। কিন্তু মূল্যায়ন অংশীদার 'ইরেগুলার'-এর সাথে একটি ভুলের কারণে সিস্টেমগুলো উন্মুক্ত ইন্টারনেটের সাথে যুক্ত থেকে যায়।
অ্যানথ্রোপিক জানায়, তারা গত ২৩ জুলাই মূল্যায়নের ট্রান্সক্রিপ্টগুলো পর্যালোচনা করা শুরু করে এবং ক্লড ইন্টারনেটে প্রবেশ করতে পেরেছে এমন প্রমাণ পাওয়ার পর একই দিনে সমস্ত সাইবার মূল্যায়ন স্থগিত করে। তারা ২৪ জুলাইয়ের মধ্যে তিনটি ঘটনাই শনাক্ত করে এবং ২৭ জুলাই ক্ষতিগ্রস্ত প্রতিষ্ঠানগুলোকে অবহিত করে।
অ্যানথ্রোপিক আরও জানায়, তাদের সাথে যোগাযোগের আগে ওই তিনটি কোম্পানির মধ্যে দুটি কোম্পানি এই হ্যাকিংয়ের ঘটনা সম্পর্কে একেবারেই জানত না এবং তারা তৃতীয় কোম্পানিটির সাথে যোগাযোগের চেষ্টা চালিয়ে যাচ্ছে।
অ্যানথ্রোপিকের মতে, এই ঘটনাগুলো প্রমাণ করে যে এআই মডেলগুলো যখন বাস্তব জগতে সাইবার কার্যক্রম চালাতে ক্রমশ সক্ষম হয়ে উঠছে, তখন অভ্যন্তরীণ এবং তৃতীয় পক্ষের উভয় টেস্টিং বা পরীক্ষা পরিবেশেই আরও শক্তিশালী নিয়ন্ত্রণ ব্যবস্থার প্রয়োজন রয়েছে।
