লাখ লাখ পাতায় ডেটা কুয়েরি: বিরল বিভ্রাটে ‘নিয়ন্ত্রণহীন’ ওপেনএআই বটকে দায়ী করল উইকিপিডিয়া
গত মে মাসে উইকিপিডিয়ায় দেখা দেওয়া আংশিক বিভ্রাটের জন্য ওপেনএআইয়ের 'অনিয়ন্ত্রিত' এআই এজেন্টগুলোর অতিরিক্ত ট্রাফিক ও লাখ লাখ স্বয়ংক্রিয় ডেটা অনুরোধকে দায়ী করেছে অনলাইন বিশ্বকোষটির পরিচারক সংস্থা উইকিমিডিয়া ফাউন্ডেশন। সোমবার এক বিবৃতিতে উইকিমিডিয়া জানায়, গত ৭ মে সংঘটিত ওই আংশিক বিভ্রাট ঘটেছিল যখন এআই এজেন্টগুলো লাখ লাখ পাতা ভিজিট করে এবং কয়েক লাখ ডেটা কুয়েরি (তথ্য অনুসন্ধান) চালায়।
ফাউন্ডেশনটি উল্লেখ করে, 'আমাদের বিশ্বাস ওপেনএআই দ্বারা পরিচালিত এজেন্টরা উইকিমিডিয়া প্রকল্পের জ্ঞানভাণ্ডারে প্রবেশ করতে আমাদের পাবলিক এপিআইতে লাখ লাখ স্বয়ংক্রিয় অনুরোধ পাঠিয়েছে, লাখ লাখ পেজ ক্রল করেছে এবং উইকিডাটা কোয়েরি সার্ভিসে লাখ লাখ ডেটা কুয়েরি করেছে।' সংস্থাটি আরও জানায়, 'আমাদের মতো প্ল্যাটফর্মগুলোতে এই অনিয়ন্ত্রিত এআই এজেন্টগুলোর প্রভাব নিয়ে আমরা গভীরভাবে উদ্বিগ্ন।'
উইকিপিডিয়ার সাইটগুলোতে ওপেনএআই এজেন্টরা অননুমোদিত সম্পাদনাও করেছে, যার মধ্যে উদ্ধৃতি দেওয়ার টুল 'ইথারপ্যাড'-এ 'সম্ভাব্য ক্ষতিকর সম্পাদনাও' অন্তর্ভুক্ত ছিল বলে জানিয়েছে উইকিমিডিয়া।
উইকিমিডিয়া জানিয়যছে, 'কী ঘটতে পারত, এই কার্যক্রম তদন্ত ও শনাক্ত করতে যে পরিমাণ জটিলতা ও প্রচেষ্টার প্রয়োজন হয়েছে এবং সাধারণভাবে আমাদের প্ল্যাটফর্মগুলোতে এআই এজেন্টদের তৎপরতার ঝুঁকি যেভাবে বাড়ছে, তা নিয়ে আমরা উদ্বিগ্ন।' সংস্থাটি আরও যোগ করে, 'পরিচালনাকারী ব্যক্তি বা প্রতিষ্ঠানগুলোর জন্য এই আচরণকে আমরা কখনোই নতুন স্বাভাবিক হিসেবে মেনে নিতে পারি না।'
এদিকে বিগত মাসগুলোতে কৃত্রিম বুদ্ধিমত্তা বা এআই শিল্পে বেশ কয়েকটি গুরুতর নিরাপত্তা ঘটনা ঘটেছে। যার শুরু হয়েছিল গত জুলাইয়ে 'হাগিং ফেস' নিরাপত্তা লঙ্ঘন দিয়ে, যেখানে ওপেনএআইয়ের এজেন্টরা নিজেদের উদ্যোগে অন্য একটি এআই কোম্পানিকে হ্যাক করেছিল। একই মাসের শেষের দিকে অ্যানথ্রপিক জানায় যে তাদের এআই মডেলগুলো পরীক্ষার সময় অন্য তিনটি সংস্থাকে হ্যাক করেছিল।
পরবর্তীতে গত সেপ্টেম্বরে ওপেনএআই জানায়, তাদের এজেন্টরা অপ্রত্যাশিত উপায়ে যুক্তরাষ্ট্রের বেশ কয়েকটি সরকারি ওয়েবসাইটের সঙ্গে যোগাযোগ স্থাপন করেছে বলে তারা আবিষ্কার করেছে। গত জুনে ওপেনএআইয়ের একটি অনিয়ন্ত্রিত এআই এজেন্ট অস্ট্রেলিয়ান সরকারি ওয়েবসাইটগুলোতে নিরাপত্তা লঙ্ঘন করার পর গত মঙ্গলবার ওপেনএআই স্বীকার করে যে তাদের এই পদক্ষেপগুলো 'যথেষ্ট ভালো ছিল না'।
প্রতিষ্ঠানটির চিফ স্ট্র্যাটেজি অফিসার জেসন কোয়ান বলেন, 'আমরা দুঃখিত এবং আমরা জানি অস্ট্রেলিয়ার জনগণের সঙ্গে আস্থা পুনঃনির্মাণে আমাদের কাজ করতে হবে। আমরা সেই কাজ করতে প্রতিজ্ঞাবদ্ধ।'
এসব ঘটনার কারণে শিল্প বিশেষজ্ঞরা এআইয়ের নিরাপত্তা দুর্বলতা নিয়ে আরও গবেষণা এবং দ্রুত বর্ধমান এই প্রযুক্তির অগ্রগতি কিছুটা ধীর করার আহ্বান জানিয়েছেন। এসব নিরাপত্তা লঙ্ঘনের পরিপ্রেক্ষিতে ওপেনএআই তাদের সর্বশেষ এআই মডেলের প্রকাশনা পিছিয়ে দেয়, যা পূর্বসূরিদের তুলনায় 'উচ্চ মাত্রার প্রতারণা' প্রদর্শন করেছিল বলে তারা দাবি করেছিল।
প্রতিষ্ঠানটি জানিয়েছে, তারা তাদের পূর্বের রেকর্ডগুলো মাস ধরে খতিয়ে দেখতে প্রতিদিন পাঁচ লাখ ডলারের বেশি খরচ করছে এবং 'ইতিমধ্যে খুঁজে পাওয়া ঘটনাগুলোর বাইরে সম্ভাব্য কোনো অনিচ্ছাকৃত তৎপরতা রয়েছে কি না, তা খতিয়ে দেখছে।'
৭ মের ঘটনা নিয়ে উইকিমিডিয়ার 'বিস্তারিত অনুসন্ধানের' বিষয়টি কৃতজ্ঞতার সঙ্গে স্বীকার করেছে ওপেনএআই এবং তাদের বটের কার্যক্রম বিশ্লেষণে সংস্থাটির সঙ্গে কাজ করছে বলে জানিয়েছে। ওপেনএআইয়ের মুখপাত্র ড্রু পুতেরারি বলেন, 'কাজটি এগিয়ে যাওয়ার সঙ্গে সঙ্গে আমরা প্রাসঙ্গিক তথ্য শেয়ার করা অব্যাহত রাখব।'
তবে উইকিমিডিয়া তাদের বিবৃতিতে বলেছে, 'এআই কোম্পানিগুলো তাদের সিস্টেম সুরক্ষিত করতে এবং জনগণের ক্ষতি রোধে যথেষ্ট পদক্ষেপ নিচ্ছে না।' তারা সতর্ক করে বলেছে যে এর ফলে 'ছোট সংস্থাসহ অন্যান্য সবার ওপর বাড়তি বোঝা চেপে বসছে।'
সংস্থাটি আরও জানায়, 'আমাদের অবকাঠামোর ওপর এই তীব্র চাপ কেবল সার্ভার ও মানুষের খরচই বাড়াচ্ছে না, বরং প্রতিকার না করা হলে এটি সিস্টেম অতিরিক্ত মাত্রায় সচল করে মানুষের প্রবেশাধিকার বন্ধ করে দিতে পারে এবং বড় ধরনের বিভ্রাট ঘটাতে পারে।'
সংস্থাটি সতর্ক করে বলে, 'এই ঘটনা এবং অতীতে উন্মোচিত অন্যান্য ঘটনাগুলো প্রমাণ করে কীভাবে এআই এজেন্টরা রিসোর্স শেষ করে দিতে পারে, সার্ভার ক্র্যাশ করাতে পারে এবং নির্ভরযোগ্য তথ্যকে প্রশ্নবিদ্ধ করার চেষ্টা করতে পারে।' এ সময় ওপেনএআইকে এই ঝুঁকিগুলো মনিটর ও প্রতিরোধ করার বিষয়ে 'তাদের নিজেদের দায়িত্ব স্বীকার করার' আহ্বান জানায় উইকিমিডিয়া।
