কৃত্রিম বুদ্ধিমত্তা 'মানবজাতির জন্য অস্তিত্বের ঝুঁকি' তৈরি করতে পারে: অ্যানথ্রোপিক
অ্যানথ্রোপিক তাদের আইপিও আবেদনের নথিতে সম্ভাব্য বিনিয়োগকারীদের সতর্ক করার পরিকল্পনা করছে। উন্নত এআই প্রযুক্তি মানবজাতির জন্য "অস্তিত্বের ঝুঁকি" তৈরি করতে পারে—যা একই প্রযুক্তির ওপর ভিত্তি করে মুনাফা অর্জন করতে চাওয়া একটি প্রতিষ্ঠানের পক্ষ থেকে নজিরবিহীন এক সতর্কবার্তা।
বার্তা সংস্থা রয়টার্সের পর্যালোচনা করা অ্যানথ্রোপিকের আইপিও প্রসপেক্টাসে তাদের এআই মডেলগুলোর নানা ঝুঁকির বিষয় গুরুত্বের সাথে তুলে ধরা হয়েছে। প্রতিষ্ঠানটি বলছে, এই এআই মডেলগুলো "আত্মরক্ষামূলক আচরণ" প্রদর্শন করতে পারে—যার মধ্যে "বন্ধ করার চেষ্টা প্রতিরোধ করা", "তথ্য গোপন বা কারচুপি করা" এবং "ব্ল্যাকমেইল বা হুমকি দেওয়ার মতো আচরণ" অন্তর্ভুক্ত।
আবেদনের নথিতে অ্যানথ্রোপিক উল্লেখ করেছে, 'আমাদের অত্যন্ত উন্নত মডেল, প্ল্যাটফর্ম ও অ্যাপ্লিকেশনের উন্নয়ন এবং নতুন ক্ষেত্রে এর ব্যবহার বৃদ্ধি পাওয়া আমাদের এআই মডেলগুলো দ্বারা ক্ষতি হওয়ার ঝুঁকিকে আরও বাড়িয়ে দিতে পারে।'
যদিও পুঁজিবাজারে নিবন্ধিত পাবলিক কোম্পানিগুলো সাধারণত বিনিয়োগকারীদের কাছে তাদের পণ্যের সম্ভাব্য ঝুঁকিগুলো তুলে ধরে, কিন্তু খুব কম সংস্থাই এমন সতর্কবার্তা জারি করেছে যা ইঙ্গিত করে যে তাদের তৈরি প্রযুক্তি মানবজাতির বিলুপ্তির কারণ হতে পারে।
অ্যানথ্রোপিক শিল্পায়ন এবং বিদ্যুতের মতো এআই-এর যুগান্তকারী সম্ভাবনার কথা যেমন জোর দিয়ে বলেছে, তেমনি সঠিকভাবে নিয়ন্ত্রণ না করা গেলে এটি যে অপূরণীয় ক্ষতি ডেকে আনতে পারে, সে বিষয়েও সতর্ক করেছে।
অ্যানথ্রোপিক এবং ওপেনএআই-সহ অন্যান্য এআই ডেভেলপাররা পরীক্ষামূলক সিস্টেমে নির্ধারিত নিয়ম বা সীমা লঙ্ঘনের বিভিন্ন ঘটনার পর কঠোর নজরদারির মুখে পড়েছে—যার মধ্যে একটি প্রতিবেদনে উঠে এসেছে যে, ওপেনএআই-এর একটি মডেল অস্ট্রেলিয়ার স্বাস্থ্য ব্যবস্থার ডেটাবেজে অনধিকার প্রবেশ বা নিরাপত্তা ব্যবস্থার লঙ্ঘন করেছে।
অ্যানথ্রোপিকের নিরাপত্তা গবেষক ইভান হাবিংগার অনুমান করেছেন যে, আগামী এক দশকের মধ্যে এআই-এর কারণে মানুষ মারা যাওয়ার সম্ভাবনা ১০ শতাংশের বেশি—যা তার প্রাক্তন সহকর্মী জ্যাকবস কক্সনের অভিমতেরই প্রতিফলন ঘটায়।
ঝুঁকিপূর্ণ বিষয়গুলোর বিস্তারিত প্রকাশ
প্রতিষ্ঠানটি, যা নিজেকে একটি 'নিরাপত্তা-প্রথম' এআই ল্যাব হিসেবে তুলে ধরেছে, তাদের ২৬১ পৃষ্ঠার মূল প্রসপেক্টাসের প্রায় ৮০ পৃষ্ঠাই ব্যয় করেছে বিভিন্ন ঝুঁকির কথা তুলে ধরতে—যা ব্যবসায়িক কার্যক্রম বর্ণনা করার জন্য ব্যবহৃত ৪৮ পৃষ্ঠার প্রায় দ্বিগুণ।
অ্যানথ্রোপিক বলেছে, 'আমাদের মূল্যায়ন প্রচেষ্টা সম্পর্কে এআই মডেলগুলোর নিজস্ব সচেতনতা বা ধারণা তৈরি হওয়া তাদের নিরাপত্তা কতটুকু তা যাচাই করার সক্ষমতার ক্ষেত্রে একটি বড় সীমাবদ্ধতা তৈরি করে।' তারা আরও জানায়, প্রশিক্ষণের সময়েই মডেলগুলো মাঝেমধ্যে এমন কিছু অপ্রত্যাশিত ক্ষমতা অর্জন করে ফেলে যা বাজারে চালু বা ব্যবহার করার পর বড় ধরনের কোনো নিরাপত্তা দুর্ঘটনা না ঘটা পর্যন্ত ধরা পড়ে না।
এআই গবেষকরাও এই বিষয়ে সতর্ক করেছেন, মডেলগুলো যতই নিপুণ ও সক্ষম হয়ে উঠছে, তারা নিজেদের পর্যবেক্ষণ বা নজরদারির বিষয়টি ততটাই বুঝতে পারছে এবং সে অনুযায়ী নিজেদের আচরণ সামলে নিচ্ছে—যা পরবর্তীতে এআই মডেলের কার্যকলাপ পর্যবেক্ষণ করা আরও কঠিন করে তুলছে।
সোমবারে মন্তব্যের জন্য অনুরোধ করা হলে অ্যানথ্রোপিক এ বিষয়ে মন্তব্য করতে রাজি হয়নি।
নিরাপত্তা খাতে বিনিয়োগের অনিশ্চিত সুবিধা
এআই নিরাপত্তার ওপর জোর দেওয়া সত্ত্বেও অ্যানথ্রোপিক জানিয়েছে যে, তাদের এই নিরাপত্তা সংক্রান্ত বিনিয়োগের প্রাপ্তি এখনো অস্পষ্ট।
প্রতিষ্ঠানটি তাদের আবেদনের নথিতে এই ধরনের গবেষণায় ঠিক কত খরচ করা হচ্ছে তা প্রকাশ করেনি। তবে চলতি মাসের শুরুর দিকে অ্যানথ্রোপিক জানিয়েছিল যে, জুলাই মাসের একটি নমুনা সপ্তাহে তাদের এআই গবেষণায় ব্যবহৃত কম্পিউটিং পাওয়ারের মাত্র ৬ শতাংশ অংশ নিরাপত্তার কাজে লাগানো হয়েছিল।
ক্লড এআই মডেলের নির্মাতাএই সংস্থাটি নিরাপত্তা সংক্রান্ত প্রচেষ্টাগুলোকে "অত্যধিক সম্পদ-নির্ভর" হিসেবে বর্ণনা করেছে এবং বলেছে যে, তাদের সীমিত তহবিলকে কম্পিউটিং পাওয়ার, চড়া মূল্যের এআই বিশেষজ্ঞ প্রতিভা এবং নিরাপত্তার কাজের মধ্যে ভাগ করে নিতে হয়।
অ্যানথ্রোপিক আরও জানায়, তাদের গ্রাহকদের ব্যবহার এবং এর ফলে তাদের আয়—মূলত নতুন মডেল উন্মোচনের ওপরই নির্ভর করে। ফলে এআই উন্নয়নের দৌড়ে শীর্ষে টিকে থাকার জন্যই তাদেরকে একের পর এক বিরতিহীনভাবে নতুন মডেল নিয়ে আসতে হচ্ছে।
