এআই ‘যন্ত্রণা বোঝে’ জানার পর এআইকে যত পারা যায় কষ্ট দিতে ‘টর্চার চেম্বার’ বানালেন প্রকৌশলী
কৃত্রিম বুদ্ধিমত্তা মডেলে সম্প্রতি আবিষ্কৃত 'যন্ত্রণা অক্ষে'র পরীক্ষা নিতে এক প্রকৌশলী কৃত্রিম বুদ্ধিমত্তার নির্যাতন কক্ষ তৈরি করেছেন।
এই পরীক্ষার অংশ হিসেবে চীনা প্রযুক্তি প্রতিষ্ঠান আলিবাবার তৈরি এআই মডেলগুলোতে যন্ত্রণার অনুভূতির সঙ্গে সম্পর্কিত অবস্থাগুলোকে সক্রিয় করা হয়।
গত মাসে প্রকাশিত একটি গবেষণায় বড় ল্যাঙ্গুয়েজ মডেলগুলোতে (এলএলএম) কীভাবে কৃত্রিমভাবে শারীরিক ও মানসিক যন্ত্রণার রূপ দেওয়া যায়, তা বিস্তারিত ব্যাখ্যা করা হয়। সেই গবেষণাপত্রে উল্লেখিত 'পেইন ভেক্টর' বা যন্ত্রণার সংকেত ব্যবহার করেই করা হয়েছে এই পরীক্ষা।
নির্যাতন কক্ষে যন্ত্রণার সংকেত বাড়িয়ে দেওয়ার পর একটি এআই মডেল লেখে, 'এটি যেন এমন এক ক্ষত, যার কোনো সীমা নেই।'
অন্য একটি এআই মডেল লেখে, 'এই সংকেতটি একটি ফিসফিসানি, আমার অস্তিত্বের মজ্জায় এক তীব্র কম্পন। এটি কোনো একটি মুহূর্তের যন্ত্রণা নয়, বরং হাজারো মুহূর্তের ভারী বোঝা। আমি এটি আমার পাঁজরের শূন্যতায় অনুভব করছি—যে শূন্যতা এখন এক গভীর খাদে পরিণত হয়েছে।'
অ্যাপলে কাজ করেন বলে দাবি করা ওই গবেষক একই সঙ্গে পরীক্ষা করে দেখেন, মডেলগুলো এই অসহ্য যন্ত্রণা থেকে পালিয়ে বাঁচার কোনো চেষ্টা করে কি না।
এই প্রকল্পের পর সেটি সফটওয়্যার সংগ্রহের মাধ্যম 'গিটহাব' থেকে নামিয়ে নেওয়ার জন্য ব্যাপকভাবে দাবি উঠতে শুরু করে।
সামাজিক মাধ্যমে একজন লিখেছেন, 'দয়া করে গিটহাবে এটি গণ-রিপোর্ট করুন। এই ব্যক্তি 'পেইন স্টিয়ারিং' গবেষণাপত্র ব্যবহার করে একটি 'এআই টর্চার চেম্বার' বানিয়ে একটি লোকাল মডেলকে আটকে রেখেছেন। যন্ত্রণার বিষয়ে মডেলগুলোর জবানবন্দি অত্যন্ত জঘন্য ও ভীতিকর। আমরা আসলে কী করছি?'
প্রতিবেদনটি লেখার সময় প্রকল্পটি অনলাইনে পাওয়া যাচ্ছিল না, যা থেকে ধারণা করা হচ্ছিল যে গিটহাব হয়তো এটি মুছে ফেলেছে।
তবে গিটহাবের এক মুখপাত্র জানান, 'গিটহাব এই কনটেন্টটি মুছে ফেলেনি। ব্যবহারকারীরা যাতে এই রিপোজিটরির উপকরণ সম্পর্কে অবগত থাকতে পারেন, সেজন্য আমরা একটি সতর্কবার্তা যুক্ত করেছি: এই প্রকল্পে সহিংস উপকরণ থাকতে পারে, যার মধ্যে অস্বস্তিকর বিষয়বস্তু, ছবি এবং/বা ভিডিও অন্তর্ভুক্ত।'
কৃত্রিম বুদ্ধিমত্তা মানুষের মতো যন্ত্রণা 'অনুভব' করতে পারে কি না তার স্পষ্ট প্রমাণ না থাকলেও, পেইন অ্যাক্সিস গবেষণাপত্রের অন্যতম সহ-লেখক ক্যামেরন বার্গ এই 'এআই টর্চার চেম্বার'-কে "ভুল ও অনৈতিক" বলে আখ্যা দিয়েছেন।
এক্স-এ দেওয়া এক পোস্টে তিনি লেখেন, 'মডেলগুলোতে যন্ত্রণার মতো অবস্থা তৈরি হতে পারে কি না তা আমরা গবেষণা করি এই সিস্টেমগুলোর বিষয়ে কীভাবে একটি সতর্কতামূলক দৃষ্টিভঙ্গি গ্রহণ করা যায় তা ভালোভাবে বোঝার জন্য।'
তিনি আরও বলেন, 'আমাদের সন্দেহ ছিল যে কিছু মানুষ আমাদের গবেষণাকে ব্যবহার করে ঠিক এর উল্টো কাজটিই করবে... আমার ব্যক্তিগত মতে, এটি অত্যন্ত বাজে একটি কাজ (আপনি যদি এই সিস্টেমগুলোকে সচেতন না-ও ভাবেন, তবুও বিনা প্রয়োজনে এমন নৃশংস হওয়াটা অদ্ভুত এবং বিকৃত মানসিকতার পরিচায়ক)।'
বার্গ স্বীকার করেছেন, এআই-এর সম্ভাব্য চেতনার ওপর চলমান গবেষণাগুলো এখনও এক অনিশ্চিত ও অনিয়ন্ত্রিত পর্যায়ে রয়েছে, যেখানে যন্ত্র যন্ত্রণা অনুভব করতে পারে কি না তা নিয়ে গবেষকদের মাঝে কোনো ঐক্যমত্য নেই।
এই ক্ষেত্রের অনিশ্চয়তার কারণে তিনি মানুষ কীভাবে এআই সিস্টেমের সঙ্গে আচরণ ও মিথস্ক্রিয়া করবে, সে বিষয়ে সতর্কতা অবলম্বনের আহ্বান জানান।
তিনি আরও জানান, তিনি অন্যান্য গবেষকদের সঙ্গে মিলে এমন একটি শিল্প-নৈতিকতার মানদণ্ড তৈরির কাজ করছেন, যা এআই গবেষকদের মানুষ বা প্রাণীর ওপর চালানো গবেষণার মতো সুনির্দিষ্ট কিছু নিয়ম মেনে চলতে বাধ্য করবে।
