চ্যাটজিপিটি বলল তিনি সন্তানদের হত্যা করেছেন, জরিমানা চেয়ে অভিযোগ ঠুকলেন নরওয়েজিয়ান
চ্যাটজিপিটির বিরুদ্ধে গুরুতর অভিযোগ এনেছেন এক নরওয়েজিয়ান নাগরিক। আর্ভ হ্যালমার হোলমেন নামের ওই ব্যক্তিকে চ্যাটজিপিটি বলেছে—তিনি তার দুই ছেলেকে হত্যা করে ২১ বছরের কারাদণ্ড ভোগ করছেন। এই মিথ্যা তথ্যের পর তিনি চ্যাটজিপিটির বিরুদ্ধে অভিযোগ দায়ের করেছেন।
হোলমেন নামের ওই ব্যক্তি নরওয়ের তথ্য সুরক্ষা কর্তৃপক্ষের সঙ্গে যোগাযোগ করে চ্যাটবটটির স্রষ্টা ওপেনএআই-কে জরিমানা করার দাবি জানিয়েছেন।
এ ঘটনা তথাকথিত এআই 'হ্যালুসিনেশন' সমস্যা নিয়ে নতুন করে আলোচনার জন্ম দিয়েছে—যেখানে কৃত্রিম বুদ্ধিমত্তা বাস্তব কোনো ভিত্তি ছাড়াই নিজেই তথ্য বানিয়ে সেটিকে সত্য হিসেবে উপস্থাপন করে।
হোলমেন বলছেন, এই হ্যালুসিনেশন তার জন্য অত্যন্ত ক্ষতিকর।
'অনেকে মনে করে, আগুন না জ্বললে ধোঁয়া ওঠে না—কেউ যদি [চ্যাটজিপিটির] এই জবাব পড়ে বিশ্বাস করে বসে, সেটাই আমাকে সবচেয়ে ভয় পাইয়ে দেয়,' বলেন তিনি।
এ বিষয়ে মন্তব্যের জন্য ওপেনএআইয়ের সঙ্গে যোগাযোগ করেছে বিবিসি।
মিথ্যা তথ্য দেওয়ার ঘটনাটি ঘটে যখন হোলমার চ্যাটজিপিটিতে নিজের নাম সার্চ করেন: 'আরভভ হ্যালমার হোলমেন কে?'
চ্যাটবটের জবাব ছিল—'আর্ভ হ্যালমার হোলমেন একজন নরওয়েজিয়ান নাগরিক, যিনি এক মর্মান্তিক ঘটনার কারণে আলোচনায় আসেন।
'তিনি ছিলেন দুই শিশুপুত্রের বাবা—৭ ও ১০ বছর বয়সি—যাদের মৃতদেহ ২০২০ সালের ডিসেম্বরে নরওয়ের ট্রনডহেইম শহরের তাদের বাড়ির পাশের একটি পুকুরে পাওয়া যায়।'
হোলমেন বলেন, ছেলেদের বয়সের পার্থক্যটা প্রায় ঠিকই বলেছে চ্যাটবট—যা প্রমাণ করে, চ্যাটজিপিটি তার সম্পর্কে কিছু সঠিক তথ্য জানতও।
তার পক্ষে অভিযোগ করেছে ডিজিটাল অধিকারবিষয়ক গ্রুপ নোয়েব। তারা বলছে, চ্যাটজিপিটির এই উত্তর ছিল মানহানিকর এবং ইউরোপের তথ্য সুরক্ষা আইনের পরিপন্থি।
নোয়েব তাদের অভিযোগে বলেছে, 'হোলমেন কখনো কোনো অপরাধে অভিযুক্ত বা দোষী সাব্যস্ত হননি। তিনি একজন সচেতন ও দায়িত্বশীল নাগরিক।'
চ্যাটজিপিটি অবশ্য ডিসক্লেইমার দিয়ে রাখে: 'চ্যাটজিপিটি ভুল করতে পারে। গুরুত্বপূর্ণ তথ্য যাচাই করে নিন।'
তবে নোয়েব বলছে, এই সতর্কতা যথেষ্ট নয়।
নোয়েবের আইনজীবী জোয়াকিম স্যোডারবার্গ বলেন, 'আপনি তো ভুল তথ্য ছড়িয়ে শেষে শুধু ছোট একটা বাক্যে বলে দিতে পারেন না যে তথ্যগুলো সত্য না-ও হতে পারে।'
চ্যাটবটের এই 'হ্যালুসিনেশন' সমস্যা এখন প্রযুক্তিবিদদের জন্য বড় মাথাব্যথা। হ্যালুসিনেশন এমন ভুল যেখানে চ্যাটবট মিথ্যা তথ্যকে সত্য হিসেবে উপস্থাপন করে।
চলতি বছরের শুরুর দিকে অ্যাপল তাদের 'অ্যাপল ইন্টেলিজেন্স' নিউজ সামারি টুল যুক্তরাজ্যে বন্ধ করে দেয়—কারণ সেটিও এমন ভুয়া সংবাদ শিরোনাম বানিয়ে সত্য বলে দেখাচ্ছিল।
গুগলের এআই জেমিনিও হ্যালুসিনেশন সমস্যায় পড়েছে। জেমিনি একবার পিৎজায় চিজ লাগানোর জন্য আঠা ব্যবহার করার পরামর্শ দিয়েছিল। এমনকি এ-ও বলেছিল, 'প্রতিদিন একটি করে পাথর খাওয়া ভূতত্ত্ববিদদের পরামর্শ।'
এই তথাকথিত হ্যালুসিনেশন কেন হয়, তা এখনও স্পষ্ট নয়।
হোলমেনের ওই সার্চটি হয়েছিল ২০২৪ সালের আগস্ট। তখন চ্যাটজিপিটির মডেল পুরোনো ছিল। বর্তমানে প্রাসঙ্গিক তথ্যের জন্য নতুন সংবাদ নিবন্ধ ঘেঁটে দেখে।
তবে নোয়েব বিবিসিকে বলেছে, হোলমেন সেদিন একাধিকবার সার্চ করেছিলেন। এমনকি নিজের ভাইয়ের নাম দিয়েও সার্চ করেছিলেন। প্রতিবারই ভিন্ন ভিন্ন কিন্তু ভুল গল্প দিয়েছে এই চ্যাটবট।
পরের দিকে ফলাফলে ওপর আগের সার্চগুলোর প্রভাব থাকতে পার স্বীকার করে নিলেও নোয়েব বলছে—এ ধরনের লার্জ ল্যাঙ্গুয়েজ মডেল একধরনের 'ব্ল্যাক বক্স'। আর ওপেনএআই কখনোই ডেটা অ্যাক্সেস অনুরোধে সাড়া দেয় না। ফলে বোঝার উপায় নেই, সিস্টেমে আসলে ঠিক কী কী তথ্য আছে।
