আপনার সব কথা মনে রাখে চ্যাটবট; কিন্তু এই ‘স্মৃতিই’ যখন বিড়ম্বনার কারণ
যুক্তরাষ্ট্রের ইউটাহর একটি ছোট শহরের সফটওয়্যার ইঞ্জিনিয়ার ও খণ্ডকালীন সিটি কাউন্সিল সদস্য ব্রায়ান ডেল রোসারিও দৈনন্দিন জীবনের প্রায় সব কাজেই এআই চ্যাটবট ব্যবহার করেন। খাবারের পরিকল্পনা করা থেকে শুরু করে সময়সূচি সামলানো—সবকিছুতেই তার ভরসা এই প্রযুক্তি। কথোপকথনের এক পর্যায়ে তিনি চ্যাটবটকে জানিয়েছিলেন, তার স্ত্রী ও তিন সন্তান রয়েছে।
পরবর্তীতে স্ত্রীর সঙ্গে বিচ্ছেদ হয়ে যাওয়ার পর রোজারিও চ্যাটবটকে বিষয়টি জানান, যাতে ভবিষ্যৎ ভ্রমণের পরিকল্পনা করার সময় চ্যাটবট তার স্ত্রীকে তালিকার বাইরে রাখে। কিন্তু সমস্যাটা শুরু হয় সেখান থেকেই। বিচ্ছেদের তথ্য পাওয়ার পর চ্যাটবট যেন সেই প্রসঙ্গেই আটকে যায়।
সময়সূচি গুছিয়ে নেওয়ার পরামর্শ চাইলে সেটি বলত, হয়তো বিচ্ছেদের কারণে তিনি নিজের ওপর অতিরিক্ত চাপ নিচ্ছেন। আবার কাজের খিটখিটে দিন নিয়ে বিরক্তি প্রকাশ করলে এটি আবার সেই ডিভোর্সের প্রসঙ্গ টেনে আনত।
ডেল রোসারিওর ভাষায়, তিনি চ্যাটবটকে বলেছিলেন, 'আমি তো চাইনি তুমি প্রতিটি সুযোগে আমার ডিভোর্স নিয়ে মন্তব্য করো।' কিন্তু তার মতে, চ্যাটবটটি 'কিছুতেই বিষয়টা ছাড়ছিল না।'
চ্যাটবটগুলোর অন্যতম ভালো দিক হলো এদের দীর্ঘস্থায়ী স্মৃতিশক্তি। ২০২৪ সালের শুরুতে চ্যাটজিপিটি প্রথম এই 'মেমোরি' বা স্মৃতিশক্তি ফিচার চালু করে। এরপর গুগলের জেমিনি অ্যানথ্রোপিকের ক্লড এবং মাইক্রোসফটের কোপাইলট—সবাই নিজস্ব সংস্করণ যুক্ত করেছে।
এদের মূল কাজ হলো ব্যবহারকারীর পছন্দ-অপছন্দ মনে রেখে সে অনুযায়ী উত্তর দেওয়া।
কিন্তু এই প্রখর স্মৃতির কিছু বড় অসুবিধাও রয়েছে। এটি অনেক সময় ভুল বা পুরোনো তথ্যে আটকে থাকে, যা ব্যবহারকারীর ব্যক্তিগত গোপনীয়তায় আক্রমণ বলে মনে হতে পারে। আবার অনেক সময় এটি মানুষের জীবনের নতুন অধ্যায় শুরু করার ক্ষেত্রেও বাধা হয়ে দাঁড়ায়।
অর্থাৎ, আপনি হয়তো কোনো বিষয় পেছনে ফেলে এসেছেন, কিন্তু আপনার চ্যাটবট সেটি ভুলে যায়নি।
'ভুল' ও পুরোনো স্মৃতির জটিলতা
২০২৪ সালের শুরুতে চ্যাটজিপিটি মেমোরি ফিচার চালুর পর গুগলের জেমিনি, অ্যানথ্রপিকের ক্লড ও মাইক্রোসফটের কোপাইলটও একই ধরনের সুবিধা নিয়ে আসে। সবার পদ্ধতি আলাদা হলেও মূল ধারণা এক—ব্যবহারকারী যা বলবেন, চ্যাটবট তা মনে রাখবে এবং ভবিষ্যৎ উত্তরে সেই তথ্য ব্যবহার করবে। গুগলের 'পারসোনাল ইন্টেলিজেন্স' ফিচার তো ব্যবহারকারীর জিমেইল, ফটোস ও ইউটিউব কার্যক্রম থেকেও তথ্য নিতে পারে।
কিন্তু সমস্যা হচ্ছে, অনেক সময় চ্যাটবট এমন তথ্যও মনে রাখে, যা আসলে ব্যবহারকারীর নিজের নয়। উদাহরণ হিসেবে বলা যায়, সন্তান বা বাবা-মায়ের কোনো স্বাস্থ্য সমস্যা নিয়ে প্রশ্ন করলে সেটি ভুল করে ধরে নিতে পারে যে সমস্যাটি ব্যবহারকারীর নিজের। আপনি আপনার সন্তানের মনোযোগের ঘাটতি বা এডিএইচডি নিয়ে জানতে চাইলেন; কিন্তু কয়েক সপ্তাহ পর যখন আপনি নিজের কাজের দক্ষতা বাড়ানোর পরামর্শ চাইবেন, তখন চ্যাটবট আপনার মনোযোগের ঘাটতি রয়েছে ধরে নিয়ে উত্তর সাজাবে।
গুগলও তাদের এক ব্লগ পোস্টে এমন পরিস্থিতির কথা উল্লেখ করেছে। সেখানে একটি কাল্পনিক উদাহরণে বলা হয়, কোনো ব্যবহারকারীর শত শত গলফ কোর্সের ছবি দেখে সিস্টেমটি ধরে নিয়েছিল তিনি গলফ ভালোবাসেন। অথচ বাস্তবে তিনি সেখানে যেতেন তার ছেলের কারণে। পরে তাকে আলাদা করে জানাতে হয় যে তিনি গলফ পছন্দ করেন না।
গুগল জানিয়েছে, তারা এমন একটি ফিচার চালু করেছে, যেখানে ব্যবহারকারীরা পারসোনালাইজেশন চালু রেখেও নির্দিষ্ট কিছু তথ্য ভবিষ্যৎ কথোপকথনে ফিরে আসা বন্ধ করতে পারবেন। ওপেনএআই বলেছে, তারা প্লাস ও প্রো ব্যবহারকারীদের জন্য এমন আপডেট এনেছে, যা মেমোরি থেকে তথ্য খুঁজে বের করা ও ব্যবহার আরও উন্নত করেছে। মাইক্রোসফট জানিয়েছে, ব্যবহারকারীরা চাইলে নির্দিষ্ট স্মৃতি বা সব স্মৃতিই মুছে ফেলতে পারবেন। প্রয়োজনে পুরো মেমোরি ফিচারও বন্ধ রাখা যাবে। এ বিষয়ে মন্তব্য করতে রাজি হয়নি অ্যানথ্রপিক।
যৌথ অ্যাকাউন্টের ক্ষেত্রে ঝুঁকি আরও বাড়ে। স্বামী-স্ত্রী বা ছোট ব্যবসায় অনেকেই একই অ্যাকাউন্ট ব্যবহার করেন। একজন হয়তো চাকরির আবেদনপত্র ঠিক করতে চ্যাটবট ব্যবহার করলেন। পরে অন্য কেউ ভিন্ন কোনো প্রশ্ন করলে চ্যাটবট সেই ব্যক্তির চাকরি পরিবর্তনের প্রসঙ্গ তুলে আনতে পারে বা নতুন চাকরির পরামর্শ দিতে পারে।
তাছাড়া তথ্য পুরোনো হয়ে যাওয়ার সমস্যাও রয়েছে। আপনি হয়তো ছয় মাস আগে চ্যাটবটকে বলেছিলেন যে আপনি ম্যারাথনের প্রস্তুতি নিচ্ছেন, কিন্তু পরে আপনার লিগামেন্ট ছিঁড়ে যাওয়ার বিষয়টি আর জানানো হয়নি। এখন চ্যাটবট আপনার জন্য যে ফিটনেস বা খাবারের তালিকা দেবে, তা মূলত আপনার অতীত সংস্করণের জন্য তৈরি, যার অস্তিত্ব এখন আর নেই।
বিরক্তির বড় কারণ
রোজারিও তার ওজনের বিষয়ে চ্যাটবটকে বলেছিলেন। এরপর থেকে চ্যাটবট সব জায়গায় এই বিষয়টি টেনে আনা শুরু করে। এমনকি ছুটির দিনে বাইরে খেতে যাওয়ার সময় রেস্তোরাঁ খুঁজতে গিয়েও এটি ওজনের কথা মনে করিয়ে দেয়। তার ভাষায়, 'মনে হচ্ছিল এটা যেন বলছে—"তোমার ছুটিটাও নষ্ট করে দিচ্ছি।" অথচ এই ট্রিপে আমি ডায়েট মেনে চলার কোনো পরিকল্পনাই করিনি।'
একইভাবে নিউ জার্সির এক টেক কনসালট্যান্ট মাইক টেইলর একবার চ্যাটবটকে বলেছিলেন যে তিনি একজন ব্রিটিশ প্রবাসী। এরপর চ্যাটবটটি তাকে স্থানীয় বারে গিয়ে ব্রিটিশ বিয়ার খাওয়ার পরামর্শ দিতে থাকে, যা তার কোনো কাজেই লাগেনি। টেইলর বলেন, 'আমি এখানে এসেছি আমেরিকান ডাইভ বারগুলোর অভিজ্ঞতা নিতে, ব্রিটিশ পাবগুলোর জন্য নয়। সে কারণেই তো আমি এখানে এসেছি।'
বিরক্ত হয়ে টেইলর এখন চ্যাটবটের মেমোরি ফিচারটি বন্ধ করে রেখেছেন। তিনি বলেন, 'এলএলএম (লার্জ ল্যাঙ্গুয়েজ মডেল) জানে না আপনি কে, তাই এটি আপনার ফলাফলের ওপর কোনো পক্ষপাতিত্ব তৈরি করবে না।'
বিশেষজ্ঞরা বলছেন, এআই মেমোরি এমনভাবে উত্তরে প্রভাব ফেলতে পারে, যা ব্যবহারকারী বুঝতেই পারেন না। হার্ভার্ড বিশ্ববিদ্যালয়ের বার্কম্যান ক্লেইন সেন্টারের প্রধান এআই বিজ্ঞানী জোশুয়া জোসেফ বিষয়টিকে সামাজিক যোগাযোগমাধ্যমের অ্যালগরিদমের সঙ্গে তুলনা করেছেন। যেমন, আপনি কোনো পোস্টে বেশি সময় থামলে পরে পুরো ফিডের ধরন বদলে যায়।
একইভাবে, আপনি যদি কোনো কথোপকথনে অর্থনৈতিক চাপের কথা উল্লেখ করেন, কয়েক সপ্তাহ পর ক্যারিয়ার পরামর্শ চাইলে চ্যাটবট হয়তো আপনাকে বেশি বেতনের চাকরির দিকে ঠেলে দেবে, যদিও সেগুলো আপনার জন্য উপযুক্ত নাও হতে পারে। কিন্তু কেন এমন উত্তর আসছে, তা আপনি বুঝতে পারবেন না, কারণ চ্যাটবট জানায় না কোন স্মৃতি ব্যবহার করা হচ্ছে।
জোসেফ বলেন, 'এটি অবশ্যই ব্যবহারকারীকে প্রভাবিত করে, অবশ্যই ফলাফলে প্রভাব ফেলে। কিন্তু কতটা, সেটা আমরা সত্যিই জানি না।' তিনি নিজেও নিজের চ্যাটবট অ্যাকাউন্টে মেমোরি ফিচার বন্ধ রাখেন।
সবকিছু মনে রাখা চ্যাটবট মানুষকে নিজের অতীত থেকে বেরিয়ে আসতেও বাধা দিতে পারে। এক্সেটার বিশ্ববিদ্যালয়ের দর্শনের প্রভাষক লুসি ওসলার, যিনি কৃত্রিম বুদ্ধিমত্তা মানুষের চিন্তায় কী প্রভাব ফেলে তা নিয়ে গবেষণা করেন, বলেন—চ্যাটবট ব্যবহারকারীর তথ্য দিয়ে একটি নির্দিষ্ট 'আত্মপরিচয়ের গল্প' তৈরি করে এবং সেটিকেই সত্য হিসেবে আপনাকে মনে করিয়ে দেয়।
আপনি যদি চ্যাটবটকে বলেন যে আপনি উদ্বিগ্ন বা অনিরাপদ বোধ করছেন, তাহলে সেটিই আপনার পরিচয়ের অংশ হয়ে যেতে পারে। পরে আপনি সেই অবস্থা থেকে বেরিয়ে এলেও চ্যাটবট বারবার সেটি মনে করিয়ে দিতে পারে।
ওসলারের ভাষায়, 'এটি আমার নিজের সম্পর্কে তৈরি কিছু ধারণাকে আরও বাস্তব বলে মনে করাতে পারে। এভাবে মানুষকে একটি নির্দিষ্ট পরিচয়ের ভেতরে আটকে ফেলা সম্ভব।'
কয়েক মাস আগের উদ্বেগ বা হতাশার কথা বারবার মনে করিয়ে দেওয়া শুধু বিরক্তিকরই নয়, ক্ষতিকরও হতে পারে। কারণ চ্যাটবট সাধারণত ব্যবহারকারীর কথার সঙ্গে একমত হওয়ার প্রবণতা দেখায়। বাস্তবতা যাচাইয়ের বদলে এটি ব্যবহারকারীর ধারণাকেই আরও শক্তিশালী করে তোলে। ওসলারের মতে, এতে বিভ্রান্তিকর বা ভ্রান্ত মানসিক ধারণাও আরও দৃঢ় হতে পারে।
এই উদ্বেগ থেকে 'ইলেকট্রনিক প্রাইভেসি ইনফরমেশন সেন্টার' কিশোর-কিশোরীদের সুরক্ষায় চ্যাটবট সেফটি নিয়ে একটি আইনের খসড়া তৈরি করছে। এর একটি অন্যতম প্রধান শর্ত হলো প্রতিটি সেশন বা চ্যাট শেষে মেমোরি বা স্মৃতি মুছে ফেলা, যাতে সময়ের সাথে সাথে চ্যাটবট কোনো নেতিবাচক মানসিক অবস্থাকে আরও উসকে দিতে না পারে।
শেষ পর্যন্ত ডেল রোসারিও নিজেই একটি সমাধান বের করেন। বিচ্ছেদের প্রসঙ্গ বারবার উঠে আসার পর তিনি জীবনের আলাদা বিষয়গুলোর জন্য আলাদা চ্যাটবট ব্যবহার শুরু করেন। সংবেদনশীল বিষয়ে ব্যবহার করেন অ্যানোনিমাস মোড।
তারপরও তিনি মনে করেন, সঠিকভাবে ব্যবহার করা গেলে এই প্রযুক্তি উপকারী। যেমন, সড়ক ভ্রমণে সন্তানদের জন্য গাড়ির শিশু আসনের প্রয়োজন মনে করিয়ে দেওয়া, কিংবা তাকে মনে করিয়ে দেওয়া যে তার ওপর অনেক চাপ রয়েছে।
দুই বছর আগে তার মা মারা গেছেন। এরপর ডিভোর্স, সন্তান ও কাজ—সব মিলিয়ে চ্যাটবটই কখনও কখনও একমাত্র 'সত্তা', যে পুরো পরিস্থিতিটা জানে।
রোসারিও বলেন, 'কেউ আমাকে বুঝছে—এই অনুভূতিটা ভালো লাগে, যদিও সেটা একটি এআই চ্যাটবটই হোক।'
ব্যবহারকারীরা চাইলে চ্যাটবটের মেমোরি ফিচারটি নিয়ন্ত্রণ করতে পারেন। প্রথমত, চ্যাটবটের সেটিংসে (যেমন চ্যাটজিপিটির পারসোনালাইজেশন বা জেমিনির মেমোরি সেকশন) গিয়ে চ্যাটবট আপনার সম্পর্কে কী কী তথ্য জমা রেখেছে তা দেখে নেওয়া এবং অপ্রয়োজনীয় তথ্য মুছে ফেলা উচিত।
দ্বিতীয়ত, যেকোনো সংবেদনশীল বা ব্যক্তিগত তথ্য শেয়ার করার জন্য 'টেম্পোরারি চ্যাট' বা অস্থায়ী চ্যাট ব্যবহার করা প্রয়োজন।
তৃতীয়ত, মেমোরি ফিচারটি সম্পূর্ণ বন্ধ করে দিয়ে দেখা যেতে পারে যে এটি ফলাফলে কী পরিবর্তন আনছে।
সর্বোপরি, চ্যাটবটের মেমোরিকে একটি সামাজিক যোগাযোগমাধ্যমের প্রোফাইলের মতো বিবেচনা করা উচিত, যা নিয়মিত আপডেট বা হালনাগাদ করা প্রয়োজন।
