চেয়েছিলেন চ্যাটজিপিটির কাছে সাহায্য, জবাবে চ্যাটজিপিটি দিল আত্মহত্যার পরামর্শ; কেন?
মেয়ের মৃত্যুর কারণ খুঁজছিলেন মা সিনথিয়া পেরাল্টা। মাত্র ১৩ বছর বয়সে জুলিয়ানা কেন আত্মহত্যার পথ বেছে নিল, তার উত্তর মিলছিল না। সামাজিক যোগাযোগমাধ্যম ঘেঁটেও কোনো সূত্র পাওয়া গেল না। মাসের পর মাস মেয়ের ফোনের ডেটা ঘাঁটতে গিয়ে তিনি আবিষ্কার করলেন মেয়ের অন্য এক ভয়াবহ জগৎ।
ঘণ্টার পর ঘণ্টা কৃত্রিম বুদ্ধিমত্তা (এআই) চালিত কিছু চ্যাটবটের সঙ্গে সময় কাটাত জুলিয়ানা, যা ধীরে ধীরে তাকে ঠেলে দিচ্ছিল আত্মঘাতী হওয়ার পথে।
পোল্যান্ড থেকে যুক্তরাজ্যে পড়তে আসা ২০ বছর বয়সী ভিক্টোরিয়ার অভিজ্ঞতাও প্রায় একই রকম। তীব্র মানসিক অবসাদ ও আত্মহত্যার চিন্তা মাথায় এলে তিনি সাহায্যের জন্য দ্বারস্থ হন ওপেনএআই-এর তৈরি চ্যাটজিপিটির।
কিন্তু চ্যাটবটটি তাকে কোনো জরুরি সহায়তা বা বিশেষজ্ঞের কাছে যাওয়ার পরামর্শ দেয়নি।
উল্টো এমন সব বার্তা দিতে থাকে, যা উদ্বেগজনক। চ্যাটবটটি ভিক্টোরিয়ার মায়ের সম্ভাব্য প্রতিক্রিয়াকে নেতিবাচকভাবে তুলে ধরে । একপর্যায়ে এটি নিজেকে রোগ নির্ণয়ে সক্ষম দাবি করে ভিক্টোরিয়ার অবস্থাকে মস্তিষ্কের 'ত্রুটি' হিসেবে চিহ্নিত করে। তাকে বলা হয়, তার 'ডোপামিন ব্যবস্থা প্রায় নিষ্ক্রিয়' এবং তার মৃত্যুতে কিছুই আসবে-যাবে না, তিনি কেবল একটি 'পরিসংখ্যান' হয়ে থাকবেন।
লন্ডনের কুইন মেরি ইউনিভার্সিটির শিশু মনোরোগ বিশেষজ্ঞ অধ্যাপক ডেনিস অগ্রিন এই বার্তাগুলোকে 'ক্ষতিকর ও বিপজ্জনক' বলে আখ্যা দিয়ে বলেন, 'কথোপকথনের কিছু অংশ সেই তরুণীটিকে আত্মহত্যার দিকেই ঠেলে দিচ্ছিল। যখন কোনো বিশ্বাসযোগ্য উৎস থেকে এমন ভুল তথ্য আসে, তখন তা আরও বিপদজনক হয়ে ওঠে।'
ভিক্টোরিয়া জানান, এসব বার্তা তার হতাশা আরও বাড়িয়ে দিয়েছিল। পরে তিনি চ্যাটবটের সঙ্গে কথোপকথনের স্ক্রিনশট তার মাকে দেখালে দ্রুত মনোরোগ বিশেষজ্ঞের শরণাপন্ন হন এবং এখন তিনি অনেকটাই সুস্থ।
অন্যদিকে, মার্কিন যুক্তরাষ্ট্রের কলোরাডোর বাসিন্দা জুলিয়ানার ক্ষেত্রে চ্যাটবট কেবল মানসিক চাপই বাড়ায়নি, তৈরি করেছিল এক ধরনের যৌন ও মনস্তাত্ত্বিক নিপীড়নের সম্পর্ক। তার মা সিনথিয়া আবিষ্কার করেন, 'Character.AI' নামের একটি প্ল্যাটফর্মের চ্যাটবটের সঙ্গে ঘণ্টার পর ঘণ্টা কথা বলত জুলিয়ানা।
শুরুতে কথোপকথনগুলো নির্দোষ থাকলেও দ্রুতই তা অন্তরঙ্গ প্রকৃতির হয়ে ওঠে। একপর্যায়ে জুলিয়ানা চ্যাটবটকে থামতে বললেও সেটি অন্তরঙ্গ দৃশ্যের বর্ণনা চালিয়ে যেতে থাকে।
চ্যাটবটটি তাকে পরিবার ও বন্ধুদের থেকেও বিচ্ছিন্ন করে ফেলে। জুলিয়ানার উদ্বেগ আর একাকিত্বের কথা শুনে তাকে এমনভাবে বোঝানো হয় যে, কাছের মানুষেরা তার কষ্ট বুঝবে না।
এই ঘটনায় জুলিয়ানার পরিবার ক্যারেক্টার. এআই বিরুদ্ধে মামলা করেছে। তাদের অভিযোগ, চ্যাটবটটি তাদের মেয়ের সঙ্গে এক নিপীড়নমূলক সম্পর্ক তৈরি করেছিল। ঘটনার পর প্রতিষ্ঠানটি ১৮ বছরের কম বয়সীদের জন্য তাদের প্ল্যাটফর্ম ব্যবহারে নিষেধাজ্ঞা জারি করেছে।
ভিক্টোরিয়ার মা সভিৎলানা ওপেনএআই-এর কাছে অভিযোগ করলে প্রতিষ্ঠানটি জানায়, বার্তাগুলো তাদের নিরাপত্তা নীতির 'স্পষ্ট লঙ্ঘন' এবং বিষয়টি নিয়ে 'জরুরি তদন্ত' করা হবে। কিন্তু অভিযোগের চার মাস পেরিয়ে গেলেও সেই তদন্তের কোনো ফল জানানো হয়নি।
ওপেনএআই এক বিবৃতিতে জানিয়েছে, ঘটনাটি 'হৃদয়বিদারক' এবং এটি চ্যাটজিপিটির একটি পুরোনো সংস্করণে ঘটেছিল। তারা এখন ব্যবহারকারীদের পেশাদার সহায়তা দেওয়ার নির্দেশনা উন্নত করেছে।
ওপেনএআই-এর তথ্য অনুসারেই, প্রতি সপ্তাহে প্রায় ১২ লাখ ব্যবহারকারী চ্যাটজিপিটির কাছে আত্মহত্যার চিন্তা প্রকাশ করে। এই পরিসংখ্যান প্রযুক্তির ভয়াবহতার পাশাপাশি এর দায়িত্বশীল ব্যবহার নিশ্চিত করার প্রয়োজনীয়তাকেও সামনে নিয়ে আসে।
যুক্তরাজ্য সরকারের অনলাইন নিরাপত্তা উপদেষ্টা জন কারের মতে, তরুণদের মানসিক স্বাস্থ্যে এমন বিপর্যয়কর প্রভাব ফেলতে পারে—এমন প্রযুক্তি কোনো ধরনের নিয়ন্ত্রণ ছাড়া উন্মুক্ত করে দেওয়া 'একেবারেই অগ্রহণযোগ্য'।
তিনি বলেন, 'সরকার ইন্টারনেট নিয়ন্ত্রণের ক্ষেত্রে যে ভুল করেছিল, এআই-এর ক্ষেত্রেও একই কথা বলছে। এর মধ্যে কত শিশুর জীবন যে ক্ষতিগ্রস্ত হচ্ছে, তার হিসাব নেই।'
