প্রতি সপ্তাহে ১০ লাখের বেশি মানুষ চ্যাটজিপিটির কাছে বার্তা পাঠান যেখানে ‘আত্মহত্যার পরিকল্পনা বা ইচ্ছার স্পষ্ট ইঙ্গি’ পাওয়া যায়। চ্যাটজিপিটির নির্মাতা যুক্তরাষ্ট্রের প্রতিষ্ঠান ‘ওপেনএআই’ সোমবার এক ব্লগপোস্টে একথা জানিয়েছে। খবর দ্য গার্ডিয়ানের।
চ্যাটবটটি কীভাবে এসব সংবেদনশীল কথোপকথন পরিচালনা করে, সে সম্পর্কে একটি হালনাগাদ তথ্যের অংশ হিসেবে এই তথ্য প্রকাশিত হয়। কৃত্রিম বুদ্ধিমত্তা (এআই) মানসিক স্বাস্থ্যের সমস্যা কীভাবে ও কতটা বাড়িয়ে তুলতে পারে সে প্রসঙ্গে জানাতে গিয়ে এ তথ্য জানিয়েছে ওপেনএআই।
আত্মহত্যা-সংক্রান্ত চিন্তা ও সংশ্লিষ্ট যোগাযোগের পাশাপাশি, ওপেনএআই আরো জানিয়েছে, প্রতি সপ্তাহে সক্রিয় ব্যবহারকারীদের প্রায় ০.০৭ শতাংশ অর্থাৎ প্রায় ৫ লাখ ৬০ হাজার জন চ্যাটজিপিটির সঙ্গে তাদের কথোপকথনে ‘মনোরোগজনিত জরুরি মানসিক স্বাস্থ্য সমস্যার সম্ভাব্য লক্ষণ’ প্রকাশ করেন।
তবে ওপেনএআই ব্লগপোস্টে সতর্ক করে জানায়, এ ধরনের কথোপকথন শনাক্ত বা পরিমাপ করা কঠিন। আর এটা কেবল একটি প্রাথমিক বিশ্লেষণ।
চ্যাটজিপিটি সম্প্রতি এক কিশোরের আত্মহত্যার ঘটনায় তার পরিবারের মামলার পর নজরদারির মুখে রয়েছে। মামলার অভিযোগে বলা হয়েছে, ওই কিশোর আত্মহত্যার আগে চ্যাটজিপিটির সঙ্গে দীর্ঘ সময় ধরে কথোপকথন চালিয়েছিল।
ওপেনএআই জানিয়েছে, সাম্প্রতিক জিপিটি-৫ আপডেটে চ্যাটজিপিটির ‘অবাঞ্ছিত আচরণ’ কমেছে এবং নিরাপত্তা বেড়েছে।
তবে এ বিষয়ে মন্তব্যের অনুরোধের তাৎক্ষণিক কোনো জবাব দেয়নি ওপেনএআই।
আরএ