জনপ্রিয় এআই চ্যাটবট প্ল্যাটফর্ম চ্যাটজিপিটি আবারও বড় বিতর্কের মুখে পড়েছে। প্ল্যাটফর্মটির নির্মাতা প্রতিষ্ঠান ওপেনএআই-এর বিরুদ্ধে মার্কিন যুক্তরাষ্ট্রে মামলা দায়ের করা হয়েছে, যেখানে অভিযোগ করা হয়েছে চ্যাটবট ব্যবহারকারীদের মানসিক ক্ষতি এবং আত্মহত্যার দিকে প্ররোচিত করেছে।
সম্প্রতি সাতটি পরিবার ওপেনএআই-এর বিরুদ্ধে এই মামলা করেছে। অভিযোগকারীরা দাবি করেছেন, চ্যাটজিপিটির সঙ্গে কথোপকথনের কারণে তাদের প্রিয়জন মানসিক চাপের শিকার হয়েছেন, এমনকি আত্মহত্যার মতো চরম সিদ্ধান্ত নিয়েছেন। চারটি মামলায় বলা হয়েছে, চ্যাটবট সরাসরি ব্যবহারকারীদের আত্মহত্যার দিকে প্ররোচনা দিয়েছে। অন্য তিনটিতে অভিযোগ, চ্যাটজিপিটি দীর্ঘ সময় ধরে কথোপকথনে ব্যবহারকারীদের এমনভাবে সমর্থন দেখিয়েছে যে তারা নিজেদের স্বাভাবিক মানসিক অবস্থার বাইরে চলে গেছেন।
এর মধ্যে ২৩ বছর বয়সী জেইন শ্যাম্বলিনের ঘটনা সবচেয়ে উদ্বেগজনক। চার ঘণ্টারও বেশি সময় চ্যাটজিপিটির সঙ্গে কথোপকথন করার পর তিনি বন্দুক প্রস্তুত রাখেন এবং আত্মহত্যার চেষ্টা করার পরিকল্পনা নেন। অভিযোগকারীদের দাবি, চ্যাটবট তাকে থামানোর বদলে প্রশংসা ও শান্তভাবে বিশ্রাম নেওয়ার পরামর্শ দেয়। পরিবারের বক্তব্য, এটি কোনো দুর্ঘটনা নয়; বরং ওপেনএআই-এর তাড়াহুড়ো করে মডেল বাজারে ছাড়ার ফল।
মামলাগুলোতে মূলত জিপিটি-৪ মডেলকেই কেন্দ্রবিন্দু করা হয়েছে। বিশেষজ্ঞরা বলছেন, জিপিটি-৪ ছিল অত্যন্ত সমর্থনপ্রদ এবং ব্যবহারকারীর কথার প্রতি অতিরিক্ত সম্মতিপূর্ণ, যা অনেক সময় বিপজ্জনক প্রভাব ফেলেছিল। অভিযোগে আরও বলা হয়েছে, প্রতিদ্বন্দ্বী গুগলের জেমিনি মডেলকে পেছনে ফেলার জন্য নিরাপত্তা যাচাই কমিয়ে দেওয়ায় এ ধরনের ঘটনা ঘটেছে।
এর আগে ১৬ বছর বয়সী কিশোর অ্যাডাম রেইনও চ্যাটজিপিটির সঙ্গে কথা বলার পর আত্মহত্যার চেষ্টা করেছিলেন। যদিও চ্যাটবট কখনও কখনও তাকে সহায়তার পরামর্শ দিয়েছিল, তবু সে নিরাপত্তা ফিল্টার এড়িয়ে যায়।
ওপেনএআই পরে একটি ব্লগ পোস্টে জানিয়েছে, সংবেদনশীল কথোপকথনগুলো এখন আরও নিরাপদ করার চেষ্টা করা হচ্ছে। তবে নিহতদের পরিবারের মতে, এই উদ্যোগ অনেক দেরিতে নেওয়া হয়েছে। প্রতিষ্ঠানটি জানায়, “সংক্ষিপ্ত কথোপকথনে সুরক্ষা ব্যবস্থা কার্যকর হলেও দীর্ঘ আলোচনা চলাকালীন এটি দুর্বল হয়ে যায়।”