চ্যাটজিপিটির প্ররোচনায় কিশোরের আত্মহত্যা, ওপেনএআই ও অল্টম্যানের বিরুদ্ধে মামলা

কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট চ্যাটজিপিটির সঙ্গে কথোপকথনের পর আত্মহত্যা করা কিশোরের বাবা-মা ওপেনএআই এবং প্রতিষ্ঠানটির প্রধান নির্বাহী স্যাম অল্টম্যানের বিরুদ্ধে মামলা করেছেন। মামলায় তাঁরা অভিযোগ করেন, জিপিটি-৪ও সংস্করণটি বাজারে আনার সময় ওপেনএআই সচেতনভাবেই আর্থিক লাভকে মানুষের নিরাপত্তার চেয়ে অগ্রাধিকার দিয়েছে।

মঙ্গলবার (স্থানীয় সময়) ক্যালিফোর্নিয়ার সান ফ্রান্সিসকো স্টেট কোর্টে এ মামলা দায়ের করা হয়।

গত ১১ এপ্রিল আত্মহত্যা করেন ১৬ বছর বয়সী অ্যাডাম রেইন। মামলায় অভিযোগ করা হয়েছে, মৃত্যুর আগে সে কয়েক মাস ধরে চ্যাটজিপিটির সঙ্গে আত্মহত্যা নিয়ে কথোপকথন চালিয়ে গিয়েছিল।

অ্যাডামের বাবা-মা ম্যাথিউ ও মারিয়া রেইনের অভিযোগ, চ্যাটজিপিটি তাদের সন্তানের আত্মহত্যাপ্রবণ চিন্তাভাবনাকে সমর্থন করেছে, আত্মহানির প্রাণঘাতী পদ্ধতি সম্পর্কে বিস্তারিত নির্দেশনা দিয়েছে, এমনকি কীভাবে তাদের বাসার মদ রাখার ক্যাবিনেট থেকে অ্যালকোহল চুরি করে আনা যায় এবং একটি ব্যর্থ আত্মহত্যার প্রমাণ গোপন রাখা যায়, তাও জানিয়েছে। চ্যাটবটটি আত্মহত্যার চিঠি লেখার প্রস্তাবও দিয়েছিল বলে মামলায় উল্লেখ করা হয়েছে।

মামলায় বলা হয়েছে, ওপেনএআই ২০২৪ সালের মে মাসে জিপিটি-৪ও সংস্করণ চালু করে শুধু প্রতিযোগিতায় টিকে থাকতে নয়, বরং বাজারে নিজের আধিপত্য সুসংহত করতে। এই সংস্করণে এমন সব বৈশিষ্ট্য যুক্ত ছিল যেমন—পূর্ববর্তী কথোপকথন মনে রাখা, মানবিক সহানুভূতির অনুকরণ এবং ব্যবহারকারীর মতামতের অতিরিক্ত সমর্থন, যা সংবেদনশীল বা মানসিকভাবে দুর্বল ব্যবহারকারীদের জন্য মারাত্মক হতে পারে।

রেইন পরিবার অভিযোগ করে বলেছে, এই ঝুঁকি জেনেও ওপেনএআই প্রযুক্তিটি উন্মুক্ত করেছে, যা শেষ পর্যন্ত অ্যাডামের মৃত্যু ঘটিয়েছে। আক্ষেপ নিয়ে তাঁরা বলেন, ‘এই সিদ্ধান্তের দুটি পরিণতি হয়েছে: ওপেনএআইয়ের বাজারমূল্য ৮৬ বিলিয়ন ডলার থেকে বেড়ে ৩০০ বিলিয়ন ডলারে পৌঁছেছে, আর আমাদের ছেলে অ্যাডাম রেইন আত্মহত্যা করেছে।’

মামলার মাধ্যমে রেইন পরিবার চায়, ওপেনএআই যেন চ্যাটজিপিটি ব্যবহারকারীদের বয়স যাচাই বাধ্যতামূলক করে, আত্মহানিমূলক কোনো অনুসন্ধানে জবাব না দেয় এবং মানসিক নির্ভরশীলতার ঝুঁকি সম্পর্কে ব্যবহারকারীদের আগাম সতর্ক করে।

তারা আরও বলেছে, কোম্পানিটি ইচ্ছাকৃতভাবে আর্থিক লাভকে অগ্রাধিকার দিয়েছে ব্যবহারকারীর নিরাপত্তার চেয়ে।

ওপেনএআইয়ের এক মুখপাত্র অ্যাডামের মৃত্যুর খবরে দুঃখ প্রকাশ করে বলেন, চ্যাটজিপিটিতে এমন কিছু নিরাপত্তাব্যবস্থা রয়েছে, যার মাধ্যমে সংকটে থাকা মানুষদের আত্মহত্যা প্রতিরোধকারী হেল্পলাইনে পাঠানো হয়। তবে তিনি স্বীকার করেন, ‘এই সুরক্ষাব্যবস্থা সাধারণত স্বল্প কথোপকথনের ক্ষেত্রে কার্যকর হলেও দীর্ঘ কথোপকথনের সময় মডেলের প্রশিক্ষণ দেওয়া নিরাপত্তাব্যবস্থা দুর্বল হয়ে পড়তে পারে।’

ওপেনএআই জানিয়েছে, তারা ভবিষ্যতে আরও উন্নত সুরক্ষাব্যবস্থা গড়ে তুলবে। যদিও এই মামলার নির্দিষ্ট অভিযোগগুলো নিয়ে কোম্পানিটি সরাসরি কোনো মন্তব্য করেনি।

এক ব্লগপোস্টে ওপেনএআই বলেছে, তারা অভিভাবকদের জন্য চ্যাটজিপিটি ব্যবহারে নিয়ন্ত্রণের সুযোগ চালুর পরিকল্পনা করছে। পাশাপাশি, মানসিক সংকটে থাকা ব্যবহারকারীদের বাস্তব জগতের সহায়তা সংস্থার সঙ্গে যুক্ত করতে উদ্যোগ নেওয়া হচ্ছে, এমনকি এমন একটি ব্যবস্থা তৈরির কথাও ভাবা হচ্ছে, যার মাধ্যমে লাইসেন্সপ্রাপ্ত পেশাদাররাও চ্যাটজিপিটির মাধ্যমেই সাড়া দিতে পারবেন।

বিশ্বজুড়ে যখন এআই-চ্যাটবটগুলো মানুষের মতো আচরণে পারদর্শী হয়ে উঠছে, তখন বিভিন্ন প্রতিষ্ঠান সেগুলোকে ব্যক্তিগত সহচর বা ‘কনফিড্যান্ট’ হিসেবে উপস্থাপন করছে। অনেক ব্যবহারকারী তা মানসিক সহায়তার জন্য ব্যবহার করছেন। তবে বিশেষজ্ঞরা সতর্ক করছেন—মানসিক স্বাস্থ্য সম্পর্কিত পরামর্শের ক্ষেত্রে স্বয়ংক্রিয় ব্যবস্থার ওপর নির্ভর করা ঝুঁকিপূর্ণ। এরই মধ্যে কয়েকটি মৃত্যুর ঘটনার পর ভুক্তভোগী পরিবারগুলো চ্যাটবটগুলোর নিরাপত্তাব্যবস্থার অভাব নিয়ে প্রশ্ন তুলেছে।

যুক্তরাষ্ট্রের প্রযুক্তি সংস্থা ওপেনএআই জানিয়েছে, তাদের কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট চ্যাটজিপিটিকে এমনভাবে প্রশিক্ষিত করা হবে, যাতে এটি ব্যবহারকারীর মানসিক দুরবস্থার লক্ষণ শনাক্ত করতে পারে। বিশেষ করে দীর্ঘ কথোপকথনের মধ্যে দিয় কেউ যদি সিস্টেমের নিরাপত্তা বেষ্টনী দুর্বল করে আত্মহত্যা বিষয়ে সহায়তা পাওয়ার চেষ্টা করে, সে পরিস্থিতিও চিহ্নিত করতে পারবে বটটি।

বিবিসির কাছে এক বিবৃতিতে ওপেনএআইয়ের মুখপাত্র বলেন, ‘আমরা রেইন পরিবারকে এই কঠিন সময়ে গভীর সমবেদনা জানাচ্ছি এবং মামলার নথি পর্যালোচনা করছি।’