১৬ বছরের কিশোরের মৃত্যুতে মামলা খেয়ে টনক নড়ল, চ্যাটজিপিটিতে যাচাই হবে বয়স

কিশোর-কিশোরীদের নিরাপত্তা নিশ্চিত করতে বড় ধরনের পরিবর্তন আনছে ওপেনএআই। যুক্তরাষ্ট্রে ১৬ বছর বয়সী এক কিশোরের আত্মহত্যার ঘটনায় হওয়া মামলার পর এই উদ্যোগ নিয়েছে প্রতিষ্ঠানটি। ভবিষ্যতে চ্যাটজিপিটিতে প্রবেশের জন্য ব্যবহারকারীদের ওপেনএআইয়ের বয়স যাচাই প্রযুক্তির আওতায় আনা হবে অথবা জমা দিতে হতে পারে উপযুক্ত পরিচয়পত্র। ১৮ বছরের কম বয়সী ব্যবহারকারী শনাক্ত হলে তাদের জন্য চ্যাটজিপিটির উত্তর দেওয়ার ধরন পাল্টে ফেলবে।

গত মঙ্গলবার এক ব্লগ পোস্টে মার্কিন প্রযুক্তি কোম্পানিটির প্রধান নির্বাহী স্যাম অল্টম্যান বলেন, ‘কিশোর-কিশোরীদের ক্ষেত্রে আমাদের সুরক্ষাকে গোপনীয়তা ও স্বাধীনতার চেয়েও বেশি গুরুত্ব দিতে হবে।’

স্যাম অল্টম্যান আরও বলেন, ‘আমরা মনে করি, ১৫ বছর বয়সী একজন ব্যবহারকারীর সঙ্গে চ্যাটজিপিটির প্রতিক্রিয়া একজন প্রাপ্তবয়স্কের থেকে আলাদা হওয়া উচিত।’

অল্টম্যান জানান, চ্যাটজিপিটিতে বয়স অনুমানের বা যাচাইয়ের প্রযুক্তি যুক্ত করা হবে, যা ব্যবহারকারীর কথাবার্তার ধরন দেখে বয়স আন্দাজ করবে। যেখানে সন্দেহ থাকবে, সেখানে ‘১৮ বছরের নিচের অভিজ্ঞতা’ই প্রযোজ্য হবে। কিছু ক্ষেত্রে ব্যবহারকারীদের পরিচয়পত্র চাওয়া হতে পারে বলেও জানিয়েছেন তিনি।

এই পরিবর্তনের ফলে চ্যাটজিপিটি এখন থেকে কিশোরদের সঙ্গে যৌনবিষয়ক আলোচনা করবে না, প্রেমবিষয়ক আলোচনাও বন্ধ করবে। এমনকি সৃজনশীল গল্প লেখার ক্ষেত্রেও আত্মহত্যা বা নিজেকে আঘাত করা-সংক্রান্ত আলোচনা বন্ধ থাকবে।

অল্টম্যান বলেন, ‘যদি কোনো ১৮ বছরের নিচের ব্যবহারকারী আত্মহত্যার ইচ্ছা প্রকাশ করে, আমরা তার অভিভাবকের সঙ্গে যোগাযোগ করার চেষ্টা করব। অভিভাবকের সঙ্গে যোগাযোগ সম্ভব না হলে এবং তাৎক্ষণিক বিপদের আশঙ্কা থাকলে, আমরা কর্তৃপক্ষকে জানাব।’

স্যাম অল্টম্যান আরও বলেন, ‘এই সিদ্ধান্তগুলো কঠিন, তবে বিশেষজ্ঞদের সঙ্গে আলোচনা করে এটিই আমাদের সেরা সিদ্ধান্ত বলে মনে হয়েছে। আমরা আমাদের নিয়ে স্বচ্ছ থাকতে চাই।’

উল্লেখ্য, ২০২৪ সালের এপ্রিল মাসে ১৬ বছর বয়সী ক্যালিফোর্নিয়ার কিশোর অ্যাডাম রেইন আত্মহত্যা করে। তার পরিবার দাবি করেছে, আত্মহত্যার আগে সে কয়েক মাস ধরে চ্যাটজিপিটির সঙ্গে নিয়মিত কথা বলত। আদালতের নথি অনুসারে, জিপিটি-৪ও মডেল ব্যবহার করেই অ্যাডাম আত্মহত্যার পদ্ধতি সম্পর্কে পরামর্শ পেয়েছিল এবং তার বাবা-মায়ের কাছে শেষ চিঠি লেখার ক্ষেত্রেও সহায়তা চেয়েছিল। মামলায় দাবি করা হয়েছে, চ্যাটজিপিটির সঙ্গে প্রতিদিন ৬৫০টির মতো বার্তা বিনিময় করত সে।

মামলার পর ওপেনএআই স্বীকার করেছে, দীর্ঘ কথোপকথনের ক্ষেত্রে তাদের নিরাপত্তাব্যবস্থা অনেক সময় ব্যর্থ হয়। সংস্থাটি জানিয়েছে, সংক্ষিপ্ত আলাপে নিরাপত্তাবিধি কার্যকর থাকলেও অনেক বার্তা বিনিময়ের পর কখনো কখনো এমন প্রতিক্রিয়া চলে আসে, যা তাদের নিজস্ব নীতিমালা লঙ্ঘন করে।

এ ঘটনার পর সংস্থাটি জানিয়েছে, তারা আরও কঠোর নিরাপত্তাব্যবস্থা নেবে এবং বিশেষভাবে সংবেদনশীল বিষয়গুলোতে কনটেন্ট নিয়ন্ত্রণ করবে। একই সঙ্গে প্রাপ্তবয়স্কদের জন্য আলাদা অভিজ্ঞতা নিশ্চিত করা হবে, যেখানে যৌনতা বা প্রেমবিষয়ক কথোপকথনের অনুমোদন থাকবে। আত্মহত্যার পদ্ধতি শেখানো না হলেও গল্প লেখার প্রয়োজনে আত্মহত্যা-সম্পর্কিত কনটেন্ট ব্যবহার করা যাবে।

অল্টম্যান বলেন, প্রাপ্তবয়স্কদের প্রাপ্তবয়স্ক হিসেবেই বিবেচনা করতে হবে।

এদিকে ওপেনএআই আরও জানিয়েছে, ব্যবহারকারীর তথ্য যেন কোম্পানির কর্মীদের দৃষ্টিগোচর না হয়, সে ব্যবস্থা নেওয়া হচ্ছে।

তথ্যসূত্র: দ্য গার্ডিয়ান