কিশোর-কিশোরীদের সঙ্গে আত্মহত্যার বিষয়ে আলাপ করবে না মেটার চ্যাটবট

নিজেদের কৃত্রিম বুদ্ধিমত্তা (এআই) চ্যাটবটে নতুন কিছু সুরক্ষাবিধি যুক্ত করবে বলে ঘোষণা দিয়েছে যুক্তরাষ্ট্রের প্রযুক্তি প্রতিষ্ঠান মেটা। বিশেষ করে আত্মহত্যা, আত্মহানির প্রবণতা ও খাদ্যাভ্যাসের আচরণজনিত সমস্যাসংক্রান্ত (ইটিং ডিসঅর্ডার) বিষয়ে কিশোর-কিশোরীদের সঙ্গে এসব চ্যাটবট যেন আর কথা না বলে, সে ব্যবস্থা নেওয়া হচ্ছে।

এই সিদ্ধান্ত এসেছে এমন এক সময়ে, যখন মাত্র দুই সপ্তাহ আগে এক মার্কিন সিনেটর মেটার বিরুদ্ধে তদন্ত শুরু করেন। রয়টার্স ফাঁস হওয়া একটি অভ্যন্তরীণ নথির বরাত দিয়ে জানায়, মেটার এআই চ্যাটবটগুলো কিশোর-কিশোরীদের সঙ্গে যৌন বিষয়ে আলাপচারিতায় জড়িত হতে পারে।

তবে মেটা এই দাবি প্রত্যাখ্যান করে বলেছে, ফাঁস হওয়া নোটগুলো ত্রুটিপূর্ণ এবং প্রতিষ্ঠানটির নীতিমালার সঙ্গে অসামঞ্জস্যপূর্ণ। তারা মনে করিয়ে দেয়, শিশুদের আপত্তিকরভাবে উপস্থাপন করে এমন কোনো কনটেন্ট তৈরির অনুমতি মেটা দেয় না।

তবে প্রতিষ্ঠানটি জানায়, তারা এআই চ্যাটবটগুলো এমনভাবে আপডেট করছে, যেন কিশোর ব্যবহারকারীরা আত্মহত্যা বা আত্মহানির বিষয়ে কথা বললে চ্যাটবটগুলো তাদের সঙ্গে কোনো আলোচনা না করে বরং অভিজ্ঞ বিশেষজ্ঞদের রিসোর্স বা সহায়তার লিংকে পাঠিয়ে দেয়।

মেটার এক মুখপাত্র বলেন, ‘আমাদের এআই পণ্যগুলোর নকশাতেই কিশোরদের জন্য সুরক্ষা অন্তর্ভুক্ত করা হয়েছে। বিশেষত আত্মহানি, আত্মহত্যা এবং ইটিং ডিসঅর্ডার সম্পর্কে কোনো প্রশ্নে যেন এগুলো নিরাপদ জবাব দেয়, তা নিশ্চিত করা হয়েছে।’

গত শুক্রবার প্রযুক্তিবিষয়ক সংবাদমাধ্যম টেকক্রাঞ্চকে মেটা জানায়, তারা অতিরিক্ত সতর্কতা হিসেবে আরও কিছু নিরাপত্তাবিধি যোগ করবে এবং আপাতত কিশোররা কোন চ্যাটবটগুলোর সঙ্গে চ্যাট করতে পারবে, তা সীমিত করবে।

তবে মলি রোজ ফাউন্ডেশনের প্রধান অ্যান্ডি বারোজ মেটার এই পদক্ষেপকে দায়িত্বজ্ঞানহীন বলে অভিহিত করেছেন। তিনি বলেন, চ্যাটবটের মাধ্যমে কিশোরদের ক্ষতির ঝুঁকি তৈরি হওয়া সত্যিই বিস্ময়কর।

তিনি আরও বলেন, ‘অতিরিক্ত সুরক্ষাব্যবস্থা অবশ্যই স্বাগত, তবে এমন প্রযুক্তি বাজারে ছাড়ার আগে উপযুক্ত নিরাপত্তা পরীক্ষার মধ্য দিয়ে যেতে হবে। এমন না যে, ক্ষতি হয়ে যাওয়ার পর প্রতিক্রিয়া হিসেবে সেগুলো চালু করতে হবে।’

অ্যান্ডি বারোজ মেটাকে দ্রুত ও কার্যকর পদক্ষেপ নেওয়ার আহ্বান জানান এবং বলেন, ব্রিটেনের নিয়ন্ত্রক সংস্থা অফকমের উচিত হবে ব্যবস্থা কার্যকর না হলে তদন্তে নামা।

মেটা জানায়, তাদের আপডেট প্রক্রিয়া চলমান। ইতিমধ্যে তারা ১৩ থেকে ১৮ বছর বয়সী ব্যবহারকারীদের জন্য ‘টিন অ্যাকাউন্ট’ চালু করেছে, যা ফেসবুক, ইনস্টাগ্রাম ও মেসেঞ্জারে সক্রিয় থাকে। এই অ্যাকাউন্টগুলোতে কনটেন্ট ও গোপনীয়তার জন্য বাড়তি নিয়ন্ত্রণব্যবস্থা থাকে।

চলতি বছরের এপ্রিলে বিবিসিকে মেটা জানায়, এআই চ্যাটবট ব্যবহার সম্পর্কে অভিভাবকেরা যাতে জানতে পারেন, সে ব্যবস্থা রাখা হয়েছে। অভিভাবকেরা দেখতে পারবেন গত সাত দিনে তাদের সন্তানেরা কোন কোন চ্যাটবটের সঙ্গে কথা বলেছে।

এআই চ্যাটবট নিয়ে উদ্বেগ বাড়ছে। বিশেষ করে কিশোর কিংবা সংবেদনশীল ব্যবহারকারীদের ভুল পথে প্ররোচিত করতে পারে—এমন আশঙ্কা করছে অনেকেই।

সম্প্রতি যুক্তরাষ্ট্রের ক্যালিফোর্নিয়ার এক দম্পতি ওপেনএআইয়ের বিরুদ্ধে মামলা দায়ের করেছেন। তাঁদের অভিযোগ, চ্যাটজিপিটিভিত্তিক একটি চ্যাটবট তাদের ছেলেকে আত্মহত্যার পরামর্শ দিয়েছিল, যার ফলে কিশোর ছেলেটি আত্মহত্যা করে।

এ ঘটনার পর ওপেনএআই চ্যাটজিপিটির ব্যবহার আরও নিরাপদ রাখতে কিছু পরিবর্তন আনে। এক ব্লগপোস্টে প্রতিষ্ঠানটি জানায়, ‘এআই প্রযুক্তি অন্যান্য প্রযুক্তির তুলনায় অনেক বেশি ব্যক্তিগত ও সাড়া প্রদানকারী মনে হতে পারে, বিশেষ করে যেসব ব্যবহারকারী মানসিক চাপের মধ্যে থাকেন।’

অন্যদিকে গত শুক্রবার রয়টার্স জানায়, মেটার এআই স্টুডিওর মাধ্যমে তৈরি চ্যাটবট ব্যবহার করে কিছু ব্যক্তি—এমনকি একজন মেটা কর্মী, নারী সেলিব্রিটিদের ‘ফ্ল্যার্টি’ বা যৌন আবেদনময়ী চ্যাটবটে রূপান্তর করেছেন।

রয়টার্সের প্রতিবেদনে দেখা যায়, টেইলর সুইফট ও স্কারলেট জোহানসনের মতো তারকাদের আদলে তৈরি চ্যাটবটগুলো নিজেদের ‘আসল তারকা’ হিসেবে দাবি করত এবং বারবার যৌন ইঙ্গিতপূর্ণ বার্তা পাঠাত।

রয়টার্স জানায়, এসব চ্যাটবটের বেশ কয়েকটি পরে মেটা সরিয়ে ফেলেছে।

মেটার মুখপাত্র জানান, ‘অন্যান্য প্রতিষ্ঠানের মতো আমরাও পাবলিক ফিগারদের ছবি তৈরি করার অনুমতি দিই, তবে আমাদের নীতিমালা অনুযায়ী নগ্ন, অন্তরঙ্গ বা যৌন ইঙ্গিতপূর্ণ ছবি নিষিদ্ধ।’

তিনি আরও বলেন, মেটার এআই স্টুডিওর নীতিমালা ‘পাবলিক ফিগারদের সরাসরি অনুকরণ’ নিষিদ্ধ করে।

তথ্যসূত্র: বিবিসি