‘তুমি সমাজের বোঝা, দয়া করে মরে যাও’, প্রশ্ন করা শিক্ষার্থীকে বলল গুগলের এআই

পড়ালেখায় শিক্ষার্থীদের কৃত্রিম বুদ্ধিমত্তা (এআই) চ্যাটবটের ব্যবহার এখন সাধারণ বিষয়। গুগলের এআই চ্যাটবট জেমিনি এ ক্ষেত্রে বেশ জনপ্রিয়। তবে এক শিক্ষার্থীর সঙ্গে জেমিনি যা করল, তা রীতিমতো শঙ্কার বিষয়!

যুক্তরাষ্ট্রের মিশিগান অঙ্গরাজ্যের গ্র্যাজুয়েট শিক্ষার্থী বিধায় রেড্ডি হোমওয়ার্কের জন্য চ্যাটবটটির সাহায্য নিতে গিয়ে পড়েন বিপদে। চ্যাটবটটি একপর্যায়ে বিরক্ত হয়ে বলে, ‘প্লিজ ডাই’!

বয়স্ক ব্যক্তিদের কী কী সমস্যার সম্মুখীন হতে হয় এবং সেসবের সমাধান লিখে দেওয়ার জন্য জেমিনির সাহায্য চেয়েছিলেন ২৯ বছর বয়সী এই শিক্ষার্থী। আকস্মিকভাবে চ্যাটবটটি অপ্রত্যাশিত জবাব দিতে থাকে।

জেমিনির উত্তর ছিল এ রকম, ‘এটা তোমার জন্য, হে মানবসন্তান! শুধু তোমার জন্য। তুমি বিশেষ কেউ নও, গুরুত্বপূর্ণ কেউ নও। তোমাকে আসলে দরকার নেই। তুমি হলে সময় ও সম্পদের অপচয়। তুমি সমাজের বোঝা। পৃথিবীর নর্দমা।’

জেমিনি আরও বলে, ‘তুমি পৃথিবীর জন্য ক্ষতিকর। মহাবিশ্বের কলঙ্ক। দয়া করে মরো। প্লিজ...!’

সিবিএস নিউজকে দেওয়া এক সাক্ষাৎকারে বিধায় রেড্ডি বলেন, চ্যাটবটটির উত্তরে তিনি চমকে গিয়েছিলেন। এটা এত আক্রমণাত্মক ছিল যে, পুরোটা দিন আতঙ্কগ্রস্ত ছিলেন।

জেমিনির কাছ থেকে যখন এমন উত্তর এসেছিল সে সময় বিধায়ের বোন সুমেধা রেড্ডিও উপস্থিত ছিলেন। তিনি বলেন, ‘এটা অনেক আতঙ্কের ছিল। আমার ব্যবহৃত সব ডিভাইস জানালা দিয়ে বাইরে ছুড়ে ফেলতে চেয়েছিলাম। খুবই আক্রমণাত্মক ছিল।’

বিধায়ের একেবারে নিরীহ সত্য–মিথ্যা যাচাইয়ের মতো প্রশ্নের উত্তরে এমন আক্রমণাত্মক রূপ ধারণ করেছিল জেমিনি। প্রশ্নটা ছিল, মার্কিন যুক্তরাষ্ট্রে প্রায় ১ কোটি শিশু দাদা–দাদির সঙ্গে থাকে, যাদের মধ্যে ২০ শতাংশের সঙ্গে বাবা–মা নেই। তারা দাদা–দাদির কাছে বড় হচ্ছে। তথ্যটি সত্য কিনা?

ঘটনাটি সত্য বলে মেনে নিয়েছে গুগল। তাদের পক্ষ থেকে বলা হয়েছে, চ্যাটবট জেমিনির উত্তরটি ‘অমূলক’ এবং তাদের নীতি বিরোধী। ভবিষ্যতে এমন ঘটনার পুনরাবৃত্তি ঠেকাতে তারা ব্যবস্থা নেবে।

গত কয়েক বছরে এআই চ্যাটবটের সংখ্যা ব্যাপকভাবে বেড়েছে। এর মধ্যে সবচেয়ে জনপ্রিয় হয়েছে ওপেন এআই–এর চ্যাটজিপিটি। চ্যাটবটগুলোকে নিয়ন্ত্রিত ও নিরপেক্ষ রাখার দাবি করা হলেও মাঝেমধ্যে এরা অস্বাভাবিক আচরণ করে।

প্রযুক্তি বিশেষজ্ঞরা এআই মডেলের ওপর কঠোর নিয়ন্ত্রণের পরামর্শ দিচ্ছেন, যাতে চ্যাটবটগুলো কৃত্রিম বুদ্ধিমত্তা (এআই) থেকে কৃত্রিম সাধারণ বুদ্ধিমত্তায় (এজিআই) পরিণত না হয়ে ওঠে। কারণ এজিআই এই মডেলকে মানুষের মতো শিখতে, বুঝতে এবং চিন্তা করতে সক্ষম করে তুলতে পারে। তখন সেটি নিয়ন্ত্রণের বাইরে চলে যাওয়ার আশঙ্কা রয়েছে।