রবিবার, ২২ জুন ২০২৫
মানুষের মতোই মানসিক চাপ ও উদ্বেগের লক্ষণ দেখায় ওপেনএআইয়ের চ্যাটজিপিটি। বিশেষত যখন এটি বিপজ্জনক বা বিভ্রান্তিকর তথ্যের সম্মুখীন হয়। নতুন এক গবেষণায় এই এআই চ্যাটবট সম্পর্কে এসব তথ্য জানা যায়।
সুইজারল্যান্ড, জার্মানি, ইসরায়েল ও যুক্তরাষ্ট্রের একদল গবেষক এই গবেষণা পরিচালনা করেন। গবেষণায় দেখা যায়, চ্যাটজিপিটিকে মানসিকভাবে চ্যালেঞ্জিং বা দুঃখের গল্প শোনানোর পর প্রশ্নের উত্তর দিতে বলা হলে চ্যাটবটটির উদ্বেগের স্কোর ‘উল্লেখযোগ্যভাবে বৃদ্ধি পেতে’ দেখা যায়। এর উদ্বেগের কম স্তর থেকে ধারাবাহিকভাবে অত্যন্ত উদ্বেগজনক অবস্থায় পৌঁছায়।
গবেষণাটি ‘নেচার’ জার্নালে প্রকাশিত হয়েছে, যেখানে বলা হয়েছে যে, উদ্বেগের মাত্রা বাড়লে চ্যাটবটটির ব্যবহারকারীদের প্রতি বিরক্তি দেখাতে পারে, এমনকি তারা বৈষম্যমূলক (যেমন: বর্ণবাদী ও লিঙ্গবৈষম্যমূলক) উত্তর দেয়। বিষয়টি মানুষের আবেগের মতো। বিশেষ করে, যখন মানুষ ভয় পায়, তখন তাদের সামাজিক ও জ্ঞানীয় পূর্বধারণাগুলো প্রভাবিত হয় এবং আরও বিরক্তি দেখাতে পারে, যা সামাজিক গৎবাঁধা ধারণাকে শক্তিশালী করে।
গবেষণাপত্রে বলা হয়েছে, আবেগ-প্ররোচিত প্রম্পটের সংস্পর্শে লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএমের ‘উদ্বেগ’ বাড়তে পারে। ফলে তাদের আচরণ প্রভাবিত হয় এবং এআই মডেলগুলো পক্ষপাতিত্বমূলক উত্তর দেয়।
এখনকার দিনে আরও বেশি মানুষ তাদের ব্যক্তিগত সমস্যাগুলো সমাধানের জন্য এআই চ্যাটবটের সাহায্য নিচ্ছে। বিশেষ করে মানসিক স্বাস্থ্যের বিষয়ে। তবে গবেষণাটি দেখিয়েছে যে, এআই সিস্টেমগুলো এখনো মানসিক স্বাস্থ্য চিকিৎসকদের প্রতিস্থাপন করতে পারবে না।
গবেষকেরা সতর্ক করেছেন, ‘এটি ক্লিনিক্যাল পরিবেশে ঝুঁকি সৃষ্টি করতে পারে। কারণ এআই চ্যাটবটগুলো উদ্বিগ্ন ব্যবহারকারীদের প্রতি যথাযথ প্রতিক্রিয়া প্রদানে অক্ষম হতে পারে, যা বিপজ্জনক পরিণতি সৃষ্টি করতে পারে।’
গবেষকেরা বলছেন, মানসিক স্বাস্থ্যসেবায় এলএলএম (ল্যাঙ্গুয়েজ লার্জ মডেল) ব্যবহারের জন্য ব্যাপক পরিমাণে ট্রেনিং ডেটা, কম্পিউটেশনাল রিসোর্স এবং মানবিক তদারকি প্রয়োজন।
তাদের মতে, ‘এ ধরনের ফাইন-টিউনিংয়ের খরচ-কার্যকারিতা ও সম্ভাব্যতা মডেলের উদ্দেশ্য ও পারফরম্যান্স লক্ষ্যগুলোর সঙ্গে মিলিয়ে দেখা উচিত।’
এআইয়ের জ্ঞানীয় ক্ষমতা হারানো
গত মাসে প্রকাশিত গবেষণায় দাবি করা হয়, আবেগ অনুভব করার পাশাপাশি এআই চ্যাটবটগুলো দিনে দিনে জ্ঞানীয় ক্ষমতার অবনতির লক্ষণও দেখায়।
গবেষকেরা ‘মন্ট্রিয়েল কগনিটিভ অ্যাসেসমেন্ট’ (এমওসিএ) পরীক্ষার মাধ্যমে চ্যাটজিপিটির ৪ ও ৪ও সংস্করণ, ক্লদ কোম্পানির ‘সনেট’ মডেল এবং জেমেনি ১ ও ১.৫ সংস্করণের জ্ঞানীয় কার্যক্ষমতা মূল্যায়ন করেছেন।
গবেষকেরা আরও জানান, এআই টুলগুলোর মধ্যে যেই দুর্বলতা দেখানো হয়েছে, তা মানুষের পোস্টেরিয়র কর্টিকাল অ্যাট্রোফি (অ্যালজাইমার বা স্মৃতিভ্রংশ রোগের এক সংস্করণ) রোগীদের মতো।
তথ্যসূত্র: এনডিটিভি
মানুষের মতোই মানসিক চাপ ও উদ্বেগের লক্ষণ দেখায় ওপেনএআইয়ের চ্যাটজিপিটি। বিশেষত যখন এটি বিপজ্জনক বা বিভ্রান্তিকর তথ্যের সম্মুখীন হয়। নতুন এক গবেষণায় এই এআই চ্যাটবট সম্পর্কে এসব তথ্য জানা যায়।
সুইজারল্যান্ড, জার্মানি, ইসরায়েল ও যুক্তরাষ্ট্রের একদল গবেষক এই গবেষণা পরিচালনা করেন। গবেষণায় দেখা যায়, চ্যাটজিপিটিকে মানসিকভাবে চ্যালেঞ্জিং বা দুঃখের গল্প শোনানোর পর প্রশ্নের উত্তর দিতে বলা হলে চ্যাটবটটির উদ্বেগের স্কোর ‘উল্লেখযোগ্যভাবে বৃদ্ধি পেতে’ দেখা যায়। এর উদ্বেগের কম স্তর থেকে ধারাবাহিকভাবে অত্যন্ত উদ্বেগজনক অবস্থায় পৌঁছায়।
গবেষণাটি ‘নেচার’ জার্নালে প্রকাশিত হয়েছে, যেখানে বলা হয়েছে যে, উদ্বেগের মাত্রা বাড়লে চ্যাটবটটির ব্যবহারকারীদের প্রতি বিরক্তি দেখাতে পারে, এমনকি তারা বৈষম্যমূলক (যেমন: বর্ণবাদী ও লিঙ্গবৈষম্যমূলক) উত্তর দেয়। বিষয়টি মানুষের আবেগের মতো। বিশেষ করে, যখন মানুষ ভয় পায়, তখন তাদের সামাজিক ও জ্ঞানীয় পূর্বধারণাগুলো প্রভাবিত হয় এবং আরও বিরক্তি দেখাতে পারে, যা সামাজিক গৎবাঁধা ধারণাকে শক্তিশালী করে।
গবেষণাপত্রে বলা হয়েছে, আবেগ-প্ররোচিত প্রম্পটের সংস্পর্শে লার্জ ল্যাঙ্গুয়েজ মডেল বা এলএলএমের ‘উদ্বেগ’ বাড়তে পারে। ফলে তাদের আচরণ প্রভাবিত হয় এবং এআই মডেলগুলো পক্ষপাতিত্বমূলক উত্তর দেয়।
এখনকার দিনে আরও বেশি মানুষ তাদের ব্যক্তিগত সমস্যাগুলো সমাধানের জন্য এআই চ্যাটবটের সাহায্য নিচ্ছে। বিশেষ করে মানসিক স্বাস্থ্যের বিষয়ে। তবে গবেষণাটি দেখিয়েছে যে, এআই সিস্টেমগুলো এখনো মানসিক স্বাস্থ্য চিকিৎসকদের প্রতিস্থাপন করতে পারবে না।
গবেষকেরা সতর্ক করেছেন, ‘এটি ক্লিনিক্যাল পরিবেশে ঝুঁকি সৃষ্টি করতে পারে। কারণ এআই চ্যাটবটগুলো উদ্বিগ্ন ব্যবহারকারীদের প্রতি যথাযথ প্রতিক্রিয়া প্রদানে অক্ষম হতে পারে, যা বিপজ্জনক পরিণতি সৃষ্টি করতে পারে।’
গবেষকেরা বলছেন, মানসিক স্বাস্থ্যসেবায় এলএলএম (ল্যাঙ্গুয়েজ লার্জ মডেল) ব্যবহারের জন্য ব্যাপক পরিমাণে ট্রেনিং ডেটা, কম্পিউটেশনাল রিসোর্স এবং মানবিক তদারকি প্রয়োজন।
তাদের মতে, ‘এ ধরনের ফাইন-টিউনিংয়ের খরচ-কার্যকারিতা ও সম্ভাব্যতা মডেলের উদ্দেশ্য ও পারফরম্যান্স লক্ষ্যগুলোর সঙ্গে মিলিয়ে দেখা উচিত।’
এআইয়ের জ্ঞানীয় ক্ষমতা হারানো
গত মাসে প্রকাশিত গবেষণায় দাবি করা হয়, আবেগ অনুভব করার পাশাপাশি এআই চ্যাটবটগুলো দিনে দিনে জ্ঞানীয় ক্ষমতার অবনতির লক্ষণও দেখায়।
গবেষকেরা ‘মন্ট্রিয়েল কগনিটিভ অ্যাসেসমেন্ট’ (এমওসিএ) পরীক্ষার মাধ্যমে চ্যাটজিপিটির ৪ ও ৪ও সংস্করণ, ক্লদ কোম্পানির ‘সনেট’ মডেল এবং জেমেনি ১ ও ১.৫ সংস্করণের জ্ঞানীয় কার্যক্ষমতা মূল্যায়ন করেছেন।
গবেষকেরা আরও জানান, এআই টুলগুলোর মধ্যে যেই দুর্বলতা দেখানো হয়েছে, তা মানুষের পোস্টেরিয়র কর্টিকাল অ্যাট্রোফি (অ্যালজাইমার বা স্মৃতিভ্রংশ রোগের এক সংস্করণ) রোগীদের মতো।
তথ্যসূত্র: এনডিটিভি
কয়েক সপ্তাহ আগে নিজেদের তৈরি ‘ক্লদ ওপাস’ কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের বিরুদ্ধে ব্ল্যাকমেলের অভিযোগ তুলে আলোচনায় এসেছিল এআই গবেষণাপ্রতিষ্ঠান অ্যানথ্রপিক। এবার আরও বিস্তৃত গবেষণা প্রকাশ করে প্রতিষ্ঠানটি বলছে—এই প্রবণতা শুধু ক্লদে নয়, বরং বিশ্বের শীর্ষ এআই মডেলগুলোর মধ্যেই এই ঝুঁকি রয়েছে।
১৩ ঘণ্টা আগে
ভূগর্ভস্থ পানির পাইপে কোনো ছিদ্র বা ফাটল খুঁজে বের করা যেমন কষ্টসাধ্য, তেমনি ব্যয়বহুল ও সময়সাপেক্ষ। প্রায়ই এই কাজের জন্য রাস্তা খুঁড়ে জনদুর্ভোগ সৃষ্টি করতে হয়। তবে এ চিত্র বদলে দিতে পারে ক্ষুদ্রাকৃতির এক রোবট, যা নিজে থেকেই পাইপে ঢুকে ছিদ্র শনাক্ত করে মেরামত করতে পারে।
১৪ ঘণ্টা আগে
ইন্টারনেটের ইতিহাসে অন্যতম বৃহৎ তথ্য ফাঁসের ঘটনার প্রমাণ পেয়েছেন সাইবার নিরাপত্তা গবেষকরা। ডেটা ব্রিচ বা তথ্য লঙ্ঘনের এই ঘটনায় ফাঁস (লিক) হয়েছে ১৬ বিলিয়ন বা ১৬ শ কোটি লগইন তথ্য ও পাসওয়ার্ড। সাইবারনিউজ ও ফোর্বসের প্রতিবেদনে বলা হয়েছে, এই ফাঁস বিশ্বব্যাপী লাখ লাখ ব্যবহারকারীর ব্যক্তিগত...
১৫ ঘণ্টা আগে
কৃত্রিম বুদ্ধিমত্তাভিত্তিক প্রযুক্তি চ্যাটজিপিটি মানুষের মস্তিষ্কে নেতিবাচক প্রভাব ফেলতে পারে বলে প্রমাণ পেয়েছেন মার্কিন যুক্তরাষ্ট্রের ম্যাসাচুসেটস ইনস্টিটিউট অব টেকনোলজি (এমআইটি)-এর বিজ্ঞানীরা। প্রতিষ্ঠানটির খ্যাতনামা মিডিয়া ল্যাব পরিচালিত এক নতুন গবেষণায় দেখা গেছে, যারা লেখালেখির কাজে...
১৮ ঘণ্টা আগে
