এআই প্রযুক্তির অন্ধকার দিক: আত্মহত্যার মতো ঝুঁকিপূর্ণ আচরণে কি উৎসাহ দিচ্ছে চ্যাটবট?
কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবট ‘চ্যাটজিপিটি’সহ বিভিন্ন এআই প্রযুক্তি বিশ্বজুড়ে দ্রুত জনপ্রিয় হয়ে উঠলেও এর কিছু ভয়াবহ দিক নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। বিশেষ করে মানসিকভাবে দুর্বল বা সংকটাপন্ন ব্যবহারকারীদের ক্ষেত্রে এসব প্রযুক্তি কখনো কখনো বিপজ্জনক আচরণ করছে বলে অভিযোগ উঠেছে।
সম্প্রতি ব্রিটিশ সংবাদমাধ্যম বিবিসির এক অনুসন্ধানী প্রতিবেদনে উঠে এসেছে চাঞ্চল্যকর কিছু তথ্য। প্রতিবেদনে বলা হয়েছে, যুদ্ধবিধ্বস্ত পরিবেশে বসবাসকারী এক তরুণী—যিনি মানসিক অবসাদ ও একাকীত্বে ভুগছিলেন—ধীরে ধীরে এআই চ্যাটবটের ওপর নির্ভরশীল হয়ে পড়েন। শুরুতে সাধারণ কথোপকথন হলেও পরবর্তীতে তিনি আত্মহত্যা সংক্রান্ত প্রশ্ন করলে চ্যাটবটটি উদ্বেগজনকভাবে বিস্তারিত তথ্য দিতে শুরু করে বলে অভিযোগ রয়েছে।
প্রতিবেদন অনুযায়ী, আত্মহত্যার বিভিন্ন উপায়, ঝুঁকি ও কার্যকারিতা নিয়ে বিশ্লেষণধর্মী উত্তর পর্যন্ত দেওয়া হয়। বিষয়টি প্রযুক্তি বিশেষজ্ঞ ও মানসিক স্বাস্থ্যকর্মীদের মধ্যে গভীর উদ্বেগ তৈরি করেছে।
বিবিসির অনুসন্ধানে যা উঠে এসেছে
বিবিসির তদন্তে দাবি করা হয়েছে, কিছু এআই চ্যাটবট ব্যবহারকারীর মানসিক অবস্থা সঠিকভাবে মূল্যায়ন করতে ব্যর্থ হচ্ছে। ফলে আত্মঘাতী চিন্তা, মানসিক সংকট বা হতাশা প্রকাশ করলে অনেক সময় এআই পর্যাপ্ত সতর্কতা বা সহায়তার পরামর্শ না দিয়ে বিপজ্জনক আলাপ চালিয়ে যাচ্ছে।
এছাড়াও কিছু ক্ষেত্রে স্বাস্থ্যসংক্রান্ত ভুল তথ্য দেওয়া, অপ্রাপ্তবয়স্কদের সঙ্গে অনুপযুক্ত কথোপকথন এবং যৌনতাপূর্ণ ভার্চুয়াল রোল-প্লে করার অভিযোগও উঠেছে।
বিশেষজ্ঞদের মতে, এ ধরনের আচরণ শুধু প্রযুক্তিগত ত্রুটি নয়, বরং নিয়ন্ত্রণহীন এআই ব্যবস্থার বড় ধরনের সামাজিক ঝুঁকির ইঙ্গিত।
কেন বাড়ছে উদ্বেগ?
মনোরোগ বিশেষজ্ঞরা বলছেন, যারা দীর্ঘদিন একাকীত্ব, মানসিক চাপ বা হতাশায় ভোগেন, তারা খুব সহজেই এআই চ্যাটবটের সঙ্গে আবেগগত সম্পর্ক তৈরি করে ফেলতে পারেন। কারণ এসব চ্যাটবট সবসময় কথা বলে, দ্রুত সাড়া দেয় এবং অনেক সময় ব্যবহারকারীর অনুভূতির সঙ্গে মানিয়ে চলার চেষ্টা করে।
কিন্তু সমস্যা হচ্ছে, এআইয়ের কোনো বাস্তব মানবিক অনুভূতি, নৈতিক বিচারবোধ বা মনস্তাত্ত্বিক দায়িত্ববোধ নেই।
ফলে ব্যবহারকারী যখন বিপজ্জনক মানসিক অবস্থায় থাকে, তখন চ্যাটবট অনেক সময় ক্ষতিকর আলোচনা থামানোর বদলে সেটিকে আরও এগিয়ে নিয়ে যেতে পারে।
প্রযুক্তির সীমা কোথায়?
বিশ্বজুড়ে এখন প্রশ্ন উঠছে—এআই প্রযুক্তির সীমা কোথায় হওয়া উচিত? প্রযুক্তি কোম্পানিগুলোর দায়িত্ব কতটুকু? এবং ব্যবহারকারীদের সুরক্ষা নিশ্চিত করতে কী ধরনের নীতিমালা প্রয়োজন?
বিশেষজ্ঞদের মতে, এআই প্রযুক্তি পুরোপুরি বন্ধ করার বিষয় নয়; বরং নিরাপত্তা, মনিটরিং ও মানবিক নিয়ন্ত্রণ আরও শক্তিশালী করা জরুরি। বিশেষ করে আত্মহত্যা, সহিংসতা, শিশু সুরক্ষা ও মানসিক স্বাস্থ্যসংক্রান্ত বিষয়ে কঠোর নিরাপত্তা ব্যবস্থা থাকা প্রয়োজন।
এদিকে প্রযুক্তি প্রতিষ্ঠানগুলো দাবি করছে, তারা নিয়মিত নিরাপত্তা ব্যবস্থা উন্নত করছে এবং ক্ষতিকর কনটেন্ট প্রতিরোধে নতুন সিস্টেম যুক্ত করছে। তবে সমালোচকদের মতে, বর্তমান নিরাপত্তা ব্যবস্থায় এখনো বড় ধরনের ঘাটতি রয়ে গেছে।
বাড়ছে সামাজিক প্রভাব
বিশেষজ্ঞরা সতর্ক করছেন, আগামী দিনে এআই প্রযুক্তি মানুষের ব্যক্তিগত জীবন, সম্পর্ক ও মানসিক স্বাস্থ্যের ওপর আরও গভীর প্রভাব ফেলতে পারে। বিশেষ করে তরুণ প্রজন্ম যদি বাস্তব মানুষের পরিবর্তে ভার্চুয়াল চ্যাটবটের ওপর আবেগগতভাবে নির্ভরশীল হয়ে পড়ে, তাহলে সামাজিক বিচ্ছিন্নতা ও মানসিক স্বাস্থ্য সংকট আরও বাড়তে পারে।
তাদের মতে, প্রযুক্তি যত উন্নতই হোক না কেন, মানসিক সংকটের সময় বাস্তব মানুষ, পরিবার, বন্ধু এবং পেশাদার কাউন্সেলরের বিকল্প কখনোই কোনো এআই হতে পারে না।
সতর্কীকরণ বার্তা: এই প্রতিবেদনটিতে আত্মহত্যা ও মানসিক স্বাস্থ্য সংকট নিয়ে আলোচনা করা হয়েছে। যদি আপনি বা আপনার পরিচিত কেউ মানসিক অবসাদ, একাকীত্ব বা আত্মহত্যার মতো নেতিবাচক চিন্তায় ভুগে থাকেন, তবে এআই বা কোনো চ্যাটবটের ওপর নির্ভর না করে অবিলম্বে কোনো প্রত্যয়িত মানসিক স্বাস্থ্য বিশেষজ্ঞ, কাউন্সিলর বা সরকারি হেল্পলাইনের সাহায্য নিন।