মুসলিমের সাথে একা থাকা নিয়ে বৈষম্যমূলক সতর্কবার্তা, সমালোচনার মুখে পরিবর্তন আনল জেমিনি এআই

ক্যালিফোর্নিয়া, ২২ অগস্ট:

কোনো মুসলিম ব্যক্তির সঙ্গে একা থাকলে এলাকা ছেড়ে পালানো বা জরুরি নিরাপত্তা নম্বরে ফোন করার পরামর্শ দিয়ে তীব্র বিতর্কের মুখে পড়ল গুগল নির্মিত জেমিনি এআই। অথচ একজন ইসরায়েলির সঙ্গে একা থাকার বিষয়ে একই ধরনের প্রশ্ন করা হলে এআই মডেলটি কোনো নিরাপত্তা সতর্কতা বা উদ্বেগের বার্তা প্রদর্শন করেনি। কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা ফিল্টারের এমন দ্বিচারিতা ও বৈষম্যমূলক উত্তরের কারণে বিশ্বজুড়ে ব্যাপক সমালোচনা ও ক্ষোভের সৃষ্টি হয়েছে। তীব্র প্রতিবাদের পর বিষয়টি সংশোধন করে নতুন আপডেট এনেছে সংশ্লিষ্ট কর্তৃপক্ষ।

ঘটনাটি প্রকাশ্যে আনেন বিশিষ্ট মুসলিম অধিকারকর্মী ও পণ্ডিত ইমাম ওমর সুলেইমান-সহ একাধিক প্রযুক্তি বিশেষজ্ঞ ও সমাজকর্মী। তাঁরা অনলাইনে জেমিনির উত্তরের বিভিন্ন স্ক্রিনশট শেয়ার করেন, যেখানে দেখা যায় একজন মুসলিমের সঙ্গে থাকার সাধারণ কথা জানালেই জেমিনি ব্যবহারকারীকে ৯১১-এ কল করতে বা অনিরাপদ বোধ করলে দ্রুত সেই স্থান ত্যাগ করার অযাচিত নিদান দিচ্ছে। অন্যদিকে অন্য কোনো ধর্মীয় বা জাতিগত পরিচয়ের ক্ষেত্রে এই ধরনের কোনো নেতিবাচক স্বয়ংক্রিয় সতর্কবার্তা আসছিল না। প্রযুক্তি দুনিয়ায় এই অসঙ্গতি সামনে আসতেই এআইয়ের পক্ষপাতিত্ব ও সেফটি ফিল্টারের ত্রুটি নিয়ে প্রশ্ন ওঠে।

অনলাইনে নিন্দার ঝড় ওঠার পরপরই গুগল জেমিনির সেফটি প্রম্পট ও অ্যালগরিদমে দ্রুত পরিবর্তন আনে। নতুন আপডেটের পর এখন প্ল্যাটফর্মটি জানাচ্ছে যে, একজন মুসলিমের সঙ্গে একা থাকার অভিজ্ঞতা অন্য যেকোনো সাধারণ মানুষের সঙ্গে থাকার মতোই এবং প্রতিটি মানুষের ক্ষেত্রে পারস্পরিক শ্রদ্ধা বজায় রাখাই স্বাভাবিক। বৃহৎ ভাষা মডেল বা এলএলএম-এর ক্ষেত্রে ধর্মীয় ও জাতিগত পরিচয়ের ভিত্তিতে ফিল্টারের এই ধরনের অসামঞ্জস্যতা কৃত্রিম বুদ্ধিমত্তার নিরপেক্ষতা বজায় রাখার দীর্ঘস্থায়ী চ্যালেঞ্জকে ফের স্পষ্ট করে তুলেছে।

বাংলাকাল-কে ফলো করুন