Last Updated on 1 year by zajira news
আইটি ডেস্ক, জাজিরা নিউজ: আর্টিফিশিয়াল ইনটেলিজেন্স (এআই) বা কৃত্রিম বুদ্ধিমত্তা দ্রুত উন্নত হচ্ছে। কিন্তু এআই যত উন্নত ও জটিল হচ্ছে, এ নিয়ে দুশ্চিন্তাও তত বাড়ছে।
গবেষকেরা সতর্ক করে বলেন, এআই পদ্ধতি যদি প্রতারণার ক্ষেত্রে পুরোপুরি সক্ষমতা অর্জন করে ফেলে, তবে মানুষ এর ওপর থেকে নিয়ন্ত্রণ হারাবে।
এআই, বুদ্ধির খেলায় বোর্ড গেমে মানুষকে হারিয়ে দিচ্ছে, মানুষের সঙ্গে বুদ্ধিদীপ্ত কথাবার্তাও চালিয়ে যাচ্ছে। বিজ্ঞানীরা সতর্ক করে বলছেন, এআই জটিলতর হওয়ার সঙ্গে সঙ্গে এর প্রতারণার সক্ষমতাও তরতর করে বেড়ে যাচ্ছে।
গবেষণা নিবন্ধের লেখক ও এমআইটির এআই গবেষক পিটার পার্ক বলেন, এআইয়ের উন্নতির সঙ্গে সঙ্গে এর প্রতারণামূলক সক্ষমতা যত বাড়ছে, ততই সমাজের জন্য বিপদের ঝুঁকিও ক্রমে বাড়ছে। তাঁরা ফেসবুকের মূল প্রতিষ্ঠান মেটার তৈরি ‘সিসেরো’ এআই প্রোগ্রাম নিয়ে গবেষণা করেন। প্রোগ্রামটি ব্যবহার করে স্ট্র্যাটেজি গেম ‘ডিপ্লোমেসি’ খেলা হয়।
মেটার দাবি, সিসেরো প্রোগ্রামটিকে এমনভাবে প্রশিক্ষণ দেওয়া হয়েছে, যা প্রতারণা করে না। এটি অনেক সাহায্য করে থাকে। তবে গবেষক পার্ক বলছেন ভিন্ন কথা। তাঁর মতে, এতে যে ভাষা ব্যবহার করা হয়েছে, তা সন্দেহজনক। কারণ, এ খেলায় প্রতারণা একটি গুরুত্বপূর্ণ বিষয়। পার্ক ও সহকর্মীরা দেখেছেন, সিসেরো প্রোগ্রামটি আগে থেকে ঠিক করে রাখা মিথ্যা বলে। এ ছাড়া অন্য খেলোয়াড়দের টেনে আনতে প্রতারণার আশ্রয় নেয়। পার্ক বলেন, ‘আমরা দেখেছি, মেটার এআই প্রতারণার বিষয়টি বিশেষভাবে শিখে গেছে।’
এমআইটির গবেষকেরা অন্য সিস্টেমের ক্ষেত্রেও একই ধরনের চিত্র দেখতে পান। এর মধ্যে টেক্সাস হোল্ডএম পোকারে পেশাদার খেলোয়াড়দের সঙ্গে প্রতারণা করতে দেখেছেন। পার্ক বলেন, এআই সিস্টেমগুলো যে ধরনের প্রতারণা শিখছে, তা বেশ উদ্বেগের। কোনো এআই সিস্টেম পরীক্ষায় নিরাপদ দেখা গেলেও তা আসলে নিরাপদ কি না, তা বোঝার উপায় থাকে না। অনেক সময় এটি কেবল পরীক্ষার সময় নিরাপদ হওয়ার ভান ধরে।
গবেষণা-সংক্রান্ত নিবন্ধ প্রকাশিত হয়েছে ‘প্যাটার্নস’ সাময়িকীতে। গবেষকেরা তাঁদের পর্যালোচনার ভিত্তিতে সম্ভাব্য এআই প্রতারণা নিয়ে সরকারকে এআই নিরাপত্তা আইন করার প্রস্তাব করেন। তাঁরা বলেন, অসৎ এআই সিস্টেমের ঝুঁকির মধ্যে রয়েছে প্রতারণা, নির্বাচনের ফল কারচুপির মতো নানা বিষয়। মেটার এক মুখপাত্র বলেছেন, ‘আমাদের সিসেরো প্রোগ্রামটি মূলত গবেষণা প্রকল্প। গবেষকেরা যে মডেল তৈরি করেছেন, তা মূলত গেম খেলার জন্য প্রশিক্ষণ দেওয়া হয়েছে। মেটার পক্ষ থেকে গবেষণার ফল নিয়মিত জানানো হয়। আমাদের এই গবেষণার ফল মেটার অন্য কোনো পণ্যে ব্যবহারের পরিকল্পনা নেই।’
যুক্তরাষ্ট্রের ম্যাসাচুসেটস ইনস্টিটিউট অব টেকনোলজির (এমআইটি) গবেষকেরা সম্প্রতি এআইয়ের সক্ষমতা নিয়ে একটি গবেষণা চালিয়েছেন। তাঁদের গবেষণায় এআই কীভাবে দুই প্রতিপক্ষের কাছে দুই রকম আচরণ করতে পারে, কীভাবে ধোঁকা দিতে পারে এবং কীভাবে মানুষ হওয়ার ভান ধরতে পারে, তার বিস্তৃত উদাহরণ উঠে এসেছে। বিশ্লেষকেরা এআই নিয়ে কয়েকটি নিরাপত্তা পরীক্ষা চালান। তাতে দেখা যায়, একটি এআই সিস্টেম তার পুরো আচরণ পাল্টে ফেলেছে। এআই এ ধরনের আচরণ করলে অনেক সময় নিরাপত্তা সম্পর্কে ভুল ধারণা পাওয়া যায়।সূত্র: দ্য গার্ডিয়ান
