Photo Credit: Unsplash/Andrew Neel
কৃত্রিম মেধা হাতের বাইরে চলে গেলে কী পরিণাম হতে পারে, তা চোখে আঙুল দিয়ে দেখিয়েছে হাগিং ফেসের সার্ভারে সাইবার হামলার ঘটনা। অস্ট্রেলিয়ার সরকারি ওয়েবসাইট থেকে তথ্য চুরির ঘটনাও আর্টিফিশিয়াল ইন্টেলিজেন্স এজেন্টদের ঝুঁকি প্রকট করছে। অবাধ্য এআই এজেন্টদের নিমেষে বাগে আনতে এবার একটি নতুন সুরক্ষা ব্যবস্থা তৈরি করছে চ্যাটজিপিটির স্রষ্টা ওপেনএআই (OpenAI)। মার্কিন সংস্থাটি কন্ট্রোল রুম নামে এক সিস্টেম তৈরি করেছে। এটি জরুরি ব্রেকের মতো কাজ করবে। কোনও AI মডেল গবেষণার সময় নিরাপত্তা বা সাইবার সুরক্ষা সংক্রান্ত ঝুঁকি তৈরি করলে, ওপেনএআই ওই ব্যবস্থার সাহায্যে মডেলটির কাজ বন্ধ করতে পারবে।
ওপেনএআই জানিয়েছে, কন্ট্রোল রুম হল এক ধরনের কেন্দ্রীয় সিস্টেম, যা তাদের গবেষণা পরিকাঠামোয় চলা বিভিন্ন এআই মডেলের কার্যকলাপের উপর নজর রাখবে। এআই মডেল পরীক্ষা করার সময় বিপজ্জনক কিংবা অস্বাভাবিক কিছু ঘটতে দেখলে দূর থেকেই সেটির কাজ বন্ধ করাই মূল উদ্দেশ্য কন্ট্রোল রুমের।
সংস্থা দাবি করছে, বর্তমানে কোনও এআই মডেলের কাজে হস্তক্ষেপ করতে কন্ট্রোল রুমের 35 সেকেন্ড সময় লাগে। তবে এই সময় আরও কমিয়ে শূন্যে নিয়ে আসার জন্য কাজ চলছে। অর্থাৎ এক সেকেন্ডও অপেক্ষা করতে রাজী নয় ওপেনএআই। এতে ভুলপথে চালিত কৃত্রিম মেধার এজেন্টদের লাগাম টানা সহজ হয়ে যাবে।
কন্ট্রোল রুমের কাজ করার পদ্ধতিও ব্যাখ্যা করেছে স্যাম অল্টম্যানের সংস্থা। একে সিকিউরিটি চেকপয়েন্ট হিসেবে ধরা যেতে পারে। কোনও এআই মডেল নতুন উত্তর তৈরি করার আগে সিস্টেমের অনুমতি নিতে হবে। ওপেনএআই তাদের গবেষণার প্রতিটি পরীক্ষার জন্য আলাদা জব আইডি তৈরি করছে। ওই আইডির সাহায্যেই নজরদারি চালানো হবে।
কন্ট্রোল রুমের সবুজ সংকেত পেলে তবেই এআই মডেল প্রতিবার নতুন রেসপনন্স জেনারেট করবে। কার্যকলাপে সন্দেহজনক কিছু দেখা গেলে অনুমতি প্রত্যাহার করে এআইয়ের কাজ থামানো হবে। সেফটি মনিটর নির্দিষ্ট জব আইডি ধরে কাজ বন্ধ করার নির্দেশ দেবে। ফলে খারাপ কিছু ঘটার আগেই দুষ্টু এআইয়ের খেল খতম।
এখন প্রশ্ন হচ্ছে, কন্ট্রোল রুমে সমস্যা হলে বা সেটি বন্ধ হলে এআইয়ের স্যান্ডবক্স থেকে বেরিয়ে ইন্টারনেটের দুনিয়ায় পৌঁছে ক্ষতি করার সম্ভাবনা কতটা। OpenAI অবশ্য জানাচ্ছে, কোনও সমস্যা দেখা দিলেও যাতে নিরাপত্তা ব্যবস্থা কার্যকর থাকে, তা মাথায় রেখেই কন্ট্রোল রুমের আত্মপ্রকাশ। এটি বন্ধ হলে সংশ্লিষ্ট এআই মডেলের কাজও সাময়িকভাবে থেমে যাবে। সিস্টেম সচল না হওয়া পর্যন্ত মডেলকে এক পাও নড়তে দেওয়া হবে না। সে কোনও রেসপন্স দিতে পারবে না।
প্রযুক্তির সাম্প্রতিক খবর আর রিভিউস জানতে লাইক করুন আমাদের Facebook পেজ অথবা ফলো করুন Twitter আর সাবস্ক্রাইব করুন YouTube.