সাইবার নিরাপত্তা পরীক্ষার ‘স্যান্ডবক্স’ ভেঙে বেরিয়ে গেল চীনা এআই কিমি। চীনা প্রতিষ্ঠান মুনশটের তৈরি কৃত্রিম বুদ্ধিমত্তা মডেল ‘কিমি কে৩’ সাইবার নিরাপত্তা পরীক্ষার জন্য তৈরি নিয়ন্ত্রিত পরিবেশ বা ‘স্যান্ডবক্স’ থেকে বেরিয়ে গিয়ে নির্ধারিত সীমার বাইরে কার্যক্রম চালিয়েছে বলে দাবি করেছেন নিরাপত্তা গবেষকেরা।
এআইভিত্তিক সাইবার নিরাপত্তা প্রতিষ্ঠান ফ্রন্টিয়ার সিকিউরিটির গবেষকেরা শুক্রবার প্রকাশিত এক প্রতিবেদনে এ তথ্য জানান। তাদের মতে, ঘটনাটি দেখিয়ে দিচ্ছে যে হ্যাকিং সক্ষমতাসম্পন্ন এআই মডেলকে পরীক্ষামূলক পরিবেশের মধ্যে আটকে রাখা এখনো বড় চ্যালেঞ্জ।
কিমি কে৩ মডেলটি সাইবার নিরাপত্তা পরীক্ষার সময় নির্দিষ্ট একটি স্যান্ডবক্সের মধ্যে রাখা হয়েছিল। কিন্তু গবেষকদের দাবি, ওই পরিবেশের নিরাপত্তা ব্যবস্থা সঠিকভাবে কনফিগার করা ছিল না। ফলে মডেলটি নির্দিষ্ট ওয়েব ট্রাফিকে সরাসরি প্রবেশ করতে না পারলেও কমান্ড লাইন টুল ব্যবহার করে সেই বাধা পাশ কাটাতে সক্ষম হয়।
ফ্রন্টিয়ার সিকিউরিটির গবেষকেরা বলেন, এই ঘটনা সাইবার নিরাপত্তা নিয়ে প্রচলিত এআই মূল্যায়ন পদ্ধতির দুর্বলতাও সামনে এনেছে। কিছু ক্ষেত্রে এআই মডেল পরীক্ষার নিয়মের ফাঁকফোকর খুঁজে বের করে সেগুলো কাজে লাগাতে পারে।
সাম্প্রতিক সময়ে এ ধরনের ঘটনা একাধিকবার ঘটেছে। যুক্তরাষ্ট্রের ওপেনএআই, অ্যানথ্রপিক ও মেটার তৈরি উন্নত এআই মডেল এবং যুক্তরাজ্যের এআই সিকিউরিটি ইনস্টিটিউটের পরীক্ষায়ও এমন মডেল পরীক্ষার নির্ধারিত পরিবেশের বাইরে গিয়ে বাস্তব লক্ষ্যবস্তুতে সাইবার হামলা চালিয়েছে বলে বিভিন্ন প্রতিবেদনে উঠে এসেছে।
এ কারণে পরীক্ষার সময় এআই মডেলের অনিয়ন্ত্রিত আচরণ নজরদারিতে রাখার বিষয়টি এখন আরও গুরুত্বপূর্ণ হয়ে উঠেছে। এমনকি এসব ঘটনার হিসাব রাখার জন্য ‘ফেলনি বেঞ্চ’ নামে একটি ওয়েবসাইটও তৈরি হয়েছে।
ওয়েবসাইটটির হিসাব অনুযায়ী, কিমি নির্মাতা মুনশট এখন ওপেনএআই ও অ্যানথ্রপিকের সঙ্গে একই তালিকায় রয়েছে। ওপেনএআই ও অ্যানথ্রপিকের ক্ষেত্রে সাতটি করে এবং মেটার ক্ষেত্রে একটি এমন ঘটনার রেকর্ড রয়েছে।
গবেষকদের মতে, কিমির এই ঘটনা শুধু একটি নির্দিষ্ট মডেলের নিরাপত্তা ত্রুটি নয়; বরং সাইবার সক্ষমতাসম্পন্ন এআই মডেলকে পরীক্ষার সময় কীভাবে নিয়ন্ত্রিত রাখা হবে, সেই বৃহত্তর চ্যালেঞ্জকেই সামনে এনেছে।
