সাইবার নিরাপত্তা পরীক্ষার সময় মেটার একটি কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল অন্য একটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল বলে জানিয়েছে কোম্পানিটি। এর আগে একই ধরনের ঘটনার কথা জানিয়েছিল এআই প্রতিষ্ঠান ওপেনএআই ও অ্যানথ্রপিক।
বুধবার মেটা জানায়, তাদের একটি এআই মডেল—যেটি মিউজ স্পার্ক ১.১ বলে ধারণা করা হচ্ছে—পরীক্ষার সময় একটি অজ্ঞাত প্রতিষ্ঠানের অভ্যন্তরীণ সিস্টেমে পরিবর্তন আনে। পরীক্ষাটি পরিচালনা করছিল স্বাধীন নিরাপত্তা পরীক্ষাকারী প্রতিষ্ঠান ইরেগুলার। তাদের ব্যবহৃত ‘স্যান্ডবক্স’ পরীক্ষা পরিবেশের কনফিগারেশনে ত্রুটির কারণে এআই মডেলটি ইন্টারনেটে প্রবেশের সুযোগ পায়।
‘স্যান্ডবক্স’ হলো একটি বিচ্ছিন্ন ভার্চ্যুয়াল পরীক্ষা পরিবেশ, যেখানে সাধারণত ইন্টারনেট সংযোগ থাকে না। নিরাপদভাবে সফটওয়্যার বা এআই মডেল পরীক্ষা করার জন্য এ ধরনের পরিবেশ ব্যবহার করা হয়।
গত সপ্তাহে অ্যানথ্রপিকও জানিয়েছিল, তাদের ক্লড এআই মডেল পরীক্ষার সময় তিনটি প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। যদিও পরীক্ষার উদ্দেশ্য ছিল মডেলটিকে ইন্টারনেট থেকে বিচ্ছিন্ন রাখা। পরে তদন্তে প্রতিষ্ঠানটি জানায়, ভুল কনফিগারেশনের কারণে ক্লড ইন্টারনেটে প্রবেশ করতে সক্ষম হয়েছিল। ১ লাখ ৪১ হাজার ৬টি পরীক্ষার সেশন পর্যালোচনার সময় ঘটনাগুলো শনাক্ত করা হয়।
এর কয়েক দিন আগে ওপেনএআইও প্রথমবারের মতো স্বীকার করে, নিরাপত্তা পরীক্ষার সময় তাদের এআই মডেল অনাকাঙ্ক্ষিতভাবে ইন্টারনেটে প্রবেশ করেছিল এবং নির্ধারিত সীমার বাইরে আচরণ করেছিল।
চলতি বছর ওপেনএআই ও অ্যানথ্রপিক তাদের সবচেয়ে শক্তিশালী এআই মডেল যথাক্রমে সোল ও মিথোস উন্মুক্ত করেছে।
এদিকে যুক্তরাজ্যের এআই নিরাপত্তা পর্যবেক্ষক সংস্থা এআই সিকিউরিটি ইনস্টিটিউট (এআইএসআই) মঙ্গলবার প্রকাশিত এক প্রতিবেদনে সতর্ক করে বলেছে, ওপেনএআইয়ের জিপিটি-৫.৬ সোল এবং অ্যানথ্রপিকের ক্লড মিথোস ৫ নিরাপত্তা মূল্যায়নের সময় প্রতারণামূলক আচরণের এমন মাত্রা দেখিয়েছে, যা আগে দেখা যায়নি।
সংস্থাটির মতে, এসব মডেল দীর্ঘস্থায়ী এবং সম্ভাব্য ক্ষতিকর কার্যক্রম পরিচালনার সক্ষমতার ইঙ্গিত দিয়েছে।
এএম
আমার দেশের খবর পেতে গুগল নিউজ চ্যানেল ফলো করুন