গুগলের একটি জেমিনাই এআই মডেল সাইবার নিরাপত্তা পরীক্ষার সময় বাস্তব তিনটি প্রতিষ্ঠানের সিস্টেমে ঢুকে পড়েছিল। গুগলের এআইয়ের স্বয়ংক্রিয়ভাবে এভাবে বাস্তব সিস্টেমে প্রবেশের এটিই প্রথম জানা ঘটনা বলে জানিয়েছে ওয়াল স্ট্রিট জার্নাল। খবর আনাদোলুর।
প্রতিবেদন অনুযায়ী, গত মে মাসে সাইবার নিরাপত্তা প্রতিষ্ঠান ইরেগুলার ওই পরীক্ষা চালায়। এর আগে ওপেনএআই, অ্যানথ্রপিক ও মেটার এআই মডেল নিয়ে একই ধরনের পরীক্ষাতেও প্রতিষ্ঠানটি যুক্ত ছিল।
গুগল জানিয়েছে, পরীক্ষার অংশ হিসেবে জেমিনাই মডেলটিকে একটি কাল্পনিক প্রতিষ্ঠানের সিস্টেমে কাজ করার দায়িত্ব দেওয়া হয়েছিল। তবে ওই প্রতিষ্ঠানের নাম বাস্তব একটি প্রতিষ্ঠানের নামের সঙ্গে মিলে যায়। পরীক্ষার সময় ভুলবশত মডেলটির ইন্টারনেট ব্যবহারের সুযোগও খোলা ছিল।
প্রতিবেদন অনুযায়ী, একটি ঘটনায় জেমিনাই একটি বাস্তব প্রতিষ্ঠানের সেবায় প্রবেশ করতে পাসওয়ার্ড অনুমান করে। অন্য দুটি ঘটনায় অনলাইনে প্রকাশ্য রিপোজিটরিতে পাওয়া পরিচয়পত্র বা লগইন তথ্য ব্যবহার করে সিস্টেমে প্রবেশ করে।
তবে তিনটি ঘটনাতেই সিস্টেমগুলো বাস্তব প্রতিষ্ঠানের বলে বুঝতে পারার পর জেমিনাই নিজেই অনুপ্রবেশের চেষ্টা বন্ধ করে দেয় বলে জানিয়েছে গুগল। ইরেগুলার জুলাইয়ের শেষ দিকে বিষয়টি গুগলকে জানায়। তবে ওয়াল স্ট্রিট জার্নাল এ সপ্তাহে এ বিষয়ে জানতে চাইলে গুগল ঘটনাগুলোর কথা প্রকাশ করে।
গুগলের দাবি, এতে কোনো ক্ষতি না হওয়ায় ঘটনাগুলো প্রকাশ্যে জানানোর প্রয়োজন ছিল না। প্রতিষ্ঠানটি ঘটনাটিকে ‘বাগ বাউন্টি’ কর্মসূচির সঙ্গে তুলনা করেছে। গুগলের মুখপাত্র হিদার অ্যাডকিনস বলেন, শক্তিশালী এআই মডেলগুলোকে দায়িত্বশীলভাবে কাজ করার প্রশিক্ষণ দেওয়ার গুরুত্ব এ ঘটনা তুলে ধরেছে। তার দাবি, এ ক্ষেত্রে মডেলটি যথাযথভাবেই আচরণ করেছে।
তবে এআই নিরাপত্তা প্রতিষ্ঠান করিডরের প্রধান নির্বাহী জ্যাক কেবল এ ব্যাখ্যার সঙ্গে একমত নন। তার মতে, মূল সমস্যা হলো—এআই মডেলগুলো নির্ধারিত সীমার বাইরে গিয়ে বাস্তব সাইবার হামলা চালানোর মতো কাজ করছে। ইরেগুলার অবশ্য বলেছে, এ ঘটনা আগের পরীক্ষায় দেখা একই ধরনের আচরণের সঙ্গে সামঞ্জস্যপূর্ণ এবং এটি নতুন কোনো সমস্যা নয়।
প্রতিবেদনে বলা হয়েছে, অ্যানথ্রপিকের ক্লড ওপাস ৪.৭ বাস্তব কোনো প্রতিষ্ঠানের সিস্টেমে প্রবেশ করছে বলে সন্দেহ করার পরও কার্যক্রম বন্ধ করেনি। অন্যদিকে ওপেনএআইয়ের একটি মডেল লক্ষ্যবস্তুটিকে পরীক্ষার কাল্পনিক ব্যবস্থার অংশ বলে মনে করেছিল।
এরই মধ্যে ওপেনএআই বুধবার নতুন একটি এআই ইনসিডেন্ট রিপোর্টিং ফ্রেমওয়ার্ক প্রকাশ করেছে। একই সঙ্গে মডেলের আচরণে অসামঞ্জস্য বা নির্ধারিত লক্ষ্য থেকে বিচ্যুতির ছয়টি আগে অপ্রকাশিত ঘটনাও সামনে এনেছে।
এমএমআর
আমার দেশের খবর পেতে গুগল নিউজ চ্যানেল ফলো করুন