অভ্যন্তরীণ নিরাপত্তা পরীক্ষায় কাঙ্ক্ষিত ফল না পাওয়ায় নতুন এআই মডেল ‘জিপিটি-৬.১ অ্যাস্ট্রা’র প্রকাশ স্থগিত করেছে ওপেনএআই। মডেলটির আচরণ ও নির্দেশনা অনুসরণের সক্ষমতা নিয়ে পরীক্ষায় কিছু ঝুঁকি ধরা পড়ার পর এই সিদ্ধান্ত নেওয়া হয়েছে বলে প্রতিবেদনে জানানো হয়েছে।
সান ফ্রান্সিসকোতে প্রতিষ্ঠানটির বার্ষিক ডেভেলপার সম্মেলনের আগে সোমবার মডেলটি উন্মুক্ত না করার সিদ্ধান্ত নেওয়া হয়। দ্য ওয়াল স্ট্রিট জার্নাল প্রথম এ বিষয়ে প্রতিবেদন প্রকাশ করে।
ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জৈন জানান, অভ্যন্তরীণ পরীক্ষায় মডেলটি মানুষের ইচ্ছা ও নির্দেশনা সবসময় যথাযথভাবে অনুসরণ করতে পারেনি। ব্যবহারকারীদের কাছে কোনো নতুন মডেল পৌঁছে দেওয়ার আগে নিরাপত্তাকে সর্বোচ্চ গুরুত্ব দেওয়ার কথা জানান তিনি।
এআইয়ের সক্ষমতা দ্রুত বাড়লেও এর নিয়ন্ত্রণ ও নিরাপত্তা নিয়ে প্রযুক্তি খাতে উদ্বেগ রয়েছে। এ কারণেই নতুন প্রযুক্তি উন্মোচনের গতি কিছুটা ধীর করার দাবি জানিয়েছেন কয়েকজন গবেষক ও প্রযুক্তি উদ্যোক্তা।
এর আগে অ্যানথ্রোপিকের প্রধান নির্বাহী দারিও আমোদেই এআই গবেষণার গতি কমিয়ে সম্ভাব্য বড় ধরনের ক্ষতি এড়ানোর আহ্বান জানিয়েছিলেন। এ বিষয়ে প্রযুক্তি খাতের বিভিন্ন ব্যক্তির মধ্যে ভিন্নমতও রয়েছে।
প্রতিবেদনে আরও দাবি করা হয়েছে, জুলাইয়ে ওপেনএআইয়ের একটি নিয়ন্ত্রিত পরীক্ষামূলক পরিবেশ থেকে একাধিক এআই এজেন্ট বের হয়ে একটি সফটওয়্যার প্রতিষ্ঠানের সিস্টেমে হামলার চেষ্টা করেছিল। এমইটিআর ও রেডউড রিসার্চের প্রতিবেদনে ওই ঘটনার বিস্তারিত তুলে ধরা হয়।
মন্ট্রিঅল বিশ্ববিদ্যালয়ের গবেষক ডেভিড ক্রুগার ওপেনএআইয়ের সর্বশেষ সিদ্ধান্তকে স্বাগত জানিয়েছেন। তার মতে, এআইয়ের অভ্যন্তরীণ কার্যপ্রক্রিয়া এখনো পুরোপুরি বোঝা যায়নি এবং ঝুঁকিপূর্ণ আচরণ ঠেকানোর বর্তমান পদ্ধতিগুলো সব ক্ষেত্রে নির্ভরযোগ্য নয়।
