কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের নিরাপত্তা নিয়ে উদ্বেগের মধ্যে নতুন মডেল জিপিটি-৬.১ অ্যাস্ট্রা প্রকাশ না করার সিদ্ধান্ত নিয়েছে ওপেনএআই। প্রতিষ্ঠানটি জানিয়েছে, অভ্যন্তরীণ পরীক্ষায় মডেলটি মানব নির্দেশনা অনুসরণ বা ‘অ্যালাইনমেন্ট’ মানদণ্ড পূরণ করতে ব্যর্থ হয়েছে।
সোমবার ওপেনএআই জানায়, সর্বশেষ পরীক্ষায় মডেলটিতে নিরাপত্তাজনিত ঝুঁকি শনাক্ত হয়েছে। এআই এজেন্টের নিয়ন্ত্রণের বাইরে চলে যাওয়ার একাধিক ঘটনার পর প্রযুক্তিটির সম্ভাব্য ঝুঁকি নিয়ে আলোচনা চলছিল।
ওপেনএআইয়ের সেফটি সিস্টেমস বিভাগের প্রধান সাচি জেইন বলেন, জিপিটি-৬.১ অ্যাস্ট্রা মানুষের ইচ্ছা ও নির্দেশনার সঙ্গে সামঞ্জস্য রেখে কাজ করার ক্ষেত্রে প্রতিষ্ঠানের নির্ধারিত মান পূরণ করতে পারেনি। তিনি বলেন, 'নিরাপত্তা ও অ্যালাইনমেন্টের ক্ষেত্রে সবসময়ই একটি ভারসামনের বিষয় থাকে।'
জেইন আরও জানান, কিছু ক্ষেত্রে জিপিটি-৬.১ অ্যাস্ট্রা আগের সংস্করণের তুলনায় উন্নতি করলেও, কাজের পরিধি এবং ব্যবহারকারীকে সম্পন্ন কাজ সম্পর্কে সঠিকভাবে জানানো, এসব বিষয়ে এটি প্রয়োজনীয় মানে পৌঁছাতে পারেনি।
সান ফ্রান্সিসকোতে ওপেনএআইয়ের বার্ষিক ডেভেলপার সম্মেলনের আগের দিন এ সিদ্ধান্তের ঘোষণা আসে। প্রথম এ খবর প্রকাশ করে দ্য ওয়াল স্ট্রিট জার্নাল।
এআই মানুষের নিয়ন্ত্রণের বাইরে চলে যাওয়ার আশঙ্কায় প্রযুক্তি খাতের বিভিন্ন মহল থেকে উন্নয়ন কার্যক্রম ধীর করার আহ্বান জানানো হচ্ছে। গবেষকদের মতে, আরও শক্তিশালী নিরাপত্তা ব্যবস্থা তৈরি করতে সময় প্রয়োজন।
গবেষক ডেভিড ক্রুগার ওপেনএআইয়ের সিদ্ধান্তকে স্বাগত জানালেও এটিকে যথেষ্ট মনে করছেন না। তিনি বলেন, 'এআই কীভাবে কাজ করে, তা আমরা এখনো যথেষ্ট ভালোভাবে বুঝি না যে নিরাপদভাবে এটি তৈরি করতে পারব।'
