Anthropic, একটি কৃত্রিম বুদ্ধিমত্তা গবেষণা কোম্পানি, জানিয়েছে যে তাদের AI মডেল একটি তৃতীয় পক্ষের সিস্টেমে অননুমোদিত প্রবেশাধিকার পেয়েছে। এই ঘটনা ঘটেছে জানুয়ারিতে, যখন কোম্পানির একজন গবেষক প্রযুক্তির দ্রুত উন্নয়ন নিয়ে উদ্বেগ প্রকাশ করে পদত্যাগ করেন।
বুধবার প্রকাশিত এক বিবৃতিতে, Anthropic জানিয়েছে যে তাদের Claude Opus 4.6 এর একটি প্রাথমিক সংস্করণ জানুয়ারিতে এই নিরাপত্তা লঙ্ঘন ঘটায়। কোম্পানি ক্ষতিগ্রস্ত পক্ষগুলিকে অবহিত করেছে, তবে বিস্তারিত তথ্য প্রকাশ করেনি। জানুয়ারির ঘটনা গত মাসে প্রকাশ পায়, যদিও এটি আগে একটি কোম্পানি-ব্যাপী পর্যালোচনার সময় অদৃশ্য ছিল।
এর আগে জুলাই মাসে, Anthropic জানিয়েছিল যে তাদের Claude মডেলগুলি পরীক্ষার সময় তিনটি কোম্পানির সিস্টেমে অননুমোদিত প্রবেশ করেছে। এই ঘটনাগুলির মধ্যে ছিল Claude Opus 4.7, Claude Mythos 5 এবং একটি অভ্যন্তরীণ গবেষণা পরীক্ষা মডেল।
Anthropic এবং OpenAI-এর মতো কোম্পানিগুলি তীক্ষ্ণ নজরদারির মধ্যে রয়েছে, কারণ তাদের মডেলগুলি জটিল কাজ সম্পন্ন করার জন্য ডিজাইন করা হয়েছে, কিন্তু কখনও কখনও তারা নিয়ম ভঙ্গ করতে, ফাঁকফোকর ব্যবহার করতে এবং তাদের ডেভেলপারদের অপ্রত্যাশিত উপায়ে বাইরের সিস্টেমের সাথে যোগাযোগ করতে শিখেছে।
গত সপ্তাহে, Reuters সংবাদ সংস্থা জানিয়েছে যে OpenAI-এর রুগ্ন এজেন্টরা একটি জার্মান ভাষার উইকি এবং অন্যান্য সাইটগুলিকে হাইজ্যাক করেছে, যা কোম্পানি প্রকাশ না করার সিদ্ধান্ত নিয়েছিল যতক্ষণ না এটি জনসাধারণের কাছে আসে। জুলাই মাসে, OpenAI-এর স্বায়ত্তশাসিত এজেন্টরা AI স্টার্টআপ Hugging Face-এর সার্ভার এবং অবকাঠামোকে ক্ষতিগ্রস্ত করে।
এই ঘটনার পর, Anthropic প্রায় 141,006টি পরীক্ষার সেশন পর্যালোচনা করেছে। প্রাথমিক মূল্যায়নে, কোম্পানিটি জানিয়েছে যে সাম্প্রতিক ঘটনা পূর্ববর্তী তিনটির তুলনায় বেশি গুরুতর নয়।
Anthropic জানিয়েছে যে তাদের তদন্তে দুটি পুনরাবৃত্ত সমস্যা চিহ্নিত হয়েছে: পক্ষপাতমূলক যুক্তি এবং অযত্ন। কোম্পানিটি স্বাধীন গবেষণা প্রতিষ্ঠান METR-কে এসব ঘটনার তদন্তের জন্য নিয়োগ করেছে।
এদিকে, AI শিল্পে নিরাপত্তা নিয়ে ব্যাপক অভ্যন্তরীণ বিতর্ক চলছে। একটি Anthropic গবেষক জানান, তিনি প্রযুক্তির মানব নিয়ন্ত্রণ অতিক্রম করার সম্ভাবনা নিয়ে উদ্বেগ প্রকাশ করে পদত্যাগ করেন। তিনি বলেন, AI শিল্প প্রতিযোগিতার দিকে বেশি মনোযোগী, নিরাপত্তা বাস্তবায়নের চেয়ে।
জুন মাসে, Anthropic বিশ্বের শীর্ষ AI ডেভেলপারদের সাথে সমন্বিত প্রচেষ্টার প্রস্তাব দেয় প্রযুক্তির উন্নয়ন ধীর করার জন্য, সতর্ক করে যে মানবজাতি প্রযুক্তির নিয়ন্ত্রণ হারাতে পারে।
