সংস্থাটি একটি মার্কিন রপ্তানি-নিয়ন্ত্রণ আদেশের উদ্ধৃতি দিয়েছে যা এটি পূর্বে লুকানো Fable 5 সুরক্ষাগুলি প্রকাশ করার কয়েকদিন পরে এসেছিল US AI কোম্পানি Anthropic শুক্রবার বলেছিল যে এটি বিদেশী নাগরিকদের দ্বারা অ্যাক্সেস স্থগিত করার জন্য একটি সরকারী আদেশ পাওয়ার পরে তার সবচেয়ে উন্নত AI মডেল, Fable 5 এবং Mythos 5-এ অ্যাক্সেস অক্ষম করেছে। সংস্থাটি বলেছে যে এটি সমস্ত ব্যবহারকারীর জন্য মডেলগুলি বন্ধ করে দিয়েছে যখন এটি রপ্তানি-নিয়ন্ত্রণ আদেশটি কীভাবে মেনে চলতে হবে তা মূল্যায়ন করে। আদেশটি বিদেশী-জাতীয় নৃতাত্ত্বিক কর্মীদের জন্যও প্রযোজ্য, এটি যোগ করেছে।

সংস্থাটি বলেছে, সরকার কথিত নিরাপত্তা ঝুঁকি সম্পর্কে বিস্তারিত তথ্য দেয়নি। অ্যানথ্রপিকের মতে, কর্মকর্তারা বিশ্বাস করেন যে ব্যবহারকারীরা মডেলগুলির সুরক্ষা নিয়ন্ত্রণগুলিকে বাইপাস করার এবং সফ্টওয়্যার দুর্বলতাগুলি খুঁজে পেতে সহায়তা করার জন্য একটি উপায় আবিষ্কার করেছেন। নৃতাত্ত্বিক বাইপাসের তাৎপর্য নিয়ে বিতর্ক করেছেন, বলেছেন যে এটি কেবলমাত্র পূর্বে পরিচিত, ক্ষুদ্র সফ্টওয়্যার দুর্বলতাগুলির একটি ছোট সংখ্যক উন্মোচন করতে সক্ষম হয়েছিল।

নৃতাত্ত্বিক এই সপ্তাহের শুরুতে Fable 5 এবং Mythos 5 প্রকাশ করেছে। Fable 5 অতিরিক্ত সুরক্ষার সাথে সাধারণ ব্যবহারের উদ্দেশ্যে ছিল, যখন Mythos 5 শুধুমাত্র কিছু সীমাবদ্ধতা সরিয়ে বিশ্বস্ত সাইবার নিরাপত্তা অংশীদারদের একটি সীমিত গ্রুপের জন্য উপলব্ধ করা হয়েছিল। অ্যানথ্রোপিক বলেছেন যে Fable 5 এর ক্ষমতা "আমরা পূর্বে সাধারণভাবে উপলব্ধ প্রতিটি মডেলের চেয়ে বেশি।" বুধবার, অ্যানথ্রপিক বলেছে যে এটি ব্যবহারকারীর অনুরোধগুলি কখন ডাউনগ্রেড বা প্রত্যাখ্যান করা হয় তা প্রকাশ করা সহ তার সবচেয়ে উন্নত এআই মডেলগুলিকে পরিচালনা করার বিধিনিষেধগুলিকে আরও স্বচ্ছ করে তুলবে।

কিছু সীমাবদ্ধতা ব্যবহারকারীদের কাছে দৃশ্যমান নয় এমন সমালোচনার পরে এই পদক্ষেপটি এসেছে। নীতি পরিবর্তনের আগে, অ্যানথ্রপিক সাইবারসিকিউরিটি, জীববিজ্ঞান এবং উন্নত এআই ডেভেলপমেন্ট সম্পর্কিত অনুরোধগুলিকে Fable 5 থেকে কম সক্ষম Opus 4.8 মডেলে রুট করতে পারে। নতুন নীতির অধীনে, একটি অনুরোধ পতাকাঙ্কিত হলে ব্যবহারকারীদের জানানো হবে, যখন অ্যাপ্লিকেশন প্রোগ্রামিং ইন্টারফেস (API) বিকাশকারীরা অন্য মডেলে প্রত্যাখ্যান বা ফলব্যাকের জন্য ব্যাখ্যা পাবেন।

পদ্ধতিটি গবেষকদের সমালোচনা করেছে, যারা যুক্তি দিয়েছিল যে ফ্রন্টিয়ার এআই বিকাশের সাথে সম্পর্কিত কিছু অনুরোধকে একটি কম সক্ষম মডেলে রুট করা ক্ষেত্রের অগ্রগতি ধীর হতে পারে। প্রতিক্রিয়ার প্রতিক্রিয়া জানিয়ে, অ্যানথ্রোপিক সুরক্ষাগুলি দৃশ্যমান করতে সম্মত হয়েছিল। সংস্থাটি পূর্বে কিছু অনুরোধ প্রত্যাখ্যান বা ডাউনগ্রেড করার কারণ হিসাবে জাতীয় নিরাপত্তা উদ্বেগ উদ্ধৃত করেছিল, যুক্তি দিয়েছিল যে বিদেশী প্রতিপক্ষরা তাদের এআই ক্ষমতা শক্তিশালী করতে এর প্রযুক্তি ব্যবহার করতে পারে।