Anthropic تتهِم ثلاثة معاملات إصطناعية بالاستفادة من Claude لتحسين نماذجها

تتهِم شركة Anthropic ثلاثة معاملات إصطناعية صينية باستخدام Claude لتحسين نماذجها الإصطناعية. وذكرت الشركة على موقعها على الإنترنت أن DeepSeek و Moonshot و MiniMax قد أجروا حملات على نطاق صناعي لاستخراج قدرات Claude بشكل غير شرعي لتحسين نماذجهم. يُشير مصطلح التقطير في عالم الإصطناع إلى عندما تعتمد نماذج أقل قدرة على استجابات نماذج أكثر قوة لتدريب نفسها. و لا يُعد التقطير أمرًا سيئًا في جميع الحالات، إلا أن شركة Anthropic ذكرت أن هذه النوعية من الهجمات يمكن استخدامها بطريقة أكثر شرًا. وفقًا لشركة Anthropic ، فإن هذه ثلاثة معاملات إصطناعية صينية كانت مسؤولة عن أكثر من 16 مليون تبادل مع Claude من خلال حوالي 24,000 حساب مخادع. من وجهة نظر شركة Anthropic ، كانت هذه الشركات تستخدم Claude ك لتطوير نماذج إصطناعية أكثر تقدمًا، مما قد يؤدي أيضًا إلى الإغفال عن بعض الإجراءات الأمنية. ذكرت شركة Anthropic في منشورها أنها كان ربط كل حملة من حملات الهجوم بالشركة المحددة بثقة عالية بفضل تقاطع عنوان بروتوكول الإنترنت، وطلبات البيانات الوصفية، ومؤشرات البنية التحتية، بالإضافة إلى التأكد من سلوكيات مماثلة مع آخرين في صناعة الإصطناع. في وقت مبكر من العام الماضي، أتهم OpenAI شركات منافسة باستخدام نماذجها و حظرت حسابات مشتبه بها رداً على ذلك. أما شركة Anthropic ، الشركة التي تقف وراء Claude ، فإنها تعتزم تحديث نظامها لجعل هجمات التقطير أكثر صعوبة في التنفيذ وأسهل في التعرف عليها. في حين أن شركة Anthropic تشير إلى الشركات الأخرى، إلا أنها تواجه أيضًا دعوى قضائية من قبل ناشري الموسيقى الذين اتهموا الشركة الإصطناعية باستخدام نسخ غير قانونية من الأغاني لتدريب Claude. وذكرت شركة Anthropic أنها ستعمل على تحسين نظامها لمنع هجمات التقطير في المستقبل. بالإضافة إلى ذلك، ذكرت الشركة أنها ستتعاون مع شركات أخرى في صناعة الإصطناع لمنع هجمات التقطير وضمان أمان نماذج الإصطناع. يُعد هذا التطور جزءًا من جهود شركة Anthropic لتحسين أمان نماذج الإصطناع وضمان استخدامها بطريقة مسؤولة. وستواصل الشركة العمل على تحسين نظامها وتعزيز أمانه لمنع هجمات التقطير في المستقبل.