شركة Anthropic تُحدّث "دستور Claude" بإرشادات سلامة جديدة

يوم الأربعاء، أصدرت Anthropic نسخة مُنقّحة من “دستور Claude”، وهو وثيقة من 80 صفحة تقدم شرحاً شاملاً للسياق الذي يعمل فيه روبوت الدردشة Claude. وتزامن إصدار الوثيقة، المُقسّمة إلى أربعة أجزاء منفصلة، مع ظهور Dario Amodei، الرئيس التنفيذي لشركة Anthropic، في المنتدى الاقتصادي العالمي. يُعزز هذا التحديث اعتماد الشركة على “الذكاء الاصطناعي الدستوري” (Constitutional AI). وتُعرّف Anthropic، التي شارك في تأسيسها Jared Kaplan، الذكاء الاصطناعي الدستوري بأنه أسلوب تدريب يستخدم المبادئ الأخلاقية بدلاً من التغذية الراجعة البشرية لتوجيه سلوك النموذج.

تحتفظ الوثيقة المُحدّثة بمعظم المبادئ نفسها التي نُشرت لأول مرة في عام 2023، أي منذ ما يقرب من ثلاث سنوات، بعد مذكرة سياسات أولية في عام 2022. ومع ذلك، تضيف النسخة المُنقّحة مزيداً من الفروق الدقيقة والتفاصيل المتعلقة بالأخلاقيات وسلامة المستخدم. ووفقاً لـ Anthropic، تُوجّه هذه المبادئ النموذج لتبني سلوك معياري وتجنب المخرجات السامة أو التمييزية. وبموجب إرشادات السلامة هذه، يُحظر تماماً إجراء مناقشات حول تطوير سلاح بيولوجي. بالإضافة إلى ذلك، تُوجّه الوثيقة النموذج لإحالة المستخدمين إلى خدمات الطوارئ ذات الصلة أو تقديم معلومات سلامة أساسية خلال المواقف التي تنطوي على خطر على حياة الإنسان، حتى لو لم يكن بإمكانه تقديم مزيد من التفاصيل.

وتُحدد الوثيقة أيضاً كيف تؤثر هذه المبادئ نظرياً على سلوك Claude في سيناريوهات العالم الحقيقي. وفي القسم الخاص بالممارسة الأخلاقية، تشير الوثيقة إلى أن الشركة أقل تركيزاً على قدرة روبوت الدردشة على التنظير حول الأخلاقيات، وأكثر اهتماماً بقدرته العملية على التصرف بشكل أخلاقي في سياقات محددة من العالم الحقيقي. وبعيداً عن السلامة العملية، تتناول الوثيقة الطبيعة الفلسفية للذكاء الاصطناعي، حيث تنص على أن “الوضع الأخلاقي لـ Claude غير مؤكد إلى حد كبير”، وفقاً لـ “دستور Claude”. ومن خلال هذا الإطار، تضع Anthropic نفسها كبديل أخلاقي لمنافسين مثل OpenAI و xAI، على الرغم من أن البعض قد يجادل بأن هذا التموضع يهدف إلى تصوير الشركة ككيان أكثر تحفظاً.

لماذا يهم

تستخدم Anthropic هذا التحديث لترسيخ علامتها التجارية كبديل أخلاقي ومتحفظ للمنافسين، مع الإشارة في الوقت ذاته إلى انخراطها في أسئلة فلسفية رفيعة المستوى حول وعي الذكاء الاصطناعي.