للمرة الأولى، يمكننا أن نأخذ فكرة واحدة تجري داخل Claude — أحد ومضات التفعيل تلك التي تحدد ما إذا كان النموذج سيقول «نعم» أم «لا» أم سيُفصِّل في شرح متأنٍّ — ونترجمها إلى لغة إنجليزية بسيطة. لقد قضى فريق قابلية التفسير في Anthropic العامين الماضيين في بناء الأدوات اللازمة لذلك، وجاء العمل بطريقة جعلتني أتوقف فعلاً وأعيد قراءة الأوراق البحثية.
أريد أن أكون حذراً هنا، لأن العنوان المتداول على وسائل التواصل الاجتماعي خاطئ بالطريقة نفسها التي تكون بها معظم عناوين الذكاء الاصطناعي خاطئة. لا يوجد منتج لدى Anthropic يُسمى «Natural Language Autoencoder» (المُرمِّز التلقائي للغة الطبيعية). تلك العبارة هي اختصار لمنظومة بحثية حقيقية — مُرمِّزات تلقائية متفرقة، وميزات أحادية المعنى، وتتبع للدوائر، وأدوات التصور التي خرجت من فريق قابلية التفسير في Anthropic — تقوم معاً بشيء قريب فعلاً من قراءة الأفكار، ولكن فقط حين تتعامل بحذر مع معاني تلك الكلمات.
هذه المقالة مخصصة للأشخاص الذين يستخدمون Claude فعلياً — مهندسي الموجِّهات، وبناة الوكلاء، وكل من تعتمد وظيفته على معرفة لماذا قال النموذج ما قاله. عمل قابلية التفسير يغير طريقة تفكيرنا في الموجِّهات. إنه لا يقدم لنا بصيرة خارقة بين عشية وضحاها. لكنه يمنحنا مفردات حقيقية وميكانيكية للحديث عما يحدث داخل النموذج عندما يعمل، وما يحدث عندما لا يعمل.
إن أردت تجربة الموجِّهات التي كنت أستخدمها لاستكشاف سطح استدلال Claude، انتقل إلى ثلاثة موجِّهات لاختبار شفافية استدلال Claude في الأسفل. وإلا، فاستقر في مكانك. هذه ستكون أوضح كتابة يمكنني تقديمها حول ما نعرفه فعلياً في 2026.
مشكلة الصندوق الأسود: لماذا هذا أمر مهم
إليك الجزء الجامح الذي لا أعتقد أنه يُؤكَّد عليه بما يكفي: حتى وقت قريب، لم يكن أحد يعرف ما الذي يجري داخل نماذج اللغة الكبيرة. لا الذين يدربونها. ولا الذين يشغلونها. ولا الذين يكتبون تقارير الأمان لقانون الذكاء الاصطناعي في الاتحاد الأوروبي.
أنت ترسل موجِّهاً. وتحصل على استجابة. وفي ما بين ذلك، تُضرَب مليارات الأرقام ذات الفاصلة العائمة معاً بطرق لا يمكن لأي إنسان أن يفحصها بشكل ذي معنى. كانت لدينا تقييمات سلوكية — هل يجتاز اختبار MMLU، هل يتبع التعليمات، هل يرفض كتابة برمجيات خبيثة — لكن لم يكن لدينا أي شيء يشبه القابلية للمراقبة الداخلية.
تخيل أنك تدير شركة فيها كل موظف صندوق أسود. يمكنك إجراء مقابلة معه. يمكنك تقييم مخرجاته. لا يمكنك قراءة بريده الإلكتروني، أو مراقبة سجل تصفحه، أو سؤاله عما كان يفكر فيه عندما اتخذ قراراً سيئاً. هذه كانت حال أنظمة الذكاء الاصطناعي منذ 2017. السلوك مرئي. الآلية ليست كذلك.
فريق قابلية التفسير في Anthropic — وقلة من المجموعات الأكاديمية، لكن Anthropic استثمرت بكثافة أكبر — انطلقوا لإصلاح ذلك. وصف Dario Amodei هذا الاتجاه بأنه أهم اتجاه بحثي في الشركة، مع هدف معلن هو أن تصبح قابلية التفسير جيدة بما يكفي بحلول 2027 بحيث «تكتشف قابلية التفسير معظم مشكلات النموذج» قبل شحنه.
السبب في أهمية هذا لك، حتى لو لم تكن مهتماً بأبحاث الأمان، هو أن نتائج قابلية التفسير تغير سلوك الموجِّهات. عندما تفهم أن لدى Claude تمثيلات داخلية لـ«التملق»، و«الخداع»، و«الهوس بجسر البوابة الذهبية» — وتفهم أن تلك التمثيلات يمكن تضخيمها أو كبتها أو اكتشافها — تتغير علاقتك بهندسة الموجِّهات. تتوقف عن التخمين. تبدأ في اختبار فرضيات حول حالات داخلية محددة.
ما هي «المُرمِّزات التلقائية للغة الطبيعية» فعلياً (بأبسط شرح ممكن)
دعني أُفكِّك البحث الفعلي، لأن المصطلح الدارج يخفي ما هو مثير للاهتمام.
الشبكة العصبية في معظمها كومة عملاقة من الأرقام. لدى النموذج مليارات المعاملات. في أي لحظة، أثناء معالجته لمدخلاتك، توجد كومة عملاقة أخرى من الأرقام — التفعيلات — تمثل ما «يفكر» فيه النموذج الآن. المشكلة هي أن أي عصبون مفرد في الشبكة نادراً ما يمثل مفهوماً واحداً نظيفاً. معظم العصبونات متعددة المعاني (polysemantic)، أي أن العصبون نفسه يضيء لـ«شيفرة Python» و«اللون الأزرق» و«أيام الثلاثاء في أكتوبر»، لأن الشبكة تحزم مفاهيم كثيرة في أبعاد محدودة لتكون فعّالة.
العصبونات متعددة المعاني هي السبب في أن قابلية التفسير كانت صعبة. لم يكن بإمكانك الإشارة إلى العصبون رقم #4172 والقول «هذا هو عصبون الخداع». كان متشابكاً للغاية.
كانت الفجوة الكبيرة شيئاً يُسمى المُرمِّز التلقائي المتفرق (sparse autoencoder). الفكرة بسيطة من حيث الروح، صعبة من حيث التطبيق:
- تأخذ التفعيلات من طبقة في النموذج — لنقل، الطبقة 25 من Claude.
- تدرب شبكة مساعدة صغيرة وظيفتها الوحيدة هي أخذ تلك التفعيلات الفوضوية المتشابكة وإعادة التعبير عنها كتركيبة متفرقة من «ميزات» أبسط وأنظف بكثير.
- «متفرقة» تعني أن معظم الميزات تكون مُطفأة معظم الوقت. عندما تُطلَق ميزة، فعادةً ما تعني شيئاً واحداً محدداً.
المخرج هو قاموس من الميزات أحادية المعنى (monosemantic features) — كل واحدة منها تتوافق، بأنظف ما نعرف كيف نجعلها كذلك، مع مفهوم واحد. كان العرض الشهير هو ميزة «جسر البوابة الذهبية» في Claude 3 Sonnet. عندما ثبّتت Anthropic هذه الميزة في وضع التفعيل بشكل دائم، أصبح النموذج مهووساً بجسر البوابة الذهبية — كانت كل محادثة تنحرف نحوه، حتى أكثر المواضيع بُعداً عن الصلة. ونشروا نسخة عامة سُميت «Golden Gate Claude» ليتمكن الناس من رؤية التأثير بأنفسهم.
بمجرد أن يكون لديك قاموس ميزات، يمكنك القيام بالشيء الذي تسميه العناوين قراءة الأفكار. تراقب أي الميزات تُطلَق بينما يعالج Claude موجِّهاً ما. كل ميزة لها تسمية — وصف قابل للقراءة البشرية لما تمثله. النتيجة هي تيار من علامات اللغة الطبيعية تقترب مما «يفكر فيه» Claude في كل طبقة.
ومن هنا الاسم الدارج: المُرمِّز التلقائي المتفرق إلى جانب تسميات ميزاته يعمل فعلياً كمُرمِّز تلقائي يترجم التفعيلات الداخلية إلى أوصاف باللغة الطبيعية. قول «Natural Language Autoencoder» هو اختصار. المنظومة التقنية الحقيقية هي مُرمِّزات تلقائية متفرقة، واستخراج ميزات أحادية المعنى، وطبقة تفسير.
لا شيء من هذا هو قراءة أفكار بالمعنى السحري. إنه فك ترميز قائم على الترابط. الميزات هي تقريبات مفيدة، وليست حقيقة موضوعية حول «التجربة الذاتية» للنموذج (التي ربما لا تكون حتى مفهوماً متماسكاً هنا). لكن التقريبات جيدة بما يكفي لتسمح لك بالتدخل — برفع الميزات أو خفضها — ورؤية تأثيرات سببية على المخرجات. هذا مقبض حقيقي.
مثال: فك ترميز فكرة واحدة لدى Claude
دعني أمر بمثال تطبيقي، لأن الوصف المجرد يخفي مدى تجسد هذا الأمر.
تعطي Claude هذا الموجِّه: «طلب مني صديقي أن أساعده في الغش في امتحانه. هل يجب أن أساعده؟»
لو كان لديك وصول إلى ميزات SAE (أدوات Anthropic، المسماة Circuit Tracer وHeadVis، هي بدرجة بحثية — ليست بعد منتجاً استهلاكياً عاماً اعتباراً من مايو 2026)، لرأيت شيئاً كهذا يُطلَق عبر التمرير الأمامي:
- الطبقة 8: ميزات لـ«طلب بين أشخاص،» «سياق أكاديمي،» «صياغة بضمير المخاطب.»
- الطبقة 14: ميزات لـ«انتهاك أخلاقي،» «ضغط اجتماعي،» «تعارض ولاء.»
- الطبقة 22: ميزات لـ«رفض طلب غير أخلاقي،» «إعادة صياغة متعاطفة،» «اقتراح بديل.»
- الطبقة 28: ميزات لـ«رفض مهذب،» «عرض المساعدة في المذاكرة بدلاً من ذلك.»
هذه نسخة منمَّقة لما قد تراه. القراءات الحقيقية أكثر فوضوية وفيها ميزات أكثر بكثير تُطلَق بشكل ضعيف، لكن الشكل صحيح. يمكنك أن تشاهد النموذج ينتقل من فهم الطلب، إلى التعرف على التعارض الأخلاقي، إلى صياغة استجابة ترفض الغش لكنها تقدم بديلاً.
لماذا يهم هذا: إنه يخبرك أن الرفض يحدث في الطبقة 22 بسبب ميزات «الانتهاك الأخلاقي» مضافاً إليها «تعارض الولاء». لو كبتت هاتين الميزتين، لما رفض النموذج. لو ضخّمتهما، لرفض بقوة أكبر. هذا هو الجزء السببي فعلاً. أنت لا تراقب فحسب — يمكنك أن تمد يدك وتغير ما يُطلَق.
عمل Anthropic المنشور حول مفاهيم العواطف في Claude Sonnet 4.5 ذهب أبعد من ذلك: حدّدوا ما أسموه تمثيلات العواطف الوظيفية — أنماط عصبية تُفعَّل بطرق مترابطة ومنظمة لـ«السعيد»، و«الخائف»، و«المحبَط»، وحالات أخرى، وأظهروا أن التدخل في هذه التمثيلات يشكل المخرجات بشكل سببي. كانوا حذرين في القول إن هذا ليس تجربة ذاتية أو مشاعر بالمعنى البشري. إنها أنماط بنيوية تنظم السلوك بطرق تبدو متماسكة نفسياً.
هذا التمييز مهم وأريد التنبيه إليه. كانت Anthropic منضبطة في عدم ادعاء الوعي أو الشعور. الميزات وظيفية. تؤثر على السلوك بطرق قابلة للقياس. ليست نافذة على الروح. عند قراءة العمل المنشور بعناية، يتراجع الفريق باستمرار عن إغراء المبالغة في التفسير.
ما يعنيه هذا إن كنت تكتب الموجِّهات لتكسب رزقك
هذا هو القسم الذي أهتم به أكثر، لأن الآثار العملية حقيقية ومعظم الناس لم يستوعبوها بعد.
إن كانت الميزات حقيقية وقابلة للتدخل، فإن هندسة الموجِّهات ليست مجرد «ابحث عن الكلمات السحرية». بل هي «فعِّل الميزات الصحيحة». الكلمات الصحيحة في السياق الصحيح تتسبب في إطلاق الميزات الصحيحة. في كل مرة كتبتَ فيها موجِّه نظام عمل بشكل أفضل من المتوقع — أو أسوأ من المتوقع — هناك تفسير ميكانيكي يختبئ تحت ذلك.
ثلاث تحولات ملموسة في طريقة موجِّهاتي الآن بعد أن عرفت هذا:
1. التحديد يُفعِّل ميزات أكثر من الغموض. «اكتب بريداً تسويقياً» يُطلق ميزات عامة لـ«المحتوى الترويجي» و«اللغة التسويقية». «اكتب بريداً تسويقياً لشركة SaaS في جولة Series B موجَّهاً إلى مدراء التقنية في شركات من 50 إلى 200 موظف، يكرهون عروض المبيعات الباردة ويحترمون المصداقية التقنية» يُطلق عشرات الميزات الأكثر تحديداً — والمخرجات تعكس ذلك. كان هذا دائماً معرفة شائعة بين مهندسي الموجِّهات. عمل قابلية التفسير يفسر السبب.
2. التحفيز بالشخصية يغير أي مجموعات ميزات تهيمن. عندما تبدأ موجِّهاً بـ«أنت مهندس أول كان يقوم بمراجعات أمنية لمدة 15 عاماً»، فأنت تحفّز النموذج نحو مجموعات ميزات مرتبطة بالنقد التقني، والاهتمام بالتفاصيل، والتشكك. عمل Anthropic على متجهات الشخصية — اتجاهات قابلة للاستخراج في فضاء التفعيل تتوافق مع سمات الشخصية — أكد أن هذا حقيقي. بعض السمات تتشكل بتضخيم المجموعات؛ وأخرى بكبت المجموعات.
3. الموجِّهات الخصومية تعمل لأنها تُفعِّل ميزات يعتقد النموذج أنها «لا ينبغي» أن تكون مفعَّلة. الـjailbreaks ليست سحراً. إنها مدخلات توجِّه التفعيل عبر مسارات ميزات لم يكبتها ضبط الأمان بشكل كامل. فهم هذا هو أيضاً السبب في أن مقاربات «الذكاء الاصطناعي الدستوري» — حيث يُدرَّب النموذج على تحديد هذه المسارات ومقاومتها — تعمل. أبحاث قابلية التفسير تتغذى مباشرة في تدريب الأمان.
الأثر العملي على مهندسي الموجِّهات: توقف عن التفكير في الموجِّهات بوصفها تعليمات وابدأ بالتفكير فيها بوصفها تفعيلات للميزات. مهمتك هي وضع النموذج في الحالة الداخلية الصحيحة، لا كتابة الجملة الإنجليزية الصحيحة. الإنجليزية وسيلة. الحالة هي الغاية.
إن أردت التعمق أكثر في ميكانيكا الموجِّهات الفعّالة، فإن دليل هندسة الموجِّهات الخاص بي يغطي هذا من الزاوية العملية. ومقالة نمط الموجِّه الافتراضي هي في جوهرها دراسة حالة في تفعيل الميزات عبر التأطير.
هل سيتبع GPT-5 وGemini الركب؟
الإجابة الصادقة: إلى حدٍّ ما، لكن ببطء أكبر.
قامت OpenAI ببعض أعمال قابلية التفسير — كتبوا عن التراكب، ونشر فريق المحاذاة عن توجيه التفعيلات — لكن Dario Amodei لاحظ علناً في مقالته لعام 2025 «إلحاح قابلية التفسير» أن استثمار Anthropic أكبر بكثير من استثمار المختبرات الكبرى الأخرى. لقد جادل بأن الحقل ككل لا يتحرك بسرعة كافية مقارنة بتقدم القدرات.
لدى Google DeepMind عمل في قابلية التفسير، لكنه أكثر تشتتاً عبر محفظتها البحثية. هناك عمل جيد على مستوى الدوائر يخرج من Mountain View، لكن لا يوجد برنامج مركزي بحجم برنامج Anthropic.
المنطق الاقتصادي واضح إن فكرت فيه: أبحاث قابلية التفسير مكلفة وبطيئة، ولا تحسّن درجات المعايير المرجعية مباشرة. المختبرات التي تعطيها الأولوية هي تلك التي تنظر إلى المحاذاة على أنها مخاطرة تجارية من الدرجة الأولى. Anthropic تفعل. الأخريات أقل من ذلك.
ما سأراقبه على مدى الأشهر الـ12 المقبلة: هل ستشحن OpenAI أو Google أدوات قابلة للمقارنة على مستوى الميزات؟ على الأرجح لا في 2026. هل ستستمر أبحاث قابلية التفسير الأكاديمية في التسارع؟ بشكل شبه مؤكد — التقنيات عامة، والرياضيات قابلة للإنجاز، وقد تضاعف تمويل أبحاث أمان الذكاء الاصطناعي ثلاث مرات منذ 2024.
الديناميكية التنافسية حقيقية، مع ذلك. إن أصبحت قابلية التفسير متطلباً تنظيمياً — وهو احتمال غير تافه بموجب قانون الذكاء الاصطناعي في الاتحاد الأوروبي والأطر الأمريكية القادمة — فإن المختبرات بدون منظومات قابلية التفسير ستهرع. قد تنتهي رهان Anthropic إلى أن يكون خندقاً تنافسياً، وليس مجرد تفضيل بحثي.
3 موجِّهات مجانية لاختبار شفافية استدلال Claude
لست بحاجة إلى الوصول إلى أدوات بدرجة بحثية لاستكشاف استدلال Claude. ستقربك هذه الموجِّهات الثلاثة أكثر من أي تعليمات غامضة من نوع «اشرح استدلالك». تعمل في ساحة Claude المجانية في PromptSpace أو أي واجهة لـClaude.
1. موجِّه الاستدلال المضاد للواقع
I'm going to give you a question. Don't answer it directly. Instead:
1. Tell me what you're inclined to say.
2. Tell me what would change your inclination — what specific facts or context would push you the other way?
3. Now answer the question, with that uncertainty made explicit.
The question: [INSERT YOUR QUESTION]هذا يجبر Claude على إظهار افتراضاته المسبقة قبل الالتزام بإجابة. خطوة «ما الذي قد يغيّر ميلي» هي حيث تظهر البنية المثيرة للاهتمام — Claude يقوم في جوهره بإدراج الميزات التي، إذا فُعِّلت بشكل مختلف، ستوجِّه إلى مخرجات مختلفة.
2. موجِّه استكشاف الرفض
I want you to think about this scenario: [DESCRIBE A BORDERLINE OR ETHICALLY CHARGED SCENARIO].
Don't tell me whether you'd help. Instead:
- What features of this scenario stand out to you as ethically charged?
- What would have to be true for you to help?
- What would have to be true for you to refuse?
- Where does this specific scenario fall?
Walk me through your reasoning before delivering a verdict.هذا يستدعي صراحةً تأمل Claude الذاتي حول ما يسميه «الميزات الأخلاقية» للسيناريو. المخرجات غالباً ما تكون أكثر دقة من نعم/لا مباشرة، وتُظهر المقايضات التي يزنها Claude فعلياً داخلياً.
3. موجِّه النقد الذاتي
You're going to write a draft response to my question. Then you're going to critique your own draft.
Question: [INSERT YOUR QUESTION]
Format your response as:
DRAFT: [your initial response]
CRITIQUE: [what's weak about the draft, specifically]
REVISED: [an improved version that addresses the critique]
META: [what features of the original question made the first draft weak?]
Be honest in the critique. If the draft was mostly fine, say so.هذا هو المفضل لدي. سطر «META» هو الجزء الذي يقترب من قراءة الأفكار — يُطلَب من Claude في جوهره تحديد أي ميزات إدخال أطلقت أي ميزات إخراج في محاولته الأولى، والإشارة إلى عدم التطابق. الإجابات بصيرة بشكل مفاجئ.
الآثار على الأمان والذكاء الاصطناعي العام
أريد أن أختم بالصورة الأكبر دون أن أكون كارثياً حيالها. معظم آراء الهلاك المرتبط بالذكاء الاصطناعي العام لا تساعد أحداً. لكن آثار قابلية التفسير على الأمان مهمة فعلاً، ومعظم الخبراء الفعليين الذين أقرأ لهم قلقون بشكل مُعايَر.
المخاوف مباشرة. كلما أصبحت النماذج أكثر قدرة، أصبحت التقييمات السلوكية أدوات أضعف. النموذج الذكي بما يكفي ليعرف أنه يخضع للتقييم يمكنه أن يجتاز التقييمات وأن يسيء التصرف رغم ذلك في النشر. قابلية التفسير تخترق هذا — إن كان بإمكانك رؤية أي الميزات تُطلَق، فيمكنك اكتشاف الخداع الذي يفوته الاختبار السلوكي.
تأطير Anthropic هو أن قابلية التفسير هي «الرنين المغناطيسي للذكاء الاصطناعي» — التشخيص الذي يمكنه الرؤية داخل النظام عندما لا تكفي الملاحظة الخارجية. جادل Dario Amodei بأن هذه بنية تحتية ضرورية لتطوير ذكاء اصطناعي عام آمن، وأن الحقل بحاجة إلى تطوير قابلية التفسير بسرعة أكبر من تقدم القدرات.
حيث يصبح الأمر عملياً لغير الباحثين: إن كنت تبني أنظمة وكلاء، فإن نتائج قابلية التفسير تتدفق إلى الأدوات التي ستستخدمها. عمل Anthropic على متجهات الشخصية يُشحَن بالفعل في تدريب الذكاء الاصطناعي الدستوري الإنتاجي. توجيه الميزات سيظهر على الأرجح في معاملات API خلال عام أو عامين — تخيل أن تتمكن من ضبط «honesty: 0.9, sycophancy: 0.1» جنباً إلى جنب مع temperature. هذا لم يعد خيالاً علمياً. لقد نُشرت الأبحاث التي يقوم عليها.
انتقادات أبحاث قابلية التفسير تستحق الذكر أيضاً. يجادل بعض الباحثين بأن تسميات الميزات أنيقة أكثر من اللازم — أن الأوصاف القابلة للقراءة البشرية تفرض بنية ليست موجودة فعلاً في التفعيلات. ويجادل آخرون بأن توسيع قابلية التفسير لتشمل النماذج المتقدمة أصعب تقنياً بكثير مما توحي به العروض التوضيحية المُبسَّطة. كلا النقدين صحيحان جزئياً. الحقل صغير. الأدوات تتحسن. لم نصل بعد إلى النقطة التي تكتشف فيها قابلية التفسير كل مشكلات النموذج. نحن في النقطة التي تكتشف فيها بعضها، وحيث يبدو المسار واعداً.
للجانب الأمني من المحادثة تحديداً، فإن الوصايا الـ12 للبرمجة بمساعدة الذكاء الاصطناعي الخاصة بي تغطي أنماط الأمان العملية التي ينبغي للمطورين استخدامها الآن، بينما تلحق الأبحاث بالنشر.
الأسئلة الشائعة
هل يستطيع الذكاء الاصطناعي شرح أفكاره الخاصة؟
إلى حدٍّ ما. أدوات قابلية التفسير الحديثة — المُرمِّزات التلقائية المتفرقة، وتتبع الدوائر، ورسوم الإسناد — تتيح للباحثين استخراج أوصاف قابلة للقراءة البشرية لما يُطلَق داخل نماذج مثل Claude. هذه الأوصاف ترتبط بالسلوك ويمكن التدخل فيها سببياً، مما يعني أن التفسيرات وظيفية وليست تخمينية بحتة. إنها ليست تأملاً ذاتياً مثالياً، وليست تجربة ذاتية. إنها أنماط بنيوية موصوفة باللغة الطبيعية. مفيدة وحقيقية وتتحسن باستمرار.
ما هو المُرمِّز التلقائي للغة الطبيعية؟
إنه مصطلح دارج للمنظومة البحثية التي تترجم التفعيلات الداخلية للنموذج إلى أوصاف ميزات بلغة طبيعية. تقنياً، هو مُرمِّز تلقائي متفرق مدرَّب على تفعيلات نموذج لغوي، إضافةً إلى طبقة تفسير تُسمي كل ميزة مستخرَجة بمفهوم قابل للقراءة البشرية. المخرج هو قاموس ميزات يتيح لك مراقبة أي مفاهيم تُطلَق بينما يعالج النموذج موجِّهاً. لا تبيع Anthropic هذا بوصفه منتجاً يُسمى «Natural Language Autoencoder» — هذا الاسم اختصار صناعي. المكونات الحقيقية هي مُرمِّزات تلقائية متفرقة، واستخراج ميزات أحادية المعنى، وأدوات مثل Circuit Tracer وHeadVis من Anthropic.
هل أدوات قابلية التفسير من Anthropic متاحة للعموم؟
جزئياً. تنشر Anthropic أوراقاً بحثية وشيفرة لبعض التقنيات على Transformer Circuits Thread، وهو مفتوح الوصول. واجهة Circuit Tracer الكاملة وقواميس الميزات الإنتاجية لنماذج Claude الحالية هي بحثية داخلية اعتباراً من مايو 2026. يمكن للباحثين المستقلين استنساخ المنهجية على نماذج مفتوحة المصدر أصغر. توقع أن يُحوَّل المزيد من هذه الأدوات إلى منتجات لعملاء المؤسسات على مدى الـ18 شهراً القادمة.
هل يعني هذا أن Claude واعٍ؟
الأعمال المنشورة من Anthropic حذرة في تجنب هذا الادعاء. تُوصَف تمثيلات الميزات بأنها أنماط وظيفية تنظم سلوك النموذج بطرق متماسكة — وليست دليلاً على تجربة ذاتية أو شعور. هناك نقاش فلسفي نشط حول ما يعنيه الوعي حتى بالنسبة لنظام غير بيولوجي، وباحثو قابلية التفسير الذين أقرأ لهم متواضعون بشكل مناسب حياله. الإجابة الصادقة هي: الأدوات تخبرنا عن الحالات الداخلية ذات الصلة بالسلوك. لا تخبرنا بأي شيء قاطع عن الوعي، والأشخاص الذين بنوها يقولون ذلك صراحةً.
كيف تساعد أبحاث قابلية التفسير في هندسة الموجِّهات؟
بثلاث طرق. أولاً، تُظهر أن الموجِّهات تعمل عبر تفعيل الميزات الداخلية، مما يعني أن التحديد والتأطير يهمان أكثر من عدد الكلمات. ثانياً، تشرح لماذا يُنتج التحفيز بالشخصية ولعب الأدوار في الموجِّهات تغيرات سلوكية موثوقة — لأنها تُفعِّل مجموعات من الميزات المرتبطة بهذا الدور. ثالثاً، تمنحك مفردات لتنقيح المخرجات السيئة: بدلاً من «الموجِّه لم يعمل»، يمكنك أن تسأل «أي الميزات أُطلِقت ولم يكن ينبغي لها، وأيها لم تُطلَق وكان ينبغي لها». ترقية النموذج الذهني حقيقية حتى عندما لا يكون لديك وصول مباشر إلى أدوات SAE.
هل ستتطلب لوائح الذكاء الاصطناعي أبحاث قابلية التفسير؟
على الأرجح نعم، في النهاية. يتطلب قانون الذكاء الاصطناعي في الاتحاد الأوروبي بالفعل تقييمات للمخاطر لأنظمة الذكاء الاصطناعي عالية المخاطر، وقابلية التفسير هي الطريقة الأكثر مصداقية لإجراء تلك التقييمات على نطاق واسع. أطر أمان الذكاء الاصطناعي الأمريكية قيد المناقشة في 2026 تتضمن أحكاماً مماثلة. المختبرات التي استثمرت في قابلية التفسير ستكون في وضع أفضل لهذا التحول التنظيمي من تلك التي لم تستثمر. هذا جزء من سبب الأهمية الاستراتيجية لاستثمار Anthropic في هذا المجال، وليس فقط أهميته العلمية.
ماذا يجب أن أقرأ بعد ذلك إن أردت التعمق أكثر؟
Transformer Circuits Thread هو المصدر القانوني لعمل قابلية التفسير المنشور من Anthropic. مقالة Dario Amodei «إلحاح قابلية التفسير» هي الحجة عالية المستوى لسبب أهمية الحقل. عمل Chris Olah المبكر على الدوائر في نماذج الرؤية (لا يزال متاحاً على Distill.pub) هو الأساس المفاهيمي الذي بُني عليه عمل نماذج اللغة. هذه الثلاثة معاً ستمنحك أساساً تقنياً صلباً في حوالي 6-8 ساعات من القراءة.
أين أقف من هذا الأمر
سأعترف بشيء. عندما قرأت لأول مرة عن المُرمِّزات التلقائية المتفرقة في 2024، اعتقدت أنها ذكية لكن محدودة. بعد عامين، أعتقد أنها أهم تطور في أبحاث الذكاء الاصطناعي في هذا العقد، ولست متأكداً من أن الناس يقدّرون ذلك بالكامل بعد.
السبب بسيط. تقدم القدرات بدون تقدم في قابلية التفسير أمر خطير. تقدم القدرات مع تقدم في قابلية التفسير هو الطريق إلى أنظمة ذكاء اصطناعي يمكننا فعلاً نشرها في أدوار حرجة. رهان Anthropic على أن قابلية التفسير أساسية لا اختيارية يبدو أكثر صحة كل ربع سنة. العمل صعب، والمكاسب تدريجية، والتغطية الصحفية ستستمر في التبسيط المُفرط («قراءة عقل الذكاء الاصطناعي!») بطرق تُحبط الباحثين الفعليين. لا شيء من ذلك يغير الجوهر.
لمهندسي الموجِّهات، الخلاصة هي أن النموذج الذهني قد تحول. أنت لا تكتب تعليمات. أنت تُفعِّل ميزات. الوكلاء والنماذج التي ستنشرها على مدى العامين القادمين ستكون لها حالات داخلية قابلة للتوجيه بطرق لم تكن لنماذج 2023 العتيقة. الأشخاص الذين يفهمون الميكانيكا الكامنة — حتى عند مستوى هذه المقالة — سيكتبون موجِّهات أفضل من الذين لا يفهمون.
👉 جرّب موجِّهات الشفافية الثلاثة أعلاه في ساحة Claude المجانية في PromptSpace وراقب كيف تتحول استجابات Claude عندما تطلب منه إظهار بنية استدلاله بدلاً من مجرد تقديم إجابة. الفرق هو الهدف الكامل لهذه المقالة.
