لمساعدة البشر على فهم أخطاء السيارات الذاتية القيادة والتنبؤ بها بشكل أفضل، طوّر باحثون من معهد ماساتشوستس للتكنولوجيا (MIT)، بالتعاون مع شركة Motional المتخصصة في تقنيات المركبات الذاتية القيادة، طريقة جديدة تتيح تقديم تفسيراتٍ واضحة للقرارات التي تتخذها نماذج الذكاء الاصطناعي المسؤولة عن قيادة السيارة.

عادةً ما تكون آلية اتخاذ القرار داخل نماذج التعلّم العميق غير واضحة، إذ يصعب فهم الطريقة التي تصل بها هذه النماذج إلى قراراتها. لكن الطريقة الجديدة، التي تحمل اسم "Concept-Wrapper Network" أو "CW-Net"، تحوّل عملية اتخاذ القرار الداخلية إلى مفاهيم مفهومة تشرح سلوك السيارة، من دون التأثير نفي أدائها أثناء القيادة.

تعمل أنظمة التخطيط القائمة على تعلّم الآلة بمثابة "عقل" السيارة الذاتية القيادة. فهي تعالج البيانات القادمة من الكاميرات وأجهزة الاستشعار، وتبني تصوراً عن البيئة المحيطة بالمركبة، ثم تحدد الإجراء التالي وتنتج المسار الذي ينبغي للسيارة اتباعه.

لكن هذه الأنظمة تكون عادةً عبارة عن نماذج "الصندوق الأسود"، أي أن آلية اتخاذ القرار داخلها معقدة إلى درجة تجعل من الصعب معرفة سبب اتخاذ السيارة قراراً معيناً، مثل التوقف المفاجئ من دون وجود عائق واضح.

وصمّم الباحثون CW-Net لتقديم تفسير مفهوم لقرارات السيارة، مع الحفاظ في الوقت نفسه على ارتباط هذه التفسيرات بالأسباب الفعلية التي دفعت النموذج إلى اتخاذ القرار.

وبهذه الطريقة، تضمن CW-Net أن تكون المفاهيم المستخدمة في الشرح مرتبطة بالفعل بالقرار الذي تتخذه السيارة. وفي الوقت نفسه، تستخدم الشبكة هذه المفاهيم لإنتاج تفسيرات واضحة في الوقت الفعلي، إلى جانب المسار الذي ستسلكه المركبة.