حذر الخبراء من أن المركبات ذاتية القيادة، قد تكون عنصرية بطبيعتها، لأنها غير قادرة على اكتشاف الوجوه ذات البشرة الداكنة في الظلام. وتقول لجنة القانون إن التحيز العنصري "تسلل إلى تصميم المركبات والأنظمة الآلية"، مما قد يكون له عواقب وخيمة. ويتم تشغيل المركبات ذاتية القيادة بواسطة الذكاء الاصطناعي (AI)، الذي يتم تدريبه على اكتشاف المشاة من أجل معرفة وقت التوقف وتجنب الاصطدام. لكن هذا التحيز المتأصل يعني بشكل فعال أن أي شخص لديه لون بشرة "غير أبيض"، قد يكون أكثر عرضة لخطر التورط في حادث في ظروف الإضاءة السيئة. وقد تكون المركبات ذاتية القيادة أيضًا متحيزة ضد النساء وذوي الإعاقة الحركية، لأن أنظمة التشغيل الخاصة بهم تم إنشاؤها إلى حد كبير من قبل الرجال القادرين على العمل، وفقًا للجنة القانونية. وتضع الهيئة المستقلة، الإطار القانوني لطرح السيارات ذاتية القيادة على طرق المملكة المتحدة، وقالت: "ربما لم يتم تدريب الأنظمة على التعامل مع مجموعة كاملة من الكراسي المتحركة والدراجات البخارية المتنقلة". وأضافت: "الوسائد الهوائية تنقذ العديد من الأرواح ، لكن الجيل الأول.. يشكل خطراً على الركاب الأصغر، مثل النساء ذوات القامة الصغيرة، وكبار السن، والأطفال، لأنها تم تطويرها مع وضع الذكور البالغين في الاعتبار. وتابعت: "قد يُظهر برنامج التعرف على الوجه الحالي أيضًا، تحيزًا تجاه الوجوه البيضاء الذكورية، أما بالنسبة للوجوه غير البيضاء وغير الذكور، فقد تنخفض دقة أنظمة التعرف على الوجه بشكل كبير". وقالت اللجنة القانونية أيضًا، إنه إذا تم تصميم الأنظمة للتعرف على المشاة من خلال حركات الساق، "فقد لا تكون هذه الحركات واضحة للأشخاص الذين يرتدون "التنانير" الطويلة أو الجلباب". وتابعت: "حيثما يتم اختيار المصممين في الغالب من مجموعة ديموغرافية واحدة (مثل فئة الشباب)، فمن السهل التغاضي عن تنوع المتأثرين بالتصميم". وستبلغ قيمة سوق السيارات ذاتية القيادة ما يقرب من 42 مليار جنيه إسترليني إلى المملكة المتحدة بحلول عام 2035 وفقًا لوزارة النقل، ويمكن أن تتمتع 40 % من مبيعات السيارات الجديدة في المملكة المتحدة بقدرات القيادة الذاتية. ورغم ذلك، لكن لا يمكن اعتماد المركبات ذاتية القيادة على نطاق واسع، إلا بعد أن يمكن الوثوق بها في القيادة بأمان أكثر من السائقين البشر.
