تصدر SDAIA دليلاً مرجعيًا لتحيز الذكاء الاصطناعي يضم أكثر من 100 نوع من التحيز

الرياض – أصدرت الهيئة السعودية للبيانات والذكاء الاصطناعي (SDAIA) الإصدار الأول من الدليل المرجعي لتحيز الذكاء الاصطناعي، والذي حدد أكثر من 100 نوع من التحيز التي يمكن أن تؤثر على دقة وعدالة أنظمة الذكاء الاصطناعي.

يحدد الدليل الأشكال المختلفة لتحيز الذكاء الاصطناعي، ويشرح كيفية ظهورها، ويفحص تأثيرها المحتمل على المجتمع، ويقدم أمثلة واقعية واستراتيجيات عملية للتخفيف من آثارها.

وقالت SDAIA إن التبني السريع للذكاء الاصطناعي عبر القطاعات الحيوية، بما في ذلك العدالة والرعاية الصحية والتعليم، قد زاد من الحاجة إلى معالجة التحيزات التي قد تؤثر على عملية صنع القرار بسبب تعقيد أنظمة الذكاء الاصطناعي والمراحل المتعددة التي ينطوي عليها تطويرها.

ووفقا للدليل، فإن التحيز غير الخاضع للرقابة يمكن أن يقوض فعالية أنظمة الذكاء الاصطناعي، ويحولها من أدوات تعزز العدالة إلى آليات تعزز التمييز. وحذرت من أن أنظمة الذكاء الاصطناعي المتحيزة يمكن أن تضر أيضًا بالسمعة المؤسسية وتعرض المنظمات للمسؤولية القانونية وشكاوى المستهلكين.

ويحدد الدليل عدة مصادر للتحيز، بما في ذلك بيانات التدريب التي لا تمثل جميع الفئات السكانية بشكل مناسب، والخوارزميات التي قد تفضل عن غير قصد خصائص معينة، والافتراضات التي يتم وضعها أثناء تفسير البيانات. ويستشهد بأدوات التوظيف التي قد تعطي الأفضلية للمرشحين من خلفيات تعليمية النخبة على المتقدمين المؤهلين على قدم المساواة من خلفيات أقل حظا كمثال واحد.

يعتمد المنشور على الجهود الأوسع التي تبذلها SDAIA لتعزيز الذكاء الاصطناعي المسؤول والأخلاقي، بعد إصدار مبادئ أخلاقيات الذكاء الاصطناعي، ومبادئ الذكاء الاصطناعي التوليدي للجهات الحكومية والجمهور، وإطار اعتماد الذكاء الاصطناعي، ودراستها التي تحمل عنوان التحيز في أنظمة الذكاء الاصطناعي: التحديات والحلول.

وقالت سدايا، باعتبارها الهيئة الوطنية للبيانات والذكاء الاصطناعي في المملكة، إنها ستواصل دعم المعرفة المتخصصة وتطوير القدرات الوطنية في التقنيات المتقدمة لتشجيع الاستخدام المسؤول للذكاء الاصطناعي، وتعزيز الابتكار الرقمي.