جنرال لواء

يتطلب التحيز في الذكاء الاصطناعي الانضباط والرحمة


يعد التحيز في الذكاء الاصطناعي قضية مهمة تزايدت في الأشهر الثمانية عشر الماضية. الأمثلة المتطرفة لها تأثيرات هائلة ، مثل روبوت التوظيف المتحيز جنسيًا في أمازون ومحاولات Microsoft AI Twitter.

تجنبت الجلسة بعنوان "حل التحيز في الذكاء الاصطناعي" في CES 2019 هذه العناوين المخيفة وحاولت إجراء مناقشة عميقة حول كيفية إجراء تغيير ذي مغزى في قطاع سريع التوسع.

مثل العديد من اللجان حتى الآن ، تم الحفاظ على المناقشة في خط صارم نسبيًا حول الرقابة التنظيمية.

ممثل الهيئة لكل من الصناعة والحكومة

أدار مايكل هايز ، المدير الأول للشؤون الحكومية في جمعية تكنولوجيا المستهلك ، الحديث بين أعضاء اللجنة أوستن كارسون من Nvidia ، وباري ويليامز ، نائب الرئيس للشؤون القانونية والسياساتية والتجارية في All Turtles ، وسونمين كيم ، مستشار سياسة التكنولوجيا من المكتب السناتور بريان شاتز.

بدأ ويليامز الإجراءات بالحديث عن الطريقة التي يمكن بها رؤية التحيز من عدة زوايا مختلفة. أوضحت أنها بالنسبة لها شخصيًا ، ترى التحيز بشكل مختلف اعتمادًا على ما إذا كانت تتصرف مثل الأم لأطفالها الثلاثة ، أو تتعرف على أنها امرأة سوداء أو تنظر من خلال عدسة عملها كمحامية.

هذه نقطة أساسية يجب ملاحظتها وهي أحد الأسباب التي تجعل تحديد التحيز في الواقع نصف المعركة. سارعت اللجنة إلى الإشارة إلى أنه على عكس الأجزاء الأخرى من صناعة التكنولوجيا ، فإن التحيز في الذكاء الاصطناعي لا يأتي من جهات فاعلة سيئة ، فإنه يأتي من معلومات سيئة.

بيانات سيئة وليست جهات سيئة

لم تقترح أي من اللوحات أن التحيز ناتج عن الهندسة الضارة ، بل هو مزيج من العديد من العوامل المتعلقة بكل من المدخلات والمخرجات. أصدرت لجنة التجارة الفيدرالية تقريرًا في عام 2016 حول البيانات الضخمة يسأل عما إذا كانت شاملة أم حصرية.

واختتم التقرير من خلال حث مستخدمي البيانات الضخمة على النظر فيما إذا كانت مجموعة البيانات الخاصة بهم المستخدمة لإنشاء الخوارزميات تمثيلية أم أنها لا تمثل سوى شريحة معينة.

ثانيًا ، يستفز مبدعو تقنية الذكاء الاصطناعي للتساؤل عما تفعله الخوارزمية ، وكيف يتم استخلاص ذلك؟ هل تبني قرارها على العوامل المتعلقة ببياناتها المقصودة أو الأنماط الأخرى التي قد تحددها والتي تؤدي إلى التحيز عن غير قصد؟

فيما يتعلق باللوائح ، اتفقت اللجنة على أن هناك المزيد الذي يمكن للحكومة أن تفعله ولكن وجود معرفة خبراء الصناعة داخل عملية صنع القرار كان أمرًا أساسيًا لإحراز تقدم.

نقطة أخرى أثارتها اللجنة وناقشتها كانت الحاجة إلى فرق متنوعة في مجال التكنولوجيا بشكل عام. كلما زادت تنوع فرق الهندسة والبرمجة ، زادت احتمالية اكتشاف التحيز والتعامل معه مبكرًا بدلاً من استمراره وتطويره بمرور الوقت.

الفرق المتنوعة تعني أنه من المرجح أن يؤخذ التحيز على محمل الجد.

التنوع مفتاح في معالجة التحيز

تم تناول الحل لزيادة التنوع في لوحة سابقة ، ولا تزال تحديات زيادة عدد النساء والأشخاص الملونين في التكنولوجيا تنضج في CES.

نقطة أخرى رائعة أثارتها اللجنة كانت فكرة أن الذكاء الاصطناعي يمكن أن يساعد بالفعل في اكتشاف التحيز والتغلب عليه. من الناحية الفنية ، لا ينبغي أن يكون هناك آلة أفضل للبحث عن السلوك المتحيز من الذكاء الاصطناعي الذكي.

في الختام ، هنأ هايز اللجنة على حضورها وعلى معالجة الأفكار الصعبة المتعلقة بالتحيز في الذكاء الاصطناعي. ومضى يقول إن الخطوة الأولى في التغلب على التحيز هي إدراك ذلك الذي تم إجراؤه على اللوحة اليوم.


شاهد الفيديو: الفرق بين Data science vs Artificial Intelligence vs Machine Learning vs Deep Learning (يونيو 2021).