ساعد الباحث البارز في مجال الذكاء الاصطناعي Timnit Gebru في تحسين صورة Google العامة كشركة ترفع مستوى علماء الكمبيوتر الأسود وتتساءل عن الاستخدامات الضارة لتقنية الذكاء الاصطناعي.
لكن على الصعيد الداخلي ، لم تكن جبرو ، الرائدة في مجال أخلاقيات الذكاء الاصطناعي ، خجولة من الإعراب عن شكوك حول تلك الالتزامات – حتى تم إخراجها من الشركة هذا الأسبوع في نزاع حول ورقة بحثية تبحث في المخاطر المجتمعية لفرع ناشئ من AI.
أعلنت جبرو على تويتر أنها طردت. أخبرت Google الموظفين أنها استقالت. وقع أكثر من 1200 موظف في Google على خطاب مفتوح يصف الحادث بأنه “رقابة بحثية غير مسبوقة” ويلقي باللوم على الشركة بسبب العنصرية والدفاع.
لقد تم طردي من قبل تضمين التغريدة لبريدي الإلكتروني إلى Brain women and Allies. تم قطع حسابي المؤسسي. لذلك تم فصلي على الفور 🙂
– تيمنيت جيبرو (timnitGebru) 3 ديسمبر 2020
الغضب حول رحيل جيبرو المفاجئ هو أحدث حادث يثير تساؤلات حول ما إذا كانت Google قد انحرفت بعيدًا عن شعارها الأصلي “لا تكن شريرًا” والذي يقضي بأن الشركة الآن تطرد الموظفين الذين يجرؤون على تحدي الإدارة. كما أثار خروج جيبرو ، وهو أسود ، شكوكًا أخرى بشأن التنوع والشمول في شركة تمثل فيها النساء السود 1.6 بالمائة فقط من القوة العاملة.
وقد كشفت مخاوف خارج Google حول ما إذا كانت الجهود المبهرجة في الذكاء الاصطناعي الأخلاقي – بدءًا من أمر تنفيذي من البيت الأبيض هذا الأسبوع إلى فرق مراجعة الأخلاقيات التي تم إنشاؤها في جميع أنحاء صناعة التكنولوجيا – قليلة الفائدة عندما تكون استنتاجاتهم قد تهدد الأرباح أو المصالح الوطنية.
كانت Gebru نجمة في عالم أخلاقيات الذكاء الاصطناعي حيث أمضت حياتها المهنية المبكرة في العمل على منتجات Apple وحصلت على الدكتوراه في دراسة رؤية الكمبيوتر في مختبر ستانفورد للذكاء الاصطناعي.
شاركت في تأسيس مجموعة Black in AI ، التي تروج لتوظيف السود والقيادة في هذا المجال. وهي معروفة بدراسة تاريخية 2018 وجدت التحيز العنصري والجنساني في برامج التعرف على الوجه.
كان جيبرو يعمل مؤخرًا على ورقة بحثية تختبر مخاطر تطوير أنظمة الكمبيوتر التي تحلل قواعد البيانات الضخمة للغة البشرية وتستخدم ذلك لإنشاء نص خاص بها يشبه الإنسان. تشير الورقة ، التي عُرضت نسخة منها على وكالة أسوشيتيد برس ، إلى تقنية Google الجديدة الخاصة بها ، والمستخدمة في أعمال البحث الخاصة بها ، وكذلك تلك التي طورها آخرون.
إلى جانب الإشارة إلى المخاطر المحتملة للتحيز ، استشهدت الورقة أيضًا بالتكلفة البيئية لاستهلاك قدر كبير من الطاقة لتشغيل النماذج – وهي مشكلة مهمة في شركة تتفاخر بالتزامها بالحيادية الكربونية منذ عام 2007 حيث تسعى جاهدة لتصبح أكثر اخضرارًا.
كان لدى مديري Google مخاوف بشأن الإغفالات في العمل وتوقيته ، وأرادوا إزالة أسماء موظفي Google من الدراسة ، لكن Gebru اعترض ، وفقًا لتبادل رسائل البريد الإلكتروني التي تمت مشاركتها مع AP ونشرتها Platformer لأول مرة.
كرر جيف دين ، رئيس أبحاث الذكاء الاصطناعي في جوجل ، موقف جوجل بشأن الدراسة في بيان يوم الجمعة.
أثارت الورقة نقاطًا صحيحة ، لكن “بها بعض الثغرات المهمة التي حالت دون ارتياحنا لوضع الانتماء إلى Google” ، كتب دين.
وأضاف دين: “على سبيل المثال ، لم تتضمن النتائج المهمة حول كيفية جعل النماذج أكثر كفاءة وتقليل التأثير البيئي الإجمالي فعليًا ، ولم تأخذ في الاعتبار بعض الأعمال الحديثة في Google وأماكن أخرى بشأن التخفيف من التحيز”.
عبّرت جبرو يوم الثلاثاء عن إحباطها بشأن العملية لمجموعة البريد الإلكتروني الداخلية للتنوع والشمول في Google ، مع سطر الموضوع: “إسكات الأصوات المهمشة بكل طريقة ممكنة.” قالت جيبرو على Twitter أن هذا هو البريد الإلكتروني الذي أطلق عليها.
قالت دين ، في رسالة بريد إلكتروني إلى الموظفين ، إن الشركة قبلت “قرارها بالاستقالة من Google” لأنها أخبرت المديرين أنها ستغادر إذا لم تتم تلبية مطالبها بشأن الدراسة.
قالت جوي بولامويني ، باحثة خريجة في معهد ماساتشوستس للتكنولوجيا ، شاركت في تأليف دراسة التعرف على الوجه لعام 2018 مع جوي بولامويني ، “إن التخلص من Timnit لامتلاكه الجرأة للمطالبة بنزاهة البحث يقوض بشدة مصداقية Google في دعم البحث الدقيق حول أخلاقيات الذكاء الاصطناعي والتدقيق الحسابي”. جبرو.
قال Buolamwini في رسالة بالبريد الإلكتروني يوم الجمعة: “إنها تستحق أكثر مما عرفت Google كيف تقدمه ، والآن أصبحت وكيلًا مجانيًا لجميع النجوم وستواصل تحويل صناعة التكنولوجيا”.
كيف ستتعامل Google مع مبادرتها لأخلاقيات الذكاء الاصطناعي والمعارضة الداخلية التي أثارها خروج جيبرو هي واحدة من عدد من المشاكل التي تواجه الشركة في اقتراب العام الجديد.
في نفس الوقت الذي كانت فيه في طريقها للخروج ، ألقى المجلس الوطني لعلاقات العمل يوم الأربعاء ضوءًا آخر على مكان عمل Google. في شكوى ، اتهم NRLB الشركة بالتجسس على الموظفين خلال جهد عام 2019 لتنظيم نقابة قبل أن تطرد الشركة اثنين من الناشطين بسبب الانخراط في أنشطة مسموح بها بموجب القانون الأمريكي. ونفت جوجل المزاعم في القضية المقرر عقدها في أبريل نيسان.
تم تصوير Google أيضًا على أنها متنمر في الترويج للربح من قبل وزارة العدل الأمريكية في دعوى قضائية لمكافحة الاحتكار تزعم أن الشركة كانت تستغل بشكل غير قانوني قوة محرك البحث المهيمن والخدمات الرقمية الشائعة الأخرى لخنق المنافسة. وتنفي الشركة أيضًا ارتكاب أي مخالفات في تلك المعركة القانونية التي قد تستمر لسنوات.
هل ستؤدي Apple Silicon إلى توفير أجهزة MacBook بأسعار معقولة في الهند؟ لقد ناقشنا هذا الأمر على Orbital ، البودكاست التكنولوجي الأسبوعي الخاص بنا ، والذي يمكنك الاشتراك فيه عبر Apple Podcasts أو Google Podcasts أو RSS أو تنزيل الحلقة أو الضغط على زر التشغيل أدناه.
