تعد المشاركة الشاملة للأشخاص في كل من الإدارة العامة والخاصة لأنظمة الذكاء الاصطناعي (AI) أمرًا أساسيًا لجعل التكنولوجيا تعمل لصالح الجميع، ولكن لا توجد حاليًا أي سبل للمشاركة العامة الهادفة.
خلال الحدث السنوي الرابع لـ AIUK الذي يديره معهد آلان تورينج (ATI)، أكد المندوبون الذين تحدثوا على مدار اليوم على أهمية “المشاركة الهيكلية” للأشخاص في مشاريع الذكاء الاصطناعي العامة، بدءًا من التفكير وحتى الاكتمال والتسليم النهائي.
ومع ذلك، وفقا لكبير المستشارين العلميين للحكومة، أنجيلا ماكلين، لا توجد قنوات قابلة للحياة متاحة لعامة الناس من شأنها أن تسمح لهم بإسماع أصواتهم حول مسائل العلوم والتكنولوجيا، مثل الذكاء الاصطناعي، التي تؤثر عليهم بشكل واضح. “التبني الناجح [of AI] وقالت في كلمتها الرئيسية: “ستحتاج إلى مشاركة عامة وكسب ثقة الجمهور، وهذا يعني أن الأمر متروك لنا في الخدمة المدنية لنكون جديرين بالثقة”.
رداً على أسئلة حول الفرص الحالية لمشاركة المواطنين بشكل هادف، قالت ماكلين إنها ليست على علم بأي عمليات تشاور من شأنها تحقيق ذلك، ولكن سيكون من “المثير للاهتمام للغاية” إذا كانت هناك واحدة: “ما لدينا هنا هو فرصة لمراجعة وإعادة ضبط بعض الطرق التي تتفاعل بها الحكومة مع الناس؛ أعتقد أن هذه صفقة كبيرة جدًا.”
في إشارة إلى العبارة الشائعة لحركات حقوق ذوي الإعاقة، “لا شيء عنا بدوننا”، قالت جورجينا أيتكينهيد، الباحثة المشاركة في ATI، في لجنة حول الشمولية إن ذلك يعني “لا ينبغي لنا أن نفعل أشياء من شأنها أن تؤثر على الناس في المجتمع دون أن يكون هؤلاء الأشخاص المشاركة في تحديد الأولويات والمساهمة في اتخاذ القرارات.”
وأضافت أن هذا التركيز على الشمولية يجب أن يتم إدخاله في تطوير وتصميم ونشر التكنولوجيا منذ البداية.
ويتفق مع ذلك جيمس سكوت، أحد كبار مستشاري وحدة اعتماد التكنولوجيا المسؤولة التابعة للحكومة، مشيرًا إلى أنه “في كثير من الأحيان نشهد مشاركة على المستوى السطحي، وغالبًا ما يكون الوقت متأخرًا جدًا، وبالتالي فإن القدرة على تغيير الاتجاه محدودة حقًا لأن القرارات الرئيسية قد تم اتخاذها بالفعل”. “.
النهج التشاركي
سكوت – الذي شارك أيضًا في قيادة تطوير AutSpaces الخاص بـ ATI، وهو بالكامل مفتوح المصدر وأضافت منصة “علم المواطن” التي تتمحور حول دعم احتياجات الأشخاص المصابين بالتوحد – أن المشاريع البحثية التشاركية لديها إمكانات حقيقية للسماح للمجتمعات بتحديد اتجاه السفر في القرارات التي تؤثر عليهم.
وقال: “في الأساس، ستساعد هذه المنصة الأشخاص المصابين بالتوحد الذين يعرفون تجاربهم الحسية على إنشاء مجموعة بيانات أفضل لاستخدامها في البحث وتحسين الخدمات العامة”، مضيفًا أن الهدف النهائي هو تحسين عملية تصميم الخدمات العامة من خلال بما في ذلك احتياجات الأشخاص غير العصبيين منذ البداية، مما يعود بالنفع على الجميع.
مشاعر مماثلة حول أهمية مشاركة ذات مغزى وقد رددت هيلينا هوليس، الباحثة الاجتماعية في مجموعة المناصرة Connected By Data، مجتمعات مختلفة في مرحلة مبكرة، والتي نظمت لجنة شعبية تجريبية حول الذكاء الاصطناعي في نوفمبر 2023 للمشاركة مع أفراد يمثلون الجمهور في عملية تداولية حول ما يجب القيام به مع الذكاء الاصطناعي.
تم ذلك جزئيًا ردًا على التركيز القطاعي الضيق التابع قمة سلامة الذكاء الاصطناعي الحكومية في بلتشلي بارك قال هوليس، الذي يجري في نفس الوقت، “لقد تبين أنه أمر فعال وهادف ومفيد حقًا”.
وأضافت أنه يجب أخذ الشمولية بعين الاعتبار منذ البداية، وإدراجها في الأسئلة التي يطرحها الباحثون وصناع السياسات. “إذا أردنا أن نسأل: ما الذي يمكن أن يفعله الذكاء الاصطناعي، وكيف يمكننا تطوير هذه التكنولوجيا؟” قال هوليس: “أنت بطبيعتك ستقوم فقط بدعوة أشخاص معينين للإجابة على سؤالك”. “إذا سألت: ما هي أنواع الحياة التي نريد أن نعيشها، وكيف يدعم الذكاء الاصطناعي ذلك، أو كيف يمكن أن يدعم ذلك؟” حسنًا، إذن أي شخص يعيش حياة يمكنه الإجابة على هذا السؤال من خلال تجربته الحياتية.
وأشار هوليس أيضًا إلى أن أعضاء اللجنة يواصلون التعامل مع Connected by Data، وأعربوا عن رغبتهم القوية في رؤية توسيع نطاق الممارسات التشاركية المماثلة.
وتعليقًا على هذه التجربة، قالت مارغريت كولينج، إحدى المشاركات في اللجنة الشعبية، إنه بعد عملية تعليمية مكثفة استمرت أربعة أيام، كان هناك شعور بالإثارة والتمكين بين الأعضاء.
وقالت: “لم أكن أتوقع أبدًا أن يكون لدي أي آراء متماسكة حول مثل هذا الموضوع المتقدم تقنيًا”. “لكن كان هناك الكثير مما أردت قوله – فجأة أصبحنا جميعاً ممثلين أقوياء لمجتمعاتنا المختلفة، وأصبحت أصواتنا مهمة.
“نحن عامة الناس قادرون تمامًا على تكوين الآراء بشأن أي مسألة تتعلق بحياتنا اليومية، إذا حصلنا على المعلومات ذات الصلة. يمكننا تقديم وجهة نظر مختلفة، والتعبير في كثير من الأحيان عن المخاوف التي قد لا يتم ذكرها لولا ذلك.
تناقضات السلطة
وفي حديثهم في حلقة نقاش حول التطوير المحتمل للذكاء الاصطناعي العام (AGI)، أعرب المتحدثون عن مخاوفهم من أن تكنولوجيا الذكاء الاصطناعي مملوكة إلى حد كبير لعدد صغير من الشركات الأجنبية (معظمها من الولايات المتحدة والصين).
على سبيل المثال، قال مايكل وولدريدج، مدير أبحاث الذكاء الاصطناعي التأسيسية في ATI، إنها “من المحتمل أن تكون التكنولوجيا الأكثر أهمية في القرن الحادي والعشرين”.شارع القرن، ونحن في الأساس لسنا جزءًا منه بمعنى امتلاكه”.
وقال جون ماكديرميد، عالم الكمبيوتر في جامعة يورك، إن تركيز تكنولوجيا الذكاء الاصطناعي في أيدي عدد قليل نسبياً يمثل “مشكلة حقيقية” لعدد من الأسباب.
أولاً، يعني ذلك أنه من منظور السلامة، لا يستطيع المهندسون المستقلون عن الشركات المالكة للذكاء الاصطناعي تقييم المخاطر والأضرار المحتملة لأن النماذج محبوسة إلى حد كبير في صوامع الشركات. ونظرًا للطبيعة السريعة التغير لنماذج الذكاء الاصطناعي أيضًا، أضاف ماكديرميد أن التغييرات الصغيرة في الأنظمة يمكن أن يكون لها سلسلة من التأثيرات غير المباشرة التي لا يمكن معرفتها بسبب عدم إمكانية الوصول إليها.
وأشار أيضا إلى ذلك الشركات العملاقة فقط هي التي تمتلك حاليًا الموارد المالية والحاسوبية للبحث والتطوير أحدث النماذج، مما يمنحهم تأثيرًا لا يصدق على ما سيتم نشره في العالم.
قال ماكديرميد: “القلق هو أن السلطة تنتهي في أيدي عدد صغير من المنظمات، التي تتصرف كما تفعل المنظمات – فهي تحاول تعظيم أرباحها بدلاً من تحقيق الصالح الاجتماعي بالضرورة”.
المدخلات من العمال
في حين قال ماكلين إن هناك حاجة أيضًا إلى مدخلات أوسع بشأن عملية صنع القرار المتعلقة بالذكاء الاصطناعي من مجموعة أكثر تنوعًا من أصوات الخبراء من التخصصات الأخرى (وليس فقط علوم الكمبيوتر، نظرًا لأهمية الذكاء الاصطناعي). الطبيعة الاجتماعية والتقنية للتكنولوجيا)، قال متحدثون آخرون على مدار اليوم إنه يجب أيضًا أن يكون هناك ذلك المدخلات من العمال نظرًا لخبرتهم في تفاصيل العمليات التجارية اليومية.
تعليقًا على نقص الحماية التي يتلقاها العمال في جميع أنحاء اقتصاد الوظائف المؤقتة من أصحاب العمل والدولة – بما في ذلك أعمال تصنيف البيانات كثيفة العمالة والضرورية لكي يعمل الذكاء الاصطناعي – قالت عالمة الاجتماع كارين جريجوري إنهم فعلوا ذلك لا خيار سوى اللجوء إلى بعضهم البعض للحصول على الدعم في العمل. وقالت: “هناك قدر هائل من المساعدة المتبادلة هنا”. “العمال في هذه المجالات يريدون ببساطة أن يعملوا، وهذا لا يحدث.”
قال غريغوري: “إنهم خبراء هذه الأنظمة”. “إنهم يعرفون بالضبط أين يفشلون. إذا تحدثت إلى سائق التوصيل في إدنبرة، فيمكنه أن يخبرك بمكان كل حفرة في المدينة، ولكن لا توجد آلية “صوتية” هناك [from workers’ informal back channels] للتنظيم.”
وبربط ذلك مرة أخرى بأجزاء الموظفين الإداريين الأكثر “احترافية” في قطاع التكنولوجيا، أضاف الباحث الأخلاقي في مجال الذكاء الاصطناعي وعضو اتحاد عمال التكنولوجيا والحلفاء (UTAW) مات باكلي أنه يجد أنه من “الغريب” أنه في المناقشات حول الذكاء الاصطناعي، يتم استشارة المديرين التنفيذيين ومندوبي المبيعات أولاً، بدلاً من العاملين على أرض الواقع الذين يبنون التكنولوجيا ويحافظون عليها ويفهمونها بعمق.
بالنسبة إلى جريجوري، تكمن الإجابة في إنشاء قنوات اتصال فعالة تلتقط أصوات العمال وأفكارهم لتحسين الذكاء الاصطناعي، الأمر الذي يرى باكلي يمتد إلى وجود اتصال ثنائي الاتجاه بين العمال ورؤساء العمل مما يمنح الأشخاص العاديين المزيد من الرأي حول كيفية عمل الذكاء الاصطناعي. منتشرة في أماكن العمل أيضًا.
