خلال الأسابيع القليلة الماضية، برزت مشاكل البرمجيات إلى واجهة الوعي العام. ففي شهر مارس/آذار على سبيل المثال، تركت مشاكل البرمجيات جريج، سينسبري، تيسكو وماكدونالدز غير قادرين على تلقي المدفوعات.
يعد الموازنة بين المخاطر والمكافأة جانبًا رئيسيًا في الهندسة، بما في ذلك هندسة البرمجيات. على حد تعبير إرشادات مجلس الهندسة في المملكة المتحدة بشأن المخاطر: “إن المخاطر متأصلة في الأنشطة التي يقوم بها المتخصصون في الهندسة، مما يعني أن أعضاء المهنة لديهم دور مهم يلعبونه في إدارتها والحد منها.”
ومع ذلك، لا يتصرف البشر بالضرورة بعقلانية عند اتخاذ القرارات تحت المخاطر. في عام 1979، كتب علماء النفس دانييل كانيمان وآموس تفيرسكي هذه الورقة نظرية الاحتمال: تحليل القرار تحت المخاطر. وقد تم الاستشهاد بهذا العمل في قرار منح كانيمان جائزة نوبل في الاقتصاد لعام 2002.
تفترض نظرية بروسبكت، المدعومة بدراسات مضبوطة، أن البشر يشعرون بألم الخسائر أكبر بكثير من متعة الانتصارات. على سبيل المثال؛ أشارت التجارب إلى أن ألم خسارة 1000 دولار لا يمكن تعويضه إلا بمتعة الفوز بـ 2000 دولار.
على مدى الأشهر القليلة الماضية، قمت بدراسة عميقة لعدد من حالات الفشل البرمجي الكارثية بالتفصيل، بما في ذلك تلك التي أدت إلى حوادث سيارات مميتة، وجرعات زائدة من الإشعاع القاتل في المستشفيات وإساءة تطبيق العدالة. وعلى وجه التحديد، بحثت في كيفية تجسيد هذه الكوارث في تأثير على الحياة الواقعية ولماذا لم يتم منعها في وقت سابق.
أثناء تأليف هذا الكتاب، أدركت أن نظرية الاحتمال تساعدنا إلى حد ما على فهم سبب حدوث خطأ ما. ويصف روبرت برنتيس، الأستاذ في جامعة تكساس في أوستن، العلاقة على النحو التالي: “تصف نظرية الاحتمال كيف يميل الناس إلى تحمل مخاطر أكبر بكثير لتجنب خسارة الأشياء مقارنة بالمخاطر التي كانوا سيخوضونها للحصول على تلك الأشياء في المقام الأول. في بعض الأحيان، لتجنب الخسارة، نقرر بوعي أن نكذب. نحن نغطي ما قد يكون خطأ عرضيًا بسيطًا لأننا لا نرغب في تحمل عواقب ارتكاب هذا الخطأ.
تم توضيح هذا المفهوم بخبرة بواسطة ديرين براون في برنامجه الخاص على Netflix دفع، والذي يحاول استخدام تصعيد الالتزام من شخص يشارك في عمل غير أخلاقي بسيط لإجباره على ارتكاب ما يعتقد أنه جريمة قتل.
هناك عامل نفسي آخر يُعرف باسم “التحيز للحياة الطبيعية”، حيث لن يصدق البشر أن الكارثة مستمرة ويتصرفون وكأن كل شيء طبيعي، حتى في كارثة مثل كارثة مطار تينيريفي في عام 1977. وقد وجد “تأثير المتفرج” أن الناس أقل اهتمامًا من المرجح أن يساعد الآخرين في وجود أشخاص آخرين.
ويتفاقم هذا بسبب خطر الانتقام. في نوفمبر 2023، مجلة كمبيوتر ويكلي البحوث المغطاة لقد أجريت مع وكالة الأبحاث Survation التي وجدت أن 53% من مهندسي البرمجيات اشتبهوا في ارتكاب مخالفات في مكان العمل، و75% ممن أبلغوا عن ارتكاب مخالفات أفادوا بأنهم يواجهون الانتقام بعد التحدث علنًا. وكان السبب الرئيسي الذي ذكره أولئك الذين لم يتحدثوا هو الخوف من انتقام الإدارة (59%) ثم الخوف من انتقام الزملاء (44%).
يمكن أيضًا رؤية تأثير نظرية الاحتمال في موقف الجمهور العام من البرمجيات حتى قبل ITV السيد بيتس ضد مكتب البريد خرجت الدراما إلى شاشات التلفزيون عام 2024. بين 29 سبتمبر 2023 و 8 أكتوبر 2023، مع Survation، سألت عينة تمثيلية من البالغين البريطانيين حول ما يهمهم أكثر في أنظمة الكمبيوتر. كان من المرجح أن يقول الجمهور إن أمن البيانات ودقتها وتجنب الأخطاء الخطيرة أمر مهم بالنسبة لهم “إلى حد كبير” عند استخدام أنظمة البرمجيات، مع الحصول على أحدث الميزات بسرعة باعتباره الأقل أهمية من بين الأبعاد العشرة المختلفة التي تم قياسها.
في الكتاب الجديد، استكشفت الحالات التي يكون فيها تقليب الرقم الثنائي (على سبيل المثال، 1 يتحول إلى 0)، الناتج عن الأشعة الكونية في الغلاف الجوي، كافيًا لإحداث نتيجة مميتة محتملة في أنظمة الكمبيوتر. ولذلك فمن المستحيل التنبؤ بكل مشكلة يمكن أن تنشأ. ومع ذلك، فإن الحل يظهر فيما يتحدث عنه صديقي بيت فان دونجن غالبًا في مؤتمرات التكنولوجيا – هندسة المرونة.
بدلاً من اعتبار أنظمة الكمبيوتر أنظمة تقنية في حد ذاتها، يمكننا أن نفكر فيها كأنظمة اجتماعية تقنية حيث تلعب الأنظمة البشرية والتقنية دورًا في سلامتها. في غرفة العمليات، لا تلعب التكنولوجيا دورًا في السلامة فحسب، بل أيضًا الأطباء والممرضات وغيرهم من موظفي الرعاية الصحية. وكما وجدت دراسة حالة قمت بالتحقيق فيها – في قمرة القيادة للطائرة، فإن التدخل السريع للطيارين هو الذي لديه القدرة على إنقاذ الأرواح عندما تتعطل أجهزة الكمبيوتر.
بمعنى آخر، يلعب البشر دورًا رئيسيًا في منع الكوارث، ولهذا السبب من الضروري جدًا أن يشعر مهندسو البرمجيات وغيرهم من العاملين في مجال التكنولوجيا بالأمان النفسي لدق ناقوس الخطر عندما تسوء الأمور وأن نتصرف عندما تسوء الأمور. من خلال التعرف على تحيزاتنا المعرفية، يمكننا التأكد من أننا لن نجد أنفسنا محاصرين في تصعيد السلوك غير الأخلاقي أو عدم التحدث عندما يكون من المهم القيام بذلك.
بالنسبة لمهندسي البرمجيات وغيرهم من العاملين في مجال تكنولوجيا المعلومات، تعلمنا نظرية الاحتمال أننا قد لا نكون عقلانيين تمامًا في موازنة القوى المتنافسة للمخاطر والمكافأة في قراراتنا المهنية. قد نجد صعوبة أكبر في ترك وظيفة لم نكن لنقبلها لو كنا نعرف الظروف قبل قبولها. وربما يضعنا النفور من الخسارة في موقف حيث نخشى التوقف ودق ناقوس الخطر بشأن ارتكاب الأخطاء، بدلا من الاستمرار كالمعتاد (حتى لو كانت العواقب الطويلة الأجل التي قد تترتب على الاستمرار في ذلك بالنسبة لنا وللآخرين أسوأ بكثير).
ومن خلال إدراك هذا التحيز، يمكننا أن نؤدي مسؤولياتنا بشكل موضوعي أفضل كمهندسين لتحقيق التوازن بين قوى المخاطر المتنافسة والمكافأة بشكل أكثر موضوعية. وهذا هو، في نهاية المطاف، كيف يمكننا المساعدة في ضمان أن التكنولوجيا الجديدة تخدم مصالح البشرية.
