يقول الباحثون إن الذكاء الاصطناعي فشل في وصف تعقيدات المحرقة

سلط ريتشاردسون-والدن الضوء على أن أنظمة GenAI ليست “آلات معرفة”، كما هي فقط قم بتعيين قيمة عددية احتمالية إلى الكلمات وتسلسلات الكلمات، بدلاً من القيمة القائمة على أهميتها التاريخية والثقافية. ويؤدي هذا إلى دفن حقائق وقصص أقل شهرة، إذ تميل الأنظمة إلى إعادة إنتاج المخرجات “الأساسية” الأكثر شهرة فقط والتي تركز على القصص الأكثر شهرة.

وقالت: “إنها تعطيك إجابة رئيسية ونقاطًا نقطية”، واصفةً إجابة نموذجية لاستفسار تم إجراؤه على ChatGPT. “إن فكرة تلخيص التواريخ المعقدة حقًا هي فكرة إشكالية. لا يمكنك تلخيص شيء حدث على مدى ست سنوات في العديد والعديد من البلدان، وأثر على مجموعة كاملة من الأشخاص والجناة المختلفين.

ولا يسعى البحث إلى تقديم إجابات لهذه القضية المعقدة. وبدلاً من ذلك، يأمل ريتشاردسون والدن أن يفعل ذلك العثور على بدائل في المناقشات مع زملائها في مجال المعلوماتية والهندسة. وقالت: “من الصعب ترميز الدلالات الثقافية ومن ثم دمجها في بيانات التدريب”.

كما سلط ريتشاردسون-والدن الضوء على الحاجة إلى الحصول على “بيانات جيدة” في نماذج GenAI التجارية، خاصة فيما يتعلق بالمواضيع التاريخية الحساسة مثل تلك التي تنطوي على الإبادة الجماعية أو الاضطهاد أو الصراع أو الفظائع.

وقالت: “البيانات الجيدة تأتي من منظمة الهولوكوست، لكنهم بحاجة أولاً إلى رقمنتها بطريقة استراتيجية، ويجب أن تكون البيانات الوصفية المرتبطة بها صحيحة وموحدة”.

هناك مشكلة أخرى سلط الضوء عليها ملخص سياسة المختبر وهي الرقابة الذاتية التي تمت برمجتها في معظم نماذج GenAI للصور التجارية. في كل مرة تقريبًا يُطلب من النظام إنتاج صور للمحرقة، فإنه سيرفض، وستتم مواجهة المستخدم بإرشادات الرقابة.

واستشهد الموجز بمثال Dall-E، وهو منشئ الصور الخاص بـ OpenAI. وقالت: “كل ما يمكن أن تقدمه هو إنتاج صور لإكليل من الزهور، وأيادي مسنة، وسياج من الأسلاك الشائكة، أو صورة تبدو وكأنها شبح في مكتبة”.

وأضاف ريتشاردسون والدن: “ينتهي بك الأمر إلى جعل المحرقة غير مرئية أو مجردة إلى درجة أنها سخيفة. لذا، فإن فكرة فرض الرقابة على برامجك هي أمر جيد باعتبارها نهجًا أخلاقيًا يخلق في الواقع تأثيرًا معاكسًا.

إنها تعتقد أنه على الرغم من هذه الدرابزين أفضل من إنتاج بيانات كاذبة أو مشوهة، كما أنها تمنع الناس من تعلم التاريخ ودروسه، مضيفًا أنه يجب على مطوري هذه النماذج بالتالي إيجاد “حل وسط” في حواجز الحماية الخاصة بهم التي تمنع المعلومات الخاطئة عن المحرقة، ولكن أيضًا قم بتصنيفهم إلى حظر معلومات المحرقة للأجيال القادمة التي تعتمد على الوسائط الرقمية.

“الطريق [middle ground] قال ريتشاردسون والدن: “يأتي من خلال الحوار”. “يجب أن تكون هناك مساحة لإجراء المزيد من المناقشات مع OpenAI، وMeta، وGoogle، والجلوس مع أماكن مثل الأمم المتحدة معنا في المختبر.” وأضافت أن لانديكر تقدم استشارات مجانية لمناقشة الأساليب المتبعة لشركات التكنولوجيا التي تشارك لأول مرة في ذكرى المحرقة.

“بمجرد أن يتعمقوا في الأمر، [they] وقالت: “أدركوا أن هذا أمر معقد للغاية وسياسي للغاية، وأن هناك هذا المجال الجديد تمامًا حول الأخلاقيات والتقنيات الرقمية التي لم يفكروا بها مطلقًا”.

لانديكر موقع إلكتروني يذكر أن أبرز مثال على رقمنة ذاكرة الهولوكوست هو نموذج الذكاء الاصطناعي المعروف باسم “الأبعاد في الشهادة”، الذي طورته مؤسسة USC Shoah. إنه مثال لنموذج GenAI خاص بمجال معين، والذي يوصف بأنه نموذج لغة صغير، والذي “يخضع لإشراف شديد” ويعتمد على “التدخل البشري الكبير”. يمكن للمستخدمين والأكاديميين التفاعل معه من خلال طرح الأسئلة التي يجيب عليها النموذج بشهادات الناجين وإجابات الخبراء الذين تم إدخالهم فيه.

ومع ذلك، قد لا تتمتع المعامل ومراكز الذاكرة الأخرى بنفس الإمكانيات والتمويل الذي يتمتع به مختبر لانديكر. ولذلك، ينبغي أن يكون التركيز على الرقمنة الجماعية للأصول، والتي يمكن استخدامها بعد ذلك لإبلاغ نماذج اللغات التجارية الكبيرة بشكل مسؤول.